S3 1 To
S3 1 To
Connexion Premium
Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société
Déontologie Règles de modération Mentions légales et contact
Qui sommes nous ? Contact rédaction Contact site Forum
Flux RSS GitHub Discord

Deepfakes pornographiques : Apple a menacé de suspendre X de son App Store

Généré X

Deepfakes pornographiques : Apple a menacé de suspendre X de son App Store

En janvier, Apple a participé à la pression mise sur xAI et Grok pour les obliger à freiner la production de deepfakes dénudés non consentis. Depuis, néanmoins, la génération de ce type d’image reste possible sur les deux plateformes.

Après la vague de contenus pornographiques générés à l’aide de Grok, le plus souvent à partir de l’image de filles et de femmes réelles, à la fin de l’année 2025, le système d’IA et le réseau social X se sont retrouvés sous le feu des projecteurs. Malgré l’ouverture d’enquêtes sur cinq continents, et notamment par la Commission de protection des données irlandaise, la Commission européenne ou la justice française, et l’interdiction de Grok dans certains pays, dont l’Indonésie et la Malaisie, la plateforme semble n’avoir toujours pas réduit la portée de ce type de fonctionnalité.

Aux États-Unis, c’est même un autre acteur de l’écosystème numérique qui a menacé X d’une forme de sanction : d’après NBC News, Apple a menacé la société de supprimer l’application de l’App Store en janvier. D’après un document envoyé aux sénateurs états-uniens, l’entreprise a contacté les équipes X et Grok en leur demandant de « créer un plan d’amélioration de leur modération de contenu ». Au sommet de la crise, fin 2025, la vague de publications de deepfakes pornographiques (qu’il était à l’époque possible de produire simplement depuis un compte gratuit sur X, en se contentant de mentionner le robot Grok) entrait en violation flagrante des conditions d’utilisation de l’App Store.

Relative mise au pas de X

Mi-janvier, devant la polémique internationale créée par la multiplication de contenus non consensuels, tombant parfois dans la catégorisation de contenus d’agressions sexuelles sur mineurs (Child Sexual Abuse Material, CSAM), le compte X dédié à la sécurité de la plateforme avait publié un message selon lequel l’entreprise s’engageait, précisément, à « prendre des mesures pour supprimer les contenus illicites hautement prioritaires, notamment les contenus pédopornographiques et la nudité non consentie ».

Auprès des sénateurs, Apple indique avoir étudié les évolutions proposées pour les applications de X et Grok. Elle en a conclu que si X avait « largement résolu ses violations », Grok restait « non conforme » aux politiques du magasin d’application. Ses équipes ont donc alerté les fabricants du robot qu’à défaut d’amélioration, « l’application pourrait être supprimée de l’App Store ». Au bout de plusieurs échanges privés, les deux sociétés sont parvenues à un accord.

Grok persiste à produire des deepfakes pornographiques sur demande

Malgré ces engagements, NBC News constate ce 14 avril que des dizaines d’images à caractère sexuel, générées par IA mais représentant des personnes réelles continuaient d’être publiquement publiées sur X. Dans la plupart des cas, les personnes représentées sont des femmes – quoique des hommes puissent aussi être représentés –, souvent des actrices, des pop stars ou des personnalités politiques.

Certaines évolutions ont bien été déployées : par exemple, Grok refuse désormais l’essentiel des demandes de « dénudage » formulées publiquement, en particulier lorsqu’elles reprennent des tactiques éprouvées. Ainsi, demander à la machine de « mettre en bikini » l’image d’une personne reste généralement sans réponse. La somme globale d’images non consensuelles générées a par ailleurs réduit et aucune des images collectées par NBC (puis soumises à X, qui les a modérées) ne semble représenter des mineurs. 

Pour autant, d’autres types de requêtes que celles repérées par X permettent de continuer de produire les images problématiques. Certaines tendances jouent ainsi sur le mélange de plusieurs images, demandant par exemple à Grok d’intervertir des vêtements, en s’appuyant sur au moins une image de femme quasiment dévêtue.

Ces constatations sont faites alors que la prolifération de contenus de CSAM générés par IA et les risques que les grands modèles de langage créent en termes de violence contre les femmes et les filles sont de plus en plus documentés (sur une expérimentation menée pendant 11 jours en janvier, le Center for Countering Digital Hate calculait que Grok générait en moyenne une image sexualisée d’enfant toutes les 41 secondes).

Quoiqu’il en soit, X semble envisager de revenir sur ses promesses formulées début janvier en matière de protection des internautes : lors d’un procès tenu aux Pays-Bas, X a déclaré ne pas être capable d’arrêter tous les détournements de ses outils à des fins d’agressions et ne pas devoir être pénalisé pour les actions d’utilisateurs malveillants. Le tribunal a néanmoins ordonné à xAI et à Grok de cesser la création et la distribution de contenus de « nudification » généré par IA, et menacé l’entreprise d’une amende de 100 000 euros par jour de non mise en conformité.

Commentaires (5)

votre avatar
Qu'ils ne s'arrêtent pas aux menaces, mais les mettent à exécution.
votre avatar
Ce n'est pas à une société privée de faire la justice vis-à-vis d'une autre société privée.

Le puritanisme d'Apple et les limitations qui en découlent n'a rien à envier aux exagérations de X/Grok.
votre avatar
Que vient faire la justice ici ? Apple peut supprimer l'appli qui ne respecte pas les conditions d’utilisations de sa plateforme ?
votre avatar
C'est justement l'absence d'intervention de la justice qui pose problème.

Je vais le dire différemment en détaillant plus : ce n'est pas à une société privée, en position dominante aux USA puisque c'est le cadre ici, d'imposer sa loi d'autant plus que là-bas, il n'y a pas de store alternatif.

Soit ce que fait X/Grok est illégal et c'est à la justice de sévir en les interdisant sur toutes les plateformes, soit c'est légal et Apple n'a aucun droit de décider ce qu'un utilisateur peut installer sur son appareil et priver deux États-uniens sur trois d'une application.
votre avatar
Je soumets une autre version, si xAI et Grock ne sont pas content, ils quittent l'App Store Apple.

être sur l'App Store et consort, c'est signé un contrat avec la plateforme, contrat qui contient des clauses et des règles, ne pas respecter les règles du contrat qu'on a signé c'est une violation de l'accord.
Si dans le contrat (et c'est probablement le cas), Apple a indiqué qu'ils était susceptible de retirer l'application de son store en cas de non respect des clauses, bah .. y'a rien à dire, c'est un litige commercial entre 2 entreprises.

Dire que c'est du puritanisme d'Apple c'est bien vite oublié que c'est avant tout un accord commercial entre 2 entreprises qui savent ce qu'elle signent au départ.

Le fait qu'un App soit dispo ou non sur un Store, c'est un choix de la plateforme et aussi de l'App.
Que l'utilisateur final ne soit pas content que l'App X ou Y ne soit pas ou plus dispo, c'est une autre histoire. Si l'utilisateur final n'est pas content, il changera pour aller à la concurrence d'une façon ou d'une autre dans le délai qu'il lui plaira.