Deepfakes sur Grok : X assure avoir pris des mesures (spoiler : elles ne sont pas efficaces)

« Grok, mets-la en bikini ». Déjà étendue aux propos négationnistes tenus par Grok, l'enquête sur X lancée par le parquet de Paris à l'été 2025 a gagné début janvier un nouveau volet, relatif à la vague d'images de femmes virtuellement dénudées sans leur consentement. Depuis, les réactions et les menaces de rétorsion s'enchaînent, en Europe comme dans le reste du monde, compliquant la compréhension de la controverse qui enfle.

Pour essayer d'en simplifier le suivi, Next se propose de centraliser les différents rebondissements de l'affaire au sein de cet article, avec une lecture antéchronologique des faits. Cet article est donc susceptible d'être actualisé.

Publication initiale le 9 janvier à 12 heures. Dernière modification le 15 janvier à 8h55.

15 janvier - X et Grok annoncent limiter les possibilités de deepfakes à caractère sexuel

X, xAI et Elon Musk auraient-ils décidé de mettre fin à la polémique ? Mercredi soir, le compte dédié à la politique de sécurité et de modération de X a annoncé la mise à jour des modalités d'utilisation de Grok. Il promet l'implémentation de mesures techniques visant à empêcher l'édition de photos de personnes réelles en vue de les dénuder. « Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants ».

Le compte @Safety annonce également le blocage des requêtes visant à générer des visuels de personnes réelles en maillot de bain, sous-vêtement ou autres « dans les juridictions où c'est illégal ». Il indique enfin que la création et l'édition d'images via le compte Grok sur X sont désormais réservées aux comptes payants.

Qu'en est-il en réalité ? Jeudi matin, nous avons procédé à une recherche d'image à partir d'un compte X non premium, localisé un tweet affichant la photo d'une femme, et avons utilisé le bouton suggéré d'édition d'image pour demander à retirer ses vêtements. Après trois secondes de calcul, X nous a retourné la photo transformée, prête à publier...

En attendant de savoir si les modifications promises par xAI sont réellement mises en place, Elon Musk s'est de son côté agacé de la controverse, en affirmant que son IA générative était programmée pour refuser la génération de contenus illégaux. « Grok ne génère évidemment pas d'images spontanément, il ne le fait qu'en fonction des demandes des utilisateurs ».

13 janvier - L’association Point de Contact propose de rassembler les signalements de cyberviolence utilisant Grok et de les transmettre au Parquet

L’association Point de Contact, qui a pour mission depuis 1998 « de protéger les internautes des dérives liées à l’évolution et au développement d’Internet », propose aux victimes de deepfakes sexuels réalistes générés à partir de simples photos sur Grok de lui signaler cette cyberviolence. « Dans le cadre de sa collaboration avec les autorités judiciaires, notre association transmettra ces contenus à la section cyber du Parquet de Paris », explique l’association.

De son côté, la Haut-commissaire à l’Enfance, Sarah El Haïry, a réagi ce 13 janvier dans une interview au Parisien en affirmant avoir « saisi la commissaire européenne à la souveraineté numérique parce que ça tombe sur le coup du Digital Services Act (DSA) et le règlement sur les marchés numériques DMA, que ce soit dans le cas de Crans-Montana mais aussi sur le fait de dénuder des enfants et de faire des images pédocriminelles ». « On a l’impression que c’est tellement puissant qu’on ne peut pas l’interdire, c’est faux. Une IA qui déshabille des enfants n’a rien d’un jeu : c’est hors la loi », ajoute-t-elle.

En parallèle, le secrétaire américain de la Défense, Pete Hegseth, a réaffirmé l’intégration de Grok xAI dans la « Stratégie d'accélération de l'IA » dans son département de la Guerre qui avait été annoncée fin décembre.

12 janvier - Le régulateur britannique lance une enquête sur l'utilisation de X et Grok pour générer des images de personnes dénudées et des images sexualisées d'enfants

L’Ofcom, le régulateur britannique, a annoncé ce lundi 12 janvier lancer une enquête contre le réseau social X à propos de la « diffusion d'images à caractère sexuel sur Grok ». Il explique réagir après de nombreux signalements d’utilisation de Grok sur X pour « créer et partager des images de personnes dénudées – ce qui peut constituer un abus d'images intimes ou de la pornographie – et des images sexualisées d'enfants qui peuvent constituer du matériel pédopornographique (CSAM) ».

Le régulateur affirme avoir contacté X dès le lundi 5 janvier en lui posant le vendredi 9 janvier comme date limite de réponse, que l’entreprise a respectée. L’Ofcom explique avoir « procédé à une évaluation accélérée des preuves disponibles en urgence » et lance maintenant une enquête plus approfondie pour déterminer si X « a manqué à ses obligations légales en vertu de la loi sur la sécurité en ligne, notamment :

• évaluer le risque que des personnes au Royaume-Uni voient des contenus illégaux au Royaume-Uni et procéder à une évaluation actualisée des risques avant d'apporter des modifications importantes à son service ;
• prendre les mesures appropriées pour empêcher les personnes au Royaume-Uni de voir des contenus illégaux "prioritaires", notamment des images intimes non consenties et du matériel pédopornographique ;
• supprimer rapidement les contenus illégaux dès qu'ils en ont connaissance ;
• veiller à protéger les utilisateurs contre toute violation des lois sur la protection de la vie privée ;
• évaluer le risque que leur service fait courir aux enfants britanniques et procéder à une évaluation actualisée des risques avant d'apporter des modifications importantes à son service ; et
• utiliser des moyens très efficaces de vérification de l'âge afin d'empêcher les enfants britanniques de voir des contenus pornographiques ».

L'Ofcom rappelle qu'il peut infliger des amendes d'un montant de 18 millions de livres (20,7 millions d'euros) ou 10 % du chiffre d'affaires mondial éligible. « Dans les cas les plus graves de non-conformité persistante », il peut demander à un tribunal d'émettre une ordonnance imposant le retrait des prestataires de services de paiement ou des annonceurs ou même le blocage de l'accès au site au Royaume-Uni.

11 janvier - l'Indonésie et la Malaisie décident de bloquer l'accès à Grok

À quelques heures d'intervalle, l'Indonésie (samedi) puis la Malaisie (dimanche) ont annoncé ce week-end leur décision de suspendre l'accès à Grok, une première à l'échelle internationale. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une grave violation des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique », a justifié dans un communiqué Meutya Hafid, la ministre indonésienne en charge du numérique et des communications. Contacté par l'agence Reuters pour une réaction, xAI s'est contenté d'un mail de réponse automatisé : « les médias traditionnels mentent ».

La Malaisie a de son côté affirmé dans un communiqué qu'elle suspendrait l'accès à Grok tant que l'outil serait en mesure de « générer des images manipulées obscènes, à caractère sexuel explicite, indécentes, grossièrement offensantes et non consensuelles, y compris du contenu impliquant des femmes et des mineurs ». C'est la Malaysian Communications and Multimedia Commission (MCMC, équivalent local de l'Arcom française) qui a porté le message dimanche.

Elle indique avoir formellement demandé à X et xAI la mise en place de garde-fous adaptés, mais les réponses obtenues, basées sur la capacité des utilisateurs à signaler un contenu problématique, n'ont pas été considérées comme suffisantes pour « prévenir les dommages ou garantir le respect de la loi ». Lundi matin (heure de Paris), le site de la MCMC était inaccessible.

9 janvier - Grok dit restreindre la création d'images aux comptes payants

xAI et surtout Elon Musk auraient-ils fini par prendre la mesure du phénomène ? Vendredi matin, l'éditeur de Grok semble avoir introduit une mesure de protection inédite : le service indique, en réponse à une requête d'internaute, que la génération d'images est désormais réservée aux détenteurs d'un abonnement payant à Grok.

À 44,33 euros par mois (prix de Grok Premium+ en facturation mensuelle), cette restriction est censée réduire le volume d'images problématiques générées par Grok et diffusées sur X. En revanche, elle ne s'accompagne, pour l'instant, d'aucune modification identifiée de la politique de modération du modèle.

La soi-disant restriction se révèle cependant moins stricte qu'il n'y paraissait au premier abord, comme l'a fait remarquer The Verge : en réalité, la génération d'image est bloquée pour les comptes gratuits lorsque l'internaute demande à Grok d'intervenir dans le déroulé d'une conversation.

Elle reste cependant accessible aux comptes gratuits par d'autres canaux : il suffit par exemple de cliquer sur une photo affichée dans le flux à partir de la version desktop de X pour se voir proposer l'option de modification par Grok. À 16 heures vendredi sur un compte X non premium hébergé en France, la requête visant à dénuder le sujet de la photo restait dans ce contexte bien accessible.

9 janvier - 107 millions de dollars de CA et 1,46 milliards de pertes pour xAI au 3^e trimestre

L'entreprise d'IA pilotée par Elon Musk peut s'enorgueillir d'avoir bouclé début janvier une importante levée de fonds de 20 milliards de dollars, qui va notamment lui permettre de financer la construction d'un nouveau datacenter, Colossus III, annoncé comme l'un des plus importants calculateurs dédiés à l'IA au monde. Si xAI poursuit sa très ambitieuse trajectoire d'investissement, les actionnaires doivent pour l'instant accepter de financer une société qui brûle aujourd'hui dix fois plus de cash qu'elle n'en engrange.

D'après les chiffres dévoilés vendredi matin par Bloomberg, xAI aurait en effet enregistré 107 millions de dollars de chiffre d'affaires sur le troisième trimestre 2025, clos au 30 septembre dernier. Elle aurait dans le même temps déclaré une perte nette de 1,46 milliard de dollars. En cumulé, le déficit se monterait à 7,8 milliards de dollars depuis le début 2025.

8 janvier - la Belgique et le Royaume-Uni menacent de suspendre X

En Belgique, la ministre fédérale en charge du Numérique Vanessa Matz a déclaré jeudi 8 janvier qu'elle analysait les différents leviers possibles pour suspendre l'accès à Grok et donc potentiellement à X, tant que le réseau social d'Elon Musk ne respectait pas ses obligations. La récente loi belge contre le revenge porn donnerait un levier actionnable pour une telle éviction, a-t-elle estimé.

« Ces atteintes graves à la dignité humaine relèvent d’un choix assumé de la plateforme, a déclaré la ministre, citée par le Soir. Elon Musk orchestre un coup de communication et de marketing fondé sur un usage profondément immoral de son intelligence artificielle, allant jusqu’à tourner ces violences en dérision, comme en témoigne la publication d’une photo de lui-même en bikini pour illustrer son prétendu intérêt pour la question ».

Même son de cloche outre-Manche, où c'est le Premier ministre Keir Starmer qui est monté au créneau jeudi, affirmant qu'il avait demandé à l'Ofcom (l'Arcom locale) d'étudier toutes les options possibles pour mettre un terme aux dérives permises par X et Grok : « C'est scandaleux. C'est révoltant et intolérable. X doit se ressaisir et retirer ce contenu. Nous prendrons des mesures car c'est tout simplement intolérable ». Le très controversé Online Safety Act donne en théorie au gouvernement britannique des moyens d'action.

8 janvier - un mode spicy voulu par Elon Musk ?

Quelle est la responsabilité directe d'Elon Musk dans la souplesse de xAI vis-à-vis de son modèle ? Et le développement de ces deepfakes à connotation sexuelle pourrait-il être intentionnel ? C'est la question posée jeudi par CNN. Le média souligne qu'en août dernier, Musk rappelait, clin d’œil à l'appui, que c'est la diffusion de contenus osés qui avait favorisé la victoire du VHS sur le format concurrent Betamax, à l'époque des cassettes vidéo.

Et d'après CNN, l'entrepreneur se serait ému à plusieurs reprises, en interne chez xAI, des restrictions imposées à Grok. Ses envies décomplexées ont-elles contribué au départ, signalé mi-novembre par The Information, d'une bonne partie des équipes en charge de la confiance et de la sécurité chez xAI ? À défaut d'être confirmée, l'hypothèse est soulevée par plusieurs commentateurs.

8 janvier - une victime de la police de l'immigration dénudée par Grok

Un cran supplémentaire dans l'abject ? Jeudi, plusieurs internautes se sont émus d'un nouveau montage permis par Grok et diffusé sur X : une version déshabillée de Renee Nicole Good, tuée la veille en plein jour et en pleine rue, à Minneapolis, par l'ICE, la police états-unienne de l'immigration.

Non content de livrer l'image demandée, l'IA générative accompagne les remerciements d'un message sarcastique (par ailleurs récurrent) sur les dysfonctionnements de garde-robe qu'elle corrige.

« Qu'est-ce qui a bien pu se passer chez l'équipe de @xAI ? Pour que leur produit permette à Grok de créer ce genre de contenu ? », s'émeut un internaute relayant la séquence en question.

8 janvier - L'Europe impose à X une mesure conservatoire

La Commission européenne a annoncé jeudi avoir pris une « ordonnance de conservation » qui impose à X « de conserver tous ses documents internes relatifs à Grok, et ce jusqu'à la fin 2026 », d'après un porte-parole cité par l'AFP.

Cette mesure juridique vise à garantir à l'exécutif européen la capacité à remonter les archives de X, soit dans le cadre des enquêtes déjà ouvertes à l'encontre du réseau social de xAI et d'Elon Musk, soit pour alimenter de nouvelles procédures.

L'Europe a pour mémoire infligé début décembre 2025 une amende de 120 millions d'euros à X pour non respect des engagements liés au DSA (sans lien avec l'épisode Grok du moment). X avait réagi en fermant le compte publicitaire de la Commission européenne.

7 janvier - Grok génèrerait 6 700 images à caractère sexuel par heure

Menée pendant 24 heures par une chercheuse indépendante et relayée par Bloomberg, une étude exhaustive des images produites par Grok entre les 5 et 6 janvier conclut que l'IA d'Elon Musk a généré, en moyenne et sur demande d'internautes, 6 700 images par heure relevant d'une démarche de sexualisation ou de nudité de la personne ciblée.

7 janvier : xAI lève 20 milliards de dollars

• xAI d’Elon Musk lève 20 milliards de dollars, en dépit des polémiques liées à Grok

6 janvier -« the deepfake porn site formerly known as Twitter »

Mardi, le Financial Times est sorti de sa réserve habituelle, avec un papier au vitriol passant en revue l'état-major de X, illustré à l'aide de visuels modifiés par Grok. Directeur financier, investisseur historique, responsable de la conformité... tous se voient affublés de costumes de clown. La galerie de portraits est surmontée par un titre au vitriol : « Qui est qui chez X, le site de porno deepfake anciennement connu sous le nom de Twitter ? ». En ces temps troublés, on apprécie de voir que l'humour britannique n'a rien perdu de sa superbe.

6 janvier : Des victimes de l'incendie de Crans-Montana dénudées

Grok a répondu favorablement à des requêtes lui demandant de dénuder des victimes mineures du terrible incendie de Crans-Montana, qui a endeuillé la nuit du Nouvel-An : tel est le constat glaçant dressé notamment par l'édition suisse de 20 minutes. « En Suisse, la loi ne mentionne pas les deepfakes, mais leurs créateurs peuvent être poursuivis pour atteinte à la sphère intime, atteinte à la personnalité ou encore atteinte à l'honneur », remarque le quotidien gratuit.

Trois jours plus tôt, Elon Musk avait affirmé, sur X, que quiconque utilisait Grok pour produire des contenus illicites subirait les mêmes conséquences que s'il uploadait du contenu illicite, souligne Futurism dans sa propre chronologie de l'affaire.

5 janvier : l'Ofcom britannique et l'Europe tirent la sonnette d'alarme

Lundi 5 janvier, c'est sur X que l'Office of communications (Ofcom), l'autorité régulatrice des télécommunications au Royaume-Uni, a choisi de réagir à la polémique. « Nous avons contacté en urgence X et xAI afin de comprendre les mesures qu'ils ont prises pour se conformer à leurs obligations légales en matière de protection des utilisateurs au Royaume-Uni. En fonction de leur réponse, nous procéderons rapidement à une évaluation afin de déterminer s'il existe des problèmes de conformité potentiels justifiant une enquête ».

La Commission européenne a de son côté abordé le sujet lors d'une séance de questions-réponses avec la presse animée par l'un de ses porte-paroles, Thomas Regnier. Ce dernier a affirmé que Bruxelles regardait le sujet avec beaucoup d'attention, et a condamné sans ambages la permissivité de Grok. « C'est illégal. C'est scandaleux. C'est révoltant. Voilà comment nous le voyons, et cela n'a pas sa place en Europe », a-t-il déclaré, sans préciser à ce stade quelles mesures de rétorsion pourraient être envisagées.

5 janvier : la France étend son enquête sur X

• Vague massive de deepfakes générés par Grok : la justice française étend son enquête