Vague massive de deepfakes générés par Grok : la justice française étend son enquête

La semaine dernière, avant le réveillon de la Saint-Sylvestre, nombre d'utilisateurs du réseau social X ont profité de la publication par des utilisatrices de photos d'elles-mêmes dans des tenues de fête pour les déshabiller virtuellement sans leur consentement, à l'aide de Grok. Saisi par plusieurs députés français et par des membres du gouvernement, le parquet de Paris va élargir l'enquête qu'il a déjà ouverte à propos de X et de xAI.

L'humiliation des femmes par le montage d'images à caractère sexuel n'est pas nouvelle. Mais l'IA générative permet une massification du phénomène depuis 2023 alors que des chercheuses et chercheurs avaient repéré dès 2021 que les ensembles de données utilisés pour entraîner les LLM comme LAION-400M contenaient de la misogynie, de la pornographie et des stéréotypes malveillants.

Début 2024 marquait une nouvelle étape : des utilisateurs de X partageaient massivement des deepfakes pornographiques de Taylor Swift, et quelques mois plus tard des influenceuses moins connues étaient aussi attaquées sur Instagram.

• Deepfakes : les sites de « déshabillage » facilitent leurs inscriptions grâce… aux géants de la tech

Massification via X et Grok

En cette fin d'année 2025, c'est Grok qui refait parler de lui à ce sujet. En effet, des utilisateurs du réseau social X ont massivement utilisé l'IA générative d'Elon Musk pour déshabiller virtuellement des femmes. Souvent avec une simple demande sous le partage d'une photo d'une utilisatrice, Grok générait une version de cette photo mais en représentant la personne en bikini ou plus ou moins dénudée.

En mai dernier, nos confrères de 404 expliquaient que l'outil de xAI posait très peu de freins à une demande d'utilisateur de déshabiller des femmes en reprenant des photos déjà existantes pour les trafiquer en objet de désir des utilisateurs du réseau social X. Mais cette « tendance » dégradante a été tellement suivie en cette fin d'année 2025 que n'importe quel utilisateur pouvait voir ce genre d'images dans la colonne « pour vous » du réseau social, avec certaines images ciblant des jeunes filles mineures.

« Je me suis retrouvée plus ou moins dévêtue sur plusieurs photos totalement sans mon consentement », raconte Fafa, une streameuse de 28 ans à France Info. « Trois ou quatre personnes s'étaient amusées à utiliser l'IA de X en vue de me dévêtir » en faisant un deepfake à partir d'un selfie de réveillon qu'elle avait posté le 31 décembre. Elle envisage de porter plainte. La doctorante en études théâtrales Marie Coquille-Chambel a vécu le même genre de violences sur le réseau social d'Elon Musk et a ensuite subi un harcèlement massif après l'avoir signalé sur X.

Devant la justice française

Le 2 janvier, les députés Arthur Delaporte (PS) et Éric Bothorel (Renaissance) ont tous deux saisi le procureur de la République de Paris, dénonçant ces deepfakes à caractère sexuel qui « contreviennent de fait à l'article 226-8-1 du Code pénal et portent atteinte à la dignité des personnes représentées et dont les contenus ont été détournés », comme l'affirme le signalement du député du Parti socialiste.

Quelques heures plus tard, le parquet de Paris expliquait à Politico qu'il allait élargir l'enquête déjà ouverte en juillet à propos de X, au départ pour ingérence étrangère. Il l'avait déjà étendue une première fois pour prendre en compte les propos négationnistes générés en novembre dernier par Grok, toujours publiés sur X.

Le gouvernement français réagissait un peu plus tard dans un communiqué expliquant que plusieurs de ses membres avaient aussi effectué des signalements à la justice : « les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé signalent au procureur de la République ainsi qu’à la plateforme Pharos, en vertu de l’article 40 du code de procédure pénale, des contenus manifestement illicites générés par l’intelligence artificielle générative Grok et diffusés sur la plateforme X, afin d’obtenir leur retrait immédiat ».

Alors qu'Elon Musk n'avait réagi à cette « tendance » sur son réseau social qu'avec des « 🤣🤣 » à propos d'une image de lui-même en bikini générée par IA, son entreprise a communiqué via le compte de Grok en publiant un message affirmant avoir « identifié des lacunes dans [ses] mesures de sécurité » pour répondre à un signalement d'un deepfake sur une enfant. xAI affirmait « s' [employer] à les corriger de toute urgence » et ajoutait que « le CSAM [child sexual abuse material, la pédopornographie] est illégal et interdit » en accompagnant son message d'un lien de signalement vers un site du FBI.

L'autorité malaisienne de la communication a elle aussi réagi, expliquant sur Facebook qu'elle avait « pris note avec une vive inquiétude des plaintes du public concernant l'utilisation abusive des outils d'intelligence artificielle (IA) sur la plateforme X, en particulier la manipulation numérique d'images de femmes et de mineurs afin de produire des contenus indécents, grossièrement offensants et autrement préjudiciables » et annonçait, elle aussi, lancer une enquête à ce sujet.