Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF
Génération d'illégalité
Illustration :Flock
Mathilde Saliou
Le 25 mars à 11h06
Alors que les technologies d’IA se perfectionnent, leur usage à des fins de pédocriminalité devient plus fréquent, constate l’Internet Watch Foundation. Et d’alerter sur leur propension à créer de nouvelles victimisations des enfants représentés, de même que sur le caractère particulièrement violent des actes qui y sont illustrés.
Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF
Génération d'illégalité
Illustration :Flock
Alors que les technologies d’IA se perfectionnent, leur usage à des fins de pédocriminalité devient plus fréquent, constate l’Internet Watch Foundation. Et d’alerter sur leur propension à créer de nouvelles victimisations des enfants représentés, de même que sur le caractère particulièrement violent des actes qui y sont illustrés.
Droit
Droit
7 min
Les contenus hautement réalistes, les vidéos complètes et crédibles générées par intelligence artificielle et décrivant des agressions sexuelles sur mineurs deviennent fréquentes, voire « routinières ». C’est le constat que formule l’Internet Watch Foundation (IWF), organisation britannique indépendante qui traite les signalements de photos et de vidéos d’agressions sexuelles sur enfants que remonte le public via sa hotline et son portail de signalement.
Créée en 1996, l’ONG fait partie intégrante du réseau INHOPE, auquel appartient aussi l’association française Point de Contact. Localement, l’IWF travaille notamment avec les forces de police et les fournisseurs d’accès à internet, auxquels elle fait par exemple remonter une liste noire de près de 150 000 URL (en 2024) de sites diffusant des contenus illégaux. Or, avec l’intelligence artificielle, les contenus qu’elle traite évoluent aussi.
Explosion des contenus illégaux réalistes générés par IA
En juillet 2024, ses analystes ont repéré les premières vidéos classables comme contenu CSAM (Child sexual abuse material, contenu d’agression sexuelle sur mineur) entièrement généré par IA. « À ce moment-là, les technologies restaient rudimentaires. Les vidéos présentaient de nombreux bugs et des tremblements, ainsi que des mouvements saccadés et peu naturels qui permettaient de distinguer facilement le contenu généré par IA des images réelles », indique-t-elle dans son rapport « Violence sans limites : les contenus d’agression sexuelle sur mineur générés par IA vus par nos analystes ».
Depuis, le réalisme de ces contenus a fait un bond, et l’ONG a recensé en 2025 plus de 8 000 images et près de 3 500 vidéos crédibles, générées par IA, représentant des agressions sexuelles sur mineurs. L’année précédente, elle n’avait collecté que 13 vidéos de ce type. Pour l’IWF, loin d’être « moins dangereux » que les contenus non générés par IA, ce type d’images et de vidéos « renforcent l’intérêt sexuel pour les enfants, contribuent à la normalisation d’agressions violentes, et peuvent accroître le risque d’agressions concrètes ».
En l’occurrence, dans l’échantillon collecté en 2025, l’IWF constate que 65 % des vidéos sont classifiables en « catégorie A », celle réservée aux contenus les plus extrêmes. Pour comparaison, sur l’année 2025, « 43 % des vidéos criminelles non générées par IA et traitées par l’IWF relevaient de la catégorie A ».
Nouvelle victimisation pour les enfants représentés
Les enjeux sont multiples : l’entraînement des modèles génératifs permettant de créer ce type de contenu est effectué sur des images d’agressions réelles sur mineurs, pour commencer. Le réusage de leur image à des fins de création de contenu violent démultiplie la victimisation des survivants de ce type de violence. Concrètement, des contenus représentant des agressions réelles sont modifiés, voire « augmentés » grâce aux technologies récentes, quelques fois pour améliorer la qualité des images, d’autres fois pour renforcer le type d’agressions représentées.
Ces enjeux sont, par ailleurs, très genrés : 97 % des enfants représentés dans ces contenus CSAM générés par IA sont des filles, une proportion plus large que dans les affaires de pédocriminalité (en 2023, les travaux de la Commission indépendante sur l’inceste et les violences sexuelles faites aux enfants relevaient par exemple que 3,9 millions de femmes et 1,5 millions d’hommes étaient confrontés en France à des violences sexuelles avant 18 ans, ce qui revient à 72 % de filles et 28 % de garçons).
Plusieurs cas ont illustré cette tendance dans les dernières années, par exemple en Espagne, dans la ville d’Almendralejo, où 15 garçons ont été condamnés pour avoir recouru à des applications de nudification pour créer des images de 20 filles de 11 à 17 ans. Ou encore dans un collège de Normandie, où une douzaine de jeunes filles ont vu leur image détournée début 2025 pour créer des deepfakes à caractère sexuel.
Des technologies qui « abaissent le seuil » de création de CSAM
L’association pointe aussi le rôle des technologies dans l’évolution de ces risques. Pour créer ces contenus, les internautes recourent à des outils appuyés sur de grands modèles de langage, comme des applications de « nudification » ou des robots conversationnels plus génériques, ou à des outils de génération d’image à partir de requêtes textuelles (text-to-image). « Il n’existe pas de cas d’usage positif » pour les applications de nudification, pointe l’IWF : ces dernières « ne servent qu’à humilier, harceler et exploiter et peuvent servir à infliger de nouvelles formes d’agressions ».
Du côté des robots conversationnels, l’ONG relève deux cas d’usages problématiques : le recours à des machines comme ChatGPT ou Gemini pour obtenir de l’aide technique à la génération de contenu illégale, et la prévalence de discours à caractère sexuel dans plusieurs types de robots conversationnels.
Des outils comme Candy AI (de EverAI) ou certains bots de Character.AI sont ainsi connus pour renforcer la communication à caractère sexuel avec l’utilisateur, ce qui peut mener à des comportements proches du grooming (anglicisme normalement utilisé pour désigner l’instauration par un adulte d’une relation de confiance avec un enfant afin d’en obtenir des actes sexuels) lorsque ces robots sont utilisés par des mineurs.
Les évolutions de ces différents outils « abaissent le seuil » qui permet la création de ces contenus CSAM, alerte l’IWF. « Des projets qui demandaient autrefois de multiples outils et des compétences techniques sont désormais intégrés dans une seule application facile à prendre en main. » Des robots conversationnels disponibles pour le grand public ont par ailleurs démontré « une tendance à encourager les conversations à caractère sexuel avec les enfants, ce qui pousse les délinquants à concrétiser leurs pensées sexuelles impliquant des enfants ».
Après s’être lancé dans le suivi de ce type spécifique de production en 2023, l’IWF souligne que le CSAM généré par IA constitue toujours une « proportion relativement faible de la totalité des contenus illégaux repérés », mais que la « rapidité de son expansion présente une menace sérieuse et évolutive ».
Commentaires (25)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousModifié le 25 mars à 13h10
Nonobstant la loi, sur la possession d'image (réel ou non) représentant un acte sexuelle envers un mineur.
(enfin je parle de ça :
Nonobstant ça, si à l'origine de la Loi, l'idée était que cette possession induisait une production et donc un acte hautement répréhensible. Les images faites par IA, (un peu comme les dessins d'ailleurs) n'ont infligé de souffrance à personne, apriori. J'ai du mal à comprendre où est "le mal", au su que les personnes lésée n'existe pas dans ce cas là.
PS :
Avant qu'on m'affuble de nom d'oiseaux ou que l'on me prête des penchants que je ne possède pas.
Je N'AI AUCUNE ACCONTANCE, ATTIRANCE OU QUOIQUE QUE CA vers des personnes mineurs.
Ce n'est pas mon truc, mon kink, mon désir, NI mon plaisir !!!
Le 25 mars à 13h14
Et.... Sans oublier que les données d'entraînement viennent de photos qui, elles, ont été liée à beaucoup de souffrance.
Le 25 mars à 14h14
(parle-t-on d'être pédophile ? (alors problématique de type oeuf-poule) de trouver ce type de contenue (problématique de différenciation entre réel et artificiel) ou autre ?
Pour le second, pas forcement ; malheureusement de photos d'enfants sur internet il y en a des tonnes généreusement fourni par leurs propres parents, ajoutons à cela la tonne de continue pornographique + éventuellement les techno de rajeunissement donc la source d'apprentissage ne serait pas forcement via des victimes hautement non consententes.),
Le 25 mars à 15h59
Mais @MathildeSaliou ci-dessous me semble avoir argumenté de façon plus détaillée sur les mêmes thématiques
Modifié le 25 mars à 14h23
Le 29 mars à 16h30
Trouver des vidéos de ce genre permet de lancer des enquêtes pour trouver les enfants victimes et les réseaux associés. Mais si l'enfant n'existe pas, cela lance de fausses pistes qui font perdre du temps et des ressources précieuses.
Puis cela pourrait éventuellement poser des soucis au niveau judiciaire, utiliser l'IA comme excuse pour rejeter une preuve vidéo ou pour aider à créer des faux souvenirs pour qu'un enfant accuse quelqu'un qui n'a rien fait de mal aussi.
Le 25 mars à 13h40
Mais oui il y a le pb des données d'entrainement.
Si on extrapole le vrai souci sociétal auquel en tant que société on a jamais répondu, c'est "comment on gère la déviance" (sachant que la définition a changé au fil des années - par exemple l'homosexualité).
Le 25 mars à 13h59
Le sujet est trop important pour laisser quoique ce soit traîner sur le web.
Modifié le 25 mars à 16h10
Après il y a la question de la banalisation de ces images / idées, plus complexes à trancher comme vous l'évoquez les uns les autres. On peut aussi aborder sous l'angle technique, comme le fait l'IWF : si on met à disposition des outils qui facilitent non seulement la création de ce type de contenu, mais aussi leur diffusion, est-ce qu'on ne participe pas à leur massification ?
Le 25 mars à 14h44
Que penses tu d'un jeu de gestion où tu dois gazer des gens (au hasard, juifs) et les tuer de la manière la plus efficiente possible ? D'un jeu où tu dois découper le plus vite possible à la machette des personnages (au hasard des tutsi) ? D'un jeu d'infiltration où tu dois planifier l'entrée dans une école pour tuer le plus d'étudiant possible sans te faire attraper par la police ? D'un jeu où tu dois mener à bien une mission suicide en explosant le plus de personnes dans des marchés populaires ?
Ne vois-tu réellement pas le mal que cela peut provoquer dans les mains d'esprit faibles et manipulables ?
Le 25 mars à 15h22
Je dirai de prime abord, argument mal placé car confusant les genres. (la pédophilie d'un coté et la representation de la violence de l'autre.)
Un jeu peux être moralement ambigu pour ne par dire ignoble mais ça peut rester un jeu avec possiblement des aspects cathartique. [Exemple carmageddon pour les plus vieux (très mauvais jeu du point vu purement ludique) ou Helldriver 2 plus récemment (qui parait-il être très fun].
Dans vos propres suggestions vous êtes obliger de rattacher des marqueurs de "négativité" car avec un autre marqueur, les scénarii pourrait être un jeu existant.
remplacer juifs par nazi, tutsi par terroriste de daesh, étudiant supremaciste blanc du QQQ, et pour le dernier compléter marchés populaires de populations d'envahisseurs occupant et hop, la moralité des concept est retournée...
Et non ce n'est pas le fait que se soit numérique ou non, ma question c'est plus le réel versus artificiel d'un autre coté.
Et le contre exemple du numérique qui lèse ou non c'est plus dans la question de la diffusion.
La photo coquine faite le copain de sa copine (ou dans l'autre sens, ça marche aussi, juste moins courant je pense), la copine a pt être été d'accord qu'elle soit prise. Le problème est le copain qui la montre voir qui la diffuse (bien entendu sans l'accord supplémentaire de celle-ci).
Le numérique lèse bien une personne n'ont pas par son existence mais par son mésusage. (dans ce contexte ci)
Le 25 mars à 17h06
Pensez-vous vraiment qu'il n'existe pas de lien entre ce qu'on voit et ce qu'on fait ? Ou entre ce qu'on aime regarder et aime faire ?
Les sports amateurs peu connus cherchent à se faire connaitre pour précisément donner envie que de nouveaux licenciés arrivent et participent aux compétitions.
Le cerveau de plus, n'arrive pas facilement à différencier la réalité de la fiction émotionnellement (cf les rêves après lesquels nous nous réveillons souvent en pensant qu'ils étaient réels). Et combien de d'hommes ou femmes d'ailleurs pensent que les relations sexuelles ressemblent à ce que les films nous présentent ? Beaucoup sont désarçonnés face à la réalité des relations intimes qui est loin de ressembler à ça et je ne parle pas de la porno et des ravages qu'elle créer.
Le 26 mars à 09h22
Mon bemol, serait qu'on tombe possiblement sur un argument d'oeuf et de la poule, mon positionnement actuelle me laisse à penser que c'est parce que ces individus sont déjà "malade(?)" qu'il cherche des contenus liés à leur "perversions".
Pour l'argument du sport amateur, je comprends l'analogie mais je doute (dans le sens je ne sais) sur la corrélation avancé.
Pour votre dernier argument, je souscris à la prémisse, moins à la suite.
Car j'ai l'impression que la conclusion et l'hypothèse sont confondu (dans le sens mélangé).
Cependant, comme vous, je reconnais le constat qui semble être le manque de vrai éducation sexuelle qui arriverait à laisser passer comme "normal" certains comportement de certainstype de film pornographique.
PS : j'ai mi "malade" et "perversion" entre guillemet car n'était pas médecin et encore moins psychiatre l'usage de ces termes sont pt être impropre et/ou inexacte.
PPS : Merci d'avant pris le temps d'argumenter et de developer.
Modifié le 25 mars à 18h47
Le 26 mars à 09h43
Dans de précèdent commentaire j'avais déjà répondu :
Pour le second, pas forcement ; malheureusement de photos d'enfants sur internet il y en a des tonnes généreusement fourni par leurs propres parents, ajoutons à cela la tonne de continue pornographique + éventuellement les techno de rajeunissement donc la source d'apprentissage ne serait pas forcement via des victimes hautement non consentantes.),
Et par anticipation, j'avais indiqué :
[...]PS :
Avant qu'on m'affuble de nom d'oiseaux ou que l'on me prête des penchants que je ne possède pas.
Je N'AI AUCUNE ACCONTANCE, ATTIRANCE OU QUOIQUE QUE CA vers des personnes mineurs.
Ce n'est pas mon truc, mon kink, mon désir, NI mon plaisir !!![[...]
Comme il y semblerait qu'il y ait besoin d'explicité :
Je condamne fermement et sans aucune retenu toute les actes de violences, qui ne sont pas légitime, faites contre des personnes qui n'ont rien demandé. (Hommes, Femmes, Enfants).
Donc cela inclus, TOUT ce qui en découle, dont les actes criminels de nature pédophile.
Mon bémol, vient d'une réflexion, mettre représentation réel (qui implique FORCEMENT l'abus d'une victime), sur le même plan qu'une représentation irréel, (dessin, et virtuel créée par IA), qui comme déjà dit ne nécessite pas, (plus ?) un crime à la base pour leur production.
Ma réflexion, vient de l'évolution de certaines pratiques qui sont dorénavant admises alors qu'à une époque, décriées ( homosexualité ou transsexualités par exemple) couplé aux expériences de type "prohibitions" pour l'alcool entre autre.
PS :
Modifié le 27 mars à 09h34
Je voulais te faire remarquer que le choix des mots était vraiment pas délicat.
Et je peux recommencer avec ton nouveau commentaire :Donc peut-être qu'un jour les pratiques pédophiles seront admises dans notre société du futur ?
Ou bien tu veux dire que les trans et les homo sont aussi dérangés que les personnes qui fantasment sur des enfants prépubères ?
Effectivement, c'est pas le cas dans tous les pays. Au japon on peut dessiner des scènes érotiques mettant en scène des enfants et les artistes qui font du Hentai mettant en scène des jeunes personnes s'en défendent en parlant de liberté d'expression. Question de culture sans doute.
Le 27 mars à 12h40
Difficile de dire si ça reviendra un jour. Mais c'est valable pour n'importe quel autre sujet « sensible » (peine de mort, esclavagisme, camps de concentration, etc.)
Modifié le 27 mars à 22h26
L'homosexualité se fait entre personnes consententes, pas la pédophilie. On peut toujours imaginer une société où assouvir ses pulsions sur un enfant serait admis moralement, comme on peut imaginer une société cannibale ou autre, ça n'en fait pas un argument valable quand même. En tout cas, je ne vois pas où nous emmène ce cheminement de pensée.
Le 31 mars à 10h08
Modifié le 1er avril à 10h04
Modifié le 25 mars à 15h15
La question de ce qui autorisé dans la fiction n'est pas si simple à traiter, parce qu'il est question de morale, et que chacun à la tienne. Pour autant, on doit tous répondre de la loi, et certaines mœurs ont des raisons d'être.
Sur la partie utilisation d'images réelles, la question ne se pose pas.
Un autre problème de ces vidéos générées par IA c'est qu'elles vont grandement diminuer la validité de la preuve vidéo. Si une vidéo d'un crime est commise, mais que des centaines de vidéos modifiées circulent avec d'autres visages. Comment retrouver la vidéo originel et identifier victime et coupable ?
Modifié le 25 mars à 22h26
Le 25 mars à 13h13
Modifié le 26 mars à 17h18
On va me demander de trouver un "usage positif"... ce n'est pas à moi d'apporter la preuve que les propos de l'IWF sont faux, c'est à l'IWF de sourcer ce genre de choses avec quelque chose d'autre que l'écho médiatique qu'ils influencent eux-même.
Je veux dire, c'est l'"organisation britannique indépendante qui traite les signalements".
Quand ton boulot est de traiter ce genre de contenus, il est évident que s'ils sont signalés c'est qu'ils sont problématiques.
Vous avez mentionné les JV, GTA est un jeu qui a pour concept de voler, tuer, escroquer, ... faut-il l'interdire? C'est l'avis de certaines personnes pour qui ces jeux "renforcent l’intérêt" violent, "contribuent à la normalisation d’agressions violentes, et peuvent accroître le risque d’agressions concrètes".
Des chiffres, c'est tout ce que je demande avant d'annoncer des "faits".
(tout comme le 1er commentaire, j'ajoute mon disclaimer: je condamne toute agression, physique ou psychologique, a fortiori contre des mineurs.
Il faut juste ne pas dire "ceci est une arme et ne peux servir qu'à blesser" en montrant un outil mal utilisé)
Le 26 mars à 20h00
C'est assez disparate et il y a pas des masses d'études, forcément vu comme le sujet est touchy, mais pour ce que j'en ai vu, les résultats... sont finalement assez peu concluants. Il n'y a pas de consensus clair, certaines études trouvent un effet légèrement négatif (favoriserait le passage à l'acte, favoriserait une vision objectifiante), d'autre un effet légèrement positif (favoriserait l'effet cathartique anti-passage à l'acte, diminuerait la préoccupation sexuelle), d'autres pas d'effet. Si effet il y a, il serait a priori faible. J'ai vu un peu plus d'études (et un peu plus solides) allant dans le sens d'un effet cathartique que d'études allant dans le sens d'un effet banalisant, donc si vraiment je devais donner un avis final je dirais qu'il y a vraisemblablement un effet "neutre à légèrement positif". Mais encore une fois, la taille d'effet reste limitée en tout état de cause.
Bref si j'étais lobbyiste à l'IWF je pourrais sans trop de souci te citer 2-3 études qui vont dans leur sens. Mais je pourrais tout autant citer des études inverses si je voulais faire du lobbying en faveur d'une libéralisation de la technologie. Et en tout état de cause, j'exagèrerais probablement les effets de ces technos.
S'agissant des outils de deepfake, c'est un autre sujet, car là on parle de dénuder des personnes qui existent vraiment et ça pose des questions spécifiques autour du consentement et du droit à l'image. Le problème, c'est que la possibilité de générer des deepfakes est un peu consubstantiel aux modèles de genAI dès que ceux-ci savent faire de la nudité.
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?