Les forces de l’ordre démantèlent un réseau de pédopornographie générée par IA
Safety by Design
Carles Rabada pour Unsplash
Une opération conjointe à l'échelle de 19 pays a conduit à l'arrestation, mercredi, de 25 personnes suspectées d'avoir alimenté et administré un réseau de distribution de contenus pédopornographiques générés par le biais d'outils d'intelligence artificielle.
Le 03 mars à 08h47
4 min
Droit
Droit
« D'autres arrestations sont attendues dans les semaines à venir, l'opération étant toujours en cours », prévient Europol. Vendredi, l'agence de police européenne a annoncé la conclusion d'un coup de filet centré sur un réseau accusé d'avoir distribué en ligne des contenus pédopornographiques générés par intelligence artificielle.
273 suspects et 25 arrestations
25 personnes ont ainsi été arrêtées mercredi 26 février, dans le cadre d'une enquête qui a permis d'identifier 273 suspects, et qui a déjà donné lieu à 33 perquisitions, ainsi qu'à la saisie de nombreux équipements électroniques.
Baptisée Operation Cumberland, l'enquête a mobilisé les forces de police spécialisées de 19 pays, dont l'Office mineurs (Ofmin), le nouveau service de police judiciaire français, chargé de lutter contre les infractions les plus graves commises à l’encontre des mineurs.
Ces 25 personnes sont liées à un Danois, déjà arrêté en novembre 2024, accusé d'avoir opéré une plateforme dédié à la diffusion d'images pédopornographiques. « Suite à un paiement symbolique en ligne, des utilisateurs du monde entier ont pu obtenir un mot de passe pour accéder à la plateforme et assister à des abus contre des enfants », décrit Europol.
Au-delà des enquêtes criminelles, ces contenus générés par IA devraient, selon Europol, motiver des actions de sensibilisation dédiée. « Ces images générées artificiellement sont si faciles à créer qu’elles peuvent être produites par des individus aux intentions criminelles même sans connaissances techniques approfondies », alerte Catherine De Bolle, directrice exécutive d'Europol.
Des craintes quant à l'industrialisation du phénomène
Si les services d'IA en ligne intègrent de nombreuses protections visant à limiter les possibilités de génération de contenus illicites, ces barrières sont relativement faciles à contourner dans le cas de modèles exécutés localement.
Or la multiplication du phénomène poserait un véritable problème, estime l'agence. « Cela contribue à la prévalence croissante des contenus pédopornographiques et, à mesure que le volume augmente, il devient de plus en plus difficile pour les enquêteurs d’identifier les auteurs ou les victimes », fait valoir Catherine de Bolle.
L'apparition d'une pédopornographie générée par IA a déjà été mise en lumière à l'été 2023. Une enquête de la BBC révélait alors qu'un réseau utilisait Stable Diffusion, un modèle populaire d'apprentissage automatique de type « texte vers image », pour générer des contenus qui étaient ensuite proposés, en échange d'un paiement, par l'intermédiaire de la plateforme Patreon.
Octavia Sheepshanks, la journaliste indépendante à l'origine de l'enquête, alertait déjà sur le caractère industriel de cette production assistée par IA, dont certains membres évoquaient des objectifs de création allant jusqu'à 1 000 contenus par mois.
Toujours au Royaume-Uni, l'Internet Watch Foundation – organisation indépendante qui lutte contre les contenus montrant des abus sur des enfants – indique dans son dernier rapport avoir constaté que quelque 3 500 images à caractère pédopornographiques circulaient au travers d'un forum du dark web. Avec des visuels considérés, dans 90 % des cas, comme suffisamment réalistes pour pouvoir être interprétés, d'un point de vue juridique, comme de véritables contenus d'exploitation sexuelle de mineurs en ligne (CSAM).
Les forces de l’ordre démantèlent un réseau de pédopornographie générée par IA
-
273 suspects et 25 arrestations
-
Des craintes quant à l'industrialisation du phénomène
Commentaires (36)
Abonnez-vous pour prendre part au débat
Déjà abonné ? Se connecter
Cet article est en accès libre, mais il est le fruit du travail d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles
Profitez d’un média expert et unique
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousLe 03/03/2025 à 09h02
Ceux qui restent au stade "je mate des images", à minima ça devrait être suivi obligatoire et surveillance.
Maintenant, je vais dire un truc sans doute pas populaire ...
Un réseau d'IA a été entrainée sur des images déjà existantes pour en générer de nouvelles.
Le mal a été fait sur ces pauvres gamins, c'est dégueulasse, aucun débat là dessus.
"Mais", je "préfère" (guillemets) que des pédos se défoulent sur des images IA plutôt que sur des nouvelles "vraies" images et/ou des enfants.
Si de fausses images peuvent suffire à diminuer les pulsions et les passages à l'acte, alors c'est un moindre mal.
Les images restent des trucs immondes, mais au moins, ça n'impliquerait plus de vrais enfants innocents.
Le 03/03/2025 à 09h06
Le 03/03/2025 à 10h04
Modifié le 03/03/2025 à 09h28
De plus le délit c'est la détention et la diffusion d'image pédo, qu'elles soient imaginaires ou pas ne change pas.
Et le fait de voir non stop quelque chose, produit une banalisation de cette chose et donc un risque plus élevé passage à l'acte.
(C'est pareil pour tout, pubs pour la cigarette/alcool, racisme etc)
Et puis la personne qui dispose d'image de son neveu et certains images sont modifié par IA. Comment faire la distinction entre les faits commis et les faits imaginés ? Recueillir le témoignages des victimes est déjà compliqué mais si tu dois leur montrer des images réaliste d'eux lors d'actes non réel...
Modifié le 03/03/2025 à 09h55
Le 03/03/2025 à 09h37
On peut encore pousser le curseur de la surveillance de masse.
Modifié le 03/03/2025 à 09h45
Le 03/03/2025 à 10h55
La consommation de ce genre de contenu ne fait qu'entretenir un fantasme pervers et déviant. Les personnes attirées par les enfants ont des problèmes mentaux devant être soignés, point. Si le problème n'est pas contrôlable alors la société devrait être protégée et ces personnes mis à l'écart (prison ou autre).
Les dommages des images créées par IA se révèlent en permettant de mettre en scène des situations irréalistes et à force de consommation transforment la réalité et enfoncent les consommateurs dans des délires. C'est une porte vers le passage à l'action assurément.
Rien n'est bon dans ce domaine à part le soin ou la mise à l'écart.
Essaie d'imaginer un déviant ayant des attirances pour le viol (supériorité sur l'autre, humiliation etc..). Lui offrir un outil pour imaginer tout type de viol, l'aiderait à vouloir moins violer ?
Modifié le 03/03/2025 à 13h26
Avoir un désir n'est jamais un problème mental. C'est exactement le même genre de raccourci dangereux qui a fait qu'on a longtemps considéré l'homosexualité comme une maladie. On est tous attirés par des choses différentes, certaines avouables et d'autres non. La maladie c'est d'être incapable de contrôler ses désirs et de ne pouvoir s'empêcher de passer à l'acte malgré le côté immoral de la chose ("passer à l'acte" au sens large, on peut tout à fait considérer la masturbation chez soi comme un passage à l'acte).
Le 03/03/2025 à 13h40
Par contre, c'est très compliqué à soigner a priori. L'enjeu majeur est d'une part de faire accepter sa maladie au patient, et de l'empêcher de passer à l'acte. Certains psychiatres disent que c'est toutefois très difficile d'en sortir vraiement (de la pulsion en fait).
Le 03/03/2025 à 14h38
Le 04/03/2025 à 08h55
Modifié le 04/03/2025 à 09h38
edit: deux individus ou + (selon ce qui est désiré par chacun)
edit2: je ne suis pas médecin moi-même, je ne me prononce qu'au sujet moral et vivre-ensemble
Le 03/03/2025 à 09h22
Le 03/03/2025 à 10h02
Remarque, j'ai été surpris de voir Patreon cité comme moyen de diffusion. Puis je me suis rappelé des artistes dessus qui font du loli / shota, et j'ai relativisé.
Après, au vu de l'article, ils visent les contenus vraiment réalistes de ce que je comprends.
Le 03/03/2025 à 10h05
Modifié le 03/03/2025 à 10h09
Un hentaï ça reste du fictif, du dessin. On voit quand-même bien que c'est fake.
Une image générée par IA, qui veut se rapprocher d'une image réaliste, on franchit un palier.
Reste que sur les hentaï j'ai toujours été circonspect. La frontière entre manga purement érotico-pornographique et pédophile est bien souvent mince dans les représentations...
Le 03/03/2025 à 10h09
La diff, c'est que les images IA se ressemblent toutes à moins d'utiliser des LoRA ou des ControlNet. Sinon les modèles ont tendance à faire les mêmes tronches, ça se grille à des kilomètres.
Modifié le 03/03/2025 à 12h02
(todo : pendre Manu par les ... tentacules)
Le 03/03/2025 à 11h16
Il s'agit d'un glissement jurisprudentiel qui a commencé en 2007 sur l'expression "ou la représentation" de l'article 227-23 du Code Pénal.
Initialement, "ou la représentation" était utilisé dans le cas de la représentation d'une personne réelle, mais les décisions judiciaires. Progressivement, les champs ce sont étendus (et englobent depuis 2013 les dessins même réalisés pour un usage personnel et non destinés à la diffusion). Numerama avait très bien expliqué l'historique de ces décisions dans cet article : https://www.numerama.com/politique/33512-un-autre-site-de-mangas-hentai-bloque-en-france.html
Ce glissement sémantique pose de nombreux problèmes, parce que la question de la "représentation" dans la fiction peut aller au-delà de l'image (théâtre, roman...). En outre, le texte de loi tel qu'il est rédigé actuellement ne fait pas la distinction entre une représentation qui serait "érotisable" et une représentation qui pourrait être faite pour dénoncer (dans le cadre d'un film sur des abus, par exemple, s'il y a des scènes suggestives comme dans le film « Les Chatouilles » ; dans le roman Unica, l'héroïne adulte mais au corps enfantin utilise son apparence pour pourchasser les prédateurs sexuels) - à titre de comparaison et dans un champ totalement différent, il est interdit de représenter des symboles Nazis, sauf pour des œuvres de fiction, des reconstitutions historiques, etc. ; on pourrait imaginer a minima une telle exception qui protégerait de telles œuvres (ce ne serait pas la première fois qu'une loi se retourne contre ce qu'elle prétend défendre).
C'est sur la base de ce texte de loi que Bastien Vivès (je ne ferai aucun commentaire personnel sur le personnage, je pense que ses propos au fil des années le font pour lui ^^) a été poursuivi, et que des associations avaient tenté de faire interdire l'exposition de l'artiste américain Stu Mead il y a quelques années.
Le 03/03/2025 à 11h25
Ce changement est donc plus récent que je ne le pensais.
Le 03/03/2025 à 15h44
(Mais pas les poils)
Modifié le 03/03/2025 à 16h55
https://skdesu.com/fr/pourquoi-les-tentacules-japonaises/
Le 03/03/2025 à 10h11
Le 03/03/2025 à 10h50
La littérature regorge de textes où des relations entre mineurs et majeurs sont décrites. Même si là on est sur une BD, donc plus visuelle (et je pense pas que ce soit la première du genre), j'ai l'impression de voir une lecture jusqu'au boutiste et un oubli qu'on parle d'une oeuvre de fiction.
Là où pour revenir sur le thème de l'article, même si les images sont générées, l'entraînement a forcément été réalisé en partie sur du matériel réel.
Bref, ça me laisse plutôt dubitatif.
Le 03/03/2025 à 11h24
L'IA peut extrapoler, tu lui donnes des images de porno classique, des images (non-porno) d'enfants et elle pourra te sortir des images pédo-porno.
Le 03/03/2025 à 11h26
Le 03/03/2025 à 12h16
De même, si c'est juste des LoRA, ces modèles spécialisés sont forcément entraînés sur des jeux de donnés précis.
Enfin, dans la mesure où LAION avait du passer offline son dataset LAION 5b à cause de contenus répréhensibles dedans, il est donc très probable que les base models ont été entraînés sur du matériel réel.
Le 03/03/2025 à 11h00
C'est un sujet compliqué et si ici, on peut difficilement parler d'art contrairement à Bastien Vivès, il y a bien pour moi une même problématique sur la définition de la pédopornographie qui dans la loi française inclut les "représentations", c'est-à-dire de fausses images. Ce n'est pas le cas dans tous les pays. En France, ce point a été ajouté en 1998.
En recherchant le mot pédopornographie seul pour vérifier les termes utilisés dans le code pénal, Google commence par afficher en première position :
Prudence
Le contenu d’abus sexuel sur mineur est illégal et nocif
Obtenir de l'aide confidentielle…Si vous vous inquiétez de vos pensées ou de votre comportement
STOP
La recherche d'images sexuellement explicites d'enfants peut avoir de graves conséquences pour vous-même et pour les autres. Si vous avez peur de regarder des images sexuelles d'enfants ou si vous ressentez le besoin de le faire, vous pouvez accéder à une aide anonyme, confidentielle et efficace de STOP.
Appeler 0 806 23 10 63
Je me demande si cela est bien utile.
Le 03/03/2025 à 11h58
Modifié le 03/03/2025 à 11h36
Aujourd'hui, l'inceste, la pédocriminalité (plus largement, les violences et les abus sexuels sur individus vulnérables) sont plus visibles dans l'espace public, plus documentés médiatiquement. Les tabous ont évolué.
En l'occurrence, perso, je ne connais pas l'oeuvre de Bastien Vivès, le pourquoi, le comment, l'intérêt du public concerné par ces BD qui semblent quand même sexualiser le corps d'enfants (ça me fait a priori penser au "porno chic" qui a concerné le monde du luxe et de la publicité avec des représentations qui se veulent transgressives au point parfois de représenter des viols ou de la sexualité qui objectifie des enfants).
Le 03/03/2025 à 12h53
Libération : Les nombreux messages à caractère pédophile de Bastien Vivès dans les années 2000
Extraits :
Le post en question, diffusé le 16 janvier 2005 (il avait alors 20 ans), et que nous avons choisi de retranscrire, comme les autres, avec les fautes de frappe, va à rebours de la défense du dessinateur, qui assure n’avoir jamais eu de fantasmes pédophiles : «Parfois je me sens attiré vers des gamines de 10 ou 12… on se dit merde je suis pedophile… mais bon je sias pas ya quelque chopse qui se degage… bien sur je ne fais rien… mais c est un sentiment humain que tout le monde peut avoir. C ets juste qu il ya des gens qui passe outre et qui depasse les lois de notre belle société… alors voila… je m excuse encore de tout ca et que ca ait pu blesser des gens… je voulais pas…»
Ce message s’inscrit dans une discussion plus large, initiée par Vivès la veille. Le 15 janvier vers 18 heures, il demande sur le forum : «Remi est revenu du japon et il ma montré un manga de malade… un dessin hallucinant… enfin je suis resté bloqué… c ets un manga pedophile… avec des gamine de trois quatre ans… b je sias le theme est assez degueu…. mais c ets vraiment enorme comme truc donc voila j ai noté sur la pochette…… […] vu que je parle pas jap… j ai bocou de mal sur google… et aussi trankat [un autre utilisateur du forum] avais posté un lien vers un illustrateur qui dessinai des gamines qui sucait des glaces sur la plages.. genre aquarelle et enfin des trucs pedophile…. je crois que c ets le meme gars donc voila si quelqu un peu m aider ca serait vraiment cool… et si il y a une possibilité de le trouver en france ca serait cool….»
Pourtant, les propos problématiques de Vivès sur ce forum, alors étudiant, ne se limitent pas à cette série de messages. En cherchant parmi ses milliers de posts, CheckNews a ainsi pu en retrouver d’autres tout aussi troublants. Un an plus tôt, en juillet 2004, il semblait même justifier la pédophilie : «Haribo [autre membre du forum]…. euh je vais peut etre t enerver… excuse moi d avance…. mais je pense que le gang bang et comme n impote quel delire sexuel, que ce soit la partouze le triolisme……euh ce n est pas forcement un viol…. du moment que tout le monde soit concentant et que ce soit etabli. A la base un simple baiser peut etre qualifié de viol si un des deux n est pas concentant. Je vais peut etre etre gore mais meme la pedophilie si les deux partenaires sont concentant n est pas synonime de viol. Bon c sur a 7ans on a pas son mot a dire mais ca arrive que des gamine de 14 ans tombe amoureuse et ai des relation sincere avec un mec de 30 ans. Donc je pars du principe que tout acte est acceptable a la base si tout le monde est d accord au depart. Donc voila mais je comprend totalement ta reaction haribo… bisouuuuuuu.»
En février de la même année, en réponse à un autre membre du forum : «Bon c’est arrivé à tout le monde de coucher avec des gamines de 14 ans. Je suis désolé mais quand je vois comment elles te parlent. Elles sont désireuses de ton corps. Alors régale toi mon gars.» Autre message, le 7 mars 2005 : «Le fait de se retrouver tout seul à la montagne une semaine avec en guise de compagnons dans la salle lecture du chalet… une colonie de petites gamines… moi qui voulait faire le vide dans ma tête ; ben voilà c ets rapé.»
Le 04/03/2025 à 09h54
Le 04/03/2025 à 11h52
J'en retire une impression globale de scénarios très réduits, à base de regard masculin sur la sexualité. En revanche, la qualité graphique est souvent mentionnée. La BD Petit Paul est d'ailleurs absente du catalogue de plusieurs réseaux de librairie (j'imagine à cause de la procédure judiciaire en cours). Je pense que cette BD pose un vrai débat. Je suis curieux de connaître les motifs que retiendra la justice.
Le 04/03/2025 à 14h12
1- je ne sais pas ce qu'il dessine dans cette BD étant donné que je ne l'ai pas lue et que je n'ai pas lu d’articles dessus
2- je ne dis pas que JK tient ce discours.
Le 03/03/2025 à 14h23
On ne va pas vers mars, on part plutôt vers la débilité, le narcissisme à outrance et la sociopathie!
C'est quoi ce bordel?! C'est le résultat de 20ans de "réseaux sociaux" laissé sans aucune legislation?