Connexion
Abonnez-vous

Enquête ouverte en Normandie après la diffusion de deepfakes d’une douzaine de collégiennes

Cyber-attaque

Enquête ouverte en Normandie après la diffusion de deepfakes d’une douzaine de collégiennes

Douze jeunes filles ont été visées par la diffusion de deepfakes à caractère pornographique en Normandie. Une enquête est ouverte.

Le 17 mars à 09h08

Cheffe de l’ensemble scolaire, Marie-Bernard Boudant souligne que « les faits n’ont rien à voir directement avec l’établissement, hormis le fait qu’une partie des adolescents victimes est élève » sur place. Elle indique qu’une réaction rapide a été permise par « un dispositif de veille et d’attention aux signaux faibles et aux signaux forts de problèmes rencontrés par les élèves ». L'établissement traite cette « crise de cyberharcèlement » depuis le début du mois.

Violence numérique assistée par IA

Comme nous l’expliquions dans de précédents articles, les deepfakes à caractère pornographique sont un problème d’ampleur, dont la fabrication et la diffusion a explosé avec l’accès grand public à des outils d’IA générative. Les filles et les femmes en sont les principales victimes, partout sur la planète.

En Espagne, dans la ville d’Almendralejo, quinze adolescents ont été condamnés mi-2024 après la diffusion des deepnudes de leurs camarades. Âgés de 13 à 15 ans, ils avaient utilisé des applications facilement trouvables en ligne pour créer des images à caractère pornographique de leurs camarades, dont certaines étaient leurs voisines, voire des membres de leur famille.

Au Royaume-Uni, le gouvernement vient de créer des mesures contre les deepfakes non consentis à caractère sexuel. En France, créer et diffuser de fausses images à caractère sexuel est passible de deux ans d’emprisonnement et 60 000 euros d’amende. Ces peines sont portées à trois ans d’emprisonnement et 75 000 euros d’amende lorsque le contenu est créé ou diffusé via un service de communication au public en ligne.

Commentaires (41)

votre avatar
"En France, créer et diffuser de fausses images..."

Si c'est formulé ainsi, c'est assez maladroit: Un qui crée et le petit camarade d'à côté qui diffuse et c'est wildcard légale!
votre avatar
La formulation exacte :
« Est puni de deux ans d'emprisonnement et de 60 000 euros d'amende le fait de porter à la connaissance du public ou d'un tiers, par quelque voie que ce soit, un montage à caractère sexuel réalisé avec les paroles ou l'image d'une personne, sans son consentement. Est assimilé à l'infraction mentionnée au présent alinéa et puni des mêmes peines le fait de porter à la connaissance du public ou d'un tiers, par quelque voie que ce soit, un contenu visuel ou sonore à caractère sexuel généré par un traitement algorithmique et reproduisant l'image ou les paroles d'une personne, sans son consentement.

[…]

Les peines prévues au […] premier alinéa sont portées à trois ans d'emprisonnement et à 75 000 euros d'amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisée en utilisant un service de communication au public en ligne. »
votre avatar
Et donc, la diffusion est répréhensible quelle que soit la personne qui a créé le montage. Mais par contre, seule la diffusion est répréhensible. Pas le montage en lui-même.
votre avatar
Il faut aussi tenir compte de ce qu'on est en mesure de prouver... Sans devoir mettre en place des moyens qui amèneraient en gros à pouvoir voir ce que chacun fait derrière son écran, ce qui poserait de petits problèmes avec la liberté (encore) écrite aux frontons des mairies (et déjà de plus en plus théorique, niveau droit de se déplacer ou de manifester en particulier).
votre avatar
Ce que j'ai cité plus haut est l'article 226-8-1 du Code pénal mais les précédents se portent sur la création / conservation d'images identifiables elles-mêmes :
Article 226-1
"Est puni d'un an d'emprisonnement et de 45 000 euros d'amende le fait, au moyen d'un procédé quelconque, volontairement de porter atteinte à l'intimité de la vie privée d'autrui :

1° En captant, enregistrant ou transmettant, sans le consentement de leur auteur, des paroles prononcées à titre privé ou confidentiel ;

2° En fixant, enregistrant ou transmettant, sans le consentement de celle-ci, l'image d'une personne se trouvant dans un lieu privé.

3° En captant, enregistrant ou transmettant, par quelque moyen que ce soit, la localisation en temps réel ou en différé d'une personne sans le consentement de celle-ci.

Lorsque les actes mentionnés aux 1° et 2° du présent article ont été accomplis au vu et au su des intéressés sans qu'ils s'y soient opposés, alors qu'ils étaient en mesure de le faire, le consentement de ceux-ci est présumé.

Lorsque les actes mentionnés au présent article ont été accomplis sur la personne d'un mineur, le consentement doit émaner des titulaires de l'autorité parentale, dans le respect de l'article 372-1 du code civil.

Lorsque les faits sont commis par le conjoint ou le concubin de la victime ou le partenaire lié à la victime par un pacte civil de solidarité, les peines sont portées à deux ans d'emprisonnement et à 60 000 euros d'amende."

Article 226-2-1 :
"Lorsque les délits prévus aux articles 226-1 et 226-2 portent sur des paroles ou des images présentant un caractère sexuel prises dans un lieu public ou privé, les peines sont portées à deux ans d'emprisonnement et à 60 000 € d'amende.

Est puni des mêmes peines le fait, en l'absence d'accord de la personne pour la diffusion, de porter à la connaissance du public ou d'un tiers tout enregistrement ou tout document portant sur des paroles ou des images présentant un caractère sexuel, obtenu, avec le consentement exprès ou présumé de la personne ou par elle-même, à l'aide de l'un des actes prévus à l'article 226-1."

https://www.legifrance.gouv.fr/codes/section_lc/LEGITEXT000006070719/LEGISCTA000006149831/#LEGISCTA000006149831
votre avatar
Je vais répondre ici aux 2 commentaires pour faciliter la vue d'ensemble.

Premier commentaire :

L'article 226-8-1 du Code pénal ne porte que sur la diffusion (au sens large, j'y inclus le fait de montrer un montage sur son propre téléphone ou ordinateur) et pas sur la création.
La question de  @yl était bien légitime. En fait, la création n'est pas punie ici.
Et l'article couvre les créations faites par un humain (Photoshop ou autre outil manuel) ou un algorithme (l'IA me semble particulièrement visée : article créé en 2024).
Dans tous les cas, ici, on parle de "fake".

Donc, se créer un montage sexuel mettant en scène une personne majeure n'est pas interdit tant que l'on garde pour soi ce montage. Pour la représentation de personnes mineures, ça entrerait dans la détention d'images pédopornographiques.

Passons maintenant à ce commentaire et aux autres articles de loi qu'il cite :
L'article 226-1 est très général et ne parle pas de paroles ou actes à caractère sexuel. Il s'agit du droit à la vie privée en général.

L'article 226-2-1 lui parle uniquement de paroles ou d'images à caractère sexuel et punit plus fortement la capture. Il punit aussi la diffusion sans consentement.

Mais dans aucun de ces 2 articles ne s'agit de fake. On parle de sons ou images réels.

Cela confirme ce que je disais en fin de la première partie de mon commentaire : la création n'est pas punie.


Remarque générale sur les sujets touchant au juridique.
La plupart des rédacteurs actuels manque de compétence sur ces sujets (Je ne me prononce pas pour Alexandre parce que je n'ai pas assez de recul pour lui). Quand, comme moi, on a été habitué/formé par les écrits de Marc (en plus de la lecture du blog de Maître Eolas), on voit la différence. Il ne s'agit pas ici de pleurer son départ. Il a pris sa décision à un moment difficile pour le site et il semble très heureux là où il est.
Par contre, un certain nombre de sujets abordés ici nécessite une meilleure connaissance du droit ou de savoir le lire et le transcrire. Je ne sais pas ce qu'il est possible de faire pour améliorer le contenu des articles abordant ces sujets, mais je pense que c'est un sujet d'amélioration. Je ne sais pas 'il y a de la formation possible.
Rien de personnel vis-à-vis de Mathilde, c'est un commentaire général.
votre avatar
Je ne comprends pas : même s'il s'agit d'un fake, il s'agit bien de la photo d'une personne représentée dans une intimité (même si c'est fake). S'il est admissible de faire un fake qui représente une intimité non-consentie, ça sert à quoi d'interdire les photos sans retouche ?
votre avatar
Je vais commencer par la partie facile :
ça sert à quoi d'interdire les photos sans retouche ?
Ça sert à protéger la vie privée des gens. C'est un droit constitutionnel.

Un fake (un montage par exemple entre une photo de visage de la personne visée et un corps dénudé d'une autre personne), ce n'est pas une représentation de la vie privée de cette personne. Ce n'est pas son intimité.
Par contre, on protège protège la personne visée en interdisant de montrer ce montage à quiconque par quel que moyen que ce soit.
La photo a pu être prise dans un cadre tout à fait légal, avec le consentement de la personne et il en est de même pour la diffusion de cette photo qui a donc pu être récupérée en ligne sans enfreindre aucune loi.

Interdire la fabrication de fake pornographique n'est pas forcément utile si l'on ne peut pas ensuite le constater pour le punir. C'est un peu l'idée exprimée par @yl .
votre avatar
Et si je suis peintre et que je fais des nus ?
La Liberté guidant le peuple.
La madame n'a sans doute pas donné son accord, on ne sait même pas qui c'est.
Elle a été pourtant philatélisée. (Tout le monde lui a léché le fondement)
Ne peut-on par arguer du fait de créer une œuvre artistique avec l'IA plutôt que d'utiliser un pinceau ? (On passe le fait qu'elle a en plus généré des kopecks à La Poste)
Vous avez 4 heures ^^
votre avatar
Rien n'est anodin, même si l'on ne peux pas interdire de créer ces fakes.

Il peux arriver que, même en ne souhaitant pas diffuser ses propres "créations" elles se retrouvent diffusées quand même , heurtant ainsi les sujets.

Hypothétique ? Pas tant que ça.

https://www.slate.fr/audio/transfert/dangereuses-technologies-376




Pour moi on est dans une transition actuellement. Aujourd'hui personne ne prendrait un article ou un livre comme argent comptant (encore que je connais des gens qui me soutiennent que le Da Vinci Code est réel...) , mais jusqu'à présent on considérait les audio ou les vidéo comme fiable (la preuve on s'en sert comme preuve dans les affaires policières).
Sauf que demain, ça deviendra très simple d'effacer une personne d'une vidéo, ou de la remplacer par une autre. Idem pour les enregistrements audio.

Ca va compliquer "la recherche de la vérité" c'est sur... mais on ne va pas revenir en arrière.
votre avatar
Pourquoi écris-tu cela en réponse à mon commentaire ? J'ai juste essayé d'expliqué l'absence d'interdiction de la création. Dans code pénal, il y a pénal et ça induit une peine. Sans peine, c'est inutile d'interdire.

S'il y a diffusion plus tard, ça sera à celui qui a diffusé d'en répondre. La loi est claire.

Je n'écoute que très rarement des machins audio, je n'ai donc pas écouté celui que tu as mis en lien.

Quant à la fin de ton commentaire, je n'ai pas compris où tu voulais en venir et je ne vois pas le lien avec le sujet. Donc, inutile de préciser ce que tu voulais dire.
votre avatar
Quand on réponds dans un forum c'est pour faire avancer la discussion pour tout le monde, pas seulement pour celui à qui on réponds.

Il se trouve que parmi tous les messages au-dessus, le tien me paraissait (à tord ou à raison) le plus pertinent pour rebondir, dans le sens où tu écrivais , je cite:

"Un fake (un montage par exemple entre une photo de visage de la personne visée et un corps dénudé d'une autre personne), ce n'est pas une représentation de la vie privée de cette personne. Ce n'est pas son intimité."

Or justement ça peux être perçu comme tel, si la personne "visée" tombe, même par accident, même sans volonté de diffusion, sur ces montages. Et j'ai mis le lien pour donner un tel exemple. Je me serais abstenu de répondre si je n'avais pas écouté ce podcast sur ce sujet.

C'est tout.

Pour la fin de mon commentaire, c'est pas grave si tu vois pas le rapport, ça m'étonne pas trop.
Pas non plus besoin de répondre.
votre avatar
On a le droit de représenter sa/son collègue dans son intimité (factice) mais si quelqu'un d'autre voit l'image montée, on est en infraction. C'est un peu "pas vu, pas pris" (comme le port d'armes aux US où les enfants peuvent manipuler des armes mais pas s'en servir dans leur finalité).
votre avatar
En soit, si tu donne au camarade d'à côté tu lui diffuse.
En plus, c'est la diffusion qui est illégale, tout court, pas la diffusion de quelque-chose qu'on a soit-même créé.
votre avatar
Quelle horreur

Faut vraiment être un gros dégénéré pour faire ça
votre avatar
Bin c'est un établissement catho, alors comme dans le clergé le dégénéré allait jusqu'à l'Abbé Pierre...
votre avatar
Pour le coup, c'est l'établissement scolaire qui a rapidement donné l'alerte, si j'ai bien compris. Donc rien à voir avec les problèmes de silence dans les établissements catholiques sur des affaires qui concernent d'ailleurs plutôt des violences de la part d'adultes sur des enfants (et sur des femmes dans une moindre mesure).

Je me demande si le fait que les agresseurs soient probablement mineurs et extérieurs à l'établissement scolaire a peut-être permis d'éviter l'omerta en l'occurrence. En tout cas, la réactivité de l'établissement scolaire (privé ou public peu importe) est à saluer
votre avatar
Ouais enfin, faut pas non plus mettre tous les établissements au même niveau... Surtout que là c'est quand-même ledit établissement qui a tiré la sonnette d'alarme.

Dans le publique, la sonnette aurait été tirée mais l'administration aurait très certainement tardé à agir. Il suffit de voir comment sont gérés, majoritairement, les cas de harcèlement/violences malgré les alertes des équipes éducatives.

Tout ça pour dire qu'il n'y pas mieux d'un côté ou de l'autre.
votre avatar
Les établissements publics et privés dépendent de la même administration nan ?
votre avatar
Je ne saurais dire, je demanderai à ma femme (qui bosse en école publique).

Mais nous voyons la diff entre son école, et celles d'amis enseignants en collège publique, et l'école (privé catholique) de nos enfants. La réactivité n'est pas du tout la même.
votre avatar
La réactivité ne dépend pas du type d'école mais du caractère des proviseurs.
Tu as des exemples de manque ou d'omerta dans les 2 types d'établissement (public ou privé) et vice/versa

Mettre son enfant dans le privé n'est en rien un gage d'absence de harcèlement. Mon neveu pourrait en témoigner.
votre avatar
La question était rhétorique, je ne vois pas pourquoi les écoles privés se verraient moins présenter le fameux "pas de vague" ...
votre avatar
Les personnels pédagogique (i.e. les profs et les AESH) dépendent de l'éducation nationale. Pour le reste, ça n'a rien à voir. Tout ce qui est éducatif, périscolaire, etc... (i.e. surveillance de cours, pions, Vie Scolaire, orientation, CDI,...) et logistique (entretien, cantine,...)
votre avatar
C'est pas faux, mais bon on est dans un contexte catho j'aurais dû dire... et dans lequel plus grand chose sur le sujet ne doit vraiment surprendre même si le cas du clergé est certes différent d'élèves rendus plus cons que la moyenne par leurs montées hormonales: A mon sens c'est dans le célibat qu'il faut chercher la racine d'un pb qui ne se pose pas ailleurs.
Sinon j'ai également toujours pensé que le besoin d'aller à confesse allait avec celui de "remettre les compteurs à zéro"...
votre avatar
« d'un pb qui ne se pose pas ailleurs »

Si seulement l'inceste (et plus largement les violences intra-familiales) n'existait pas…
votre avatar
Je sous entendais "ailleurs" en parlant des religions (excluant certaines sectes aux gourous profitant de leurs jeunes adeptes sous emprise)... et du niveau effarant du problème chez les cathos et qui ramène fatalement à leur spécificité y compris vs une religion que je qualifierais de cousine comme le protestantisme qui n'impose pas le célibat (et ils ne croient pas plus que Marie était encore vierge à l'accouchement!).
votre avatar
Cela fait froid dans le dos ! C'est bien que les différents législateurs aient légiféré sur le sujet. Merci pour l'article !
votre avatar
En France, créer et diffuser de fausses images à caractère sexuel est passible de deux ans d’emprisonnement et 60 000 euros d’amende. Ces peines sont portées à trois ans d’emprisonnement et 75 000 euros d’amende lorsque le contenu est créé ou diffusé via un service de communication au public en ligne.
Quelle est la différence entre "créer et diffuser", et "créé ou diffusé via un service de communication au public en ligne" ?
La première option c'est si les images sont imprimées ?
votre avatar
C'est sans doute pour distinguer la diffusion dans un cercle privé (envoyé à un seul destinataire ou dans un groupe fermé par exemple) de la diffusion vraiment publique et accessible par n'importe qui.
votre avatar
Pour compléter mon commentaire sur les réponses de Mathilde.

L'article de loi qu'elle cite ne parle pas de création mais seulement du "fait de porter à la connaissance du public ou d'un tiers,". Il aurait donc fallu écrire dans l'article diffuser ou diffusé.

Reste la différence entre "porter à la connaissance du public ou d'un tiers, par quelque voie que ce soit"
et "diffusé via un service de communication au public en ligne".
Un service de communication au public en ligne est pour simplifier un site web, par oppositions aux moyens de communication entre individus ou groupe d'individus (messagerie, mails, etc.)
votre avatar
C'est une circonstance aggravante le service de communication en ligne. L'aarticle est un peu flou : seule la diffusion est interdite, pas la création.
On parle de diffusion au sens large, donner le montage à un ami c'est de la diffusion, pas besoin d'une grande échelle.

Il y a quelques commentaires plus haut qui sont plus détaillés sur le code pénal.
votre avatar
Partout, ce sont des collégiens, c'est effarant ! L'accès libre au porno (et une pornographie particulièrement dégradante et violente envers les femmes) est vraiment un énorme problème dont on mesure peu à peu les conséquences.
votre avatar
A quel moment l'accès a la pornographie est en jeux là ?

On parle de jeunes qui fantasment, c'est pas le fait de voir des actes qui leur donne envie sexuelles. C'est leurs hormones. Des enfants sans accès au porno se touchent quand même hein...

Surtout qu'ici c'est peut être aussi "simplement" pour du harcèlement. En mode "t'as vu Marie-Chantal, elle a envoyé cette photo d'elle nue a Jean-eudes."
Et dans ce cas, l'image n'est juste qu'un prétexte. Sans ça elles auraient trouvé d'autres choses pour attaquer cette fille (pas la bonne marque de vêtement etc). La méchanceté n'a pas de limite dans certains cas
votre avatar
L'accès à la pornographie ou plutot aux flots de supports pornographiques, cela agit comme pour l'accès à de plus en plus de contenus et de messages extrémistes: la libération des actes et de la parole.
Le nier ne changera rien à la réalité.
votre avatar
Regarder des vidéos pornos donnerait envie de se "venger" de quelqu'un ? le porno véhiculerait ce genre de comportement ? c'est tirer un peu trop sur les cheveux ça ... lâches la chevelure de Clara :D
votre avatar
La vision de la femme a travers le prisme du porno est très malsaine voire souvent dégradante.

Il y a toujours eu du harcèlement dans les écoles/collèges/lycées/entreprises/etc.
Utiliser des deepfakes pornos pour cela est une nouveauté liée non seulement aux outils mais surtout à l'accès au porno dès le plus jeune age.

Je ne dis pas que le porno est la raison du harcèlement mais on ne peut reproduire que ce qu'on "connait" via un deepfake.
votre avatar
La vision de la femme a travers le prisme du porno est très malsaine voire souvent dégradante.
Et que penser des précieuses ridicules ?
votre avatar
Je te suggère de te renseigner sur la "préciosité" notamment vue au XXIe siècle.
Tu comprendras que ton profil correspond parfaitement à ceux qui utilisent cet élément de langage de nos jours.
votre avatar
Je reconnais ne pas avoir ta jactance, mais j'ai rien bité.
Faut me sous-titrer pour mon QI d’huître. (En espérant ne pas faire offense aux huîtres)
votre avatar
Ah, le retour des hormones !

Bien évidemment qu'on ne découvre pas ses pulsions grâce au porno mais il parait assez évident (je ne dis pas que c'est indéniable) que ces images et ces idées là, les gamins de 13 ans ne les ont pas sorties de leur imaginaire. Il y a une sacré différence entre se masturber devant un Newlook (hello boomer !) ou devant du porn trash quand on est ado (enfin, techniquement, le résultat est le même :mrgreen:).

edit: et je passe les "revenge porn", "sex tape" et autres intitulés plus ou moins fallacieux qui pullulent. Probablement hormonaux ceux-là aussi.
votre avatar
OUI.
et. (c'est pas une contradiction)
il y a des traumatismes particuliers liés aux deepfakes et autres saloperies du genre. Mathilde a écrit un bouquin où ce sujet prend une bonne part. Je recommande.

Enquête ouverte en Normandie après la diffusion de deepfakes d’une douzaine de collégiennes

  • Violence numérique assistée par IA

Fermer