Un tribunal du sud-ouest de l'Espagne a condamné 15 écoliers pour avoir créé et diffusé des images de leurs camarades de classe dénudées par une intelligence artificielle, rapporte The Guardian.
La police avait commencé à enquêter sur cette affaire l'an passé après que des parents de la ville d'Almendralejo, dans l'Estrémadure, signalent que de fausses photos nues de leurs filles circulaient sur des groupes WhatsApp.
Âgés de 13 à 15 ans, ils avaient utilisé des applications d'IA pour accoler les visages de leurs camarades, récupérés sur les réseaux sociaux, sur des corps de femmes nues.
« De nombreuses filles étaient complètement terrifiées et avaient de terribles crises d'angoisse parce qu'elles subissaient cela en silence », avait expliqué la mère de l'une d'entre elles : « Elles se sentaient mal et avaient peur d'en parler, mais aussi d'en être blâmés ».
- Alexandria Ocasio-Cortez décrit le « traumatisme » du deepfake pornographique
- Deepfakes pornographiques : quand l’intelligence artificielle sert à humilier
Un tribunal pour mineurs de la ville de Badajoz a reconnu ces adolescents coupables de 20 chefs d'accusation pour création d'images d'abus d'enfants et de 20 chefs d'accusation pour atteinte à l'intégrité morale de leurs victimes.
Ils ont été condamnés à un an de mise à l'épreuve et à suivre des cours de sensibilisation aux questions de genre et d'égalité, ainsi qu'à « l'utilisation responsable de la technologie ».
« Au-delà de ce procès particulier, ces faits devraient nous faire réfléchir sur la nécessité d'éduquer à l'égalité entre les hommes et les femmes », a déclaré au journal ElDiario.es l'association féministe Malvaluna, qui a agi au nom des familles concernées.
- Deepfakes pornographiques : des spécialistes de l’IA sensibilisent la jeunesse
- Photos intimes, deepnudes : 13 femmes en colère s’organisent
Elle a ajouté que cette affaire soulignait la nécessité d'une éducation sexuelle appropriée à l'école, afin que les enfants n'apprennent pas la sexualité à partir de la pornographie, qui « génère davantage de sexisme et de violence ».
Commentaires (23)
#1
Historique des modifications :
Posté le 11/07/2024 à 10h12
Ce n'est malheureusemetn pas en France qu'un tel verdict pourrait être rendu, hélas ...
#1.1
#1.2
#1.3
#2
Et je ne vois pas non plus le rapport avec l'égalité homme-femme et les questions de genre. J'ai l'impression qu'ils font un très gros raccourci "les victimes sont des filles" -> "la cause du problème c'est l'égalité homme-femme". Ca sous-entends donc que si ces gamins étaient homo, ça ne leur serait jamais venu à l'idée de faire la même chose avec des photos de garçons de leur école ? Je ne sais pas pourquoi mais j'ai un gros doute. Ils ne les auraient par contre sans doute pas partagées vu comme l'orientation sexuelle est un sujet très sensible à cet âge.
Plus que l'égalité homme-femme c'est la question du respect des autres et du consentement (fille comme garçon) et des impacts psychologiques de leurs actes sur les victimes qu'il faut leur apprendre. J'imagine que ça sera dans les cours de sensibilisation sur "l'utilisation responsable de la technologie", mais là encore la technologie n'est pas le problème, le problème est le comportement. La technologie c'est juste un moyen, comme le trou de la serrure qui sert à mater.
Historique des modifications :
Posté le 11/07/2024 à 11h01
J'ai du mal à voir le lien entre le délit (des ados qui profitent de la technologie pour dénuder des photos d'adolescentes de leur école) et la dernière phrase sur le fait d'apprendre la sexualité via la pornographie. Pour moi les deux n'ont pas de lien. Les gamins qui se servent des appli IA pour avoir des photos de filles de leur école nues c'est pareil que les gamins qui espionnaient les gamines de leur age pendant qu'elles se changeaient par le trou de la serrure pour les voir nues (oui, c'est très cliché le truc de mater par le trou de la serrure, mais ça ne sort pas de nulle part ce cliché). Ce comportement venant de gamin a plus ou moins toujours existé, bien avant la démocratisation de la pornographie via internet. Je ne dis pas que c'est un comportement acceptable, mais ce n'est pas la pornographie qui l'a créé.
Et je ne vois pas non plus le rapport avec l'égalité homme-femme et les questions de genre. J'ai l'impression qu'ils font un très gros raccourci "les victimes sont des filles" -> "la cause du problème c'est l'égalité homme-femme". Ca sous-entends donc que si ces gamins étaient homo, ça ne leur serait jamais venu à l'idée de faire la même chose avec des photos de garçons de leur école ? Je ne sais pas pourquoi mais j'ai un gros doute. Ils ne les auraient par contre sans doute pas partagées vu comme l'orientation sexuelle est un sujet très sensible à cet âge.
Plus que l'égalité homme-femme c'est la question du respect des autres et du consentement (fille comme garçon) et des impacts psychologiques de leurs actes sur les victimes qu'il faut leur apprendre. J'imagine que ça sera dans les cours de sensibilisation sur "l'utilisation responsable de la technologie", mais là encore la technologie n'est pas le problème, le problème est le comportement. La technologie c'est juste un moyen, comme le fait de mater une gamine en train de se changer par le trou de la serrure.
#2.1
La technologie est UNE PARTIE du problème. Lorsque des outils permettent une diffusion à large échelle, avec des moyens d'usurpations d'images ou de vidéos jamais vus alors oui ils sont une partie du problème.
C'est mon avis mais l'apprentissage d'un usage responsable n'est qu'une des clés de la réponse.
#2.2
On a revient a un problème de comportement et de respect de l'autre. Si on t'inculque le respect de l'autre, nul besoin de t'expliquer comme faire un usage responsable de la technologie vu comme c'est évident que créer un fausse photo dénudée de quelqu'un et la partager est un délit et va avoir un impact sur la victime.
Je vais prendre une comparaison un peu foireuse mais si quelqu'un plante une pioche dans la tête de quelqu'un, on ne va pas lui faire un cours sur l'utilisation responsable d'une pioche. On va essayer de lui inculquer que tuer une personne, quelque soit l'outil utilisé, c'est mal.
#2.3
Si vous voulez du perpendiculaire, vous avez le sol et les tréteaux par exemple.
Et si je vous dis que la pornographie génère davantage de sexisme et de violence, là vous avez du péremptoire.
#2.4
#2.5
Sinon pas besoin d’aller chercher les homosexuels , des filles hétéros qui font des montages ou qui regardent par le trou de la serrure ça existe aussi.
Pendant ma scolarité j’ai même été témoin de filles qui harcelaient le garçon le plus introverti de la classe, malgré sa faible popularité il y avait plus de solidarité du coté des autres garçons que des parents ou du corps enseignant qui s’en foutaient complètement.
Ça fait plus de 20 ans et je pense que ça a légèrement changé coté professeur par contre l’égalité H/F c’est à-peu-près la même : on est égaux en théorie et dans le meilleurs des mondes, mais pour les plaintes il y a comme une hiérarchie qui ne change pas du tout...
Et dans cette affaire l’amalgame "égalité H/F" sur une affaire qui concerne ces garçons c’est :
- Faire fi de leur age en les identifiants comme homme (auquel on pourrait rajouter des problèmes d’identité de genre...).
- Amalgamer ces garçons, manifestement irrespectueux, avec le reste des hommes.
Amha le seul objet qui concernerait l’égalité H/F dans cette affaire ce serait la plus grande efficacité des algos a trouver des corps de femmes nus que de trouver des corps d’hommes nus et cela pour une raison en lien direct avec la sur-exposition en ligne du corps féminin.
Bref encore un sujet qui, si on le détricotait jusqu'au bout, amènerait à l’aliénation sexuelle et l’exploitation de la redirection du flux sanguin entre le tronc brachio-céphalique et de l’artère pudendale masculine emportant sa culpabilité connexe réelle ou supposée.
Historique des modifications :
Posté le 11/07/2024 à 21h06
+1 dans l’ensemble.
Sinon pas besoin d’aller chercher les homosexuels , des filles hétéros qui font des montages ou qui regardent par le trou de la serrure ça existe aussi.
Pendant ma scolarité j’ai même été témoin de filles qui harcelaient le garçon le plus introverti de la classe, malgré sa faible popularité il y avait plus de solidarité du coté des autres garçons que des parents ou du corps enseignant qui s’en foutaient complètement.
Ça fait plus de 20 ans et je pense que ça a légèrement changé coté professeur par contre l’égalité H/F c’est à-peu-près la même : on est égaux en théorie et dans le meilleurs des mondes, mais pour les plaintes il y a comme une hiérarchie qui ne change pas du tout...
Et dans cette affaire l’amalgame "égalité H/F" sur une affaire qui concerne ces garçons c’est :
- Faire fi de leur age en les identifiants comme homme (auquel on pourrait rajouter des problèmes d’identité de genre...).
- Amalgamer ces garçons, manifestement irrespectueux, avec le reste des hommes.
Amha le seul objet qui concernerait l’égalité H/F dans cette affaire ce serait la plus grande efficacité des algos a trouver des corps de femmes nus que de trouver des corps d’hommes nus et cela pour une raison en lien direct avec la sur-exposition en ligne du corps féminin.
Bref encore un sujet qui, si on le détricotait jusqu'au bout, amène à l’aliénation sexuelle et l’exploitation de la redirection du flux sanguin entre le tronc brachio-céphalique et de l’artère pudendale masculine emportant sa culpabilité connexe (réelle ou supposée).
#2.6
#2.7
#2.9
Prendre 1 exemple de comportement répréhensible du côté féminin pour faire genre ' voyez que ça se passe chez les filles' alors que le problème ce trouve en absolue majorité chez les mecs, c'est juste dégueulasse.
Y'a des stats, c'est documenté, étudié, expliqué.
Alors ton ' not all men' me fait bien rire.
#2.10
Pour la différence de stats ce n’est pas compliqué : les chevaliers blancs et les néo-feministes alimentent eux même l’asymétrie en taisant le malheur masculin (celui qui fait des milliers de suicides tout les ans ) comme ce que tu essaye de faire ici.
La seul astuce d'ironiser sur le "not all men" réside dans le fait que la plupart des hommes ne sont pas entraînés a réagir calmement et proportionnellement face a l’injustice flagrante qu’est d’être accusé a tord, donc ils s’énervent et passe pour des cons ou se taisent.
Historique des modifications :
Posté le 12/07/2024 à 14h26
Non je ne me trompe pas de personne, si selon ta perception tout les mecs sont des monstres pour les femmes et que tu préfère commenter que de les séparer physiquement tu est donc coupable de non assistance a personne en danger.
Pour la différence de stats ce n’est pas compliqué : les chevaliers blancs et les néo-feministes alimentent eux même l’asymétrie en taisant le malheur masculin (celui qui fait des milliers de suicides tout les ans ) comme ce que tu essaye de faire ici.
La seul astuce d'ironiser sur le "not all men" réside dans le fait que la plupart des hommes ne sont pas entraînés a réagir calmement et proportionnellement face a l’injustice flagrante qu’est d’être accusé a tord, donc ils s’énervent et passe pour des cons ou se taise.
Posté le 12/07/2024 à 14h28
Non je ne me trompe pas de personne, si selon ta perception tout les mecs sont des monstres pour les femmes et que tu préfère commenter que de les séparer physiquement tu est donc coupable de non assistance a personne en danger.
Pour la différence de stats ce n’est pas compliqué : les chevaliers blancs et les néo-feministes alimentent eux même l’asymétrie en taisant le malheur masculin (celui qui fait des milliers de suicides tout les ans ) comme ce que tu essaye de faire ici.
La seul astuce d'ironiser sur le "not all men" réside dans le fait que la plupart des hommes ne sont pas entraînés a réagir calmement et proportionnellement face a l’injustice flagrante qu’est d’être accusé a tord, donc ils s’énervent et passe pour des cons ou se taisent.
#2.12
Voilà les possibilités à l'origine du taux de suicide que tu cites : "manifestations diverses, addictions, comportements à risque, négligence de soins, problèmes relationnels, on peut aussi parler de troubles de la personnalité..."
Moi, je te parles du comportement toxique des hommes envers les femmes, , du sexisme, du machisme. qui entraîne un taux de feminicide important. Regarde la dernière actu sordide en date.
#2.8
Tu auras beau faire tous les cours d'éducation civique que tu veux, ton monde idéal n'existe pas.
Historique des modifications :
Posté le 12/07/2024 à 09h32
Evidemment le fait que les filles/femmes soient les principales responsables de ce genre de pratiques n'a STRICTEMENT rien à avoir avoir le fait que dans notre société la pornographie et la vision de la femme objet soient passées par la.
Tu auras beau faire tous les cours d'éducation civique que tu veux, ton monde idéal n'existe pas.
#2.11
Les viols ont toujours existaient (y a qu'a voir la liste des viols en tant de guerre) et les filles/femmes en ont toujours été les principales victimes. C'est aussi la faute de la pornographie ?
Les réalisateurs/artistes, dont la liste s'allonge régulièrement, qui ont violé des gamines à peine ado y quelques décennies, c'est aussi la faute de la pornographie ?
Je t'accorde que la pornographie a très certainement accentué le phénomène, mais le problème vient de notre société. La pornographie reflète juste notre société, elle ne créée rien. Notre monde a toujours été patriarcal dans sa globalité et le problème vient de là. Si on vivait dans un monde égalitaire, la pornographie telle qu'on la connait avec l'image de la domination de la femme par l'homme ne pourrait exister car ça ferait scandale, mais on ne vit pas dans un monde égalitaire. Un exemple tout con, en France en plus d'un demi siècle on a eu 2 premières ministres et 0 présidente. Et c'est pareil dans quasiment tous les pays (les Thatcher et Merkel sont des exceptions même si depuis le Royaume-uni à eu 2 premières ministres).
Tu peux rejeter le problème sur la pornographie mais même si demain la pornographie disparaissait, les problèmes du genre décrit dans l'article, les viols, les comportements déplacés envers les femmes, etc continueraient de se produire.
#3
#3.1
Il faudrait surtout faire fermer tous ces sites qui permettent de créer ces fausses images et poursuivre les propriétaires, ça serait plus efficace que de condamner les utilisateurs. Ca parait quand même fou qu'aucune loi existante ne permette de fermer ces sites.
#3.3
Sans oublier du côté européen que c'est aussi une potentielle violation du RGPD puisqu'il y a traitement de données personnelles biométriques non consenties.
#3.2
#3.4
genre Dall.e & co, qu'il y ait un DRM prouvant leur génération.
#3.5