Deepfakes pornographiques : les défis à relever pour enrayer le phénomène
Indice n°2 : le consentement c'est important
Les deepfakes pornographiques sont en nette augmentation depuis la sortie d’outils d’intelligence artificielle générative. Next décortique la réponse des principaux acteurs à même d'enrayer le phénomène.
Dans un précédent article, nous revenions sur les enjeux soulevés par les deepfakes pornographiques, qui constituent l'immense majorité des images créées à l'aide d'intelligence artificielle générative. Loin d'être anecdotique, le sujet occupe toute une variété d'acteurs. Voyons quelles sont leurs réactions :
Quelle est la réaction des géants numériques ?
Tout dépend desquels on parle. Certains sont relativement réactifs, ou a minima coopératifs, avec les forces de l'ordre et les associations spécialisées qui prennent le rôle de « signaleurs de confiance ». La modération efficace de ces contenus reste un défi technique, ce qui a pu conduire à des actions de modération grossière, comme dans le cas de la diffusion de deepfakes de Taylor Swift sur X – devant l'émoi de sa communauté de fans, le réseau a surtout bloqué l'accès à certains hashtags précis, une limitation facilement contournable pour quelqu'un de motivé.
Commentaires (7)
Le 09/09/2024 à 17h44
Je ne peux m'empêcher de faire le lien avec une sexualisation permanente de la société (pubs, films, etc) en contradiction avec l'objectif d'un plus grand respect et parité.
En tout cas très probablement une grande majorité d'hommes acteurs et de femmes victimes. Comme le revenge porn et autres. Les précédents articles le soulignaient bien.
Par rapport à "74 % déclarent ne pas se sentir coupables". Oui, bon ben pour le coup coupable n'est peut-être pas le bon adjectif. On peut être gêné, outré, choqué, blasé, mais ne pas se sentir coupable d'un méfait/délit/crime? qu'on n'a pas commis.
Entre ce genre d'outils et les réseaux sociaux, être un ado n'est vraiment pas aisé. Jugé et comparé en permanence, jamais à l'abri en dehors de l'école comme tout continue en ligne.
Les gens devraient être plus compréhensibles envers les jeunes et leurs difficultés, bien différentes de celles qu'eux-mêmes ont parfois vécu.
Le 09/09/2024 à 21h14
Le 10/09/2024 à 09h01
Si quelqu'un fait un deepfake et me les partage, je réagirais différemment selon le contexte (privé/public), l'objectif (humour/caricature/moquerie/méchanceté), et la nature (meme/montage inoffensif/porno).
Dans le cas du porno, si c'est dans le but de rabaisser quelqu'un (sujet de l'article), je serais a priori contre et ne me sentirais pas coupable car je n'aurais pas participé ni à sa création ni à sa diffusion. Énervé, blasé, choqué, seront plus probables.
Mettre la tête d'un collègue sur Trump et le partager dans un contexte d'humour à un autre collègue sur Teams ne me semble pas plus nuire que les blagues ou memes qu'on fait actuellement. Tant que c'est bon enfant...
Le 10/09/2024 à 10h15
Si tu penses que tu ne dois en aucun cas lui montrer, c'est coupable.
Le 10/09/2024 à 22h12
Mais je vois l'idée. C'est effectivement simple et efficace.
Le 10/09/2024 à 22h43
J'ai retrouvé le site de l'étude en question et il y a un top 4 des raisons qu'ont donné les personnes qui ne se sentent pas coupable et normalisent le fait de consommer des contenus de deepfake pornographique :
* 36% disent : je sais que ce n'est pas la personne
* 30% disent : je ne pense pas que cela fasse de mal à qui que ce soit tant que c'est seulement pour mon usage personnel
* 29% disent : les deepfakes porno sont simplement une version plus ambitieuse de l'imagination sexuelle
* 28% disent qu'ils ne voient pas la différence avec la pornographique ordinaire
Le 11/09/2024 à 09h52
Merci pour les infos de la source ! Assez ahuri des réponses...
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?