La journaliste Salomé Saqué appelle à la régulation des deepfakes pornographiques
Le 12 décembre 2023 à 06h53
2 min
IA et algorithmes
IA
Journaliste pour Blast!, autrice de Sois jeune et tais-toi : Réponse à ceux qui critiquent la jeunesse, Salomé Saqué a été visée pour la seconde fois par du deepfake pornographique.
Elle a pris le parti d’en parler publiquement, sur ses réseaux sociaux et auprès du média Fraiches, tant pour sensibiliser au problème que pour appeler à une régulation du phénomène.
Comme nous l’expliquions dans une enquête parue en septembre, le deepfake pornographique est un outil de cyberharcèlement dont l’usage s’est grandement simplifié par l’expansion des modèles d’intelligence artificielle générative. Il est très principalement utilisé pour attaquer et humilier des femmes.
Depuis cet été, le projet de loi pour sécuriser et réguler le numérique contient des mesures ciblant spécifiquement le deepfake représentant une personne sans son consentement, et son pendant pornographique.
- Deepfakes pornographiques : quand l’intelligence artificielle sert à humilier
- Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »
- En ligne, la misogynie utilisée pour saper la liberté d’expression
- La violence en ligne est un danger démocratique, alerte la vice-Première ministre néerlandaise
Le 12 décembre 2023 à 06h53
Commentaires (19)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 12/12/2023 à 07h21
Le 12/12/2023 à 07h41
Le 12/12/2023 à 08h21
- le droit à l'image est "particulier" quand on est une personnalité publique ;
- la diffamation, il faut la prouver.
Je pense que l'idée, c'est de rendre le deepfake pornographique illégal de base. Le rendre "manifestement illicite" par la loi.
Modifié le 12/12/2023 à 09h57
Le 12/12/2023 à 09h59
Modifié le 12/12/2023 à 10h22
Le deepfake peut servir à intimité un dirigeant ou une dirigeante. Comme dit Salomé Saqué, il lui est arrivé de renoncer à traiter un sujet journalistique sensible dans le cadre de son travail parce qu'elle ne se sentait pas d'affronter une vague de cyberharcèlement. Le deepfake peut servir à humilier, à intimider pour x raisons et pas forcément dans l'objectif de porter atteinte à l'honneur. Bref, les conséquences du deepfake sont beaucoup plus larges que la diffamation et beaucoup plus néfastes qu'une simple affaire entre personnes dans un contexte circonscri.
Le 12/12/2023 à 10h38
Sur ce sujet, comme sur le sujet de la divulgation de données personnelles (doxxing) ou sur le fait que certaines personnes doivent vivre sous protection policière parce-qu'ils ont dit ou fait une chose qui n'a pas plu à certains et qu'une meute s'est montée contre eux, pour tout ça, il me semble que la loi existe déjà. Elle nécessite peut-être d'être revue pour simplifier les procédures, mais elle est là et ne demande qu'à être appliquée. Pour référence, c'est la loi de 1881 dans sa version actuelle - à lire ici :
Après, c'est toujours plus simple de demander une nouvelle loi, et c'est toujours plus facile pour un gouvernement de dire qu'il va faire une nouvelle loi plutôt que dire qu'il va donner à la Justice les moyens de faire correctement son travail...
Le 13/12/2023 à 10h34
En revanche, le définir dans l'article comme "le deepfake pornographique est un outil de cyberharcèlement" est extrêmement réducteur.
C'est tout aussi mauvais que d'interdire l'accès aux sites pornos au mineurs dans une loi ciblant la violence faite aux femmes...
Modifié le 12/12/2023 à 08h20
Modifié le 12/12/2023 à 08h18
Modifié le 12/12/2023 à 08h37
https://www.instagram.com/reel/C0uMf0NMWYU/
(je ne sais pas si il y a un autre canal de diffusion qu'Instagram)
Le 12/12/2023 à 09h27
Modifié le 12/12/2023 à 15h48
Bref, réguler les fakes (news, photos, vidéos) ca va demander énormément de ressources. Est-on collectivement d'accord pour avoir des bots qui analysent des photos/vidéos à la recherche de visages connus ?
Il me semblait que non...
Le 12/12/2023 à 20h20
OK, le mieux qu'on pourra faire sera de supprimer la vidéo/photo , que le "créateur" régénèrera aussitôt après (c'est pas comme si c'était travaillé à la main).
Comme il sera localisé dans un autre pays, si il a plus de 2 neurones, ben il sera jamais retrouvé.
La loi à mon avis peux servir pour incriminer une personne qui serait , en France, chopée en train de faire ça (et comme signalé c'est déjà illégal) mais ça peux pas résoudre le problème global.
Le 12/12/2023 à 19h25
D'une part, évidemment, la diffamation, les menaces, l'humiliation, tout ça fait partie du harcèlement et ça doit être puni sévèrement.
Mais est-ce que faire un deepfake porno est, en soit, un crime ? C'est une vraie question que je me pose. Est-ce que, si c'est indiqué que c'est un deepfake, et que donc, y'a aucun doute que la personne originale n’apparaît pas pour de vrai, c'est illicite ?
Dans le cas de Mme Saqué, je sais qu'elle a été taguée sur les posts en question, ce qui est clairement une forme d'humiliation.
Mais je sais aussi qu'il y a des sites qui s'annoncent comme contenant que des fakes, contenant que des montages sur 'toshop, et… j'ai du mal à me faire un avis moral sur la question.
Modifié le 13/12/2023 à 00h35
Le 13/12/2023 à 01h08
Mon questionnement part du principe que tout le monde a pu fantasmer sur quelqu'un d'autre, et l'imaginer dans des scènes pornos. Les plus artistiques ont pu dessiner ces scènes.
Du coup, où se situe la limite ? Aux pensées ? Aux dessins ? Aux montages toshop ? Aux deepfakes ?
Je pose la question sérieusement hein, j'essaye pas de troller. J'essaye juste de comprendre où se situe la limite morale, et comment la définir fonctionnellement.
Il pourrait sembler acceptable de mettre une barrière entre le dessin et le montage toshop, mais j'essaye de comprendre pourquoi. Et si c'est le cas, est-ce que le montage fait avec des ciseaux et un tube de colle est ok ?
Dit autrement, je peux trouver des arguments pour et contre chaque étapes, de la pensée aux deepfakes. Du coup, je sais vraiment pas.
Le 13/12/2023 à 10h35
Le 13/12/2023 à 11h14