Le brief du 12 décembre 2023

Publié dans IA et algorithmesSociété numérique

19

La journaliste Salomé Saqué appelle à la régulation des deepfakes pornographiques

illustration des deepfake pornographiques

Journaliste pour Blast!, autrice de Sois jeune et tais-toi : Réponse à ceux qui critiquent la jeunesse, Salomé Saqué a été visée pour la seconde fois par du deepfake pornographique.

Elle a pris le parti d’en parler publiquement, sur ses réseaux sociaux et auprès du média Fraiches, tant pour sensibiliser au problème que pour appeler à une régulation du phénomène.

Comme nous l’expliquions dans une enquête parue en septembre, le deepfake pornographique est un outil de cyberharcèlement dont l’usage s’est grandement simplifié par l’expansion des modèles d’intelligence artificielle générative. 
Il est très principalement utilisé pour attaquer et humilier des femmes.

Depuis cet été, le projet de loi pour sécuriser et réguler le numérique contient des mesures ciblant spécifiquement le deepfake représentant une personne sans son consentement, et son pendant pornographique.

19

Tiens, en parlant de ça :

#Flock fait son cinéma

Huahu ahu ouin ouin ouiiin... Vous l'avez ?

13:37 Flock 15

Le fichier des empreintes digitales sera interconnecté avec huit autres fichiers

FAED y verse

17:24 DroitSécu 6
Les logos de Facebook et Meta dans des carrés en 3D sur un fond grisé dégradé

Le ciblage publicitaire ne peut pas utiliser des données personnelles récupérées ailleurs

Schrems vs Meta, encore et encore

16:53 DroitSocials 8
next n'a pas de brief le week-end

Le Brief ne travaille pas le week-end.
C'est dur, mais c'est comme ça.
Allez donc dans une forêt lointaine,
Éloignez-vous de ce clavier pour une fois !

19

Fermer

Commentaires (19)


SebGF Abonné
Le 12/12/2023 à 07h 21
Pourquoi une régulation spécifique ? Cela ne tombe-t-il pas dans la violation du droit à l'image et de la diffamation ?
consommateurnumérique Abonné
Le 12/12/2023 à 07h 41
Si le deepfake est assimilé à une forme de caricature, je suis d'accord. Mais je crois comprendre que l'objet du deepfake est de rendre réaliste une photo, avec toutes conséquences possibles.
fdorin Abonné
Le 12/12/2023 à 08h 21
Sur le principe, je suis d'accord avec toi. Mais c'est toujours soumis à "interprétation" :
- le droit à l'image est "particulier" quand on est une personnalité publique ;
- la diffamation, il faut la prouver.

Je pense que l'idée, c'est de rendre le deepfake pornographique illégal de base. Le rendre "manifestement illicite" par la loi.
Letter Abonné
Le 12/12/2023 à 09h 57
Je suis assez d'accord qu'il n'y a pas besoin de nouvelle loi. Mais potentiellement une nouvelle peine plus lourde que le simple droit à l'image. Aligner cela sur les peines liées au chantage serait plus adapté.
Modifié le 12/12/2023 à 09h57
anagrys Abonné
Le 12/12/2023 à 09h 59
Perso, je trouve que ça ressemble effectivement furieusement à de la diffamation : "affirmer un fait qui porte atteinte à la considération ou à l'honneur d'une personne". Voir ici pour l'ensemble des détails : https://www.service-public.fr/particuliers/vosdroits/F32079
consommateurnumérique Abonné
Le 12/12/2023 à 10h 19

anagrys

Perso, je trouve que ça ressemble effectivement furieusement à de la diffamation : "affirmer un fait qui porte atteinte à la considération ou à l'honneur d'une personne". Voir ici pour l'ensemble des détails : https://www.service-public.fr/particuliers/vosdroits/F32079
Le deepfake n'est pas seulement une atteinte à la dignité, à l'honneur d'une personne dans des circonstances précises. Le deepfake est un phénomène de société global qui a des conséquences sociales sur la vie en société, sur les interactions entre les gens, les comportements en général.

Le deepfake peut servir à intimité un dirigeant ou une dirigeante. Comme dit Salomé Saqué, il lui est arrivé de renoncer à traiter un sujet journalistique sensible dans le cadre de son travail parce qu'elle ne se sentait pas d'affronter une vague de cyberharcèlement. Le deepfake peut servir à humilier, à intimider pour x raisons et pas forcément dans l'objectif de porter atteinte à l'honneur. Bref, les conséquences du deepfake sont beaucoup plus larges que la diffamation et beaucoup plus néfastes qu'une simple affaire entre personnes dans un contexte circonscri.
Modifié le 12/12/2023 à 10h22
anagrys Abonné
Le 12/12/2023 à 10h 38

consommateurnumérique

Le deepfake n'est pas seulement une atteinte à la dignité, à l'honneur d'une personne dans des circonstances précises. Le deepfake est un phénomène de société global qui a des conséquences sociales sur la vie en société, sur les interactions entre les gens, les comportements en général.

Le deepfake peut servir à intimité un dirigeant ou une dirigeante. Comme dit Salomé Saqué, il lui est arrivé de renoncer à traiter un sujet journalistique sensible dans le cadre de son travail parce qu'elle ne se sentait pas d'affronter une vague de cyberharcèlement. Le deepfake peut servir à humilier, à intimider pour x raisons et pas forcément dans l'objectif de porter atteinte à l'honneur. Bref, les conséquences du deepfake sont beaucoup plus larges que la diffamation et beaucoup plus néfastes qu'une simple affaire entre personnes dans un contexte circonscri.
La question que je me pose est : est-ce que le phénomène n'est pas déjà pénalisé dans la loi ? J'entends ton argument sur le cyberharcèlement, je suis d'accord avec le fait que les réseaux sociaux rendent plus faciles et donnent une impression d'impunité pour des comportements toxiques, amplifiés par l'effet de masse.

Sur ce sujet, comme sur le sujet de la divulgation de données personnelles (doxxing) ou sur le fait que certaines personnes doivent vivre sous protection policière parce-qu'ils ont dit ou fait une chose qui n'a pas plu à certains et qu'une meute s'est montée contre eux, pour tout ça, il me semble que la loi existe déjà. Elle nécessite peut-être d'être revue pour simplifier les procédures, mais elle est là et ne demande qu'à être appliquée. Pour référence, c'est la loi de 1881 dans sa version actuelle - à lire ici : https://www.legifrance.gouv.fr/loda/id/LEGITEXT000006070722

Après, c'est toujours plus simple de demander une nouvelle loi, et c'est toujours plus facile pour un gouvernement de dire qu'il va faire une nouvelle loi plutôt que dire qu'il va donner à la Justice les moyens de faire correctement son travail...
dematbreizh Abonné
Le 13/12/2023 à 10h 34

consommateurnumérique

Le deepfake n'est pas seulement une atteinte à la dignité, à l'honneur d'une personne dans des circonstances précises. Le deepfake est un phénomène de société global qui a des conséquences sociales sur la vie en société, sur les interactions entre les gens, les comportements en général.

Le deepfake peut servir à intimité un dirigeant ou une dirigeante. Comme dit Salomé Saqué, il lui est arrivé de renoncer à traiter un sujet journalistique sensible dans le cadre de son travail parce qu'elle ne se sentait pas d'affronter une vague de cyberharcèlement. Le deepfake peut servir à humilier, à intimider pour x raisons et pas forcément dans l'objectif de porter atteinte à l'honneur. Bref, les conséquences du deepfake sont beaucoup plus larges que la diffamation et beaucoup plus néfastes qu'une simple affaire entre personnes dans un contexte circonscri.
oui, il "peut servir". là je suis d'accord avec toi.
En revanche, le définir dans l'article comme "le deepfake pornographique est un outil de cyberharcèlement" est extrêmement réducteur.

C'est tout aussi mauvais que d'interdire l'accès aux sites pornos au mineurs dans une loi ciblant la violence faite aux femmes...
consommateurnumérique Abonné
Le 12/12/2023 à 08h 18
La réponse judiciaire au cyberharcèlement n'est qu'un outil de dernier recours, surtout si on souhaite que les outils numériques soient des moyens d'émancipation, pas seulement de contrôle.
Modifié le 12/12/2023 à 08h20
consommateurnumérique Abonné
Le 12/12/2023 à 08h 18
…
Modifié le 12/12/2023 à 08h18
Fabimaru Abonné
Le 12/12/2023 à 08h 36
Lien vers son intervention:

https://www.instagram.com/reel/C0uMf0NMWYU/
(je ne sais pas si il y a un autre canal de diffusion qu'Instagram)
Modifié le 12/12/2023 à 08h37
Winderly Abonné
Le 12/12/2023 à 09h 27
Chouette explication en un dessin.
127.0.0.1
Le 12/12/2023 à 15h 48
réguler = interdire, supprimer, pénaliser ?

Bref, réguler les fakes (news, photos, vidéos) ca va demander énormément de ressources. Est-on collectivement d'accord pour avoir des bots qui analysent des photos/vidéos à la recherche de visages connus ?

Il me semblait que non...
Modifié le 12/12/2023 à 15h48
OB
Le 12/12/2023 à 20h 20
Et puis surtout.... quoi ?
OK, le mieux qu'on pourra faire sera de supprimer la vidéo/photo , que le "créateur" régénèrera aussitôt après (c'est pas comme si c'était travaillé à la main).
Comme il sera localisé dans un autre pays, si il a plus de 2 neurones, ben il sera jamais retrouvé.

La loi à mon avis peux servir pour incriminer une personne qui serait , en France, chopée en train de faire ça (et comme signalé c'est déjà illégal) mais ça peux pas résoudre le problème global.
Cqoicebordel Abonné
Le 12/12/2023 à 19h 25
Je suis circonspect sur ce sujet : est-ce qu'elle veut interdire le deepfake pornographique ?

D'une part, évidemment, la diffamation, les menaces, l'humiliation, tout ça fait partie du harcèlement et ça doit être puni sévèrement.

Mais est-ce que faire un deepfake porno est, en soit, un crime ? C'est une vraie question que je me pose. Est-ce que, si c'est indiqué que c'est un deepfake, et que donc, y'a aucun doute que la personne originale n’apparaît pas pour de vrai, c'est illicite ?

Dans le cas de Mme Saqué, je sais qu'elle a été taguée sur les posts en question, ce qui est clairement une forme d'humiliation.

Mais je sais aussi qu'il y a des sites qui s'annoncent comme contenant que des fakes, contenant que des montages sur 'toshop, et… j'ai du mal à me faire un avis moral sur la question.
Lyzz Abonné
Le 13/12/2023 à 00h 35
Tu sais que certains montages dégradants sont aussi interdits ? Même si c’est évident que c’est un montage, si ça ternit l’image du personne c’est répréhensible.
Modifié le 13/12/2023 à 00h35
Cqoicebordel Abonné
Le 13/12/2023 à 01h 08

Lyzz

Tu sais que certains montages dégradants sont aussi interdits ? Même si c’est évident que c’est un montage, si ça ternit l’image du personne c’est répréhensible.
Il me semble qu'il faut que le but de nuire soit avéré : si c'est envoyé au patron/famille/etc. Mais je peux me tromper.

Mon questionnement part du principe que tout le monde a pu fantasmer sur quelqu'un d'autre, et l'imaginer dans des scènes pornos. Les plus artistiques ont pu dessiner ces scènes.
Du coup, où se situe la limite ? Aux pensées ? Aux dessins ? Aux montages toshop ? Aux deepfakes ?
Je pose la question sérieusement hein, j'essaye pas de troller. J'essaye juste de comprendre où se situe la limite morale, et comment la définir fonctionnellement.
Il pourrait sembler acceptable de mettre une barrière entre le dessin et le montage toshop, mais j'essaye de comprendre pourquoi. Et si c'est le cas, est-ce que le montage fait avec des ciseaux et un tube de colle est ok ?

Dit autrement, je peux trouver des arguments pour et contre chaque étapes, de la pensée aux deepfakes. Du coup, je sais vraiment pas.
dematbreizh Abonné
Le 13/12/2023 à 10h 35

Lyzz

Tu sais que certains montages dégradants sont aussi interdits ? Même si c’est évident que c’est un montage, si ça ternit l’image du personne c’est répréhensible.
Donc rien de spécifique aux deepfakes. Ca fait 20 ans que les fakes existent, même en vidéo.
Lyzz Abonné
Le 13/12/2023 à 11h 14

dematbreizh

Donc rien de spécifique aux deepfakes. Ca fait 20 ans que les fakes existent, même en vidéo.
J'ai jamais dit que c'était spécifique, tout le contraire. Je dis que ça existe déjà et que c'est déjà répréhensible. cqoicebordel a l'air de sérieusement en douter donc je lui rappelle. Même un dessin, si c'est dégradant c'est répréhensible. Que ce soit parce qu'il est discriminatoire, raciste, sexiste, porno, si c'est dégradant c'est une atteinte à la personne c'est répréhensible.