Que faire face aux deepfakes pornographiques ?

Dans une tribune pour Teen Vogue, magazine états-unien dédié aux adolescentes, les spécialistes de l’intelligence artificielle Margaret Mitchell, Sasha Luccioni, Emily Witko et Bruna Trevelin, toutes employées par Hugging Face, prennent la plume pour s’adresser directement aux premiers concernés : les jeunes.

• Deepfakes pornographiques : quand l’intelligence artificielle sert à humilier

Outre expliquer les fondements technologiques qui ont permis la prolifération de ce type d’images trafiquées, elles proposent divers types de réaction : le partage d’information, d’abord.

Auprès des adultes, il s’agit de signaler l’existence de ces outils, pour que ceux-ci aident les plus jeunes à discuter et comprendre les notions de consentement et de responsabilité lors de la création d’image à caractère sexuel.

Entre jeunes aussi, les expertes appellent à discuter et faire connaître la problématique. « L'un des moyens les plus efficaces de perturber la normalisation des technologies nuisibles est de les qualifier pour ce qu'elles sont : inacceptables », écrivent-elles.

• Photos intimes, deepnudes : 13 femmes en colère s’organisent

Et de partager ensuite des outils concrets relatifs à la protection de la vie privée : si vous êtes visé ou visée par un deepfake pornographique, demandez à l’auteur de le supprimer, utilisez les outils de signalement des plateformes, demandez aux moteurs de recherche de les supprimer des résultats.

Les autrices signalent par ailleurs que l’intelligence artificielle peut aussi servir à se protéger contre ce type de publication problématique.

Citant les outils Glaze et Photoguard, elles sensibilisent les lectrices et lecteurs adolescents à la technique de l’empoisonnement de modèles génératifs.

• IA : Prompt injection, empoisonnement… de quoi on parle ?