Les deepfakes pornographiques de Taylor Swift relancent le débat sur la régulation du phénomène

Alors que des deepfakes pornographiques représentant la super star américaine ont envahi les réseaux sociaux, des commentateurs se demandent si son poids économique et culturel permettrait d’accélérer la régulation du phénomène.

Depuis quelques jours, de fausses images pornographiques de Taylor Swift, créées grâce à des modèles génératifs, enflamment internet. « Taylor Swift AI » a très rapidement grimpé parmi les sujets les plus discutés sur X, que ce soit pour en accroître la diffusion ou la critiquer (ce qui, dans la logique algorithmique, peut aussi faire grimper la visibilité d’un contenu). Initialement publiés sur Telegram et 4chan puis diffusées ailleurs en ligne, certains deepfakes ont eu le temps d’être vus 47 millions de fois avant d’être supprimés de X (anciennement Twitter).

Utiliser des images à caractère sexuel, y compris des montages, pour humilier des femmes, n’a rien de neuf. Le faire à l’aide de modèles génératifs non plus, même si cela prend une nouvelle ampleur depuis la sortie d’outils grand public très simples à utiliser – l’agence américaine Associated Press évoque une « pandémie » de deepfakes.

La particularité de ce cas-ci, en revanche, tient dans la personne visée. L’une des pop star les plus influentes de l’époque, Taylor Swift, est aussi, du haut de ses 34 ans, l’une des artistes et femme d’affaires bénéficiant du soutien d’une communauté ultra-motivée de fans, les Swifties. Si elle n’a pas communiqué officiellement, le Daily Mail déclare qu’elle est « furieuse » d’être ainsi attaquée.

Les Swifties, eux, se sont rapidement organisés pour signaler les contenus problématiques en même temps qu’ils cherchaient à noyer les résultats des recherches de publications, pour rendre les deepfakes plus complexes à trouver. Dépassé, X a fini par supprimer les résultats de recherche liés à « Taylor Swift » et « Taylor Swift AI » (le hashtag #protecttaylorswift reste accessible).

• Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »

Les deepfakes pornographiques, une problématique mal prise en compte

« Nos équipes travaillent activement à supprimer toutes les images identifiées et à prendre les mesures adéquates contre les comptes responsables de leur publication », a indiqué dans un tweet l’équipe sécurité de X. Largement décimée après l’arrivée d’Elon Musk à la tête de l’entreprise, elle a précisé dans le même message que la nudité non consensuelle était strictement interdite sur le réseau. Malgré ces déclarations, Le Monde relevait le 26 janvier qu’il restait possible de consulter les images incriminées.

Les publications et leurs réactions ont fait réagir toute une partie de la classe politique américaine, et ce jusqu’à la Maison Blanche. En effet, aux États-Unis comme ailleurs, les deepfakes sont fréquemment utilisés pour humilier. S’il est difficile de trouver des chiffres récents, cette étude de 2017 constatait que 90 % des personnes dont des images à caractère sexuel ont été partagées en ligne sans leur consentement sont des femmes. En 2019, ce rapport de Deeptrace établissait en 2019 que 96 % des deepfakes créés étaient pornographiques (la totalité de ces derniers représentait des femmes).

Or, si certains États américains ont des lois sur la question, il n’existe à l’heure actuelle aucun texte au niveau fédéral – une proposition a cela dit été déposée à l’été 2023 par le député démocrate Joseph Morelle. Face à la presse, la porte-parole du gouvernement américain, Karine Jean-Pierre, a par ailleurs déclaré que l’exécutif américain était « alarmé » par le phénomène, et précisé : « trop souvent, nous savons que le manque d’application des règles a un impact disproportionné sur les femmes et les filles, qui sont les principales cibles du harcèlement en ligne ».

Selon un récent rapport d’Alliance for universal digital rights et Equality Now, les cadres législatifs laissent à désirer un peu partout sur la planète. Auprès d’AP, l’activiste Sophie Compton, co-autrice de la campagne #MyImageMyChoice, estime que « l’absence de réponse à ce problème est due à la misogynie et à l'absence de considération des expériences vécues par les femmes. L'absence de réponse significative peut être imputée au déploiement de nouvelles technologies, mais les femmes vivent ces violations comme une forme d’agression sexuelle, ce qui n’a rien de neuf. » Un constat qui correspond à celui formulé par les expertes françaises que nous interrogions en septembre sur le sujet.

• • Deepfakes pornographiques : quand l’intelligence artificielle sert à humilier

• • Francesca Mani, l’activiste de 15 ans qui lutte contre les deepfakes pornographiques

Le poids économique de Swift, moteur d’évolution ?

Comme pour d’autres célébrités, le cyberharcèlement n’est pas une nouveauté dans le parcours de Taylor Swift, que celui-ci soit orienté contre elle ou contre ses proches. Alors qu’elle re-publiait un titre vieux de 10 ans, elle a ainsi dû demander à ses fans de cesser de s’attaquer à son ex de l’époque.

Si elle est relativement moins suivie en France qu’ailleurs, Taylor Swift est un phénomène économique et culturel à part entière (des cours d’université sont même dispensés à son propos), avec de réels impacts sur l’industrie numérique. En 2014, elle avait ainsi retiré l’intégralité de son catalogue de Spotify, accusé de sous-rémunérer les artistes, puis fait plier Apple Music l’année suivante. En 2017, de nouveaux accords la font revenir sur la plateforme suédoise, où elle est devenue l’artiste la plus streamée en 2023 et est la deuxième personne la plus écoutée, toutes périodes confondues (après The Weeknd).

Dans un autre genre, la cacophonie qui avait entouré la vente des billets pour the Eras Tour en novembre 2022 avait aussi relancé les débats sur la position de quasi-monopole de Ticketmaster (propriété de Live Nation Entertainment). De nombreux fans avaient relevé des bugs et des prix envolés en flèche, au point que les responsables de la plateforme ont eu à s’expliquer devant le Congrès américain.

Devenue milliardaire il y a quelques mois grâce au fruit de sa tournée « The Eras Tour », du film qui l’accompagne et des réenregistrements de ses six premiers albums, Swift est donc perçue par certains comme la personne par laquelle une évolution pourrait avoir lieu en matière de gestion des deepfakes, grâce à la force de sa communauté de fans.

D’autant qu’il y a quelques semaines, la voix de la chanteuse a aussi été détournée à l’aide de l’IA pour créer une arnaque, sous la forme d’une fausse publicité pour… Le Creuset.