pinup frankenstein

« Made with AI » : des deepfakes volent les corps d’influenceuses, Meta ajoute une étiquette

"Faked with AI"

Avatar de l'auteur
Jean-Marc Manach

Publié dans

IA et algorithmesRéseaux sociaux

10/04/2024 4 minutes
10

pinup frankenstein

Alors que Meta vient d'annoncer l'ajout d' « étiquettes contextuelles » sur les contenus « Made in IA », des escrocs ont commencé à voler les vidéos d'influenceuses et travailleuses du sexe, pour les cloner en y rajoutant des visages générés par des IA.

404Media a découvert des comptes Instagram qui volent les vidéos d'influenceuses et travailleuses du sexe, avant de les cloner en substituant leurs visages par des deepfakes générés par des intelligences artificielles, afin de pouvoir monétiser les contenus dérobés.

Vrais corps et décors, faux visages

Certains comptes auraient ainsi accumulé « des centaines de milliers de followers et des millions de vues » en utilisant « presque exclusivement » du contenu volé, tout en renvoyant à des profils payants (de 5 à 20 dollars par mois). 404Media a aussi trouvé plusieurs tutos sur YouTube expliquant comment procéder.

Deux exemples de DeepFakes générés à partir de vraies vidéos
404Media & Instagram

De quoi pouvoir constituer, à peu de frais, un volume important de contenus d'autant plus « crédibles » que les corps sont humains, les décors réels, et que seuls les visages sont générés par IA. Et a priori plus difficiles à identifier comme ayant été générés par des IA, contrairement aux « influenceuses virtuelles » entièrement générées de façon « artificielle ».

Meta va ajouter un « made with AI »

La suite est réservée à nos abonnés.

Déjà abonné ? Se connecter

Abonnez-vous

Écrit par Jean-Marc Manach

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Vrais corps et décors, faux visages

Meta va ajouter un « made with AI »

Meta, les étiquettes contextuelles et la liberté d’expression

IA ou humain, la règle est la même

Fermer

Commentaires (10)


Winderly Abonné
Le 10/04/2024 à 12h 21
C'est parti, tout est potentiellement probablement faux.

Vive le progrès. :transpi:
fred42 Abonné
Le 10/04/2024 à 12h 35
C'est pas faux. :D
h0m3r Abonné
Le 10/04/2024 à 15h 19

fred42

C'est pas faux. :D
C'est "Progrès" que tu ne comprends pas ?
fdorin Abonné
Le 10/04/2024 à 16h 01

fred42

C'est pas faux. :D
Demandons à Arthur! Il a participé à une table ronde sur l'usage de l'IA dans le cinéma (véridique ^^)
swiper Abonné
Le 10/04/2024 à 15h 42
J'ai pas compris, ce qui est faux c'est les visages ou le corps ?
/Je suis déjà loiiiiin :byebye:
Ossito
Le 10/04/2024 à 15h 56

swiper

J'ai pas compris, ce qui est faux c'est les visages ou le corps ?
/Je suis déjà loiiiiin :byebye:
les deux mon capitaine :D
eglyn Abonné
Le 10/04/2024 à 17h 23

swiper

J'ai pas compris, ce qui est faux c'est les visages ou le corps ?
/Je suis déjà loiiiiin :byebye:
Simple: les corps sont faux pour de vrai, et les visages sont faux pour de faux :p
Patch Abonné
Le 11/04/2024 à 10h 40
C'était déjà du faux avant, maintenant ils font du faux avec du faux :D
fred42 Abonné
Le 10/04/2024 à 16h 41
des deepfakes volent les corps d’influenceuses


Ils n'allaient pas voler les têtes, il n'y a rien dedans. :fumer:
vince120 Abonné
Le 11/04/2024 à 11h 33
Sur le premier exemple, franchement, je me demande comment on détectera que le visage a été fait par IA et que c'est un simple filtre comme il en existe à la pelle pour "embellir" le visage.

Dans ce cas il y a en plus le vol d'image, certes mais quelqu'un qui utilise un filtre actif pour avoir l'air "manga-ifié" ou "maquillé" aura-t-il un tag "made by ia" ?