Une étude publiée dans les Actes de l'Académie nationale des sciences des États-Unis suggère que les humains peuvent être floués par des visages synthétiques créés par des IA (« deepfakes ») et les considérer comme « plus fiables » que des visages de véritables êtres humains, rapporte The Scientific American.
« Nous avons constaté que non seulement les visages synthétiques sont très réalistes, mais qu'ils sont jugés plus fiables que les vrais visages », déclare Hany Farid, co-auteur de l'étude et professeur à l'Université de Californie à Berkeley. Le résultat soulève des inquiétudes quant au fait que « ces visages pourraient être très efficaces lorsqu'ils sont utilisés à des fins néfastes ».
Après avoir compilé 400 visages réels appariés à 400 versions synthétiques, les chercheurs ont demandé à 315 personnes de distinguer le vrai du faux parmi une sélection de 128 images. Un autre groupe de 219 participants a reçu une formation et des commentaires sur la façon de repérer les faux alors qu'ils essayaient de distinguer les visages. Enfin, un troisième groupe de 223 participants a évalué chacun une sélection de 128 images pour leur fiabilité sur une échelle de un (très peu fiable) à sept (très fiable).
Le premier groupe n'a pas fait mieux qu'un tirage au sort pour distinguer les vrais visages des faux, avec une précision moyenne de 48,2 %. Le deuxième groupe n'a pas montré d'amélioration spectaculaire, avec un taux de précision d'environ 59 %. Pire : le groupe chargé d'évaluer la fiabilité a attribué aux visages synthétiques une note moyenne légèrement supérieure de 4,82, contre 4,48 pour les personnes réelles.
Les chercheurs ne s'attendaient pas à ces résultats. « Nous pensions initialement que les visages synthétiques seraient moins fiables que les vrais visages », explique Sophie Nightingale, co-auteure de l'étude.
Commentaires (17)
#1
Etude: AI-synthesized faces are indistinguishable from real faces and more trustworthy
Je pense que c’est “trustworthy” au sens “digne de confiance” et pas “fiable”.
Bah, si notre jugement de valeur se base sur la ressemblance à un stéréotypes ca n’a rien d’étonnant qu’une IA soit meilleure à ce jeu qu’un humain.
#2
C’est inquiétant mais pas très étonnant… On juge un visage avec une tendance à dévaloriser ce qui sort de la “norme” que l’on s’est construit. Des oreilles trop grandes ? Un nez un peu crochu ? Un oeil plus grand que l’autre ? La confiance va baisser… Sauf si dans notre esprit, ça évoque un visage de confiance (proche, connaissance, personne qu’on admire…), puisque chacun a son propre référentiel.
Dans l’ensemble, la conception même du deepfake a pour objectif de créer ce qui se rapproche le plus de cette “norme” (dictée par la base de référence), elle va s’éloigner de ces profils plus atypiques (qu’elle va classer en échec…) et va de fait augmenter son taux de confiance global si les photos sont mélangées.
Ce qui serait intéressant, c’est de présenter les 2 groupes de photos bien distincts en disant par exemple que c’est le personnel d’une société d’après un site web. On demande ensuite en quelle société on accorde le plus de confiance.
Je suis sûr que les taux d’identification seraient bien meilleurs, car le groupe des deepfakes serait certainement trop “lisse” pour être vrai, comme les témoignages avec des photos trop “banque d’images”.
#3
Je ne sais pas trop comment décider qu’un visage est digne de confiance.
A la limite s’il y a des tatouages de gang, sinon … ?
#4
C’est quand on aura du porno deepfake réaliste qu’il faudra vraiment s’inquiéter, ca signifiera que le point de non retour est franchi.
#4.1
Depuis quand le porno doit être réaliste ?
#4.2
le doctorat de mon frangin consiste à améliorer tellement l’animation d’un visage 3D qu’il serait possible de se passer d’acteur en motion capture notamment pour les JV (ils ont des collab avec un grand éditeur par ex). j’ai pu voir ses premières modélisation et c’est assez impressionnant.
#5
Tu m’as compris, réaliste dans le sens où on ne saurait pas différencier un gonzo tourné avec de vraies gens d’un truc deep~fuck~fake.
Ça en mettra de la cochonne au chômage !
#6
On ne parle pas ici de signe distinctif mais d’expression faciale (sourire, sourcils, …)
#7
Cool, je vais ouvrir une agence de recrutement …
#8
Celles à jolie visage, comme il est plus facile d’agir sur sa silhouette.
#9
Oui, j’en ai absolument aucun doute, et à mon avis ca va encore s’améliorer très très vite.
Pour rester positif, je me dis qu’à un moment, l’effet secondaire de tout ca c’est que les gens vont devoir, contraints et forcés, reconnaître que la valeur la plus sûre et la moins susceptible de tromperie c’est l’interaction humaine directe dans le vrai monde….
#9.1
assez d’accord oui.
#10
Perso, sur les jeux AAA récents y a comme une dissonance entre le rendu, l’animation, la voix et l’attitude des personnages.
Plus le rendu et l’animation sont réalistes, plus le manque de synchro avec la voix et l’attitude est flagrant. Donc je préfère encore avoir un rendu/animation moins réaliste (bitmap/manga) qu’un truc trop réaliste mais qui “sonne” faux.
#10.1
l’idée c’est justement de lier la voix et l’animation du visage
#11
Pour le moment.
Aucun doute que ça va très (trop) vite s’améliorer
#12
La fameuse “uncanny valley” (si j’ai bien compris…).
#13
hmm… pas que. La “uncanny valley” c’est plutôt le sentiment de répulsion.
Là c’est une dissonance. Le rendu/animation (=langage corporel) est hyperréaliste mais il ne “colle” pas avec la voix/intonation du doubleur. Les deux sont bons, mais ca ne va pas ensemble.