Avec les avancées continues dans ce domaine, les outils de détection des artefacts classiques (zones d'ombres, détourages approximatifs, etc.) ne sont pas suffisants pour détecter correctement des deepfakes, c'est-à-dire des vidéos ou le visage d'une personne a été remplacé par celui d'une autre.
Pour mener son combat, Facebook s'est associé à Partnership on AI, Microsoft et plusieurs universités : MIT, Oxford, Berkeley, Maryland, College Park, etc. Google est absent, mais le géant du Net a déjà lancé son propre combat sur les deepfakes audio il y a quelques mois.
Le but de l'opération est de proposer « une technologie que tout le monde pourrait utiliser pour mieux détecter quand une IA a été utilisée pour modifier une vidéo afin d'induire le spectateur en erreur ». Une vidéo explicative avec des exemples de deepfakes a été mise en ligne par ici.
Facebook a commandé des jeux de données réalisées par des acteurs rémunérés et « clairement consentants » sur l'utilisation qui sera faite de leur image (un effort louable de la part du réseau social…). Facebook prend les devants : « Aucune donnée d'utilisateurs Facebook ne sera utilisée ».
Au total, plus de 10 millions de dollars sont consacrés à ce projet, qui comprend notamment des prix pour encourager les participants.
Commentaires (15)
#1
youpi on va faire des IA qui detecte les erreurs dans les photo généré par des IA
comme ça les IA qui font des Fake seront d’avantage entrainée
et au final on aura des fake de plus haute qualité
(voir aussi les Réseaux antagonistes génératifs)
#2
C’est exactement ce que je pensais. Si j’ai accès au réseau de facebook qui détecte le deepfake et une base de donnée, je peut créer très facilement (ça reste relatif), effectivement par un réseau antagonistes, un réseau entraîné à tromper le réseau de facebook.
Sinon, ce genre de réseau ne va pas forcément créer des deepfake de meilleur qualité, il suffit parfois de modifications imperceptible à l’œil nu pour tromper un réseau de neurone. (exemple : un panda géant qui devient un vautours )
#3
l’exemple me rappelle trop scarface O_O
#4
A quand une app avec des template de photo de vacance pour faire sans blanc d’avoir une vie ?
#5
#6
Lilian Thuram n’aime pas ce message… 
" />
#7
Je lance le vaisselle chalenge chez moi pour ceux que ça intéresse. Je mets à disposition de la vaisselle sale pour que tout le monde puisse s’améliorer dans le nettoyage et l’identification des assiettes sales.
#8
Merci pour tes liens, je connaissais pas cette anecdote (même j’étais familié avec l’idée de valeurs aberrantes)
(grâce à google images) je suis tombé sur l’article associé vraiment passionnant (pour peut que l’on ai un intérêt prononcer pour l’IA)
#9
La semaine fut difficile ? Vous voulez en parler ?
#10
c’est le genre de phrase qui lu dans un autre contexte fait effectivement plus que moyen (pour ne pas dire autre chose)
#11
#12
Prépare les 10 millions, j’arrive !
#13
#14