L’entreprise s’est associée à l’université du Michigan pour décortiquer les deepfakes et identifier leur provenance. On pourrait donc savoir à terme d’où viennent ces faux contenus, et potentiellement de qui.

Les deepfakes ne sont pour l’instant pas un réel problème pour Facebook, mais la situation pourrait évoluer n’importe quand. Il y a donc un enjeu stratégique à les reconnaître, même si la rétro-ingénierie suppose une analyse « après coup »

Cette association commence tout juste et constitue un travail de recherche sur le long cours. Il n’y a pas encore d’application concrète. Les pistes sont nombreuses et les personnes participant aux travaux devront plonger dans des contenus variés, incluant le plus souvent des fake news, mais également de la « pornographie non consentie », comprendre un contenu pornographique créé de toute pièce pour porter préjudice à une personne.

Ces recherches prennent appui sur des résultats précédemment obtenus par l’université du Michigan, plus particulièrement par le chercheur Vishal Asnani. Sous sa direction, l’université a été capable de reconnaître quel modèle d’IA avait été utilisé pour générer un deepfake.

Il y avait cependant une limitation : le modèle devait être connu. Récemment, Asnani est donc allé un cran plus loin avec son équipe en devenant capable d’identifier les traits architecturaux des modèles inconnus. Des traits nommés « hyperparamètres » et qui peuvent collectivement donner l’équivalent d’une empreinte digitale, cette dernière pouvant alors permettre de remonter à la source.

« Supposons qu’un acteur malveillant génère de nombreux deepfakes différents et les envoie sur différentes plateformes à différents utilisateurs. Si c’est un modèle que personne n’a jamais vu, il y a peu de chances que nous en ayons dit quelque chose par le passé. Maintenant, nous sommes capables de dire "Regardez, la photo envoyée ici, la photo envoyée là, elles proviennent du même modèle". Et si nous arrivons à saisir l’ordinateur, nous pourrons dire "Voici le coupable" ».

Attention cependant, car en dépit des annonces enthousiastes, il faut rappeler que la détection des deepfakes reste un problème délicat. L’année dernière, Facebook avait organisé un concours sur le thème. Le meilleur algorithme de reconnaissance n’avait obtenu qu'un taux de réussite de 65,18 %. Les chercheurs parlaient clairement de « problème non résolu ».