Si l'on connaît depuis longtemps des vidéos modifiées par une intelligence artificielle pour changer la tête et/ou le discours d'une personne, il en est de même pour l'audio uniquement.

L'année dernière, une étude du Future of Humanity Institute pointait les possibles effets pervers de l'intelligence artificielle (notamment les deepfakes). Cette année, Google a lancé un concours pour trouver des contre-mesures aux deepfakes audio.

Le risque est bien présent puisqu'une société allemande en a fait les frais, comme le rapporte The Next Web. Des voleurs ont imité la voix du patron de l'entreprise pour appeler le directeur d'une filiale et lui demander le virement en urgence de 243 000 dollars à un fournisseur hongrois. 

Le dirigeant n'y a vu que du feu et pensait être en train de discuter avec son patron. Les voleurs ont tenté de demander un second virement, sans succès cette fois-ci. Les fonds ont ensuite été virés au Mexique et dans d'autres pays. Le nom de la société n'est pas précisé.

Un parfait exemple des risques liés aux deepfakes audio.