« Amazon apprend à Alexa à imiter la voix de n'importe qui, mort ou vivant, à partir d'un enregistrement d'une minute seulement de cette voix », rapporte Business Insider.
Rohit Prasad, le responsable scientifique d'Alexa, par ailleurs vice-président senior d'Amazon, a en effet montré mercredi, lors de la conférence re:Mars d'Amazon à Las Vegas, une vidéo où un garçon demande à Alexa si sa grand-mère peut lui lire le Magicien d'Oz.
Prasad a expliqué que « la capacité d'Alexa à se faire passer pour des voix familières est particulièrement cruciale maintenant, car de nombreuses personnes ont perdu des êtres chers à cause du COVID-19 : bien que l'IA ne puisse pas éliminer la douleur de cette perte, elle peut certainement prolonger leurs souvenirs ».
Amazon n'est pas la seule entreprise à développer une technologie capable d'imiter la voix humaine, relève Business Insider. Le mois dernier, le fabricant de jouets japonais Takara Tomy a en effet lancé un appareil en forme d'œuf appelé Coemo qui copie les voix des adultes et les utilise pour lire des histoires aux enfants.
L'expérience d'Amazon rappelle aussi celle de Hereafter AI, une startup qui a conçu un chatbot conversationnel qui « préserve les souvenirs et les pensées de personnes réelles », même décédées, note voicebot.ai.
Cependant, nombreux sont ceux qui semblent effrayés sur Twitter par cette capacité à usurper une identité, et anticipent l'utilisation que pourraient en faire délinquants et criminels, relève par ailleurs Business Insider.
Commentaires (62)
#1
C’est juste horrible comme torture, y a rien de pire pour ne pas réussir à faire son deuil, quelle idée pourrie…
#2
Quelle horreur…
#3
#4
ouai refaire parler adolf ou n’importe quel autre meurtrier/dictateur/personne mauvaise, quelle bonne idée pour les victimes …
#5
L’horreur, déja sur la psychologie dans le cadre d’un deuil, mais surtout dans un cadre frauduleux couplé au deepfake, on va pouvoir faire dire n’importe quoi à n’importe qui.
Ils devraient commencer par faire des démos outrancières en utilisant Bezos Zuckerberg and co, ça leur ferait pas faire machine arrière mais au moins ils pourront pas faire les innoncents quand leur tech servira à de mauvaises choses
#6
Plus qu’à la mettre dans un robot humanoïde genre Ameca, vendre une prestation sur-mesure pour adapter l’apparence à la personne, et vous pourrez l’avoir chez vous pour toujours !
#6.1
Ouais. Ca change un peu de Médor empaillé près de la cheminée chez mamie.
Maintenant, c’est mamie qui sera empaillée.
Sortez-moi de là, par pitié.
#7
Mais puisque c’est pour soulager la douleur des victimes on vous dit.
Vous n’avez pas de coeur pour vous y opposer, bande de salopards. Des victimes qui ont bobo dans leur petit coeur, on vous dit !
#8
#9
L’horreur est humaine !
Est-ce que les clients béats de ce GAFAM avaient imaginés ce qu’ils financeraient ?
#10
Et demain, Zelensky demandera accès à la technologie en soutien aux mères ukrainiennes qui ont perdu un enfant…
==> Je sors
#11
C’est d’un glauque…
“Be right back” (S2E1 de Black Mirror) est un épisode de science-fiction, pas un mode d’emploi !
#12
Entre ça et faire empailler son animal de compagnie, mon cœur balance…
#13
Business as usual…
#14
Les deux mon capitaine. Faire aboyer ton caniche mort, ca n’a pas de prix.
Ou faire parler sa grand mère morte qui s’adresse à son caniche mort qui lui répond en aboyant.
#15
Au-moins en France il n’y a pas besoin d’Amazon pour faire parler les morts
On a déjà
#16
Je pense que l’on à pas envie d’entre encore Manuel Valls.
#17
quelle horreur
#18
Je pense qu’il y a un bug chez NXi : cet article prévu pour le 1er avril sort aujourd’hui par erreur… 😅😜
…
Non ? 😔
#19
Il n’y a plus qu’entrainer une IA de son vivant et on pourra discuter avec son parent mort via alexa.
Ca me fait penser à la série Upload (sur Prime video) que j’ai vu il y a peu.
En gros le synopsys c’est : juste avant de mourir on télécharge votre subconscient pour vous “uploader” sur un serveur. Vous êtes donc pour l’éternité un avatar qui peut communiquer avec les mortels.
#20
Qu’est-ce qu’on s’amuse dans le domaine de la tech…
#21
Cantelou et Gerra en PLS
#22
Je suis le seul à trouver ce concept malsain ?
#22.1
Je vis justement un deuil actuellement… C’est une épreuve difficile et cette “innovation” me semble effrayante… Elle ne sert qu’à perpétuer le deuil… Oui c’est malsain, très malsain même…
#22.2
Non je te rassure.
On a bouffé la pomme, le trognon, la queue et les pépins. Et même l’asticot qui était dedans.
#23
J’espère qu’ils font cette déclaration juste pour faire parler de leurs produits en jouant sur l’émotion…
Reste à proposer un nouveau service : les voix de tous les utilisateurs d’Alexa pourront être reproduites à partir de l’enregistrement des commandes vocales et mises à disposition de leurs proches.
#24
Black Mirror saison 2, épisode 1 : Bientôt de retour
#25
Ça y est, on arrive à une étape où l’on va devoir mettre en place des certificats pour attester la véracité des vidéos /audios. La seule confiance que l’on pourra avoir des dires de quelqu’un sans ça sera en direct, d’ici à ce que la technologie envahisse ça aussi
#25.1
Bein, c’est pas ça le metaver ?
#26
D’après les commentaires, tu n’es pas le seul. Comme on va dire que c’était plus ou moins prévu (j’en ai échangé avec un ancien collègue à l’époque, donc il y a plus de 2 ans), on était d’accord sur un truc: c’est malsain pour nous, mais pour les générations futures pas forcément.
En fait, ce genre de chose malsaine existe déjà, le débat a certainement eu lieu avec la photographie et a eu lieu avec les caméscopes.
Et ce côté malsain est peut-être lié à notre éducation/culture, c’est peut-être parfaitement acceptable ailleurs (purée, un boudhiste pourrait finir par causer avec son ancienne incarnation quand même!)
Le problème, c’est surtout l’usage du produit - de toutes façons, les GAFA mises sur des produits rentables, rien de mieux que ceux qui créent une dépendance…
#26.1
Il y a une différence quand même entre la photo ou la vidéo qui enregistre un souvenir, donc une action réalisée par le sujet, avec un dispositif capable de produire un enregistrement audio ou vidéo inédit d’une personne sans intervention de celle-ci.
Le deuxième cas est effrayant puisque tu peux faire dire n’importe quoi, y compris des choses que la personne n’aurait pas cautionné de son vivant, à quelqu’un et avec quel recours derrière en matière de droit ?
Certes aujourd’hui la magie du montage photo, ou audiovisuel peut faire changer le sens ou la mise en situation d’une personne, mais là c’est le next fucking level puisque même plus besoin de matériel original, il suffit de produire un nouveau.
#27
Pas certains. Les enregistrements sonores existent aussi. Là, on est en train de faire reparler des gens. C’est comme si on pouvait prendre de nouvelles photographies ou faire de nouvelles vidéos avec des personnes qui ne sont plus. Cela serait tout aussi malsain.
#28
J’ai beau être un gros complotiste, je l’avais pas vu venir l’excuse du covid sur cette histoire. Bordel ils sont forts.
#29
Aujourd’hui on voit une différence, mais il y a cent ans? il y a 40 ans? On pouvait imaginer reprojeter une vidéo de quelqu’un comme s’il était encore là: ce n’est pas si différent.
Bien sûr, je suis conscient des abus possibles - et ceci depuis il y a plus de 10 ans quand Microsoft il me semble a fait parler un ordinateur avec ce que serait la voix de Bruce Willis en Français…
Imaginer qu’on puisse faire parler des morts, par exemple pour faire de la propagande, comme si c’était des messages d’archives - mais oh wait! on peut le faire en coupant des enregistrement audio déjà !
Donc méfiance, mais de mon point de vue ce n’est pas forcément un tremblement de terre…
#30
C’est ne pas se rendre compte à quel point le fait de pouvoir revoir des personnes mortes avec nos vidéos est déjà malsain pour d’autres…
Et qu’on pouvait déjà faire des montages avec l’audio et la vidéo.
(Vous n’avez pas vu Forrest Gump serrer la main à JFK? C’était bluffant à l’époque!)
#30.1
Forrest Gump c’est une oeuvre de fiction.
Oui, on peut déjà faire des montages et ça pose déjà des problèmes. Montage plus élaboré = problèmes plus grands.
#30.2
Je ne faisais que commenter la comparaison (qui me paraissait hasardeuse), sans me prononcer sur les photos/vidéos/enregistrements (qui sont déjà “pénibles” je trouve lorsqu’il y a des personnes disparues), mais qui le seraient d’autant plus que ces médias seraient nouveau, et non pas de “simples” souvenirs…
#31
Black Mirror, “Be Right Back”, saison 2, épisode 1
On est encore loin du robot, mais l’idée est là.
#31.1
Je pensais surtout à la première partie avec l’interaction par téléphone et l’IA nourrie aux réseaux sociaux du défunt
#31.2
Je l’ai vu il y a plusieurs années, j’avais oublié cette partie qui devient du coup vraiment d’actualité !
#32
Ayons une pensée pour les gens ayant perdu leur voix suite à une opération chirurgicale par exemple…
#32.1
Ca va leur faire une belle jambe de s’entendre tenir des propos qui ne sont pas les leurs. C’est déjà souvent perturbant d’entendre sa propre voix qui a été enregistrée…
#32.2
Haters gonna hate
Et toi, si tu perdais ta voix, tu préfèrerais rester silencieux ou avoir une voix de synthèse qui ressemble à ta vraie voix ?
#32.3
Entre entendre ma voix utilisée par une IA et une voix de synthèse que je pilote ?
Je pense que je préfère garder la maîtrise.
Tu connais la voix qu’avait Steven Hawking ?
#33
Ca ma rappelle un docu sur Arte de cette année où ça parlait d’une boite (ou labo, ché plus) allemande qui avait commencé à développer ce genre de logiciel pouvant reproduire une voix à partir d’un court échantillon. Ils étaient allé assez loin, et leur démo était déjà pas mal. Ils avaient annoncé ne pas aller plus loin, ça devait rester une démo technique car ils évoquaient justement les potentiels problèmes liés à cette techno, les dérives possibles…
(les mauvaises langues dirons aucune éthique ^^)
Je ne sais pas ce que c’est devenu, et faute d’avis éclairé, je ne jugerai pas cette boite.
Juste que visiblement chez Amazon, parcontre, on semble avoir une éthique un peu différente
#34
Pas mieux.
#35
Retrouver les voix perdus, c’est un argument de choc certains politiciens…
#35.1
T’es au taquet sur ce topic
D’un côté je suis comme vous tous.
D’un autre, pouvoir entendre à nouveau quelqu’un que j’ai perdu j’en ai malheureusement l’envie.
Je vais éviter de lui demander d’allumer la cuisine quand même
#36
Y a tellement de dérives possibles que c’est inspirant…
#36.1
J’suis une merde, j’ai pas la réf’
Mais la voix de Cloclo où tu lui demande d’allumer la salle de bain ça soit être pas mal x)
#37
C”est la première chose qui m’est venue à l’esprit : après avoir tenté de bouffer le business des petits libraires, Amazon s’attaque à celui des chamans et autres gourous du spiritisme…
Je vois simplement ça comme une généralisation du deep fake commercialisable à grande échelle.
#38
Ah ? Ben il suffit juste de réussir à convaincre Amazon de séparer les 2 technos (synthèse vocale d’une voix existante d’un côté, IA générant un texte de l’autre).
Faut pas se leurrer, il y aura un marché pour les deux de toutes façons il y aura des entreprises pour acheter ce type de truc pour assurer leur support client ou support technique. Ça promet des arrachages de cheveux, mais bon…
Et puis je ne te parles même pas de l’industrie du jeu vidéo…. pour faire des PNJ au dialogues réalistes.
Donc à mon très humble avis ça va se développer, avec ou sans Amazon / Alexa…
Nan. Je ne connais pas ce bonhomme. Qui c’est ?
Mais son nom me fait justement penser à un autre Hawking, Stephen, qui lui avait justement besoin d’une voix artificielle. C’est le type qui a expliqué que les trous noir s’évaporent lentement…
#38.1
Je ne vois absolument aucun intérêt à copier une voix existante.
Avoir une synthèse vocale réaliste ce n’est pas la même chose.
#39
Lu de travers ça ressemble à un slogan sorti d’Idiocracy :
“Grâce à IA2000 fait aboyer ta grand mère la chienne.”
#40
Ben pour le cas où tu la perdes, ta voix existante, au lieu de synthétiser une voix artificielle.
Par ex., cancer du larynx ou autre maladie horrible du genre, hop opération, hop plus de voix. Zut !
Et là, tu préfèrerais une voix 100% artificielle à la place de la tienne que tu n’as plus ou bien une voix de synthèse qui au moins ressemble à celle que tu avais ? hein ? je demande parce que perso c’est tout choisi, je ne m’imagine pas vraiment parler avec une autre voix si j’ai le choix
#40.1
On ne connaît pas sa voix, donc à toi elle te sonnerait étrangère.
Perso, c’est tout choisi, si c’est une appli qui parle à ma place, ce n’est pas avec ma voix.
#40.2
Sur tous les smartphones il y a normalement une app “magnéto” pour s’enregistrer et s’écouter (mémo vocal). Et c’était aussi une appli fournie avec Windows 3 dans les années 90s
Et puis il a aussi plein de gens qui se filment de nos jours, et donc entendent leur propre voix. J’ai même entendu dire qu’au milieu des années 70, les films Super8 connaissaient un tel succès qu’une version sonore avait été créée… permettant aux gens d’entendre leur voix ! (mais bon, là j’étais pas né, donc je ne suis que l’homme qui a entendu l’homme qui a tiré sur l’ours, et l’a peut-être raté)
Bref. Soyons sérieux : la différence entre notre voix telle que les autres l’entendent, et telle que nous l’entendons nous même est seulement une modulation de fréquences car le son se propage à des vitesses différentes dans l’air et les os. Je suis sûr que cela peut se modéliser et qu’une IA pourrait (si elle existait ?) modifier un enregistrement de voix pour qu’il sonne comme l’entend son locuteur. Mais même sans ce type de “rétro-correction”, de toutes façons ça reste la même voix, le timbre, le rythme, l’intonation, etc. ne changent pas !
#41
– Alexa, je voudrais entendre des CD.
– AAAAAAAAAAAAAAAAHHHHHHHHHHHHHH !
– Merci !
#42
C’est du réchauffé, ça fait bien longtemps que des politiciens connaissent les techniques pour utiliser les voix de personnes décédées
#43
Idée démoniaque.
#44
C’est le mec qui a passé 11 ans dans un état végétatif avant que les soins ne soient stoppés (wiki).
#44.1
Ok merci pour l’information et le lien.
Dur…