Alexa développe une IA pour refaire parler les personnes décédées
Le 23 juin 2022 à 08h16
2 min
Sciences et espace
Sciences
« Amazon apprend à Alexa à imiter la voix de n'importe qui, mort ou vivant, à partir d'un enregistrement d'une minute seulement de cette voix », rapporte Business Insider.
Rohit Prasad, le responsable scientifique d'Alexa, par ailleurs vice-président senior d'Amazon, a en effet montré mercredi, lors de la conférence re:Mars d'Amazon à Las Vegas, une vidéo où un garçon demande à Alexa si sa grand-mère peut lui lire le Magicien d'Oz.
Prasad a expliqué que « la capacité d'Alexa à se faire passer pour des voix familières est particulièrement cruciale maintenant, car de nombreuses personnes ont perdu des êtres chers à cause du COVID-19 : bien que l'IA ne puisse pas éliminer la douleur de cette perte, elle peut certainement prolonger leurs souvenirs ».
Amazon n'est pas la seule entreprise à développer une technologie capable d'imiter la voix humaine, relève Business Insider. Le mois dernier, le fabricant de jouets japonais Takara Tomy a en effet lancé un appareil en forme d'œuf appelé Coemo qui copie les voix des adultes et les utilise pour lire des histoires aux enfants.
L'expérience d'Amazon rappelle aussi celle de Hereafter AI, une startup qui a conçu un chatbot conversationnel qui « préserve les souvenirs et les pensées de personnes réelles », même décédées, note voicebot.ai.
Cependant, nombreux sont ceux qui semblent effrayés sur Twitter par cette capacité à usurper une identité, et anticipent l'utilisation que pourraient en faire délinquants et criminels, relève par ailleurs Business Insider.
Le 23 juin 2022 à 08h16
Commentaires (62)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 23/06/2022 à 08h20
C’est juste horrible comme torture, y a rien de pire pour ne pas réussir à faire son deuil, quelle idée pourrie…
Le 23/06/2022 à 08h26
Quelle horreur…
Le 23/06/2022 à 08h28
Le 23/06/2022 à 08h41
ouai refaire parler adolf ou n’importe quel autre meurtrier/dictateur/personne mauvaise, quelle bonne idée pour les victimes …
Le 23/06/2022 à 08h43
L’horreur, déja sur la psychologie dans le cadre d’un deuil, mais surtout dans un cadre frauduleux couplé au deepfake, on va pouvoir faire dire n’importe quoi à n’importe qui.
Ils devraient commencer par faire des démos outrancières en utilisant Bezos Zuckerberg and co, ça leur ferait pas faire machine arrière mais au moins ils pourront pas faire les innoncents quand leur tech servira à de mauvaises choses
Le 23/06/2022 à 08h43
Plus qu’à la mettre dans un robot humanoïde genre Ameca, vendre une prestation sur-mesure pour adapter l’apparence à la personne, et vous pourrez l’avoir chez vous pour toujours !
Le 23/06/2022 à 17h03
Ouais. Ca change un peu de Médor empaillé près de la cheminée chez mamie.
Maintenant, c’est mamie qui sera empaillée.
Sortez-moi de là, par pitié.
Le 23/06/2022 à 08h44
Mais puisque c’est pour soulager la douleur des victimes on vous dit.
Vous n’avez pas de coeur pour vous y opposer, bande de salopards. Des victimes qui ont bobo dans leur petit coeur, on vous dit !
Le 23/06/2022 à 08h45
Le 23/06/2022 à 08h47
L’horreur est humaine !
Est-ce que les clients béats de ce GAFAM avaient imaginés ce qu’ils financeraient ?
Le 23/06/2022 à 08h49
Et demain, Zelensky demandera accès à la technologie en soutien aux mères ukrainiennes qui ont perdu un enfant…
==> Je sors
Le 23/06/2022 à 08h50
C’est d’un glauque…
“Be right back” (S2E1 de Black Mirror) est un épisode de science-fiction, pas un mode d’emploi !
Le 23/06/2022 à 08h52
Entre ça et faire empailler son animal de compagnie, mon cœur balance…
Le 23/06/2022 à 08h54
Business as usual…
Le 23/06/2022 à 08h55
Les deux mon capitaine. Faire aboyer ton caniche mort, ca n’a pas de prix.
Ou faire parler sa grand mère morte qui s’adresse à son caniche mort qui lui répond en aboyant.
Le 23/06/2022 à 08h56
Au-moins en France il n’y a pas besoin d’Amazon pour faire parler les morts
On a déjà
Le 23/06/2022 à 09h12
Je pense que l’on à pas envie d’entre encore Manuel Valls.
Le 23/06/2022 à 09h21
quelle horreur
Le 23/06/2022 à 09h26
Je pense qu’il y a un bug chez NXi : cet article prévu pour le 1er avril sort aujourd’hui par erreur… 😅😜
…
Non ? 😔
Le 23/06/2022 à 09h45
Il n’y a plus qu’entrainer une IA de son vivant et on pourra discuter avec son parent mort via alexa.
Ca me fait penser à la série Upload (sur Prime video) que j’ai vu il y a peu.
En gros le synopsys c’est : juste avant de mourir on télécharge votre subconscient pour vous “uploader” sur un serveur. Vous êtes donc pour l’éternité un avatar qui peut communiquer avec les mortels.
Le 23/06/2022 à 09h48
Qu’est-ce qu’on s’amuse dans le domaine de la tech…
Le 23/06/2022 à 10h01
Cantelou et Gerra en PLS
Le 23/06/2022 à 10h31
Je suis le seul à trouver ce concept malsain ?
Le 23/06/2022 à 11h14
Je vis justement un deuil actuellement… C’est une épreuve difficile et cette “innovation” me semble effrayante… Elle ne sert qu’à perpétuer le deuil… Oui c’est malsain, très malsain même…
Le 23/06/2022 à 17h05
Non je te rassure.
On a bouffé la pomme, le trognon, la queue et les pépins. Et même l’asticot qui était dedans.
Le 23/06/2022 à 11h10
J’espère qu’ils font cette déclaration juste pour faire parler de leurs produits en jouant sur l’émotion…
Reste à proposer un nouveau service : les voix de tous les utilisateurs d’Alexa pourront être reproduites à partir de l’enregistrement des commandes vocales et mises à disposition de leurs proches.
Le 23/06/2022 à 11h50
Black Mirror saison 2, épisode 1 : Bientôt de retour
Le 23/06/2022 à 12h15
Ça y est, on arrive à une étape où l’on va devoir mettre en place des certificats pour attester la véracité des vidéos /audios. La seule confiance que l’on pourra avoir des dires de quelqu’un sans ça sera en direct, d’ici à ce que la technologie envahisse ça aussi
Le 23/06/2022 à 12h42
Bein, c’est pas ça le metaver ?
Le 23/06/2022 à 12h52
D’après les commentaires, tu n’es pas le seul. Comme on va dire que c’était plus ou moins prévu (j’en ai échangé avec un ancien collègue à l’époque, donc il y a plus de 2 ans), on était d’accord sur un truc: c’est malsain pour nous, mais pour les générations futures pas forcément.
En fait, ce genre de chose malsaine existe déjà, le débat a certainement eu lieu avec la photographie et a eu lieu avec les caméscopes.
Et ce côté malsain est peut-être lié à notre éducation/culture, c’est peut-être parfaitement acceptable ailleurs (purée, un boudhiste pourrait finir par causer avec son ancienne incarnation quand même!)
Le problème, c’est surtout l’usage du produit - de toutes façons, les GAFA mises sur des produits rentables, rien de mieux que ceux qui créent une dépendance…
Le 23/06/2022 à 13h21
Il y a une différence quand même entre la photo ou la vidéo qui enregistre un souvenir, donc une action réalisée par le sujet, avec un dispositif capable de produire un enregistrement audio ou vidéo inédit d’une personne sans intervention de celle-ci.
Le deuxième cas est effrayant puisque tu peux faire dire n’importe quoi, y compris des choses que la personne n’aurait pas cautionné de son vivant, à quelqu’un et avec quel recours derrière en matière de droit ?
Certes aujourd’hui la magie du montage photo, ou audiovisuel peut faire changer le sens ou la mise en situation d’une personne, mais là c’est le next fucking level puisque même plus besoin de matériel original, il suffit de produire un nouveau.
Le 23/06/2022 à 13h22
Pas certains. Les enregistrements sonores existent aussi. Là, on est en train de faire reparler des gens. C’est comme si on pouvait prendre de nouvelles photographies ou faire de nouvelles vidéos avec des personnes qui ne sont plus. Cela serait tout aussi malsain.
Le 23/06/2022 à 13h34
J’ai beau être un gros complotiste, je l’avais pas vu venir l’excuse du covid sur cette histoire. Bordel ils sont forts.
Le 23/06/2022 à 14h00
Aujourd’hui on voit une différence, mais il y a cent ans? il y a 40 ans? On pouvait imaginer reprojeter une vidéo de quelqu’un comme s’il était encore là: ce n’est pas si différent.
Bien sûr, je suis conscient des abus possibles - et ceci depuis il y a plus de 10 ans quand Microsoft il me semble a fait parler un ordinateur avec ce que serait la voix de Bruce Willis en Français…
Imaginer qu’on puisse faire parler des morts, par exemple pour faire de la propagande, comme si c’était des messages d’archives - mais oh wait! on peut le faire en coupant des enregistrement audio déjà !
Donc méfiance, mais de mon point de vue ce n’est pas forcément un tremblement de terre…
Le 23/06/2022 à 14h01
C’est ne pas se rendre compte à quel point le fait de pouvoir revoir des personnes mortes avec nos vidéos est déjà malsain pour d’autres…
Et qu’on pouvait déjà faire des montages avec l’audio et la vidéo.
(Vous n’avez pas vu Forrest Gump serrer la main à JFK? C’était bluffant à l’époque!)
Le 23/06/2022 à 14h15
Forrest Gump c’est une oeuvre de fiction.
Oui, on peut déjà faire des montages et ça pose déjà des problèmes. Montage plus élaboré = problèmes plus grands.
Le 23/06/2022 à 14h33
Je ne faisais que commenter la comparaison (qui me paraissait hasardeuse), sans me prononcer sur les photos/vidéos/enregistrements (qui sont déjà “pénibles” je trouve lorsqu’il y a des personnes disparues), mais qui le seraient d’autant plus que ces médias seraient nouveau, et non pas de “simples” souvenirs…
Le 23/06/2022 à 14h17
Black Mirror, “Be Right Back”, saison 2, épisode 1
On est encore loin du robot, mais l’idée est là.
Le 23/06/2022 à 14h22
Je pensais surtout à la première partie avec l’interaction par téléphone et l’IA nourrie aux réseaux sociaux du défunt
Le 23/06/2022 à 14h26
Je l’ai vu il y a plusieurs années, j’avais oublié cette partie qui devient du coup vraiment d’actualité !
Le 23/06/2022 à 14h18
Ayons une pensée pour les gens ayant perdu leur voix suite à une opération chirurgicale par exemple…
Le 23/06/2022 à 14h23
Ca va leur faire une belle jambe de s’entendre tenir des propos qui ne sont pas les leurs. C’est déjà souvent perturbant d’entendre sa propre voix qui a été enregistrée…
Le 23/06/2022 à 17h23
Haters gonna hate
Et toi, si tu perdais ta voix, tu préfèrerais rester silencieux ou avoir une voix de synthèse qui ressemble à ta vraie voix ?
Le 23/06/2022 à 17h41
Entre entendre ma voix utilisée par une IA et une voix de synthèse que je pilote ?
Je pense que je préfère garder la maîtrise.
Tu connais la voix qu’avait Steven Hawking ?
Le 23/06/2022 à 14h33
Ca ma rappelle un docu sur Arte de cette année où ça parlait d’une boite (ou labo, ché plus) allemande qui avait commencé à développer ce genre de logiciel pouvant reproduire une voix à partir d’un court échantillon. Ils étaient allé assez loin, et leur démo était déjà pas mal. Ils avaient annoncé ne pas aller plus loin, ça devait rester une démo technique car ils évoquaient justement les potentiels problèmes liés à cette techno, les dérives possibles…
Je ne sais pas ce que c’est devenu, et faute d’avis éclairé, je ne jugerai pas cette boite.
Juste que visiblement chez Amazon, parcontre, on semble avoir une éthique un peu différente (les mauvaises langues dirons aucune éthique ^^)
Le 23/06/2022 à 17h03
Pas mieux.
Le 23/06/2022 à 18h08
Retrouver les voix perdus, c’est un argument de choc certains politiciens…
Le 23/06/2022 à 18h12
T’es au taquet sur ce topic
D’un côté je suis comme vous tous.
D’un autre, pouvoir entendre à nouveau quelqu’un que j’ai perdu j’en ai malheureusement l’envie.
Je vais éviter de lui demander d’allumer la cuisine quand même
Le 23/06/2022 à 18h28
Y a tellement de dérives possibles que c’est inspirant…
Le 23/06/2022 à 21h23
J’suis une merde, j’ai pas la réf’
Mais la voix de Cloclo où tu lui demande d’allumer la salle de bain ça soit être pas mal x)
Le 24/06/2022 à 04h58
C”est la première chose qui m’est venue à l’esprit : après avoir tenté de bouffer le business des petits libraires, Amazon s’attaque à celui des chamans et autres gourous du spiritisme…
Je vois simplement ça comme une généralisation du deep fake commercialisable à grande échelle.
Le 24/06/2022 à 09h56
Ah ? Ben il suffit juste de réussir à convaincre Amazon de séparer les 2 technos (synthèse vocale d’une voix existante d’un côté, IA générant un texte de l’autre).
Faut pas se leurrer, il y aura un marché pour les deux de toutes façons il y aura des entreprises pour acheter ce type de truc pour assurer leur support client ou support technique. Ça promet des arrachages de cheveux, mais bon…
Et puis je ne te parles même pas de l’industrie du jeu vidéo…. pour faire des PNJ au dialogues réalistes.
Donc à mon très humble avis ça va se développer, avec ou sans Amazon / Alexa…
Nan. Je ne connais pas ce bonhomme. Qui c’est ?
Mais son nom me fait justement penser à un autre Hawking, Stephen, qui lui avait justement besoin d’une voix artificielle. C’est le type qui a expliqué que les trous noir s’évaporent lentement…
Le 24/06/2022 à 10h35
Je ne vois absolument aucun intérêt à copier une voix existante.
Avoir une synthèse vocale réaliste ce n’est pas la même chose.
Le 24/06/2022 à 11h58
Lu de travers ça ressemble à un slogan sorti d’Idiocracy :
“Grâce à IA2000 fait aboyer ta grand mère la chienne.”
Le 24/06/2022 à 13h04
Ben pour le cas où tu la perdes, ta voix existante, au lieu de synthétiser une voix artificielle.
Par ex., cancer du larynx ou autre maladie horrible du genre, hop opération, hop plus de voix. Zut !
Et là, tu préfèrerais une voix 100% artificielle à la place de la tienne que tu n’as plus ou bien une voix de synthèse qui au moins ressemble à celle que tu avais ? hein ? je demande parce que perso c’est tout choisi, je ne m’imagine pas vraiment parler avec une autre voix si j’ai le choix
Le 24/06/2022 à 13h14
On ne connaît pas sa voix, donc à toi elle te sonnerait étrangère.
Perso, c’est tout choisi, si c’est une appli qui parle à ma place, ce n’est pas avec ma voix.
Le 24/06/2022 à 14h38
Sur tous les smartphones il y a normalement une app “magnéto” pour s’enregistrer et s’écouter (mémo vocal). Et c’était aussi une appli fournie avec Windows 3 dans les années 90s Et puis il a aussi plein de gens qui se filment de nos jours, et donc entendent leur propre voix. J’ai même entendu dire qu’au milieu des années 70, les films Super8 connaissaient un tel succès qu’une version sonore avait été créée… permettant aux gens d’entendre leur voix ! (mais bon, là j’étais pas né, donc je ne suis que l’homme qui a entendu l’homme qui a tiré sur l’ours, et l’a peut-être raté)
Bref. Soyons sérieux : la différence entre notre voix telle que les autres l’entendent, et telle que nous l’entendons nous même est seulement une modulation de fréquences car le son se propage à des vitesses différentes dans l’air et les os. Je suis sûr que cela peut se modéliser et qu’une IA pourrait (si elle existait ?) modifier un enregistrement de voix pour qu’il sonne comme l’entend son locuteur. Mais même sans ce type de “rétro-correction”, de toutes façons ça reste la même voix, le timbre, le rythme, l’intonation, etc. ne changent pas !
Le 24/06/2022 à 19h10
– Alexa, je voudrais entendre des CD.
– AAAAAAAAAAAAAAAAHHHHHHHHHHHHHH !
– Merci !
Le 24/06/2022 à 22h29
C’est du réchauffé, ça fait bien longtemps que des politiciens connaissent les techniques pour utiliser les voix de personnes décédées
Le 25/06/2022 à 21h30
Idée démoniaque.
Le 27/06/2022 à 22h35
C’est le mec qui a passé 11 ans dans un état végétatif avant que les soins ne soient stoppés (wiki).
Le 28/06/2022 à 08h41
Ok merci pour l’information et le lien.
Dur…