Connexion
Abonnez-vous

Alexa développe une IA pour refaire parler les personnes décédées

Alexa développe une IA pour refaire parler les personnes décédées

Le 23 juin 2022 à 08h16

« Amazon apprend à Alexa à imiter la voix de n'importe qui, mort ou vivant, à partir d'un enregistrement d'une minute seulement de cette voix », rapporte Business Insider.

Rohit Prasad, le responsable scientifique d'Alexa, par ailleurs vice-président senior d'Amazon, a en effet montré mercredi, lors de la conférence re:Mars d'Amazon à Las Vegas, une vidéo où un garçon demande à Alexa si sa grand-mère peut lui lire le Magicien d'Oz.

Prasad a expliqué que « la capacité d'Alexa à se faire passer pour des voix familières est particulièrement cruciale maintenant, car de nombreuses personnes ont perdu des êtres chers à cause du COVID-19 : bien que l'IA ne puisse pas éliminer la douleur de cette perte, elle peut certainement prolonger leurs souvenirs ».

Amazon n'est pas la seule entreprise à développer une technologie capable d'imiter la voix humaine, relève Business Insider. Le mois dernier, le fabricant de jouets japonais Takara Tomy a en effet lancé un appareil en forme d'œuf appelé Coemo qui copie les voix des adultes et les utilise pour lire des histoires aux enfants.

L'expérience d'Amazon rappelle aussi celle de Hereafter AI, une startup qui a conçu un chatbot conversationnel qui « préserve les souvenirs et les pensées de personnes réelles », même décédées, note voicebot.ai.

Cependant, nombreux sont ceux qui semblent effrayés sur Twitter par cette capacité à usurper une identité, et anticipent l'utilisation que pourraient en faire délinquants et criminels, relève par ailleurs Business Insider.

Le 23 juin 2022 à 08h16

Commentaires (62)

Vous devez être abonné pour pouvoir commenter.

Abonnez-vous
votre avatar

C’est juste horrible comme torture, y a rien de pire pour ne pas réussir à faire son deuil, quelle idée pourrie…

votre avatar

Quelle horreur…

votre avatar

:vomi2:

votre avatar

ouai refaire parler adolf ou n’importe quel autre meurtrier/dictateur/personne mauvaise, quelle bonne idée pour les victimes …

votre avatar

L’horreur, déja sur la psychologie dans le cadre d’un deuil, mais surtout dans un cadre frauduleux couplé au deepfake, on va pouvoir faire dire n’importe quoi à n’importe qui.
Ils devraient commencer par faire des démos outrancières en utilisant Bezos Zuckerberg and co, ça leur ferait pas faire machine arrière mais au moins ils pourront pas faire les innoncents quand leur tech servira à de mauvaises choses

votre avatar

Plus qu’à la mettre dans un robot humanoïde genre Ameca, vendre une prestation sur-mesure pour adapter l’apparence à la personne, et vous pourrez l’avoir chez vous pour toujours !

votre avatar

Ouais. Ca change un peu de Médor empaillé près de la cheminée chez mamie.
Maintenant, c’est mamie qui sera empaillée.



Sortez-moi de là, par pitié.

votre avatar

Mais puisque c’est pour soulager la douleur des victimes on vous dit.
Vous n’avez pas de coeur pour vous y opposer, bande de salopards. Des victimes qui ont bobo dans leur petit coeur, on vous dit !

votre avatar

ouai refaire parler adolf ou n’importe quel autre meurtrier/dictateur/personne mauvaise, quelle bonne idée pour les victimes …



  • Alexa, est-ce que j’ai reçu du courrier ?

  • Nein ! Nein ! Nein !

votre avatar

L’horreur est humaine !



Est-ce que les clients béats de ce GAFAM avaient imaginés ce qu’ils financeraient ?

votre avatar

Et demain, Zelensky demandera accès à la technologie en soutien aux mères ukrainiennes qui ont perdu un enfant…
==> Je sors

votre avatar

C’est d’un glauque…



“Be right back” (S2E1 de Black Mirror) est un épisode de science-fiction, pas un mode d’emploi !

votre avatar

Entre ça et faire empailler son animal de compagnie, mon cœur balance…

votre avatar

Business as usual…

votre avatar

(quote:2078657:Zone démilitarisée)
Entre ça et faire empailler son animal de compagnie, mon cœur balance…


Les deux mon capitaine. Faire aboyer ton caniche mort, ca n’a pas de prix.
Ou faire parler sa grand mère morte qui s’adresse à son caniche mort qui lui répond en aboyant.

votre avatar

Au-moins en France il n’y a pas besoin d’Amazon pour faire parler les morts



On a déjà




  • Les politiques qui font parler De Gaulle

  • Les beaufs / anti-tout / gilets-jaunes / complotistes (rayer la mention inutile) qui font parler Coluche

votre avatar

Je pense que l’on à pas envie d’entre encore Manuel Valls.

votre avatar

quelle horreur

votre avatar

Je pense qu’il y a un bug chez NXi : cet article prévu pour le 1er avril sort aujourd’hui par erreur… 😅😜




Non ? 😔

votre avatar

Il n’y a plus qu’entrainer une IA de son vivant et on pourra discuter avec son parent mort via alexa.
:windu:



Ca me fait penser à la série Upload (sur Prime video) que j’ai vu il y a peu.



En gros le synopsys c’est : juste avant de mourir on télécharge votre subconscient pour vous “uploader” sur un serveur. Vous êtes donc pour l’éternité un avatar qui peut communiquer avec les mortels.

votre avatar

Qu’est-ce qu’on s’amuse dans le domaine de la tech… :roll:
:vomi1:

votre avatar

Cantelou et Gerra en PLS

votre avatar

Je suis le seul à trouver ce concept malsain ?

votre avatar

Je vis justement un deuil actuellement… C’est une épreuve difficile et cette “innovation” me semble effrayante… Elle ne sert qu’à perpétuer le deuil… Oui c’est malsain, très malsain même…

votre avatar

Non je te rassure.
On a bouffé la pomme, le trognon, la queue et les pépins. Et même l’asticot qui était dedans.

votre avatar

J’espère qu’ils font cette déclaration juste pour faire parler de leurs produits en jouant sur l’émotion…
Reste à proposer un nouveau service : les voix de tous les utilisateurs d’Alexa pourront être reproduites à partir de l’enregistrement des commandes vocales et mises à disposition de leurs proches.

votre avatar

Black Mirror saison 2, épisode 1 : Bientôt de retour

votre avatar

Ça y est, on arrive à une étape où l’on va devoir mettre en place des certificats pour attester la véracité des vidéos /audios. La seule confiance que l’on pourra avoir des dires de quelqu’un sans ça sera en direct, d’ici à ce que la technologie envahisse ça aussi

votre avatar

d’ici à ce que la technologie envahisse ça aussi


Bein, c’est pas ça le metaver ?

votre avatar

Winderly a dit:


Je suis le seul à trouver ce concept malsain ?


D’après les commentaires, tu n’es pas le seul. Comme on va dire que c’était plus ou moins prévu (j’en ai échangé avec un ancien collègue à l’époque, donc il y a plus de 2 ans), on était d’accord sur un truc: c’est malsain pour nous, mais pour les générations futures pas forcément.
En fait, ce genre de chose malsaine existe déjà, le débat a certainement eu lieu avec la photographie et a eu lieu avec les caméscopes.
Et ce côté malsain est peut-être lié à notre éducation/culture, c’est peut-être parfaitement acceptable ailleurs (purée, un boudhiste pourrait finir par causer avec son ancienne incarnation quand même!)



Le problème, c’est surtout l’usage du produit - de toutes façons, les GAFA mises sur des produits rentables, rien de mieux que ceux qui créent une dépendance…

votre avatar

Il y a une différence quand même entre la photo ou la vidéo qui enregistre un souvenir, donc une action réalisée par le sujet, avec un dispositif capable de produire un enregistrement audio ou vidéo inédit d’une personne sans intervention de celle-ci.



Le deuxième cas est effrayant puisque tu peux faire dire n’importe quoi, y compris des choses que la personne n’aurait pas cautionné de son vivant, à quelqu’un et avec quel recours derrière en matière de droit ?



Certes aujourd’hui la magie du montage photo, ou audiovisuel peut faire changer le sens ou la mise en situation d’une personne, mais là c’est le next fucking level puisque même plus besoin de matériel original, il suffit de produire un nouveau.

votre avatar

(quote:2078726:brice.wernet)
En fait, ce genre de chose malsaine existe déjà, le débat a certainement eu lieu avec la photographie et a eu lieu avec les caméscopes.


Pas certains. Les enregistrements sonores existent aussi. Là, on est en train de faire reparler des gens. C’est comme si on pouvait prendre de nouvelles photographies ou faire de nouvelles vidéos avec des personnes qui ne sont plus. Cela serait tout aussi malsain.

votre avatar

J’ai beau être un gros complotiste, je l’avais pas vu venir l’excuse du covid sur cette histoire. Bordel ils sont forts.

votre avatar

SebGF a dit:


Il y a une différence quand même entre la photo ou la vidéo qui enregistre un souvenir, donc une action réalisée par le sujet, avec un dispositif capable de produire un enregistrement audio ou vidéo inédit d’une personne sans intervention de celle-ci.


Aujourd’hui on voit une différence, mais il y a cent ans? il y a 40 ans? On pouvait imaginer reprojeter une vidéo de quelqu’un comme s’il était encore là: ce n’est pas si différent.



Bien sûr, je suis conscient des abus possibles - et ceci depuis il y a plus de 10 ans quand Microsoft il me semble a fait parler un ordinateur avec ce que serait la voix de Bruce Willis en Français…



Imaginer qu’on puisse faire parler des morts, par exemple pour faire de la propagande, comme si c’était des messages d’archives - mais oh wait! on peut le faire en coupant des enregistrement audio déjà !



Donc méfiance, mais de mon point de vue ce n’est pas forcément un tremblement de terre…

votre avatar

fdorin a dit:


Pas certains. Les enregistrements sonores existent aussi. Là, on est en train de faire reparler des gens. C’est comme si on pouvait prendre de nouvelles photographies ou faire de nouvelles vidéos avec des personnes qui ne sont plus. Cela serait tout aussi malsain.


C’est ne pas se rendre compte à quel point le fait de pouvoir revoir des personnes mortes avec nos vidéos est déjà malsain pour d’autres…
Et qu’on pouvait déjà faire des montages avec l’audio et la vidéo.



(Vous n’avez pas vu Forrest Gump serrer la main à JFK? C’était bluffant à l’époque!)

votre avatar

Forrest Gump c’est une oeuvre de fiction.



Oui, on peut déjà faire des montages et ça pose déjà des problèmes. Montage plus élaboré = problèmes plus grands.

votre avatar

Je ne faisais que commenter la comparaison (qui me paraissait hasardeuse), sans me prononcer sur les photos/vidéos/enregistrements (qui sont déjà “pénibles” je trouve lorsqu’il y a des personnes disparues), mais qui le seraient d’autant plus que ces médias seraient nouveau, et non pas de “simples” souvenirs…

votre avatar

Black Mirror, “Be Right Back”, saison 2, épisode 1



On est encore loin du robot, mais l’idée est là.

votre avatar

Je pensais surtout à la première partie avec l’interaction par téléphone et l’IA nourrie aux réseaux sociaux du défunt

votre avatar

Je l’ai vu il y a plusieurs années, j’avais oublié cette partie qui devient du coup vraiment d’actualité ! :yes:

votre avatar

Ayons une pensée pour les gens ayant perdu leur voix suite à une opération chirurgicale par exemple… :yes:

votre avatar

Ca va leur faire une belle jambe de s’entendre tenir des propos qui ne sont pas les leurs. C’est déjà souvent perturbant d’entendre sa propre voix qui a été enregistrée…

votre avatar

Haters gonna hate
Et toi, si tu perdais ta voix, tu préfèrerais rester silencieux ou avoir une voix de synthèse qui ressemble à ta vraie voix ?

votre avatar

Entre entendre ma voix utilisée par une IA et une voix de synthèse que je pilote ?
Je pense que je préfère garder la maîtrise.



Tu connais la voix qu’avait Steven Hawking ?

votre avatar

Ca ma rappelle un docu sur Arte de cette année où ça parlait d’une boite (ou labo, ché plus) allemande qui avait commencé à développer ce genre de logiciel pouvant reproduire une voix à partir d’un court échantillon. Ils étaient allé assez loin, et leur démo était déjà pas mal. Ils avaient annoncé ne pas aller plus loin, ça devait rester une démo technique car ils évoquaient justement les potentiels problèmes liés à cette techno, les dérives possibles…
Je ne sais pas ce que c’est devenu, et faute d’avis éclairé, je ne jugerai pas cette boite.
Juste que visiblement chez Amazon, parcontre, on semble avoir une éthique un peu différente :D (les mauvaises langues dirons aucune éthique ^^)

votre avatar

(reply:2078657:Zone démilitarisée)


Pas mieux.

votre avatar

Retrouver les voix perdus, c’est un argument de choc certains politiciens…

votre avatar

T’es au taquet sur ce topic :dix:



D’un côté je suis comme vous tous.
D’un autre, pouvoir entendre à nouveau quelqu’un que j’ai perdu j’en ai malheureusement l’envie.
Je vais éviter de lui demander d’allumer la cuisine quand même :non:

votre avatar

(reply:2078845:phantom-lord)
T’es au taquet sur ce topic


Y a tellement de dérives possibles que c’est inspirant…




Pas cap de lui mettre la voix de Vincent Lambert et de débrancher la prise.



:rhooo:

votre avatar

J’suis une merde, j’ai pas la réf’ :transpi:



Mais la voix de Cloclo où tu lui demande d’allumer la salle de bain ça soit être pas mal x)

votre avatar

(quote:2078726:brice.wernet)
Le problème, c’est surtout l’usage du produit - de toutes façons, les GAFA mises sur des produits rentables, rien de mieux que ceux qui créent une dépendance…


C”est la première chose qui m’est venue à l’esprit : après avoir tenté de bouffer le business des petits libraires, Amazon s’attaque à celui des chamans et autres gourous du spiritisme…
Je vois simplement ça comme une généralisation du deep fake commercialisable à grande échelle.

votre avatar

Cumbalero a dit:


Entre entendre ma voix utilisée par une IA et une voix de synthèse que je pilote ? Je pense que je préfère garder la maîtrise.


Ah ? Ben il suffit juste de réussir à convaincre Amazon de séparer les 2 technos (synthèse vocale d’une voix existante d’un côté, IA générant un texte de l’autre).



Faut pas se leurrer, il y aura un marché pour les deux de toutes façons il y aura des entreprises pour acheter ce type de truc pour assurer leur support client ou support technique. Ça promet des arrachages de cheveux, mais bon…
Et puis je ne te parles même pas de l’industrie du jeu vidéo…. pour faire des PNJ au dialogues réalistes.
Donc à mon très humble avis ça va se développer, avec ou sans Amazon / Alexa…




Cumbalero a dit:


Tu connais la voix qu’avait Steven Hawking ?


Nan. Je ne connais pas ce bonhomme. Qui c’est ?
Mais son nom me fait justement penser à un autre Hawking, Stephen, qui lui avait justement besoin d’une voix artificielle. C’est le type qui a expliqué que les trous noir s’évaporent lentement…

votre avatar

Je ne vois absolument aucun intérêt à copier une voix existante.
Avoir une synthèse vocale réaliste ce n’est pas la même chose.

votre avatar

Drepanocytose a dit:


Les deux mon capitaine. Faire aboyer ton caniche mort, ca n’a pas de prix. Ou faire parler sa grand mère morte qui s’adresse à son caniche mort qui lui répond en aboyant.


Lu de travers ça ressemble à un slogan sorti d’Idiocracy :
“Grâce à IA2000 fait aboyer ta grand mère la chienne.”

votre avatar

Cumbalero a dit:


Je ne vois absolument aucun intérêt à copier une voix existante. Avoir une synthèse vocale réaliste ce n’est pas la même chose.


Ben pour le cas où tu la perdes, ta voix existante, au lieu de synthétiser une voix artificielle.
Par ex., cancer du larynx ou autre maladie horrible du genre, hop opération, hop plus de voix. Zut !
Et là, tu préfèrerais une voix 100% artificielle à la place de la tienne que tu n’as plus ou bien une voix de synthèse qui au moins ressemble à celle que tu avais ? hein ? je demande parce que perso c’est tout choisi, je ne m’imagine pas vraiment parler avec une autre voix si j’ai le choix :mega:

votre avatar

On ne connaît pas sa voix, donc à toi elle te sonnerait étrangère.
Perso, c’est tout choisi, si c’est une appli qui parle à ma place, ce n’est pas avec ma voix.

votre avatar

Sur tous les smartphones il y a normalement une app “magnéto” pour s’enregistrer et s’écouter (mémo vocal). Et c’était aussi une appli fournie avec Windows 3 dans les années 90s :phiphi: Et puis il a aussi plein de gens qui se filment de nos jours, et donc entendent leur propre voix. J’ai même entendu dire qu’au milieu des années 70, les films Super8 connaissaient un tel succès qu’une version sonore avait été créée… permettant aux gens d’entendre leur voix ! (mais bon, là j’étais pas né, donc je ne suis que l’homme qui a entendu l’homme qui a tiré sur l’ours, et l’a peut-être raté)
:mdr:
Bref. Soyons sérieux : la différence entre notre voix telle que les autres l’entendent, et telle que nous l’entendons nous même est seulement une modulation de fréquences car le son se propage à des vitesses différentes dans l’air et les os. Je suis sûr que cela peut se modéliser et qu’une IA pourrait (si elle existait ?) modifier un enregistrement de voix pour qu’il sonne comme l’entend son locuteur. Mais même sans ce type de “rétro-correction”, de toutes façons ça reste la même voix, le timbre, le rythme, l’intonation, etc. ne changent pas !
:-D

votre avatar

– Alexa, je voudrais entendre des CD.
– AAAAAAAAAAAAAAAAHHHHHHHHHHHHHH !
– Merci !

votre avatar

C’est du réchauffé, ça fait bien longtemps que des politiciens connaissent les techniques pour utiliser les voix de personnes décédées

votre avatar

Idée démoniaque.

votre avatar

(quote:2078873:phantom-lord)
J’suis une merde, j’ai pas la réf’ :transpi:


C’est le mec qui a passé 11 ans dans un état végétatif avant que les soins ne soient stoppés (wiki).

votre avatar

Ok merci pour l’information et le lien.



Dur…

Alexa développe une IA pour refaire parler les personnes décédées

Fermer