Publié dans Sciences et espace

62

Alexa développe une IA pour refaire parler les personnes décédées

Alexa développe une IA pour refaire parler les personnes décédées

« Amazon apprend à Alexa à imiter la voix de n'importe qui, mort ou vivant, à partir d'un enregistrement d'une minute seulement de cette voix », rapporte Business Insider.

Rohit Prasad, le responsable scientifique d'Alexa, par ailleurs vice-président senior d'Amazon, a en effet montré mercredi, lors de la conférence re:Mars d'Amazon à Las Vegas, une vidéo où un garçon demande à Alexa si sa grand-mère peut lui lire le Magicien d'Oz.

Prasad a expliqué que « la capacité d'Alexa à se faire passer pour des voix familières est particulièrement cruciale maintenant, car de nombreuses personnes ont perdu des êtres chers à cause du COVID-19 : bien que l'IA ne puisse pas éliminer la douleur de cette perte, elle peut certainement prolonger leurs souvenirs ».

Amazon n'est pas la seule entreprise à développer une technologie capable d'imiter la voix humaine, relève Business Insider. Le mois dernier, le fabricant de jouets japonais Takara Tomy a en effet lancé un appareil en forme d'œuf appelé Coemo qui copie les voix des adultes et les utilise pour lire des histoires aux enfants.

L'expérience d'Amazon rappelle aussi celle de Hereafter AI, une startup qui a conçu un chatbot conversationnel qui « préserve les souvenirs et les pensées de personnes réelles », même décédées, note voicebot.ai.

Cependant, nombreux sont ceux qui semblent effrayés sur Twitter par cette capacité à usurper une identité, et anticipent l'utilisation que pourraient en faire délinquants et criminels, relève par ailleurs Business Insider.

62

Tiens, en parlant de ça :

dessin satirique de Flock

#Flock : de Game of Shithrones au jeu des sept différences

Moi en retard ??? Non… (Ha si…)

13:37 Flock 11
Des chercheurs en noir et blanc regardent une fiole sur laquelle est écrit "Perlimpimpin" en jaune.

[Édito] Respectez les sciences, bordel !

Demi mole

17:07 NextScience 39
Vitrée brisée

Une faille critique dans le langage Rust, Windows trinque

De la rouille, des fenêtres, une rustine

17:02 SoftSécu 28
next n'a pas de brief le week-end

Le Brief ne travaille pas le week-end.
C'est dur, mais c'est comme ça.
Allez donc dans une forêt lointaine,
Éloignez-vous de ce clavier pour une fois !

62

Fermer

Commentaires (62)


C’est juste horrible comme torture, y a rien de pire pour ne pas réussir à faire son deuil, quelle idée pourrie…


Quelle horreur…


:vomi2:


ouai refaire parler adolf ou n’importe quel autre meurtrier/dictateur/personne mauvaise, quelle bonne idée pour les victimes …


L’horreur, déja sur la psychologie dans le cadre d’un deuil, mais surtout dans un cadre frauduleux couplé au deepfake, on va pouvoir faire dire n’importe quoi à n’importe qui.
Ils devraient commencer par faire des démos outrancières en utilisant Bezos Zuckerberg and co, ça leur ferait pas faire machine arrière mais au moins ils pourront pas faire les innoncents quand leur tech servira à de mauvaises choses


Plus qu’à la mettre dans un robot humanoïde genre Ameca, vendre une prestation sur-mesure pour adapter l’apparence à la personne, et vous pourrez l’avoir chez vous pour toujours !


Ouais. Ca change un peu de Médor empaillé près de la cheminée chez mamie.
Maintenant, c’est mamie qui sera empaillée.



Sortez-moi de là, par pitié.


Mais puisque c’est pour soulager la douleur des victimes on vous dit.
Vous n’avez pas de coeur pour vous y opposer, bande de salopards. Des victimes qui ont bobo dans leur petit coeur, on vous dit !



ouai refaire parler adolf ou n’importe quel autre meurtrier/dictateur/personne mauvaise, quelle bonne idée pour les victimes …





  • Alexa, est-ce que j’ai reçu du courrier ?

  • Nein ! Nein ! Nein !


L’horreur est humaine !



Est-ce que les clients béats de ce GAFAM avaient imaginés ce qu’ils financeraient ?


Et demain, Zelensky demandera accès à la technologie en soutien aux mères ukrainiennes qui ont perdu un enfant…
==> Je sors


C’est d’un glauque…



“Be right back” (S2E1 de Black Mirror) est un épisode de science-fiction, pas un mode d’emploi !


Entre ça et faire empailler son animal de compagnie, mon cœur balance…


Business as usual…



(quote:2078657:Zone démilitarisée)
Entre ça et faire empailler son animal de compagnie, mon cœur balance…




Les deux mon capitaine. Faire aboyer ton caniche mort, ca n’a pas de prix.
Ou faire parler sa grand mère morte qui s’adresse à son caniche mort qui lui répond en aboyant.


Au-moins en France il n’y a pas besoin d’Amazon pour faire parler les morts



On a déjà




  • Les politiques qui font parler De Gaulle

  • Les beaufs / anti-tout / gilets-jaunes / complotistes (rayer la mention inutile) qui font parler Coluche


Je pense que l’on à pas envie d’entre encore Manuel Valls.


quelle horreur


Je pense qu’il y a un bug chez NXi : cet article prévu pour le 1er avril sort aujourd’hui par erreur… 😅😜




Non ? 😔


Il n’y a plus qu’entrainer une IA de son vivant et on pourra discuter avec son parent mort via alexa.
:windu:



Ca me fait penser à la série Upload (sur Prime video) que j’ai vu il y a peu.



En gros le synopsys c’est : juste avant de mourir on télécharge votre subconscient pour vous “uploader” sur un serveur. Vous êtes donc pour l’éternité un avatar qui peut communiquer avec les mortels.


Qu’est-ce qu’on s’amuse dans le domaine de la tech… :roll:
:vomi1:


Cantelou et Gerra en PLS


Je suis le seul à trouver ce concept malsain ?


Je vis justement un deuil actuellement… C’est une épreuve difficile et cette “innovation” me semble effrayante… Elle ne sert qu’à perpétuer le deuil… Oui c’est malsain, très malsain même…


Non je te rassure.
On a bouffé la pomme, le trognon, la queue et les pépins. Et même l’asticot qui était dedans.


J’espère qu’ils font cette déclaration juste pour faire parler de leurs produits en jouant sur l’émotion…
Reste à proposer un nouveau service : les voix de tous les utilisateurs d’Alexa pourront être reproduites à partir de l’enregistrement des commandes vocales et mises à disposition de leurs proches.


Black Mirror saison 2, épisode 1 : Bientôt de retour


Ça y est, on arrive à une étape où l’on va devoir mettre en place des certificats pour attester la véracité des vidéos /audios. La seule confiance que l’on pourra avoir des dires de quelqu’un sans ça sera en direct, d’ici à ce que la technologie envahisse ça aussi



d’ici à ce que la technologie envahisse ça aussi




Bein, c’est pas ça le metaver ?



Winderly a dit:


Je suis le seul à trouver ce concept malsain ?




D’après les commentaires, tu n’es pas le seul. Comme on va dire que c’était plus ou moins prévu (j’en ai échangé avec un ancien collègue à l’époque, donc il y a plus de 2 ans), on était d’accord sur un truc: c’est malsain pour nous, mais pour les générations futures pas forcément.
En fait, ce genre de chose malsaine existe déjà, le débat a certainement eu lieu avec la photographie et a eu lieu avec les caméscopes.
Et ce côté malsain est peut-être lié à notre éducation/culture, c’est peut-être parfaitement acceptable ailleurs (purée, un boudhiste pourrait finir par causer avec son ancienne incarnation quand même!)



Le problème, c’est surtout l’usage du produit - de toutes façons, les GAFA mises sur des produits rentables, rien de mieux que ceux qui créent une dépendance…


Il y a une différence quand même entre la photo ou la vidéo qui enregistre un souvenir, donc une action réalisée par le sujet, avec un dispositif capable de produire un enregistrement audio ou vidéo inédit d’une personne sans intervention de celle-ci.



Le deuxième cas est effrayant puisque tu peux faire dire n’importe quoi, y compris des choses que la personne n’aurait pas cautionné de son vivant, à quelqu’un et avec quel recours derrière en matière de droit ?



Certes aujourd’hui la magie du montage photo, ou audiovisuel peut faire changer le sens ou la mise en situation d’une personne, mais là c’est le next fucking level puisque même plus besoin de matériel original, il suffit de produire un nouveau.



(quote:2078726:brice.wernet)
En fait, ce genre de chose malsaine existe déjà, le débat a certainement eu lieu avec la photographie et a eu lieu avec les caméscopes.




Pas certains. Les enregistrements sonores existent aussi. Là, on est en train de faire reparler des gens. C’est comme si on pouvait prendre de nouvelles photographies ou faire de nouvelles vidéos avec des personnes qui ne sont plus. Cela serait tout aussi malsain.


J’ai beau être un gros complotiste, je l’avais pas vu venir l’excuse du covid sur cette histoire. Bordel ils sont forts.



SebGF a dit:


Il y a une différence quand même entre la photo ou la vidéo qui enregistre un souvenir, donc une action réalisée par le sujet, avec un dispositif capable de produire un enregistrement audio ou vidéo inédit d’une personne sans intervention de celle-ci.




Aujourd’hui on voit une différence, mais il y a cent ans? il y a 40 ans? On pouvait imaginer reprojeter une vidéo de quelqu’un comme s’il était encore là: ce n’est pas si différent.



Bien sûr, je suis conscient des abus possibles - et ceci depuis il y a plus de 10 ans quand Microsoft il me semble a fait parler un ordinateur avec ce que serait la voix de Bruce Willis en Français…



Imaginer qu’on puisse faire parler des morts, par exemple pour faire de la propagande, comme si c’était des messages d’archives - mais oh wait! on peut le faire en coupant des enregistrement audio déjà !



Donc méfiance, mais de mon point de vue ce n’est pas forcément un tremblement de terre…



fdorin a dit:


Pas certains. Les enregistrements sonores existent aussi. Là, on est en train de faire reparler des gens. C’est comme si on pouvait prendre de nouvelles photographies ou faire de nouvelles vidéos avec des personnes qui ne sont plus. Cela serait tout aussi malsain.




C’est ne pas se rendre compte à quel point le fait de pouvoir revoir des personnes mortes avec nos vidéos est déjà malsain pour d’autres…
Et qu’on pouvait déjà faire des montages avec l’audio et la vidéo.



(Vous n’avez pas vu Forrest Gump serrer la main à JFK? C’était bluffant à l’époque!)


Forrest Gump c’est une oeuvre de fiction.



Oui, on peut déjà faire des montages et ça pose déjà des problèmes. Montage plus élaboré = problèmes plus grands.


Je ne faisais que commenter la comparaison (qui me paraissait hasardeuse), sans me prononcer sur les photos/vidéos/enregistrements (qui sont déjà “pénibles” je trouve lorsqu’il y a des personnes disparues), mais qui le seraient d’autant plus que ces médias seraient nouveau, et non pas de “simples” souvenirs…


Black Mirror, “Be Right Back”, saison 2, épisode 1



On est encore loin du robot, mais l’idée est là.


Je pensais surtout à la première partie avec l’interaction par téléphone et l’IA nourrie aux réseaux sociaux du défunt


Ghimo

Je pensais surtout à la première partie avec l’interaction par téléphone et l’IA nourrie aux réseaux sociaux du défunt


Je l’ai vu il y a plusieurs années, j’avais oublié cette partie qui devient du coup vraiment d’actualité ! :yes:


Ayons une pensée pour les gens ayant perdu leur voix suite à une opération chirurgicale par exemple… :yes:


Ca va leur faire une belle jambe de s’entendre tenir des propos qui ne sont pas les leurs. C’est déjà souvent perturbant d’entendre sa propre voix qui a été enregistrée…


Cumbalero

Ca va leur faire une belle jambe de s’entendre tenir des propos qui ne sont pas les leurs. C’est déjà souvent perturbant d’entendre sa propre voix qui a été enregistrée…


Haters gonna hate
Et toi, si tu perdais ta voix, tu préfèrerais rester silencieux ou avoir une voix de synthèse qui ressemble à ta vraie voix ?


Tsinpen

Haters gonna hate
Et toi, si tu perdais ta voix, tu préfèrerais rester silencieux ou avoir une voix de synthèse qui ressemble à ta vraie voix ?


Entre entendre ma voix utilisée par une IA et une voix de synthèse que je pilote ?
Je pense que je préfère garder la maîtrise.



Tu connais la voix qu’avait Steven Hawking ?


Ca ma rappelle un docu sur Arte de cette année où ça parlait d’une boite (ou labo, ché plus) allemande qui avait commencé à développer ce genre de logiciel pouvant reproduire une voix à partir d’un court échantillon. Ils étaient allé assez loin, et leur démo était déjà pas mal. Ils avaient annoncé ne pas aller plus loin, ça devait rester une démo technique car ils évoquaient justement les potentiels problèmes liés à cette techno, les dérives possibles…
Je ne sais pas ce que c’est devenu, et faute d’avis éclairé, je ne jugerai pas cette boite.
Juste que visiblement chez Amazon, parcontre, on semble avoir une éthique un peu différente :D (les mauvaises langues dirons aucune éthique ^^)



(reply:2078657:Zone démilitarisée)




Pas mieux.


Retrouver les voix perdus, c’est un argument de choc certains politiciens…


T’es au taquet sur ce topic :dix:



D’un côté je suis comme vous tous.
D’un autre, pouvoir entendre à nouveau quelqu’un que j’ai perdu j’en ai malheureusement l’envie.
Je vais éviter de lui demander d’allumer la cuisine quand même :non:



(reply:2078845:phantom-lord)
T’es au taquet sur ce topic




Y a tellement de dérives possibles que c’est inspirant…




Pas cap de lui mettre la voix de Vincent Lambert et de débrancher la prise.



:rhooo:


J’suis une merde, j’ai pas la réf’ :transpi:



Mais la voix de Cloclo où tu lui demande d’allumer la salle de bain ça soit être pas mal x)



(quote:2078726:brice.wernet)
Le problème, c’est surtout l’usage du produit - de toutes façons, les GAFA mises sur des produits rentables, rien de mieux que ceux qui créent une dépendance…




C”est la première chose qui m’est venue à l’esprit : après avoir tenté de bouffer le business des petits libraires, Amazon s’attaque à celui des chamans et autres gourous du spiritisme…
Je vois simplement ça comme une généralisation du deep fake commercialisable à grande échelle.



Cumbalero a dit:


Entre entendre ma voix utilisée par une IA et une voix de synthèse que je pilote ? Je pense que je préfère garder la maîtrise.




Ah ? Ben il suffit juste de réussir à convaincre Amazon de séparer les 2 technos (synthèse vocale d’une voix existante d’un côté, IA générant un texte de l’autre).



Faut pas se leurrer, il y aura un marché pour les deux de toutes façons il y aura des entreprises pour acheter ce type de truc pour assurer leur support client ou support technique. Ça promet des arrachages de cheveux, mais bon…
Et puis je ne te parles même pas de l’industrie du jeu vidéo…. pour faire des PNJ au dialogues réalistes.
Donc à mon très humble avis ça va se développer, avec ou sans Amazon / Alexa…




Cumbalero a dit:


Tu connais la voix qu’avait Steven Hawking ?




Nan. Je ne connais pas ce bonhomme. Qui c’est ?
Mais son nom me fait justement penser à un autre Hawking, Stephen, qui lui avait justement besoin d’une voix artificielle. C’est le type qui a expliqué que les trous noir s’évaporent lentement…


Je ne vois absolument aucun intérêt à copier une voix existante.
Avoir une synthèse vocale réaliste ce n’est pas la même chose.



Drepanocytose a dit:


Les deux mon capitaine. Faire aboyer ton caniche mort, ca n’a pas de prix. Ou faire parler sa grand mère morte qui s’adresse à son caniche mort qui lui répond en aboyant.




Lu de travers ça ressemble à un slogan sorti d’Idiocracy :
“Grâce à IA2000 fait aboyer ta grand mère la chienne.”



Cumbalero a dit:


Je ne vois absolument aucun intérêt à copier une voix existante. Avoir une synthèse vocale réaliste ce n’est pas la même chose.




Ben pour le cas où tu la perdes, ta voix existante, au lieu de synthétiser une voix artificielle.
Par ex., cancer du larynx ou autre maladie horrible du genre, hop opération, hop plus de voix. Zut !
Et là, tu préfèrerais une voix 100% artificielle à la place de la tienne que tu n’as plus ou bien une voix de synthèse qui au moins ressemble à celle que tu avais ? hein ? je demande parce que perso c’est tout choisi, je ne m’imagine pas vraiment parler avec une autre voix si j’ai le choix :mega:


On ne connaît pas sa voix, donc à toi elle te sonnerait étrangère.
Perso, c’est tout choisi, si c’est une appli qui parle à ma place, ce n’est pas avec ma voix.


Cumbalero

On ne connaît pas sa voix, donc à toi elle te sonnerait étrangère.
Perso, c’est tout choisi, si c’est une appli qui parle à ma place, ce n’est pas avec ma voix.


Sur tous les smartphones il y a normalement une app “magnéto” pour s’enregistrer et s’écouter (mémo vocal). Et c’était aussi une appli fournie avec Windows 3 dans les années 90s :phiphi: Et puis il a aussi plein de gens qui se filment de nos jours, et donc entendent leur propre voix. J’ai même entendu dire qu’au milieu des années 70, les films Super8 connaissaient un tel succès qu’une version sonore avait été créée… permettant aux gens d’entendre leur voix ! (mais bon, là j’étais pas né, donc je ne suis que l’homme qui a entendu l’homme qui a tiré sur l’ours, et l’a peut-être raté)
:mdr:
Bref. Soyons sérieux : la différence entre notre voix telle que les autres l’entendent, et telle que nous l’entendons nous même est seulement une modulation de fréquences car le son se propage à des vitesses différentes dans l’air et les os. Je suis sûr que cela peut se modéliser et qu’une IA pourrait (si elle existait ?) modifier un enregistrement de voix pour qu’il sonne comme l’entend son locuteur. Mais même sans ce type de “rétro-correction”, de toutes façons ça reste la même voix, le timbre, le rythme, l’intonation, etc. ne changent pas !
:-D


– Alexa, je voudrais entendre des CD.
– AAAAAAAAAAAAAAAAHHHHHHHHHHHHHH !
– Merci !


C’est du réchauffé, ça fait bien longtemps que des politiciens connaissent les techniques pour utiliser les voix de personnes décédées


Idée démoniaque.



(quote:2078873:phantom-lord)
J’suis une merde, j’ai pas la réf’ :transpi:




C’est le mec qui a passé 11 ans dans un état végétatif avant que les soins ne soient stoppés (wiki).


Ok merci pour l’information et le lien.



Dur…