swiper a dit:

Mais c’est effrayant et en même temps magnifique. J’imagine pour les personnes ayant perdu des proches et ne gardant d’eux qu’un message vocal. Ils vont pouvoir faire “revivre” leur proches et être aimés. Difficile, de prévoir l’effet positif ou négatif de cette technologie dans ce domaine. Le deuil se fera t-il toujours ? De quelle manière ?

Je ne parle pas du côté malveillant qui pourrait dépasser notre imagination. Offrir un moyen de le détecter n’est utile que lorsque l’on se méfie de ce genre de technologie.

Au contraire, c’est typiquement le problème avec l’usage de ce type d’outil : on distingue de moins en moins le vrai du faux.

Typiquement l’art était déjà confus entre ce qui faisait d’une œuvre d’art “un chef d’œuvre” : le rendu en lui-même ? le message qu’elle véhicule ? l’interprétation qui en est faite ?
Maintenant on va se poser la question de “est-ce que tout ça existe dans ce que je perçois ?”, car l’IA n’a aucune intention réelle, encore moins dans le cadre d’une reproduction comme ici.
Elle pourra faire un nouveau titre de Mickael Jackson sans problème, proche du style originel pour être identifiable, mais parfaitement mis au goût du jour comme “seul un véritable artiste saurait le faire”. Tout le monde y croira, ça sera “digne de lui”, mais est-ce que cela illustrera l’évolution artistique de Mickael Jackson ? Non, car il est mort, on écoutera une IA.
Elle aura répliqué à partir de sa base de connaissance ce qu’elle considère que notre cerveau va interpréter comme “véritable”. Une énorme hypocrite/faussaire, en gros.

C’est la même chose dans le cadre du deuil. On a eu un contact avec une vraie personne, des souvenirs se sont créés, dans lesquels se sont intégrés les personnalités respectives, les qualités et défauts de l’autre, peut-être son phrasé exemplaire mais une tendance à dire “astérix” au lieu d’astérisque ou à utiliser de façon insensée le mot “chocolatine” (bon ok, personne s’attache à quelqu’un qui dit pas “pain au chocolat”).

C’est la véracité de ces interactions qui vont manquer en cas de décès. C’est fini, c’est dur, mais l’IA ne reproduira jamais rien qui soit réel. On a un besoin crucial que ça reste vrai pour qu’on restent “utiles”. Déjà de base, nos représentations des gens sont biaisées par le temps et la mémoire, on y apporte désormais du biais complémentaire par les filtres, si en plus on se met à lui faire recréer des propos fictifs, rendus encore plus réalistes avec une petite vidéo deepfake (tant qu’à faire), ça ne peut qu’être nocif.

Mais bon, admettons qu’on se lance. On place où la limite ? On autorise à reprendre un extrait écrit existant dans une version interprétée ? A reproduire un propos au choix de 30sec maximum (ou 60sec avec le pack premium) sur la base d’un souvenir qu’on raconte ? A générer un message psychologiquement réconfortant automatique via une requête chatGPT “Que dire à ses proches quand on est mort et qu’ils sont tristes” ? Et du coup, c’est le futur mort qui choisi en amont ou c’est les proches après le décès dans le cadre des procédures d’héritage ?

Autant monter un cran au dessus, on va continuer à communiquer avec le mort, savamment répliqué via une IA,comme dans l’épisode Black Mirror évoqué dans un autre commentaire. Au moins, chacun fait son deuil à sa vitesse (si c’est possible quand la personne ne semble pas morte ?).

M’enfin dans ce cas tant qu’à faire, autant basculer directemetn sur l’IA avant même la mort de cette personne, comme ça on s’épargne la douleur de sa perte !
Avec un peu de chance, on pourra même ajuster quelques réglages sur des détails de sa personnalité qui nous agaçent, ça lui évitera d’être parfois un peu trop pessimiste, trop franche… et on aura même un bouton “PAUSE”, le rêve absolu !

Est-ce que j’exagère le trait ? J’ai franchement du mal à le savoir moi-même.

swiper a dit:

Tu sous estimes l’IA qui peut construire et se souvenir des interactions vécues. Aujourd’hui déjà, avec Chat GPT on peut avoir une conversation relativement intéressante sur pleins de sujets divers.

Ha mais je sais qu’elle en sera capable un jour, c’est bien ce qui pose problème de se dire qu’on peut s’en servir pour prolonger les interactions avec un humain dès qu’on peut reproduire une voix à partir d’une annonce de répondeur !

Reste que pour être viable, ton journal nécessiterait un niveau de transparence et d’intimité impossible à atteindre sauf à y passer des heures et des heures avec un guidage psychologique de l’IA qui en rebuterait plus d’un (à moins d’aller lire directement dans les pensées ?).

C’est pour ça que j’évoque une réplication capable de faire illusion auprès d’un proche, au moins un certain temps, mais que ça ne sera jamais toi.