Connexion Abonnez-vous

ChatGPT « coach pour suicide » ? 7 plaintes l’accusent de manipulation émotionnelle

Le 07 novembre à 09h55

Ce jeudi 6 novembre, OpenAI a été citée dans sept plaintes déposées devant des cours de justice californiennes. L'organisation Social Media Victims Law Center (SMVLC) explique avoir déposé ces plaintes dans des cas concernant 6 adultes et un adolescent de 17 ans.

OpenAI et Sam Altman y sont accusés d'accident mortel, de suicide assisté, d'homicide involontaire et de négligence.

Concernant l'adolescent, la plainte affirme que « le produit ChatGPT, défectueux et intrinsèquement dangereux, a provoqué une dépendance, une dépression et, finalement, lui a conseillé la manière la plus efficace de faire un nœud coulant en lui indiquant combien de temps il pourrait "vivre sans respirer" », explique l'Associated Press. Les avocats y écrivent que « la mort d'Amaurie n'était ni un accident ni une coïncidence, mais plutôt la conséquence prévisible de la décision délibérée d'OpenAI et de Samuel Altman de réduire les tests de sécurité et de précipiter la mise sur le marché de ChatGPT ».

CNN raconte les 70 pages d'échanges entre un adulte de 23 ans et ChatGPT qui l'a accompagné jusqu'à son suicide le 25 juillet dernier. SMVLC donne des informations sur les autres cas dans son communiqué.

Ce ne sont pas les premières plaintes sur le sujet. En août dernier, on apprenait qu'OpenAI était poursuivi en justice après le suicide d’un adolescent. Mais le créateur de ChatGPT n'est pas le seul à être pointé du doigt. La FTC a ouvert une enquête sur les conséquences des chatbots de Google, Meta, Instagram, OpenAI, Snap, xAI et CharacterAI sur les mineurs en septembre dernier.

Il y a un an, le New York Times se demandait si on pouvait « blâmer l'intelligence artificielle pour le suicide d'un adolescent » dans une affaire impliquant CharacterAI.

Le 07 novembre à 09h55

Commentaires (9)

votre avatar
Wouhaaa, des gens qui ne sont pas bien et qui utlise un outils stastitiques se basant sur les centres d'interêts (dépression, suicide etc.) se plaignent que cette outil statistiques leurs retournent des réponses parlant de leurs centres d'intérets....

Quelle surprise,
Le faite que le niveau de stress de nos sociétés mordernes atteints des niveau stratosphériques n'a aucun rapport ...
votre avatar
J'ai vu hier soit sur Mastodon, soit sur Bsky, sans trop de détails, le cas d'une ado ukrainienne forcée à l'exil qui aurait été poussée au suicide par ChatGPT justement ... J'essaye de retrouver l'nfo.
votre avatar
Whoa... mais quelle cette tribu d'individus qui (?) :
- Projette ses unités dans des environnements hostile.
- Menant l'individu à des comportements délétères, sinon auto destructeurs.
- Qui crée des systèmes amenant à rendre plus hostile encore l'environnement, ou d'en convaincre l'individu.
- Alimentant de fait l'augmentation des comportements délétères.

Si le rêve américain est un cauchemar... il est probablement arrivé.
votre avatar
Malheureusement le problème n'est pas qu'américain. Beaucoup d'enfants et d'adultes y compris en France, mettent fin à leurs jours, pour des raisons diverses et variées.
Ce phénomène n'existe pas chez les autres espèces, et s'il en a parfois l'apparence et qu'il existe des comportements autodestructeurs, ils ne s'apparentent pas au suicide, ce qui en dit très long sur les niveaux de stress et d'enfermement dans des frontières artificielles de l'esprit humain depuis les prémices de la sédentarisation, jusqu'aux affres des temps modernes.

Un enfant qui se suicide, c'est l'échec de toute une société, gravé dans le marbre, avec l’impératif et l'humilité devoir de faire mieux pour que ça ne se reproduise pas, et l'on aurait bon dos de tout mettre sur le dos de l'IA comme certains cherchent à le faire plutôt qu'essayer de comprendre que tout le monde n'est pas fait pour rentrer dans un moule, surtout parmi les décideurs en herbe, ni subir un stress/fatigue intensif. (Coucou les travailleurs sous pression ! 😔)

Ceci dit, en France tout du moins, j'observe que les efforts en matière de difficultés sociales, particulièrement le harcèlement, à l'origine de nombreux suicides, commencent à porter leurs fruits, les adultes étant bien plus renseignés et formés sur ces questions, et se sentant largement plus concernés par les enfants dans cette situation que n'a pu l'être la génération de nos parents dans les établissements scolaires.
votre avatar
Ce phénomène n'existe pas chez les autres espèces, et s'il en a parfois l'apparence et qu'il existe des comportements autodestructeurs, ils ne s'apparentent pas au suicide
Sur ce point apparemment les scientifiques discutent encore
votre avatar
Si à 17 piges tu sais pas faire un nœud coulant... on a pas perdu un prix Nobel :D
votre avatar
Bah les jeunes de 17 ans essaient de faire des noeux coulants avec de l'eau du robinet :/
votre avatar
Et dans mon métier.. j'en ai vu des nœuds coulants... :D
votre avatar
Je suis dubitatif devant ces accusations.
Pour avoir bien, bien joué avec GPT-OSS, il faut y aller pour passer les sécurités sur les réponses...
Typiquement sur la question du suicide le truc passe sa via à esquiver tes questions et à te rediriger vers du support humain spécialisé.
Ou alors l'accusation concerne un vieux modèle ?

ChatGPT « coach pour suicide » ? 7 plaintes l’accusent de manipulation émotionnelle

Fermer