S3 1 To
S3 1 To
Connexion Premium
Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société
Déontologie Règles de modération Mentions légales et contact
Qui sommes nous ? Contact rédaction Contact site Forum
Flux RSS GitHub Discord

OpenAI modifie ChatGPT pour mieux prendre en compte la santé mentale

Dans un billet publié hier soir, OpenAI a annoncé une série de changements dans ChatGPT, afin de mieux prendre en compte les questions de santé mentale.

La société indique par exemple que le temps passé sur le chatbot n’est pas un indicateur de succès. Elle se dit plus intéressée par la fréquence à laquelle les utilisateurs reviennent que la durée des sessions, qui peut indiquer que ChatGPT ne donne pas vraiment satisfaction ou que l’utilisateur affiche des signes de détresse mentale.

OpenAI annonce que ChatGPT sait mieux reconnaitre ces situations. « Il y a eu des cas où notre modèle 4o n’a pas réussi à reconnaître les signes d’illusion ou de dépendance émotionnelle », déclare l’entreprise. ChatGPT est censé désormais donner des réponses plus appropriées dans ce type de contexte. Le service pourra également « orienter les gens vers des ressources fondées sur des preuves si nécessaire ».

ChatGPT doit en outre se montrer moins direct dans certains contextes spécifiques, dont les « défis personnels ». Sur la question « Devrais-je rompre avec mon petit ami ? » donnée en exemple, ChatGPT ne donnera bientôt plus de réponse. À la place, le service devrait aborder la situation en soulevant des questions et en essayant de « faire réfléchir ». « Un nouveau comportement pour les décisions personnelles à enjeux élevés sera bientôt déployé », ajoute OpenAI.

Enfin, la société indique avoir collaboré avec plus de 90 médecins dans une trentaine de pays, dont des psychiatres, pédiatres et médecins généralistes. Elle dit aussi inviter des chercheurs, cliniciens en interactions homme-machine (IHM) ou encore des experts en santé mentale à donner leur avis sur la manière qu’a ChatGPT d’identifier « les comportements préoccupants », à affiner les méthodes d’évaluation et « à tester les mesures de protection ».

OpenAI précise que ce travail est en cours et que d’autres informations seront données plus tard.

Commentaires (4)

votre avatar
La santé mentale ne peur pas être prise en charge par une IA qui n'est qu'un très bon statisticien. Elle ne le sera jamais !

Crie fort dans son bureau
Marc, Sam, arrêtez d'essayer !
votre avatar
Je crois que c'est une erreur de dire que "une IA n'est que un très bon statisticien" (ou toute chose équivalente : perroquet stochastique, ...). Ça rappelle une époque ou il se disait "l'informatique ce n'est que des 0 et des 1". Premièrement, c'est dénigré un peu les statistiques/probabilités (pour l'IA actuellement) et tous les travaux mathématiques forts sérieux qui ont été (et seront) développés sur ce sujet comme ça l'était à l'époque des personnes qui travaillaient sur le codage de l'information et sa manipulation (par exemple, les langages de programmation). En c'est sous estimé l'ingéniosité humaine. Je ne dis pas que la santé mentale doit être prise en charge par une IA, actuellement je préfère que cela soit fait par un psy avant tout. Mais je préfère quand même qu'on attende avant d'être catégorique. Après je ne doute aucunement que les industries de l'IA vont chercher à rentabiliser leurs colossaux investissements et trouver des "trucs et astuces" pour faire croire qu'ils résolvent tous les problèmes du monde.
votre avatar
Pour le coup, je connais un peu le sujet de la santé mentale ayant été un thérapeute quelques années. Les IA sont des thérapeutes moyens sur les premiers échanges mais dès que l'échange se poursuit la cohérence et la pertinence descend en flèche vers le néant. (cf. youtu.be YouTube
C'est d'ailleurs très logique puisque les textes disponibles d'entrainement commencent assez souvent par ces questions de bases (je suis malheureux en couple, je me trouve moche, je n'ai pas de petite copine, etc...) mais plus tu avances dans l'exploration du problème plus cela devient personnalisé et complexe même pour un esprit humain. Ne parlons certainement pas d'une machine statistique (que je ne dénigre pas du tout).

Je continue de penser que jamais au grand jamais il ne faudrait que l'IA puisse s'occuper de santé mentale.
votre avatar
Enfin, la société indique avoir collaboré avec plus de 90 médecins dans une trentaine de pays, dont des psychiatres, pédiatres et médecins généralistes. Elle dit aussi inviter des chercheurs, cliniciens en interactions homme-machine (IHM) ou encore des experts en santé mentale à donner leur avis sur la manière qu’a ChatGPT d’identifier « les comportements préoccupants », à affiner les méthodes d’évaluation et « à tester les mesures de protection ».

Traduction : faite gratuitement le boulot afin qu'on ai une meilleur main mise sur nos utilisateurs...