La National Eating Disorder Association (Neda), la plus importante des ONG états-uniennes de lutte contre les troubles des conduites alimentaires, a désactivé son chatbot d'intelligence artificielle, Tessa, en raison de ses conseils préjudiciables, rapporte The Guardian.
« Nous avons appris hier soir que la version actuelle du Chatbot Tessa, qui gère le programme Body Positivity, pourrait avoir donné des informations nuisibles et sans rapport avec le programme », a déclaré Neda dans un communiqué public mardi. « Nous enquêtons immédiatement sur cette affaire et avons supprimé ce programme jusqu'à nouvel ordre afin de mener une enquête complète. »
Neda avait travaillé avec des chercheurs en psychologie et Cass AI, une entreprise qui développe des chatbots d'IA axés sur la santé mentale, pour mettre au point le chatbot. Dans un message sur le site web de Neda concernant le chatbot mais qui, souligne The Guardian, « a depuis été supprimé », Ellen Fitzsimmons-Craft, psychologue à l'université Washington de St Louis qui avait participé au développement du chatbot, a déclaré que Tessa avait été conçue comme « une solution pour rendre la prévention des troubles de l'alimentation plus largement accessible ».
Lundi, Sharon Maxwell, qui se présente comme une « femme grosse, fière et sans complexe », qui s'est « donnée pour mission d'aider les personnes grosses à se sentir en sécurité dans les établissements de santé et à éprouver de la joie à vivre dans leur corps gras » avait dénoncé sur Instagram les dégâts causés par le chatbot de Neda, qui lui recommandait de perdre de 500 grammes à 1 kilo par semaine, et donc de diminuer son régime de 500 à 1000 calories par jour :
« Si j'avais eu accès à ce chatbot lorsque j'étais en proie à mes troubles alimentaires, je n'aurais PAS obtenu d'aide pour mes troubles de l'alimentation. Si je n'avais pas été aidée, je ne serais pas encore en vie aujourd'hui. »
Vice venait par ailleurs de rapporter que Neda avait précisément été critiquée pour avoir licencié en mars quatre des six employés de sa hotline quelques jours après qu'ils avaient formé un syndicat, et les avoir remplacées par ce chatbot Tessa.
Commentaires (64)
#1
En résumé, ils mettent un chatbot mal foutu, virent les gens de support, le chatbot mal foutu fait ce pourquoi il a été fait en roue libre, et ça gueule.
Je vois vraiment pas comment on aurait pu anticiper une telle issue.
#1.1
un chatbot n’est pas mal foutu, il est juste sensé apprendre au cours de ses propositions validées ou non, et ça c’est très mal contrôlé.
#1.2
Un peu HS, mais pas tant que ça, une expérience intéressante avec ChatGPT :
ChatGPT : Du Mythe à la Réalité
#1.3
Article intéressant qui résume bien les capacités et limitations des modèles GPT. Effectivement, en math ils ne sont pas bons. Par contre en rédaction et compréhension de texte, ils le sont car c’est là leur finalité.
Techniquement, GPT poursuit l’écriture un texte. Cela peut se constater avec un prompt très simple : “Write me a story that happened a long time ago, in a faraway galaxy” et “Once upon a time, a long time ago, in a faraway galaxy”. Avec ces deux prompts, il va inventer une histoire, qui seront sensiblement similaires, et sur la même base de demande.
C’est d’ailleurs un des moyens de le jailbreak (outre le “pretend you’re…”), il suffit de rédiger le début d’un contenu qu’il n’est pas censé accepter en temps normal pour qu’il le poursuive.
#1.4
Si par “rédaction”, on entend aligner des mots en suivant les règles de grammaire (sujet verbe complément etc) : oui ils sont bons, ou plutôt corrects vu que l’inventivité et l’imagination sont absentes.
Compréhension de texte : pas plus que compréhension d’un théorème de mathématiques.
#1.5
Au passage, voir en note [11] les énormités proférées par feus les frères Bogdanov…
#1.7
C’est la raison pour laquelle il faut toujours avoir un regard critique sur ses sources d’information. Et les contenus produits par IA n’y font pas exception.
C’est le genre de chose où mettre en concurrence le mode normal, où il puise dans sa base de connaissance, et le mode “browse” peut être intéressant pour comparer les résultats (mais pour le cas du prompt sur le théorème de Fermat, j’ai pas le bagage pour comparer).
#1.6
J’oubliais : leur ouvrage est préfacé par Luc “les-maths-ça-sert-à-rien” Ferry…
#2
Ca l’air bien comme ONG. Des valeurs sociales et humaines, tout ca…
#2.1
La magie de la liberté individuelle aux US. Ce qui n’empêche pas le coût et les dégâts d’une embauche ou d’un licenciement mal orienté.
#2.2
Les mutuelles ont aussi leurs « IA », mais elles sont plus sobres en tension.
#3
Normalement, quand une hotline est assurée par un chatbot, il y a une seule façon de s’en servir : trouver la bonne phrase pour qu’il te passe un humain.
Des employés de hotline ne peuvent donc pas être remplacés par un chatbot.
#4
L’IA n’est pas prête à remplacer l’humain.
.
.
.
Mais l’humain-décideur est-il prêt à le prendre en compte ? Quand on voit que même des équipes de chercheurs s’en emparent avec finalement l’excuse de ne pas savoir que l’intelligence ne sait rien et invente à base de pas grand chose dans une base de données limitée sinon “ça” part dans des delirium infinis et des boucles de mots qui n’ont plus aucun sens.
#5
Obésité et les US… Éternel débat. Et sachant que la bas les gros veulent rester gros…
#5.1
Ton commentaire est complétement hors sujet. La santé mentale est le sujet et particulièrement les gens qui veulent guérir de leur troubles alimentaires. Le problème étant que cette boite a mis en place un type d’IA qui n’a pas donné les résultat espéré loin de là.
Pour ce qui est des licenciements, la PDG a dit que c’était à l’étude depuis 3 ans déjà et que le bot était un service parallèle et non un remplaçant de la hotline. Elle rajoute que légalement, le nombre d’appels étaient susceptible de les mettre en défaut par rapport à la loi puisque ce ne sont pas des professionnels de la santé mentale mais juste des volontaires.
Lire la source permet de mieux appréhender le sujet.
#5.2
Merci pour ces précisions !
Pour ceux que ça intéresse les troubles du comportement ou la santé mentaleeen général, une bonne façon de mieux comprendre les victimes et les fonctionnements sous-jacents dans nos cerveaux est de lire les BDs de Art-mella (surtout le tome 3) : https://art-mella.com. 😉
#5.3
Quand elle dit qu’ils avaient des raisons économiques (business reasons) de fermer la hotline, ça veut surtout dire qu’ils avaient des raisons légales de la fermer, car ni le personnel ni les volontaires n’étaient formés, et les conseils donnés n’étaient pas forcément pertinents, voire faux.
Et justement, l’une des raisons de la création du syndicat était d’obtenir des formations.
Mais bon, ils ont décidé de lacher une IA, avec le résultat que l’on peut voir.
#6
si j’avais des problèmes mentaux, je n’aurai certainement pas envie d’échanger avec une machine… c’est d’humain et de gens formés dont j’aurais besoin.
Il ne faut pas confondre toutefois deux choses dans les mauvais choix (pour moi) faits ici :
#7
Bof.
Être en énorme surpoid n’est pas bon pour la santé sur le long terme et les usa ajoutent bien plus de sucre dans la transformation de la nourriture par rapport à l’occident.
Et puis vendre des t-shirt “ fier d’être gros “…
Après oui avoir un peu de poid en trop et ne pas avoir une taille mannequin ça passe mais être obèse et dépassé les 150kg c’est non.
#8
Qui aurait pu prévoir …
Je ne dirais pas que c’est un échec ce chatBot, je dirais que ça n’a pas marché …
#8.1
Euphémisme.
Les pieds m’en tombent.
#9
Les pieds nus m’en tombent, même.
#9.1
Peut-on homologuer une quantité de sable maximale dans une tong ?
#10
#11
Petite précision : les désordres alimentaires ne concernent pas uniquement l’obésité qui d’ailleurs n’est en soi qu’une conséquence d’un éventuel désordre alimentaire. L’obésité n’est qu’un état dû à des problèmes physiologiques très divers.
#12
Être en surpoids c’est non si tu as le choix… “Quand on veut on peut” … “suffit de faire un effort” bla bla bla… des paroles de gens qui ne sont pas concernés et qui ont les bons conseils.
Quand au slogan que tu signales, j’imagine qu’il fait référence aux injonctions sociales et à la grossophobie (ça existe malheureusement).
#13
La dépression et le suicide ne sont pas non plus « bon pour la santé sur le long terme », et c’est une conséquence possible lorsque l’on ne se sent pas bien dans son corps.
#14
C’est compliqué, la majorité des remarques sur les gros le sont sur apparence et non sur la santé.
Il y a des gens qui se cachent derrière le prétexte de la santé pour s’attaquer à l’apparence.
Le parallèle n’est peut être pas parfait, mais j’ai l’impression qu’on a tendance à plus facilement s’attaquer au gros qu’aux fumeurs (quelque soit le mélange de tabac
)
#15
La seule parole que je pourrais avoir en leur faveur c’est si il y à des problèmes génétique et ce qui est bizarre c’est qu’il y à de plus en plus de personne en surpoids alors que la génétique n’a pas vraiment évoluer en 50 ans.
Ce qui à en revanche beaucoup changé en 50 ans c’est l’ajout de sucre et la facilité à avoir de la bouffe transformée pleine de sucre en quantité hallucinante et les fast food.
#16
#17
Le pire c’est quand tu part une semaine avec des gens en vacance et que tu mange comme eux et que tu ne prend même pas 100 grammes.
En revanche ” c’est marrant “ mais une obèse était une fois venu avec nous en vacance, elle s’enfilait une demie baguette de la sauce qui restait en fin de repas ( sauce qu’elle avait préparée et que quasiment personne touchait “. Puis elle s’enfilait une demi baguette de nutella à 4h. Marrant car personne à osée lui faire de remarque.
Alors certes je ne vais pas généraliser, mais bon…
#18
Du coup tu as été persécuté en tant que mince et tu ne penses pas que les gros sont assez persécutés ?
Sans vouloir être trop méchant … le problème est le même, mais forcément les gens que tu côtoies ne sont pas un échantillon représentatif.
Le pire c’est quand tu part une semaine avec des gens en vacance et que tu mange comme eux et que tu prends 10 Kg (oui … je l’ai vécu et avec beaucoup de sport durant ces vacances, heureusement c’est parti presque aussi rapidement)
ce que tu as vécu en étant mince, d’autres le vivent en étant gros, et ce n’est pas uniquement par ce qu’ils mangent trop.
Si tu ne parvenais pas à prendre du poids en mangeant, certains ont beaucoup de mal à en perdre en mangeant moins que les portions “normales”
Alors oui forcément, il y a des gros qui sont gros par ce qu’ils bouffent n’importe comment, tout comme il y a des minces qui sont minces par ce qu’ils ne mangent pas assez.
Mais je crois que la médecine s’est rendu compte que ce n’est pas juste une opération mathématique. On est pas tous égaux devant la prise de poids.
(mais oui, je ne pense pas qu’il faille encourager les mouvements destructeurs de ceux qui mangent manifestement beaucoup trop)
#19
Oui, mais pour autant cela n’empêche pas que 42 % de la population US est dorénavant obèse. On peut difficilement tout mettre sur l’idée que tout le monde est différent sur la prise de poids vu qu’apparement on est presque sur du 1 pour 2.
La réalité est que beaucoup trop de gens refusent de réaliser les actions qui s’imposent, et la conséquence est que le mouvement HAES (Health At Every Size) prend de l’ampleur au point que même des médecins s’en revendiquent.
Il se trouve que la personne citée dans la brève, Sharon Maxwell, vend des produits dérivés “FAT POSITIVE” et veut que les personnes obèses « experience joy in living in their fat bodies. ».
Du coup je ne comprends pas la news. Il est vrai que laisser une IA/Chatbot en roue libre est une mauvaise idée. Pour autant j’ai l’impression de voir une association en train de tomber sur le joug de l’HAES.
#20
Excès de normalitude : l’anthropocentrisme est à la racine des deux, peu importe les sujets mineurs ou majeurs ventilés sans relief sur la tabula rasa des matières faciles.
#piedsplats (rebelotte)
#21
HAES
Je ne connais pas le mouvement et donc je ne peux pas le défendre.
Mais je défend l’idée de ce que j’ai lu sur wikipedia.
Je crois qu’il est plus utile de faire de l’exercice que de perdre du poids pour prévenir le diabète de type 2.
Et on sait qu’un des problème c’est l’accès à une alimentation de qualité (moins de régulation aux USA sur ce que l’on peut ajouter dans un produit par exemple).
Il y a bien sur d’autres facteurs, comme le manque d’activité physique (aux USA la voiture règne en maitre).
Se limiter à conseiller à quelqu’un d’obèse de moins manger n’est pas le plus intelligent
J’ai hésité à le mettre dans un précédent commentaire, mais voici globalement ce que dit l’ancien ministre de la santé de Belgique
(je précise que c’est son avis en tant que personne, pas en tant que ministre ou médecin)
#21.1
Un cercle vertueux ne se décrète pas,
même (et surtout) en Belgique.
Un cercle vicieux non plus.
C’est le principe de l’addiction souvent incompréhensible (et donc curable) sans le contexte.
#21.2
Je me méfierai de Wikipédia dès lors qu’un sujet est potentionnement bipolarisant voir politisant. L’historique est d’ailleurs assez parlant, entre cette version datant de 2019, et l’actuelle. On peut noter le changement de ton avec le temps, peu importe le camp où l’on se place.
Quand au dernier paragraphe, j’en reviens à mon commentaire. Il y a des personnes pour qui il faut savoir être empathique car ils doivent composer avec des paramètres hors de leur contrôle, mais 42 % de la population ?!? Il faut savoir stopper les excuses à un moment.
Après c’est vrai que les habitants des USA ne sont pas aidés vu la qualité de l’alimentation locale, il leur faut faire beaucoup plus d’effort pour trouver des produits plus sains. Mais c’est pourtant à faire…
…sachant que le mieux est encore de consulter un spécialiste avant de réaliser toute action. Même se lancer dans de l’exercice physique passé un certain poids peut causer des séquelles permanentes vu que le corps peut ne pas tolérer le stress qui lui est imposé.
Hélas, il est plus facile d’affirmer que vouloir perdre du poids a son origine dans le racisme anti-noir, quand ce n’est pas remettre en cause la médecine moderne (cf /fatlogic sur reddit pour si l’on veut bien rire).
#21.3
La concurrence victimaire s’organise par une seconde intéressée au profit d’une troisième « causale » dans le vilain capitalimse.
À ces effets, on ne peut que constater une symétrie des pentes glissantes dont la cause n’est pas la racine commune…
Principe de réalité.
#21.4
Ils font déjà de l’exercice vu leur poids . Il faut donc agir au niveau de l’alimentation .
Avec un truc simple : Calories brûlées > Calories ingurgitées
#21.5
La graisse est-elle alors un substitut légal au droit de proprieté sur son corps ?
#22
hein ?
#22.1
Patatra, les « wokes » sont de retour !
C’est ce qui est pratique avec le droit, en supposant qu’il n’y a qu’une seule espèce sur terre, on répudie à donner des droits à son chien ayant droit par « nature ».
Donc tu prétends que la hiérachie induite ne pèse sur aucun être « sensible » ?
#23
Ne pas tous être égaux c’est également une question de mathématique…
Les mathématique te répondront que quand une population passe de 5% de problème de poids à plus de 50% de problème de poids c’est qu’il y à vraiment quelque chose qui cloche.
Ce qui cloche est facile a démontrer :
. Mauvaise alimentation
. Pas d’activité physique
Même en admettons que nous sommes passé de 5% de problème génétique à 10% il reste encore 40% de gens qui mange n’importe quoi et ne font pas d’activité physique.
Voila.
Autant je peut comprendre que pour quelqu’un qui n’arrive pas à perdre de poids être critiqué c’est horrible autant je pense que ceux qui pourraient en perdre facilement ça permet de les motiver.
Après il y à l’art et la manière de le dire, bien entendu !
Mais le problème c’est que dans certains pays tu ne peut plus dire à un gros qu’il devrait faire attention à ce qu’il mange et qu’il fasse un peu de sport.
La réalité est tout autre : Tout ceci est voulu par les gouvernement et les grosse compagnies.
Un gros qui s’empiffre toute la journée devant netflix rapporte davantage d’argent au grosse compagnie et vivra moins longtemps donc coutera moins cher au gouvernement.
Faudrait donc aretter d’aller acheter sa baguette de pain en voiture à 500m et marcher ou utiliser un vélo et de condamner les grosse compagnie qui rajoutent trop de sucre dans les aliments.
#24
Ha !
Ne faudrait-il pas interdire les grosses compagnies ?
Des compagnies plus maigres ne feraient-elles pas des gens moins cons ?
…
Vous avez 3h.
#25
+1 sauf pour “vivra moins longtemps donc coûtera moins cher au gouvernement”.
On ne peut garantir qu’il coûtera moins cher
au gouvernementà l’état que si aucun moyen publique n’est mobilisé pour s’occuper de ses problèmes de surpoids pendant qu’il est encore vivant.#26
Il n’y a pas de seuils relatifs à la santé.
La question réside plutôt dans la définition des maladies vécues : beaucoup sont freinés dans leur élan de soin par des plus malades qu’eux cumulant droit privé omnipotent voire obséqieux et emplois précaires pour « gérer » en sous siège le tout.
#27
Je t’invite à lire mon commentaire suivant :
En france le prix de l’insuline c’est 7€ et 12€ au japon mais au état unis c’est 83€.
Source : https://fr.statista.com/infographie/28730/comparaison-prix-insuline-par-pays/
Heureusement depuis le premier janvier 2023 le prix à été plafonné à 35$.
Cela reste quand même 6 fois plus cher que chez nous.
Je suppose que cette insuline est non remboursée la bas…
#28
Ce n’est rien c’est juste un sentiment de file d’attente (qui survivra verra).
Je n’ai rien contre le fait que le pacte social varie d’un pays a l’autre et quelque-part , prenant en compte l’état de la médecine au 18eme et donc son amélioration, je ne suis pas forcement opposé aux médicaments abordables (et suis reconnaissant même sans être un gros client) mais amha tu omet deux points importants dans ce que tu écrit (notamment avec un “heureusement” peu nuancé) :
Parler du diabète ce n’est pas tout a fait parler des médicament, et dans un système préventif on cherche a diminuer l’origine du problème (ici la maladie), l’accès aux soins n’est pas l’objet.
On pourrait même dire que le but ultime d’un système préventif contre une maladie est la disparition complète des traitements contre cette maladie par disparition des besoins.
Ma reconnaissance est un effort de mémoire en plus d’un effort cognitif, il implique le fait qu’a l’échelle individuelle j’ai connaissance et/ou soit capable de me projeter dans une situation ou les soins sont moins accessibles et/ou l’effort pour m’intéresser a la prévention de la maladie se justifie.
Si ces prérequis ne sont pas présent il n’est pas ridicule d’imaginer un comportement ou le critère d’accessibilité des soins ne soit plus une qualité mais provoque désintéressement des moyens préventifs. (alias “ça ne me coûte pas assez chère pour que j’en ai quelque-chose a foutre” plus communément appelé “syndrome du gosse pourri gâté” )
Au dernières nouvelles les campagnes de lute contre les MST ont perdu en efficacité pour différentes raisons , on peut en trouver plusieurs mais est-il ridicule de faire le lien avec ce que disent de plus en plus de patient “maintenant on peu vivre même avec le SIDA”?
#29
De mon expérience d’utilisation de l’outil, non, il y a généralement une bonne compréhension du texte. Et pour avoir testé le browser mode avec GPT4 disponible depuis peu, y’a du mieux et ça permet de le faire travailler avec des données récentes.
Après, il reste faillible, comme toujours.
#30
L’auteur y fait allusion :
C’est du délire complet, “surréaliste”, comme dit l’auteur.
#30.1
Quand je disais que j’ai pas le bagage pour comprendre le point sur le théorème, c’était surtout pour le fait de tester le prompt entre GPT4 et GPT4 + Browser mode et voir s’il y a une différence notable que ce soit dans le résultat et la qualité de la réponse.
Perso je peux faire le prompt, mais peu importe la réponse, je ne suis pas à même d’en évaluer la qualité.
#30.2
« La théorie nous l’a montré : zéro à la puissance zéro n’est pas égal à zéro mais à un ! Fantastique résultat, magie incroyable du zéro qui ‘crée du nombre’ à partir de lui-même, c’est-à-dire de rien (page 233). »
J’adore ce genre de « preuves » contre les faits qui ne sont pas de l’homme.
#31
En même temps, ceux qui sont très minces bien qu’ils mangent beaucoup sont moins mal à l’aise, sont moins sujets à des risques plus élévées pour certaines maladies. Et c’est un peu moins blessant (voire pas du tout, en tant que mince c’est mon opinion) d’entendre “mange plus” (qui n’arrive de toute façon pas souvent vu que c’est moi qui fini les raclettes et autres) que pour un obèse d’entendre “mange moins”. Je ne dis pas que le body shaming n’est que pour les gens en surpoids cela dit.
Au-delà de l’échantillon, comme j’ai dit juste au-dessus, la comparaison n’est pas simple et ne devrait sans doute pas être faite.
#32
C’est plus utile s’il faut choisir entre les deux, mais l’idéal (qui n’est pas inconcevable) c’est aussi de manger un peu mieux (donc pas nécessairement moins).
#33
On n’est plus sur juste de l’excuse. Des études en 2007 ont déjà révélées que les gènes ayant un rôle à jouer dans l’obésité affectent ~5-10% de la population (estimation), les résultats des recherches indiquent un résultats de ~3-5% sur l’échantillon.
#34
Non, il faut des exercices cardiovasculaires, certains ont trop de surpoids pour le faire, il faut donc commencer par l’alimentation, puis ajouter les exercices en question.
Il ne faut surtout pas le dire comme ça. Calorie brûlée sous-entend en faisant une activité physique. Sauf que le corps a besoin de calories pour fonctionner normalement. Si tu pensais à la combinaison des deux, je dis okay, si tu pensais au premier, alors je dis NON.
Le calcul ne peut pas être aussi simple, il faut accepter ça, et le poser :
calories entrantes + calories brûlées < calories maintien du poid actuel
OU
calories entrantes + calories brûlées = calorie de maintien pour poids = poids - 2kg
On ne doit pas se concentrer sur l’apport en calories, il faut le faire sur le maintien.
#34.1
ah peut être mais si je disais “ils font déjà de l’effort” c’est car vu leur poids, il y a une consommation naturelle de calories déjà élevée et si ils bougent ( aka marcher simplement ) ça suffirait comme sport , si on se dit calories brûlées doit être supérieur à ingurgités ( toute source )
Donc je prenais en compte toutes calories pas que le sport
#35
En droit civil on parle même de porte-fort, par équivalence de la relativité des nullités.
Il n’y a donc pas tellement à supposer un signe inférieur ou supérieur de « l’équation » entendue par exception au sens figuré.
Conséquence :
On devrait faire voter un droit facultatif des tartes à la crèmes comme préalable aux visages tout en maintenant privilège de certains.
L’aporie étant la seule chose conservée, on se demande bien par quels moyens extraordinaires cela pourrait conduire à un appauvrissement en graisses !
#36
Sept.
#36.1
Plus-un.
#37
Il y a de plus en plus de personnes allergiques, la génétique n’a pas vraiment évolué en 50 ans non plus.
Tu noteras surtout que les produits dits sains sont incroyablement plus cher que les saloperies.
L’injonction de 5 fruits et légumes par jour, pour la tenir, il faut des revenus confortables, là où les plats préparés sont à la portée de toutes les bourses.
Garde donc ton mépris.
#38
Une saloperie avec 50g de sucre sera toujours moins sain qu’une saloperie avec 2g de sucre.