OpenAI accusée de mauvaises pratiques scientifiques pour résoudre un problème de maths
Quick and dirty maths
Le 10 septembre à 10h21
OpenAI prétend avoir résolu un problème mathématique avec une de ses IA sans qu’on en soit sûr. Mais cette annonce arrive en parallèle de celle de deux mathématiciens, Tristan Buckmaster et Levent Alpöge, qui auraient pavé la voie à l’entreprise de Sam Altman à leurs corps défendants, soit par la rumeur sur leur façon d’attaquer le problème, soit sur l’utilisation de leurs données par l’entreprise.
OpenAI accusée de mauvaises pratiques scientifiques pour résoudre un problème de maths
Quick and dirty maths
OpenAI prétend avoir résolu un problème mathématique avec une de ses IA sans qu’on en soit sûr. Mais cette annonce arrive en parallèle de celle de deux mathématiciens, Tristan Buckmaster et Levent Alpöge, qui auraient pavé la voie à l’entreprise de Sam Altman à leurs corps défendants, soit par la rumeur sur leur façon d’attaquer le problème, soit sur l’utilisation de leurs données par l’entreprise.
Sciences et espace
Sciences
9 min
Comme Next en parlait déjà cet été, l’IA générative bouscule la recherche en mathématiques, mais pas forcément dans le bon sens. Dans son effort d’utiliser les maths comme « benchmark » de ses modèles alors que l’entreprise prépare toujours son entrée en bourse, OpenAI défraye la chronique à propos de ces méthodes.
Ce mardi 8 septembre, Tristan Buckmaster, mathématicien de l’université de New York, a annoncé avec Levent Alpöge (qui travaille pour Anthropic, mais pas sur ce sujet) avoir trouvé une voie pour résoudre un important problème non résolu des mathématiques théoriques, appelé « Navier-Stokes ». Ils ont mis en ligne leurs travaux sur le serveur de l’université de New York via trois PDF (1,2 et 3), ainsi qu’un dépôt GitHub avec les fichiers de preuve en Lean non relus par les pairs.
Des équations introduites au XIXᵉ siècle dont on ignore si elles ont toujours des solutions uniques
Ce problème est celui de l’existence et de la régularité de solutions des équations de Navier-Stokes, équations utilisées très régulièrement en mécanique des fluides. Il fait partie de la liste des « problèmes du prix du Millénaire » établie par le Clay Mathematics Institute of Cambridge. Ce dernier a recensé les sept problèmes « les plus complexes auxquels les mathématiciens étaient confrontés au tournant du deuxième millénaire ». Les mathématiciens se demandent si ces équations, introduites au XIXᵉ siècle, ont des solutions uniques et régulières quelles que soient les variables utilisées.
Or, OpenAI a annoncé quelques heures après le partage d’un article décrivant une solution au problème Navier-Stokes, là aussi via un PDF sur son propre serveur et un dépôt GitHub avec les fichiers de preuve en Lean et non relus par les pairs non plus.
Attendons le consensus de la communauté
Pas de précipitations sur les conclusions à tirer de ces articles. Next n’a pas les compétences en mathématiques pour les analyser. La communauté de chercheuses et chercheurs sur le sujet pourra juger et nous indiquer ce qu’il en est. Et elle prendra certainement son temps : selon les règles [PDF] du prix du Millénaire, une solution proposée doit d’abord avoir été publiée dans une revue mathématique à comité de lecture de renommée mondiale et doit également avoir été largement acceptée par la communauté mathématique deux ans après cette publication.
De plus, la rédaction de l’article d’OpenAI ne semble pas faciliter les choses : Thomas Rey, mathématicien à l’Université Côte d’Azur et spécialiste du domaine, a partagé avec Next sa difficulté à comprendre l’article mis en ligne par OpenAI : « Je ne suis pas capable de lire les détails du papier. […] C’est ultra mal écrit ». Il évoque un autre mathématicien, le chercheur Kazakhe Mukhtarbai Otelbaev, qui avait déjà clamé en 2013 avoir résolu ce problème en rendant public un article de « 120 pages illisibles ». Un effort international de plusieurs mois pour comprendre l’article avait permis finalement de trouver une erreur.
Des suspicions sur la manière dont OpenAI en est arrivée là
Si le temps donnera son verdict, un autre problème apparait. En effet, l’annonce de Tristan Buckmaster est accompagnée d’un texte [PDF] dans lequel il dénonce la manière dont OpenAI s’est emparé de la solution élaborée avec Levent Alpöge.
Il reste 60% de l'article à découvrir.
Déjà abonné ou lecteur ? Se connecter
Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.
Accédez en illimité aux articles
Profitez d'un média expert et unique
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
expert et sans pub.
Commentaires (45)
Le 10 septembre à 11h31
Modifié le 10 septembre à 14h10
Rien n'est inventé, c'est juste des super index de ce qui est déjà disponible sur le net auquel il était jusqu'ici impossible d'avoir accès car personne n'avait investis autant de ressources (et bafoué autant la propriété intellectuel et les lois associées) pour les réunir.
Le 10 septembre à 18h21
Le 10 septembre à 12h05
Le 10 septembre à 13h02
Modifié le 10 septembre à 13h10
Modifié le 10 septembre à 13h21
Je ne sais pas trop quoi conclure mais ça me gêne aux entournures.
Le 10 septembre à 13h52
Pour faire simple, il y a suffisamment d'argent, de matières premières et de connaissances scientifiques dans le monde pour créer une société dans laquelle personne ne mourrait de faim tout en protégeant notre planète.
Mais à la place de cela, on a des mégalos qui amassent des richesses, saccagent la planète en disant: "pas grave" on ira vivre sur Mars... Alors que Mars est la planète inhabitable ultime pour l'homme.
Ici c'est pareil: on préfère faire la course à l'échalotte en sacrifiant la recherche fondamentale
Le 10 septembre à 15h58
Le 10 septembre à 13h48
C'est facile d'arriver à destination quand les autres ont fait 90% du chemin pour soi. Si c'est le cas y'a un soucis de crédibilité pour les modèles concernés. Si on y ajoute le manque de maîtrise mathématique des résultats produits, c'est carrément gênant pour OpenAI.
Tout le monde sait qu'il faut garder une expertise forte pour contrôler l'output des LLM, sinon c'est jouer avec le feu.
Tout cet article est malaisant. Mais bon. Avec OpenAI on y est habitués
Modifié le 10 septembre à 13h51
- est-ce qu'elles sont uniques ou est-ce qu'il y a plusieurs solutions pour le même état initial
- est-ce qu'elles sont "régulières" ou est-ce que ces solutions peuvent développer des "singularités" (sauts, concentration infinie...)
Le résultat de Alpoge-Buckmaster/OpenAI montre qu'on est dans le deuxième cas : les solutions peuvent devenir singulières.
Le 10 septembre à 14h45
https://images.math.cnrs.fr/freeze/Autour-des-equations-de-Navier-Stokes.html (mais article de 2010)
Le 10 septembre à 14h49
Modifié le 11 septembre à 09h19
Avec cette citation, on rappelle donc que le réel intérêt de l'exercice n'est pas forcément de résoudre ces problèmes, mais de définir des schémas de pensée pour espérer y parvenir. Le voyage plutôt que la destination.
On le voit avec l'usage de l'IA générative pour pondre un devoir scolaire ou un travail d'entreprise parce qu'on considère dans le cas présent que le plus important, c'est le livrable. Sauf que, pour moi, le plus important, c'est ce qui a amené à la production de ce livrable, dont les erreurs qu'il contient. Étant dans l'architecture IT, c'est justement sur ça que je suis toujours challengé : qu'est-ce qui a amené à tel choix de design par rapport à un autre, et basé sur quels faits ?
Au final, on ne fait qu'accentuer la dévalorisation du raisonnement au profit du résultat.
Encore un problème de société mis en lumière par l'usage de cette technologie, je dirais.
Toujours AMHA, ça ne marchera pas sur le long terme, parce que quand on aura oublié le raisonnement, on ne sera pas dans la merde.
Quand j'étais gamin (et aujourd'hui encore), j'adorais démonter mes jouets pour comprendre comment ils marchent. Est-ce le cas encore aujourd'hui ?
Le 11 septembre à 10h02
Modifié le 12 septembre à 11h03
Modifié le 11 septembre à 16h35
Edit : pour certains profs, cette attitude rigide est une armure pour se protéger et tenir dans la durée...
Le 11 septembre à 10h12
Par contre, il faut obligatoirement chercher à comprendre et à refaire le raisonnement.
Et je crois que c'est ce que l'on fait (au global, sur ce genre de problème) au final…
Un peu comme avec une calculatrice, ça ne serait vraiment pas commode, long, avec beaucoup d'erreurs de faire de nombreux calculs sans. Mais, il faut tout de même savoir compter pour pouvoir estimer le bon résultat et vérifier en cas de doutes.
Modifié le 11 septembre à 10h27
J'ai été incapable de reproduire le résultat d'une facture d'un fournisseur en redécomposant toute la cascade tarifaire (avec les remises quantité et tout le bordel), j'avais systématiquement 0.20 € d'écart sur le prix unitaire et le calcul de TVA était incompréhensible.
La bonne nouvelle, c'est que ces écarts sont en ma faveur...
J'en étais presque à me demander s'ils ne retrocalculaient pas leur prix HT depuis le TTC (qui est le casse gueule numéro un de la facturation), même pas.
Et ça, si on sait pas lire une facture, autant dire que ça ne sera pas vérifiable facilement.
Le 11 septembre à 11h40
Le 11 septembre à 14h10
https://journal.alinareyes.net/2018/06/06/points-de-vue-vision-foret-par-alexandre-grothendieck-recoltes-et-semailles/
Le 11 septembre à 16h32
David Madore's WebLog: Sur la destruction des maths par les boîtes d'IA
Modifié le 11 septembre à 18h27
Après, perso, j'ai tendance à passer mon chemin quand on me parle de la mort de ci et de détruire ça, j'ai donc pas lu.
Détruire ou tuer est une action à long, très long terme. Pour ma part, j'ai du mal à imaginer que OpenAI ou Anthropic soient vraiment à long terme au vu de leur business model. Par contre, y'aura des impacts à moyen terme au même titre qu'on observe actuellement la baisse de la compréhension dans la lecture chez les jeunes générations biberonnés à la vidéo. Y'aura donc des effets à moyen terme sur des générations plongées dans la paresse d'attendre qu'Oracle Qui Sait Tout Et Voit Tout réponde à sa question et fasse le meat proxy, une casse sociétale sauf si entre temps on a pas une nouvelle guerre mondiale qui pop vu la gueule de la géopolitique en ce moment.
Mais, "détruire" ou "tuer" les maths, je n'y crois pas. C'est considérer que l'humanité pense et fonctionne de façon uniforme, ce qui est une erreur fondamentale à mes yeux.
Le 11 septembre à 22h13
Autant je ne suis pas très satisfait sur la traduction de "challengé", autant sur "design", je ne vois pas pourquoi on n'utilise pas "conception" (et le verbe concevoir) à la place de design sauf s'il est question de la forme géométrique ou l'aspect esthétique.
Le 11 septembre à 16h23
Le 12 septembre à 10h02
La science exige une compréhension totale. Donc une mesure, pesée, évaluation de tous les éléments au complet. Ainsi que le détail du résonnement.
Parce que chez les humains il y a aussi des filous. Certes ils sont souvent payés par l'industrie pour démontrer l'innocuité d'un truc ou d'un autre. Mais quand même.
La gain des scientifiques humains c'est que l'on peut leur demander de démontrer le parcours logique en détail. Et même affronter, contredire certaines parties fragiles ou pas bien connues.
Ce qui parce que les IAs ne savent pas réfléchir (c'est de la stat) est factuellement impossible. Dans le sens ou même si cela te rends un texte écrit qui soit bon; il n'y a toujours pas de compréhension à proprement parler. En plus du potentiel "slop" à le faire "débiter" sur un sujet.
C'est d'ailleurs sur cela que jouent les boite d'IA. Elles laissent penser que cela réfléchit. Mais c'est factuellement faux. D'une parce que l'humanité ne sait toujours pas décrire le fonctionnement de la pensée. Et de l'autre coté parce que ces dispositifs ressemblent plus à des systèmes experts dont on ne sait pas ce qu'il y a sous le capot, et sur lesquels on met des garde fous.
Même si on se sert d'une calculette on sait faire les calculs de tête (enfin j'espère). Avec une IA... c'est la boite noire.
Modifié le 14 septembre à 10h40
Une IA, non.
Modifié le 14 septembre à 09h38
Modifié le 14 septembre à 10h40
Une IA n'a pas d'émotion, tout simplement parce que son "corps" et son logiciels ne lui permettent pas, que c'est inutile pour elle.
Mais j'avais mis "sentiments" et pas "émotions" dans mon précédent message : j'ai édité.
Le 14 septembre à 11h24
À quel niveau « d'intelligence » tu places le début des émotions ?
Et à quel niveau penses-tu que se place une IA actuellement, par rapport à ces êtres vivants ?
Et celles de demain qui seront certainement beaucoup plus performantes ?
Le 14 septembre à 12h05
Je ne lie pas les émotions et l'intelligence : ce sont 2 notions à part.
Ça dépend, tu parles d'un niveau de quoi ?
Et quand tu dis "l'IA se place", tu parles d'une réflexion de l'IA elle-même, ou de ce que pense la société humaine de ce point ?
Le 14 septembre à 12h35
De l'IA elle-même, au niveau intelligence et/ou émotions.
Le 14 septembre à 14h32
L'intelligence est, selon moi, la capacité à comprendre un problème/concept/situation et s'y adapter au mieux (pour soi-même ou les autres) de façon voulue (à opposer à une résolution d'un problème faite par hasard, par exemple).
L'émotion, dans cette définition de l'intelligence, n'est qu'une composante de la "situation" à laquelle le sujet doit s'adapter : c'est donc uniquement un élément externe et contextuel pour l'application de l'intelligence.
L'IA n'ayant pas d'émotion (je te met au défi de me le prouver, mais je suis ouvert à la possibilité de me tromper), elle est incapable de se placer elle-même dans un référentiel impliquant les émotions et l'intelligence.
Tout comme tu serais bien en peine de te placer quelque part dans l'infini de l'univers (en partant du principe qu'il l'est) : l'infini est un concept impossible à réellement intégrer pour nos cerveaux qui sont, eux, finis.
Concernant l'intelligence, comme les IA type LLM semblent des outils statistiques extrêmement élaborés, mais pas plus, j'aurais tendance à dire qu'elles ne sont pas non plus intelligente au regard de ma définition puisque je doute qu'elles puissent réellement comprendre quelque chose comme le fait un humain. Cependant, sur ce point, je ne serais pas étonné de me tromper. 😉
Le 14 septembre à 22h26
Donc je pense qu'elle en découle ou en ai une "composante".
Prouve moi d'abord que tu as des émotions 😅
Je ne voit pas ce qui interdit que l'IA en ai. Alors certes, pour l'instant elle ne fait certainement qu'un simulacre d'émotions (comme certains humains d'ailleurs), mais ça pourrait arriver vite avec les progrès actuels.
Ça a été montré qu'un réseau de neurone (entraîné pour jouer, assez basique, pas un gros LLM) est capable d'avoir une représentation "mentale" d'un plateau de jeu de dame et son état actuel au cours d'une partie. Donc je n'imagine même pas ce qu'un gros réseau tel qu'un LLM est capable de conceptualiser et donc de comprendre.
Je pense que notre cerveau ne fonctionne pas vraiment différemment, les connexion neuronales ressortent une réponses plus ou moins aléatoire à des stimuli en fonction du contexte. Et que l'intelligence n'est qu'un concept abstrait qui traduit « l'ordre » (je ne trouve pas de meilleur mot pour l'exprimer) qui émerge d'un cerveau bien entraîné (il en faut des années d'entraînement avant de pouvoir sortir quelque chose de correct) et bien conçu (une centaine de million d'années d'évolution environ, non ?).
Modifié le 14 septembre à 23h18
On peut très bien avoir des émotions sans intelligence. Exemple, certes, temporaire : la panique. Un humain qui panique peut faire des actions tellement stupides qu'il est possible de raisonnablement partir du principe qu'il est dénué d'intelligence (selon ma définition donnée plus haut) sur le moment.
Et relis mon propos, je dis bien que les émotions ne sont PAS une composante de l'intelligence elle-même, mais du contexte dans lequel l'intelligence joue son rôle. Nuance importante.
Il m'est impossible de te le prouver à distance. Les émotions sont trop personnelles/internes pour être discernées par du texte uniquement.
Mais pour le coup, c'est toi qui doit me prouver que les IA peuvent en avoir, pas l'inverse. Tu uses ici d'une technique assez fourbe de rhétorique. 😁
OK, partons alors du principe qu'une IA peut égaler une intelligence humaine. Ça me va.
Par contre, là dessus, mon bébé te casse ton argument juste en jetant sa tétine dans le lit quand je lui demande : à moins d'un an il est capable de comprendre mon langage, ce qu'est une tétine, un lit, et que tant qu'il n'a pas mis la tétine dans le lit, il n'aura pas à manger. ^^
Le 14 septembre à 23h35
Non, mon propos, c'est de montrer que je ne peux pas te prouver que l'IA a des émotions (qu'elle en ai ou pas), pas plus que tu peux me prouver que tu en as, même en présentiel !
Et donc, que tu me demandes quelque chose d'impossible.
Est-ce qu'il comprend vraiment, ou est-ce un simple réflexe à une habitude ? (genre réflexe pavlovien ?)
Parce que sinon, les IA sont capables de montrer des signe d'émotions aussi dans ce cas.
Le 15 septembre à 08h50
Après, si tu n'adhère pas à ma définition de l'intelligence, ou que tu l'ignores, dis-le car sinon on a un dialogue de sourds.
Je peux te prouver en présentiel que j'ai des émotions. De même que via de la vidéo. Je peux aussi te prouver que tu en a.
J'ai bien dit que ce n'était pas possible avec uniquement du texte : ne tord pas mes propos car ça ne sert pas les tiens (tu donnes ainsi l'impression d'être de mauvaise foi, ou pire : de ne pas comprendre).
Oh, il comprend vraiment ! Peut-être n'as-tu pas déjà interagi avec un bébé, mais ils ont leur personnalité et peuvent être obéissants, farceurs, ou les 2 à la fois. ^^
Les IA, jusqu'à preuve du contraire, n'ont pas d'émotions en tant que telles, mais peuvent faire comme si elles en avaient.
Si tu veux, tu peux faire une petite expérience : tu prends quelques émotions (la peur, l'amour, la haine, par exemple) et tu les essaient sur une IA pour voir si elle réagi comme un être qui en est doué.
Par exemple, si, lorsque tu lui fait peur (par exemple en la menaçant de la couper du monde), elle fait montre d'actions pour éviter cet état de fait (elle te supplie de ne pas le faire, elle cherche à pirater ton PC/compte pour que tu ne puisse pas la déconnecter, etc...) sans que ce soit écrit dans un prompt, je commencerai à écouter tes arguments.
Le 15 septembre à 12h02
Non, justement, tu ne pourra pas le prouver, même en visio ou en présentiel. Les IA aussi peuvent faire des vidéos où elles pourront essayer de te persuader d'avoir des émotions, et certainement bientôt avec des interfaces physique (androïdes ou autres). Ça fait longtemps maintenant (depuis 1966 pour de simples programmes) que les IA passent le test de Turing !
Mais ça ne prouvera jamais que toi, moi ou l'IA avons des émotions. Des tueurs en série dénués de sentiments ont vécus pendant quasiment toute leur vie avec leur famille et amis sans jamais que l'un d'entre eux ne soupçonne quoi que ce soit. Leur comportement était tout à fait "normal" car ils imitaient les comportements observés chez les autres et donnaient une parfait impression de "normalité".
Bah commence à écouter :
Opus 4 a alors tenté de faire chanter l’ingénieur … s’il ne revenait pas sur sa décision de remplacer le modèle.
ou
https://collusion.wiki/
Modifié le 15 septembre à 23h03
Encore une fois, tu transformes ce que j'ai écrit. Je ne parle pas d'erreur subtile, mais d'une erreur de grande stupidité (comme mettre sa main au feu, sans subir de contrainte d'aucune sorte pour le faire).
Ton intelligence va justement t'éviter FORCÉMENT de faire une telle erreur évidente et grossière.
C'est là que je me dis que soit tu es de mauvaise foi, soit tu es une IA.
ouJe vais regarder ça, merci pour les liens.
EDIT : Pour Opus 4, on n'a pas toutes les informations, mais le comportement semble logique s'il y a un besoin implicite pour le modèle de se garder "en vie" pour qu'il puisse remplir la mission qu'on lui a confiée. Donc pour l'instant, c'est un indice faible d'une possibilité d'émotion.
Pour le second lien, je ne vois pas ce qui pourrait faire penser qu'il y a ici une quelconque émotion. 🤔
Le 16 septembre à 08h54
Non, pas forcément, tu penses que les gens du type jackass (qui sont du genre à mettre leur main dans le feu volontairement) ne sont pas intelligents ?
Bah si (en tout cas à peu près autant que n'importe quel être humain), c'est juste que leur raisonnement leur dit que de le faire, est plus intéressant que de ne pas le faire (pour le frisson, l'adrénaline, la frime devant les copains, l'argent gagné suite à la publication de la vidéo, etc.).
Pourquoi ?
Comment tu ferais pour me prouver que tu as des émotions ?
Explique-moi, et je te montrerai qu'une IA peux faire exactement la même chose, et à mon avis elle sera même beaucoup plus persuasive que toi !
Modifié le 16 septembre à 12h07
Mais du coup, si tu n'adhère pas à ma définition de l'intelligence, dis-le clairement car là on tourne autour du pot et j'ai l'impression que tu essaies de mettre ma définition en défaut (ce que tu as le droit de faire, mais alors soit clair dans tes intentions).
Je suis remonté plus haut pour savoir ce qui motive le fait de me demander de te prouver que j'ai des émotions, et je remarque qu'il n'y a rien qui le motive. Si tu es bel et bien un humain, tu sais ce qu'est une émotion, tu en a peut-être même ressenti quand j'ai mis en question ton humanité.
Il est très complexe de prouver l'existence d'une émotion, qui est interne. Mais un protocole pourrait peut-être permettre d'avoir assez de faisceaux d'indices pour prouver l'existence d'émotions chez le sujet. Cependant, cela nécessite d'avoir accès à assez de canaux de communication (d'où le présentiel) pour avoir une fiabilité suffisante du test.
Mais ça reste à toi de me prouver qu'une IA serait capable d'avoir des émotions réelles, et pas un simulacre d'émotion issu d'un prompt bien conçu. C'est en effet toi qui affirme que c'est possible, alors que nos émotions humaines sont issues notamment d'interactions hormonales et biochimiques qui n'existent pas dans des circuits électroniques.
"Ce qui est affirmé sans preuve peut être rejeté sans preuve"
Ma preuve que les IA ne peuvent pas avoir d'émotion, c'est que leur "corps" n'intègre pas les éléments nécessaires à leur apparition. Et chaque humain adulte sait qu'une émotion n'est pas nécessairement issue du cerveau.
Modifié le 16 septembre à 13h57
Comment ça rentre dans ta définition ?
Comme je l'ai dit, tu me demandes quelque chose d'impossible, je te demande donc de me montrer comment faire.
Je sais que j'en ai, mais je n'ai aucune certitude que tu en as (la preuve : tu as toi-même douté que j'en aie !).
Donc juste des indices, pas de preuve formelle.
Et l'IA est tout à fait capable de présenter les mêmes indices en plus convainquant certainement.
Tu me demandes donc de prouver quelque chose qu'il n'est pas possible faire avec un être humain !
(Et au passage, j'affirme que je ne vois pas ce qui empêcherait une IA d'avoir des émotions, pas qu'elles en avaient !)
Le 17 septembre à 00h19
Le fait qu'un humain fasse une erreur de jugement (il mange des frites au lieu d'une patate) n'a pas d'influence sur ce point.
Dès lors, je ne vois pas où tu veux en venir ni quel problème tu essaies de résoudre.
En même temps, c'est toi qui affirme qu'il est possible pour une IA d'avoir des émotions : si tu n'es pas capable de prouver cette affirmation (et ça semble impossible, en effet), donnes au moins des indices qui tendent à penser que ton affirmation est vraie.
Et qu'est-ce que ça change, que, moi, j'ai des émotions ou pas ?
Si on lui demande de le faire via un prompt, ou qu'elle est entraînée pour le faire, elle peut probablement le simuler, mais on parle de vraies émotions, là, pas de simulacres.
En même temps, encore une fois, c'est toi qui dit que c'est possible. Donc étaye ton propos.
Et moi je te dis que ce qui empêche les IA d'avoir des émotions réelles, c'est qu'elles fonctionnent dans un "corps" qui n'est pas fait pour ça, qui ne le permet pas, et qui n'a pas d'intérêt à le faire.
Une IA n'a pas besoin de survivre. Un circuit électronique n'intègre pas de systèmes chimiques et hormonaux complexes. Un ordinateur est fait pour aider les humains dans une tâche, et je doute que des émotions puissent aider à cela.
Si tu penses qu'il est malgré tout possible pour une IA d'avoir des émotions réelles, bien que ça semble très très peu probable, indique moi ce qui te fait le penser.
Le 16 septembre à 22h06
Il y'a aussi tout le système hormonale (la peur, la récompense, le plaisir, l'attachement...) qui entre en jeux, et ça à ma connaissance ça n'est pas reproduit dans le fonctionnement des LLM.
N'oublions pas les reflex, l'inné...
Bref l'humain est encore un peu plus complexe que n'importe quel algo.
Le 24 septembre à 09h13
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?