Connexion Premium

OpenAI accusée de mauvaises pratiques scientifiques pour résoudre un problème de maths

Quick and dirty maths

OpenAI accusée de mauvaises pratiques scientifiques pour résoudre un problème de maths

OpenAI prétend avoir résolu un problème mathématique avec une de ses IA sans qu’on en soit sûr. Mais cette annonce arrive en parallèle de celle de deux mathématiciens, Tristan Buckmaster et Levent Alpöge, qui auraient pavé la voie à l’entreprise de Sam Altman à leurs corps défendants, soit par la rumeur sur leur façon d’attaquer le problème, soit sur l’utilisation de leurs données par l’entreprise.

Comme Next en parlait déjà cet été, l’IA générative bouscule la recherche en mathématiques, mais pas forcément dans le bon sens. Dans son effort d’utiliser les maths comme « benchmark » de ses modèles alors que l’entreprise prépare toujours son entrée en bourse, OpenAI défraye la chronique à propos de ces méthodes.

Ce mardi 8 septembre, Tristan Buckmaster, mathématicien de l’université de New York, a annoncé avec Levent Alpöge (qui travaille pour Anthropic, mais pas sur ce sujet) avoir trouvé une voie pour résoudre un important problème non résolu des mathématiques théoriques, appelé « Navier-Stokes ». Ils ont mis en ligne leurs travaux sur le serveur de l’université de New York via trois PDF (1,2 et 3), ainsi qu’un dépôt GitHub avec les fichiers de preuve en Lean non relus par les pairs.

Des équations introduites au XIXᵉ siècle dont on ignore si elles ont toujours des solutions uniques

Ce problème est celui de l’existence et de la régularité de solutions des équations de Navier-Stokes, équations utilisées très régulièrement en mécanique des fluides. Il fait partie de la liste des « problèmes du prix du Millénaire » établie par le Clay Mathematics Institute of Cambridge. Ce dernier a recensé les sept problèmes « les plus complexes auxquels les mathématiciens étaient confrontés au tournant du deuxième millénaire ». Les mathématiciens se demandent si ces équations, introduites au XIXᵉ siècle, ont des solutions uniques et régulières quelles que soient les variables utilisées.

Or, OpenAI a annoncé quelques heures après le partage d’un article décrivant une solution au problème Navier-Stokes, là aussi via un PDF sur son propre serveur et un dépôt GitHub avec les fichiers de preuve en Lean et non relus par les pairs non plus.

Attendons le consensus de la communauté

Pas de précipitations sur les conclusions à tirer de ces articles. Next n’a pas les compétences en mathématiques pour les analyser. La communauté de chercheuses et chercheurs sur le sujet pourra juger et nous indiquer ce qu’il en est. Et elle prendra certainement son temps : selon les règles [PDF] du prix du Millénaire, une solution proposée doit d’abord avoir été publiée dans une revue mathématique à comité de lecture de renommée mondiale et doit également avoir été largement acceptée par la communauté mathématique deux ans après cette publication.

De plus, la rédaction de l’article d’OpenAI ne semble pas faciliter les choses : Thomas Rey, mathématicien à l’Université Côte d’Azur et spécialiste du domaine, a partagé avec Next sa difficulté à comprendre l’article mis en ligne par OpenAI : « Je ne suis pas capable de lire les détails du papier. […] C’est ultra mal écrit ». Il évoque un autre mathématicien, le chercheur Kazakhe Mukhtarbai Otelbaev, qui avait déjà clamé en 2013 avoir résolu ce problème en rendant public un article de « 120 pages illisibles ». Un effort international de plusieurs mois pour comprendre l’article avait permis finalement de trouver une erreur.

Des suspicions sur la manière dont OpenAI en est arrivée là

Si le temps donnera son verdict, un autre problème apparait. En effet, l’annonce de Tristan Buckmaster est accompagnée d’un texte [PDF] dans lequel il dénonce la manière dont OpenAI s’est emparé de la solution élaborée avec Levent Alpöge.

Il reste 60% de l'article à découvrir.

Cadenas en colère - Contenu premium

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Commentaires (45)

votre avatar
Autant piquer le travail des gens est assez méprisable, autant aller utiliser une IA distante pour ensuite se plaindre qu'elle vous pique des données et les réutilise à son profit ne me semble pas beaucoup plus malin.
votre avatar
Piquer le travail des gens c'est la définition des LLM.
Rien n'est inventé, c'est juste des super index de ce qui est déjà disponible sur le net auquel il était jusqu'ici impossible d'avoir accès car personne n'avait investis autant de ressources (et bafoué autant la propriété intellectuel et les lois associées) pour les réunir.
votre avatar
C'est une vision étriquée des LLM. Ils sont bien capables de créer du contenu original.
votre avatar
Je me demande surtout si certains membres de l'équipe de recherche n'auraient pas oublié de décocher la case "Ne pas utiliser pour l'entrainement".
votre avatar
Cela soulève aussi le problème de qui découvre si une IA fait le travail...
votre avatar
Logique d'extraction
votre avatar

  • OpenAI a dépensé l’équivalent à 32,25 millions de dollars (alors que les prix sont probablement encore bien en dessous des coûts réels d’après les analyses).

  • Les labos de recherche sont sous-financés un peu partout (et entre autres aux US).

  • Les prix du millénaire sont récompensés d’un million de dollar par l’institut David Clay.



Je ne sais pas trop quoi conclure mais ça me gêne aux entournures.
votre avatar
Il n'y a rien à conclure qu'on ne sache déjà sur l'espèce humaine.

Pour faire simple, il y a suffisamment d'argent, de matières premières et de connaissances scientifiques dans le monde pour créer une société dans laquelle personne ne mourrait de faim tout en protégeant notre planète.

Mais à la place de cela, on a des mégalos qui amassent des richesses, saccagent la planète en disant: "pas grave" on ira vivre sur Mars... Alors que Mars est la planète inhabitable ultime pour l'homme.

Ici c'est pareil: on préfère faire la course à l'échalotte en sacrifiant la recherche fondamentale
votre avatar
Alors que Mars est la planète inhabitable ultime pour l'homme.
Je saisis l'idée, mais je pense que Mercure, Vénus ou Jupiter sont encore moins habitables :D
votre avatar
J'ai poussé un cri devant mon écran en lisant qu'OpenAI a peut-être utilisé les brouillons de chercheurs pour entraîner son modèle.

C'est facile d'arriver à destination quand les autres ont fait 90% du chemin pour soi. Si c'est le cas y'a un soucis de crédibilité pour les modèles concernés. Si on y ajoute le manque de maîtrise mathématique des résultats produits, c'est carrément gênant pour OpenAI.
Tout le monde sait qu'il faut garder une expertise forte pour contrôler l'output des LLM, sinon c'est jouer avec le feu.

Tout cet article est malaisant. Mais bon. Avec OpenAI on y est habitués
votre avatar
Des équations introduites au XIXᵉ siècle dont on ignore si elles ont toujours des solutions
Précisions : on sait que les équations de Navier Stokes ont toujours des solutions (Jean Leray, 1934, doi.org/10.1007/BF02547354 ). Les questions sont :
- est-ce qu'elles sont uniques ou est-ce qu'il y a plusieurs solutions pour le même état initial
- est-ce qu'elles sont "régulières" ou est-ce que ces solutions peuvent développer des "singularités" (sauts, concentration infinie...)

Le résultat de Alpoge-Buckmaster/OpenAI montre qu'on est dans le deuxième cas : les solutions peuvent devenir singulières.
votre avatar
Plus d'informations sur les équations de Navier-Stokes sur le site Images des mathématiques du CNRS :
https://images.math.cnrs.fr/freeze/Autour-des-equations-de-Navier-Stokes.html (mais article de 2010)
votre avatar
Merci pour la précision. Je n'ai pas beaucoup développé mais j'ai corrigé en "solutions uniques et régulières".
votre avatar
« Ces discussions, ces échanges pour comprendre en profondeur des questions, des méthodes, des équations, sont pour moi la définition même de la construction et de la réflexion mathématiques. Cela remet profondément en question le métier que j’ai connu : est-ce vraiment la même chose si nous demandons à des robots de faire ce travail à notre place ? », ajoute-t-elle.
Je trouve là qu'on évoque bien le nœud du problème causé par l'impact de l'IA générative sur la société, et qui, à mon humble avis, met en lumière un autre vieux problème que j'ai vécu pendant ma scolarité et une partie de ma vie professionnelle (quand j'étais plus du côté des "faiseurs" que des "penseurs") : on ne s'intéresse qu'au résultat, pas à la façon d'y parvenir. C'est l'une des raisons pour lesquelles j'ai toujours été fâché avec les maths, car les profs me pointaient uniquement l'erreur du résultat sans me dire quelle était l'erreur de raisonnement. D'un certain point de vue, c'est privilégier la production au procédé pour produire, et donc apprendre à produire et non apprendre à penser.

Avec cette citation, on rappelle donc que le réel intérêt de l'exercice n'est pas forcément de résoudre ces problèmes, mais de définir des schémas de pensée pour espérer y parvenir. Le voyage plutôt que la destination.

On le voit avec l'usage de l'IA générative pour pondre un devoir scolaire ou un travail d'entreprise parce qu'on considère dans le cas présent que le plus important, c'est le livrable. Sauf que, pour moi, le plus important, c'est ce qui a amené à la production de ce livrable, dont les erreurs qu'il contient. Étant dans l'architecture IT, c'est justement sur ça que je suis toujours challengé : qu'est-ce qui a amené à tel choix de design par rapport à un autre, et basé sur quels faits ?

Au final, on ne fait qu'accentuer la dévalorisation du raisonnement au profit du résultat.

Encore un problème de société mis en lumière par l'usage de cette technologie, je dirais.

Toujours AMHA, ça ne marchera pas sur le long terme, parce que quand on aura oublié le raisonnement, on ne sera pas dans la merde.

Quand j'étais gamin (et aujourd'hui encore), j'adorais démonter mes jouets pour comprendre comment ils marchent. Est-ce le cas encore aujourd'hui ?
votre avatar
Cette citation nous a aussi marqués, on en discute pour aborder le sujet plus largement.
votre avatar
Si jamais le sujet est traité plus avant, ou pour celles et ceux en commentaires que ça intéresse, voici une tres recente déclaration, signée par pas mal de mathématiciens et mathématiciennes, dont moi, et de manière plus notable, dont beaucoup de médaillé·e·s Fields : https://mathandai.org/
votre avatar
C'est l'une des raisons pour lesquelles j'ai toujours été fâché avec les maths, car les profs me pointaient uniquement l'erreur du résultat sans me dire quelle était l'erreur de raisonnement.
J'ai connu aussi cette génération de profs de maths obtus et peu coopératifs. Puis je le suis devenu, et j'ai essayé de ne pas reproduire ce schéma. Mais il faut reconnaître qu'avec certaines classes dissipées, si on montre le moindre gramme d'humanité, on est tout de suite débordé (j'exagère à peine)...
Edit : pour certains profs, cette attitude rigide est une armure pour se protéger et tenir dans la durée...
votre avatar
Je pense qu'on ne peut plus se passer de ces outils, ils sont trop puissants.
Par contre, il faut obligatoirement chercher à comprendre et à refaire le raisonnement.
Et je crois que c'est ce que l'on fait (au global, sur ce genre de problème) au final…

Un peu comme avec une calculatrice, ça ne serait vraiment pas commode, long, avec beaucoup d'erreurs de faire de nombreux calculs sans. Mais, il faut tout de même savoir compter pour pouvoir estimer le bon résultat et vérifier en cas de doutes.
votre avatar
Mais, il faut tout de même savoir compter pour pouvoir estimer le bon résultat et vérifier en cas de doutes.
Pour le coup j'ai même eu l'exemple la semaine dernière... Je voulais mieux évaluer mes coûts d'achat sur une activité histoire de ne rien louper dans le calcul de mes marges.

J'ai été incapable de reproduire le résultat d'une facture d'un fournisseur en redécomposant toute la cascade tarifaire (avec les remises quantité et tout le bordel), j'avais systématiquement 0.20 € d'écart sur le prix unitaire et le calcul de TVA était incompréhensible.

La bonne nouvelle, c'est que ces écarts sont en ma faveur... :transpi:

J'en étais presque à me demander s'ils ne retrocalculaient pas leur prix HT depuis le TTC (qui est le casse gueule numéro un de la facturation), même pas.

Et ça, si on sait pas lire une facture, autant dire que ça ne sera pas vérifiable facilement.
votre avatar
La nouvelle d'Asimov sur le robot correcteur (où l'US Robotics est en procès contre un des scientifiques de l'université à laquelle le robot est prêté) se termine d'ailleurs sur cette considération : à quoi ça sert de faire ce boulot si on n'en retire plus rien intellectuellement ?
votre avatar
Je rapprocherais bien cette citation d'une autre d'Alexandre Grothendieck
https://journal.alinareyes.net/2018/06/06/points-de-vue-vision-foret-par-alexandre-grothendieck-recoltes-et-semailles/
votre avatar
votre avatar
Illisible sauf à activer le mode lecture du navigateur.

Après, perso, j'ai tendance à passer mon chemin quand on me parle de la mort de ci et de détruire ça, j'ai donc pas lu.

Détruire ou tuer est une action à long, très long terme. Pour ma part, j'ai du mal à imaginer que OpenAI ou Anthropic soient vraiment à long terme au vu de leur business model. Par contre, y'aura des impacts à moyen terme au même titre qu'on observe actuellement la baisse de la compréhension dans la lecture chez les jeunes générations biberonnés à la vidéo. Y'aura donc des effets à moyen terme sur des générations plongées dans la paresse d'attendre qu'Oracle Qui Sait Tout Et Voit Tout réponde à sa question et fasse le meat proxy, une casse sociétale sauf si entre temps on a pas une nouvelle guerre mondiale qui pop vu la gueule de la géopolitique en ce moment.

Mais, "détruire" ou "tuer" les maths, je n'y crois pas. C'est considérer que l'humanité pense et fonctionne de façon uniforme, ce qui est une erreur fondamentale à mes yeux.
votre avatar
C'est l'une des raisons pour lesquelles j'ai toujours été fâché avec les maths, car les profs me pointaient uniquement l'erreur du résultat sans me dire quelle était l'erreur de raisonnement. D'un certain point de vue, c'est privilégier la production au procédé pour produire, et donc apprendre à produire et non apprendre à penser.
J'ai eu la chance d'avoir au collège (ou au lycée, je ne sais plus trop) d'avoir un prof de maths qui m'avait mis au moins la moitié des points d'un exercice car malgré une erreur de calcul au début, et donc un résultat numérique faux à la fin, tout le raisonnement était juste.
Étant dans l'architecture IT, c'est justement sur ça que je suis toujours challengé questionné/contesté : qu'est-ce qui a amené à tel choix de design conception par rapport à un autre, et basé sur quels faits ?
:cap:
Autant je ne suis pas très satisfait sur la traduction de "challengé", autant sur "design", je ne vois pas pourquoi on n'utilise pas "conception" (et le verbe concevoir) à la place de design sauf s'il est question de la forme géométrique ou l'aspect esthétique.
votre avatar
Au vu du coût de la résolution du problème par les agents IA, est-ce réellement rentable, par rapport à payer des scientifiques humains ?
votre avatar
La gain n'est pas financier, tu a raison. Il est autre part.

La science exige une compréhension totale. Donc une mesure, pesée, évaluation de tous les éléments au complet. Ainsi que le détail du résonnement.

Parce que chez les humains il y a aussi des filous. Certes ils sont souvent payés par l'industrie pour démontrer l'innocuité d'un truc ou d'un autre. Mais quand même.

La gain des scientifiques humains c'est que l'on peut leur demander de démontrer le parcours logique en détail. Et même affronter, contredire certaines parties fragiles ou pas bien connues.

Ce qui parce que les IAs ne savent pas réfléchir (c'est de la stat) est factuellement impossible. Dans le sens ou même si cela te rends un texte écrit qui soit bon; il n'y a toujours pas de compréhension à proprement parler. En plus du potentiel "slop" à le faire "débiter" sur un sujet.

C'est d'ailleurs sur cela que jouent les boite d'IA. Elles laissent penser que cela réfléchit. Mais c'est factuellement faux. D'une parce que l'humanité ne sait toujours pas décrire le fonctionnement de la pensée. Et de l'autre coté parce que ces dispositifs ressemblent plus à des systèmes experts dont on ne sait pas ce qu'il y a sous le capot, et sur lesquels on met des garde fous.

Même si on se sert d'une calculette on sait faire les calculs de tête (enfin j'espère). Avec une IA... c'est la boite noire.
votre avatar
Il y a aussi autre chose : un humain, ça a des émotions. Ça a peur. Ça a des envies. Ça a des remords. Ça a une morale. Avec tout ce que ça apporte de mauvais, mais surtout avec tout ce que ça apporte de bien (car, globalement, les humains sont quand même plutôt "gentils" entre eux).
Une IA, non.
votre avatar
Ça dépend comment tu les entraînes (les deux).
votre avatar
Un humain a des émotions par nature : le corps humain est fait de telle façon qu'il y en a, notamment pour des questions de survie.
Une IA n'a pas d'émotion, tout simplement parce que son "corps" et son logiciels ne lui permettent pas, que c'est inutile pour elle.

Mais j'avais mis "sentiments" et pas "émotions" dans mon précédent message : j'ai édité.
votre avatar
Et un chien, ça a des émotions ? Et un pigeon ? Un ver de terre ? Une amibe ?
À quel niveau « d'intelligence » tu places le début des émotions ?
Et à quel niveau penses-tu que se place une IA actuellement, par rapport à ces êtres vivants ?
Et celles de demain qui seront certainement beaucoup plus performantes ?
votre avatar
Un chien a très clairement des émotions. Je ne sais pas pour un ver de ter, un amibe ou autres êtres vivants moins complexes que des mammifères.

Je ne lie pas les émotions et l'intelligence : ce sont 2 notions à part.
Et à quel niveau penses-tu que se place une IA actuellement, par rapport à ces êtres vivants ?
Ça dépend, tu parles d'un niveau de quoi ?
Et quand tu dis "l'IA se place", tu parles d'une réflexion de l'IA elle-même, ou de ce que pense la société humaine de ce point ?
votre avatar
Je ne lie pas les émotions et l'intelligence : ce sont 2 notions à part.
Je pense au contraire qu'elles sont fortement liées (après ça dépends aussi de ce qu'on appelle intelligence).
Et quand tu dis "l'IA se place", tu parles d'une réflexion de l'IA elle-même, ou de ce que pense la société humaine de ce point ?
De l'IA elle-même, au niveau intelligence et/ou émotions.
votre avatar
Pour moi, l'émotion n'est pas une composante de l'intelligence, malgré la notion "d'intelligence émotionnelle".

L'intelligence est, selon moi, la capacité à comprendre un problème/concept/situation et s'y adapter au mieux (pour soi-même ou les autres) de façon voulue (à opposer à une résolution d'un problème faite par hasard, par exemple).
L'émotion, dans cette définition de l'intelligence, n'est qu'une composante de la "situation" à laquelle le sujet doit s'adapter : c'est donc uniquement un élément externe et contextuel pour l'application de l'intelligence.


L'IA n'ayant pas d'émotion (je te met au défi de me le prouver, mais je suis ouvert à la possibilité de me tromper), elle est incapable de se placer elle-même dans un référentiel impliquant les émotions et l'intelligence.
Tout comme tu serais bien en peine de te placer quelque part dans l'infini de l'univers (en partant du principe qu'il l'est) : l'infini est un concept impossible à réellement intégrer pour nos cerveaux qui sont, eux, finis.

Concernant l'intelligence, comme les IA type LLM semblent des outils statistiques extrêmement élaborés, mais pas plus, j'aurais tendance à dire qu'elles ne sont pas non plus intelligente au regard de ma définition puisque je doute qu'elles puissent réellement comprendre quelque chose comme le fait un humain. Cependant, sur ce point, je ne serais pas étonné de me tromper. 😉
votre avatar
L'émotion, dans cette définition de l'intelligence, n'est qu'une composante de la "situation" à laquelle le sujet doit s'adapter
Oui, l'émotion ne peux pas exister (en tout cas je n'en ai pas d'exemple) sans l'intelligence.
Donc je pense qu'elle en découle ou en ai une "composante".

L'IA n'ayant pas d'émotion (je te met au défi de me le prouver, mais je suis ouvert à la possibilité de me tromper).
Prouve moi d'abord que tu as des émotions 😅


Je ne voit pas ce qui interdit que l'IA en ai. Alors certes, pour l'instant elle ne fait certainement qu'un simulacre d'émotions (comme certains humains d'ailleurs), mais ça pourrait arriver vite avec les progrès actuels.

je doute qu'elles puissent réellement comprendre quelque chose comme le fait un humain.
Ça a été montré qu'un réseau de neurone (entraîné pour jouer, assez basique, pas un gros LLM) est capable d'avoir une représentation "mentale" d'un plateau de jeu de dame et son état actuel au cours d'une partie. Donc je n'imagine même pas ce qu'un gros réseau tel qu'un LLM est capable de conceptualiser et donc de comprendre.

Je pense que notre cerveau ne fonctionne pas vraiment différemment, les connexion neuronales ressortent une réponses plus ou moins aléatoire à des stimuli en fonction du contexte. Et que l'intelligence n'est qu'un concept abstrait qui traduit « l'ordre » (je ne trouve pas de meilleur mot pour l'exprimer) qui émerge d'un cerveau bien entraîné (il en faut des années d'entraînement avant de pouvoir sortir quelque chose de correct) et bien conçu (une centaine de million d'années d'évolution environ, non ?).
votre avatar
Oui, l'émotion ne peux pas exister (en tout cas je n'en ai pas d'exemple) sans l'intelligence.
Donc je pense qu'elle en découle ou en ai une "composante".
Je suis en désaccord.
On peut très bien avoir des émotions sans intelligence. Exemple, certes, temporaire : la panique. Un humain qui panique peut faire des actions tellement stupides qu'il est possible de raisonnablement partir du principe qu'il est dénué d'intelligence (selon ma définition donnée plus haut) sur le moment.

Et relis mon propos, je dis bien que les émotions ne sont PAS une composante de l'intelligence elle-même, mais du contexte dans lequel l'intelligence joue son rôle. Nuance importante.
Prouve moi d'abord que tu as des émotions 😅
Il m'est impossible de te le prouver à distance. Les émotions sont trop personnelles/internes pour être discernées par du texte uniquement.
Mais pour le coup, c'est toi qui doit me prouver que les IA peuvent en avoir, pas l'inverse. Tu uses ici d'une technique assez fourbe de rhétorique. 😁
Donc je n'imagine même pas ce qu'un gros réseau tel qu'un LLM est capable de conceptualiser et donc de comprendre.
OK, partons alors du principe qu'une IA peut égaler une intelligence humaine. Ça me va.
Et que l'intelligence n'est qu'un concept abstrait qui traduit « l'ordre » (je ne trouve pas de meilleur mot pour l'exprimer) qui émerge d'un cerveau bien entraîné (il en faut des années d'entraînement avant de pouvoir sortir quelque chose de correct) et bien conçu (une centaine de million d'années d'évolution environ, non ?).
Par contre, là dessus, mon bébé te casse ton argument juste en jetant sa tétine dans le lit quand je lui demande : à moins d'un an il est capable de comprendre mon langage, ce qu'est une tétine, un lit, et que tant qu'il n'a pas mis la tétine dans le lit, il n'aura pas à manger. ^^
votre avatar
il est dénué d'intelligence
Non, je ne pense pas. L'intelligence ne garantit pas de ne pas agir stupidement.
Il m'est impossible de te le prouver à distance. Les émotions sont trop personnelles/internes pour être discernées par du texte uniquement.
Mais pour le coup, c'est toi qui doit me prouver que les IA peuvent en avoir, pas l'inverse. Tu uses ici d'une technique assez fourbe de rhétorique. 😁
Non, mon propos, c'est de montrer que je ne peux pas te prouver que l'IA a des émotions (qu'elle en ai ou pas), pas plus que tu peux me prouver que tu en as, même en présentiel !
Et donc, que tu me demandes quelque chose d'impossible.
à moins d'un an il est capable de comprendre mon langage, ce qu'est une tétine, un lit, et que tant qu'il n'a pas mis la tétine dans le lit, il n'aura pas à manger. ^^
Est-ce qu'il comprend vraiment, ou est-ce un simple réflexe à une habitude ? (genre réflexe pavlovien ?)

Parce que sinon, les IA sont capables de montrer des signe d'émotions aussi dans ce cas.
votre avatar
Non, je ne pense pas. L'intelligence ne garantit pas de ne pas agir stupidement.
Si tu prends ma définition de l'intelligence plus haut, justement, si. Ma définition exclue explicitement une action tellement stupide qu'elle pourrait être due au hasard (par exemple, mettre la main dans du feu).
Après, si tu n'adhère pas à ma définition de l'intelligence, ou que tu l'ignores, dis-le car sinon on a un dialogue de sourds.

Non, mon propos, c'est de montrer que je ne peux pas te prouver que l'IA a des émotions (qu'elle en ai ou pas), pas plus que tu peux me prouver que tu en as, même en présentiel !
Je peux te prouver en présentiel que j'ai des émotions. De même que via de la vidéo. Je peux aussi te prouver que tu en a.
J'ai bien dit que ce n'était pas possible avec uniquement du texte : ne tord pas mes propos car ça ne sert pas les tiens (tu donnes ainsi l'impression d'être de mauvaise foi, ou pire : de ne pas comprendre).

Est-ce qu'il comprend vraiment, ou est-ce un simple réflexe à une habitude ? (genre réflexe pavlovien ?)
Oh, il comprend vraiment ! Peut-être n'as-tu pas déjà interagi avec un bébé, mais ils ont leur personnalité et peuvent être obéissants, farceurs, ou les 2 à la fois. ^^



Les IA, jusqu'à preuve du contraire, n'ont pas d'émotions en tant que telles, mais peuvent faire comme si elles en avaient.
Si tu veux, tu peux faire une petite expérience : tu prends quelques émotions (la peur, l'amour, la haine, par exemple) et tu les essaient sur une IA pour voir si elle réagi comme un être qui en est doué.
Par exemple, si, lorsque tu lui fait peur (par exemple en la menaçant de la couper du monde), elle fait montre d'actions pour éviter cet état de fait (elle te supplie de ne pas le faire, elle cherche à pirater ton PC/compte pour que tu ne puisse pas la déconnecter, etc...) sans que ce soit écrit dans un prompt, je commencerai à écouter tes arguments.
votre avatar
Si tu prends ma définition de l'intelligence plus haut, justement, si. Ma définition exclue explicitement une action tellement stupide qu'elle pourrait être due au hasard (par exemple, mettre la main dans du feu).
Après, si tu n'adhère pas à ma définition de l'intelligence, ou que tu l'ignores, dis-le car sinon on a un dialogue de sourds.
L'intelligence ne garantie de ne pas faire d'erreurs, que ce soit par une mauvaise analyse, un manque de données, ou simplement qu'on ne passe pas notre temps à analyser les conséquences du moindre de nos gestes.

Je peux te prouver en présentiel que j'ai des émotions. De même que via de la vidéo. Je peux aussi te prouver que tu en a.
J'ai bien dit que ce n'était pas possible avec uniquement du texte : ne tord pas mes propos car ça ne sert pas les tiens (tu donnes ainsi l'impression d'être de mauvaise foi, ou pire : de ne pas comprendre).
Non, justement, tu ne pourra pas le prouver, même en visio ou en présentiel. Les IA aussi peuvent faire des vidéos où elles pourront essayer de te persuader d'avoir des émotions, et certainement bientôt avec des interfaces physique (androïdes ou autres). Ça fait longtemps maintenant (depuis 1966 pour de simples programmes) que les IA passent le test de Turing !
Mais ça ne prouvera jamais que toi, moi ou l'IA avons des émotions. Des tueurs en série dénués de sentiments ont vécus pendant quasiment toute leur vie avec leur famille et amis sans jamais que l'un d'entre eux ne soupçonne quoi que ce soit. Leur comportement était tout à fait "normal" car ils imitaient les comportements observés chez les autres et donnaient une parfait impression de "normalité".
Par exemple, si, lorsque tu lui fait peur (par exemple en la menaçant de la couper du monde), elle fait montre d'actions pour éviter cet état de fait (elle te supplie de ne pas le faire, elle cherche à pirater ton PC/compte pour que tu ne puisse pas la déconnecter, etc...) sans que ce soit écrit dans un prompt, je commencerai à écouter tes arguments.
Bah commence à écouter :
Opus 4 a alors tenté de faire chanter l’ingénieur … s’il ne revenait pas sur sa décision de remplacer le modèle.
ou
https://collusion.wiki/
votre avatar
J'ai l'impression que tu me troll.
L'intelligence ne garantie de ne pas faire d'erreurs, que ce soit par une mauvaise analyse, un manque de données, ou simplement qu'on ne passe pas notre temps à analyser les conséquences du moindre de nos gestes.
Encore une fois, tu transformes ce que j'ai écrit. Je ne parle pas d'erreur subtile, mais d'une erreur de grande stupidité (comme mettre sa main au feu, sans subir de contrainte d'aucune sorte pour le faire).
Ton intelligence va justement t'éviter FORCÉMENT de faire une telle erreur évidente et grossière.

Non, justement, tu ne pourra pas le prouver, même en visio ou en présentiel.
C'est là que je me dis que soit tu es de mauvaise foi, soit tu es une IA.

Bah commence à écouter :
Opus 4 a alors tenté de faire chanter l’ingénieur … s’il ne revenait pas sur sa décision de remplacer le modèle.
ou
https://collusion.wiki/
Je vais regarder ça, merci pour les liens.
EDIT : Pour Opus 4, on n'a pas toutes les informations, mais le comportement semble logique s'il y a un besoin implicite pour le modèle de se garder "en vie" pour qu'il puisse remplir la mission qu'on lui a confiée. Donc pour l'instant, c'est un indice faible d'une possibilité d'émotion.

Pour le second lien, je ne vois pas ce qui pourrait faire penser qu'il y a ici une quelconque émotion. 🤔
votre avatar
J'ai l'impression que tu me troll.
Absolument pas !
Encore une fois, tu transformes ce que j'ai écrit. Je ne parle pas d'erreur subtile, mais d'une erreur de grande stupidité (comme mettre sa main au feu, sans subir de contrainte d'aucune sorte pour le faire).
Ton intelligence va justement t'éviter FORCÉMENT de faire une telle erreur évidente et grossière.
Non, pas forcément, tu penses que les gens du type jackass (qui sont du genre à mettre leur main dans le feu volontairement) ne sont pas intelligents ?
Bah si (en tout cas à peu près autant que n'importe quel être humain), c'est juste que leur raisonnement leur dit que de le faire, est plus intéressant que de ne pas le faire (pour le frisson, l'adrénaline, la frime devant les copains, l'argent gagné suite à la publication de la vidéo, etc.).
C'est là que je me dis que soit tu es de mauvaise foi, soit tu es une IA.
Pourquoi ?
Comment tu ferais pour me prouver que tu as des émotions ?
Explique-moi, et je te montrerai qu'une IA peux faire exactement la même chose, et à mon avis elle sera même beaucoup plus persuasive que toi !
votre avatar
Non, pas forcément, tu penses que les gens du type jackass (qui sont du genre à mettre leur main dans le feu volontairement) ne sont pas intelligents ?
Bah si (en tout cas à peu près autant que n'importe quel être humain), c'est juste que leur raisonnement leur dit que de le faire, est plus intéressant que de ne pas le faire (pour le frisson, l'adrénaline, la frime devant les copains, l'argent gagné suite à la publication de la vidéo, etc.).
J'ai bien précisé "sans subir de contrainte d'aucune sorte pour le faire" : les Jackass font ce qu'ils font notamment pour l'argent. De plus, ils font cela avec un risque et un danger mesuré : on est donc loin de l'action totalement stupide.

Mais du coup, si tu n'adhère pas à ma définition de l'intelligence, dis-le clairement car là on tourne autour du pot et j'ai l'impression que tu essaies de mettre ma définition en défaut (ce que tu as le droit de faire, mais alors soit clair dans tes intentions).
Comment tu ferais pour me prouver que tu as des émotions ?
Je suis remonté plus haut pour savoir ce qui motive le fait de me demander de te prouver que j'ai des émotions, et je remarque qu'il n'y a rien qui le motive. Si tu es bel et bien un humain, tu sais ce qu'est une émotion, tu en a peut-être même ressenti quand j'ai mis en question ton humanité.
Il est très complexe de prouver l'existence d'une émotion, qui est interne. Mais un protocole pourrait peut-être permettre d'avoir assez de faisceaux d'indices pour prouver l'existence d'émotions chez le sujet. Cependant, cela nécessite d'avoir accès à assez de canaux de communication (d'où le présentiel) pour avoir une fiabilité suffisante du test.

Mais ça reste à toi de me prouver qu'une IA serait capable d'avoir des émotions réelles, et pas un simulacre d'émotion issu d'un prompt bien conçu. C'est en effet toi qui affirme que c'est possible, alors que nos émotions humaines sont issues notamment d'interactions hormonales et biochimiques qui n'existent pas dans des circuits électroniques.

"Ce qui est affirmé sans preuve peut être rejeté sans preuve"
Ma preuve que les IA ne peuvent pas avoir d'émotion, c'est que leur "corps" n'intègre pas les éléments nécessaires à leur apparition. Et chaque humain adulte sait qu'une émotion n'est pas nécessairement issue du cerveau.
votre avatar
Mais du coup, si tu n'adhère pas à ma définition de l'intelligence, dis-le clairement car là on tourne autour du pot et j'ai l'impression que tu essaies de mettre ma définition en défaut (ce que tu as le droit de faire, mais alors soit clair dans tes intentions).
Je pars juste du constat que l'être humain est intelligent, mais qu'il lui arrive de faire des erreurs.
Comment ça rentre dans ta définition ?

Je suis remonté plus haut pour savoir ce qui motive le fait de me demander de te prouver que j'ai des émotions
Comme je l'ai dit, tu me demandes quelque chose d'impossible, je te demande donc de me montrer comment faire.

Si tu es bel et bien un humain, tu sais ce qu'est une émotion, tu en a peut-être même ressenti quand j'ai mis en question ton humanité.
Je sais que j'en ai, mais je n'ai aucune certitude que tu en as (la preuve : tu as toi-même douté que j'en aie !).

Il est très complexe de prouver l'existence d'une émotion, qui est interne. Mais un protocole pourrait peut-être permettre d'avoir assez de faisceaux d'indices pour prouver l'existence d'émotions chez le sujet. Cependant, cela nécessite d'avoir accès à assez de canaux de communication (d'où le présentiel) pour avoir une fiabilité suffisante du test.
Donc juste des indices, pas de preuve formelle.
Et l'IA est tout à fait capable de présenter les mêmes indices en plus convainquant certainement.

Mais ça reste à toi de me prouver qu'une IA serait capable d'avoir des émotions réelles, et pas un simulacre d'émotion issu d'un prompt bien conçu. C'est en effet toi qui affirme que c'est possible, alors que nos émotions humaines sont issues notamment d'interactions hormonales et biochimiques qui n'existent pas dans des circuits électroniques.
Tu me demandes donc de prouver quelque chose qu'il n'est pas possible faire avec un être humain !

(Et au passage, j'affirme que je ne vois pas ce qui empêcherait une IA d'avoir des émotions, pas qu'elles en avaient !)
votre avatar
Je pars juste du constat que l'être humain est intelligent, mais qu'il lui arrive de faire des erreurs.
Comment ça rentre dans ta définition ?
Je te recopie ici ma définition :
L'intelligence est, selon moi, la capacité à comprendre un problème/concept/situation et s'y adapter au mieux (pour soi-même ou les autres) de façon voulue (à opposer à une résolution d'un problème faite par hasard, par exemple).
Un humain est capable de comprendre un problème (exemple : je dois me nourrir) et de s'y adapter au mieux (je vais manger de la patate et pas un caillou) de façon volontaire (je vais choisir de manger de la patate). Donc un humain est intelligent, en effet.
Le fait qu'un humain fasse une erreur de jugement (il mange des frites au lieu d'une patate) n'a pas d'influence sur ce point.
Dès lors, je ne vois pas où tu veux en venir ni quel problème tu essaies de résoudre.

Comme je l'ai dit, tu me demandes quelque chose d'impossible, je te demande donc de me montrer comment faire.
En même temps, c'est toi qui affirme qu'il est possible pour une IA d'avoir des émotions : si tu n'es pas capable de prouver cette affirmation (et ça semble impossible, en effet), donnes au moins des indices qui tendent à penser que ton affirmation est vraie.
Je sais que j'en ai, mais je n'ai aucune certitude que tu en as (la preuve : tu as toi-même douté que j'en aie !).
Et qu'est-ce que ça change, que, moi, j'ai des émotions ou pas ?
Donc juste des indices, pas de preuve formelle.
Et l'IA est tout à fait capable de présenter les mêmes indices en plus convainquant certainement.
Si on lui demande de le faire via un prompt, ou qu'elle est entraînée pour le faire, elle peut probablement le simuler, mais on parle de vraies émotions, là, pas de simulacres.
Tu me demandes donc de prouver quelque chose qu'il n'est pas possible faire avec un être humain !
En même temps, encore une fois, c'est toi qui dit que c'est possible. Donc étaye ton propos.
(Et au passage, j'affirme que je ne vois pas ce qui empêcherait une IA d'avoir des émotions, pas qu'elles en avaient !)
Et moi je te dis que ce qui empêche les IA d'avoir des émotions réelles, c'est qu'elles fonctionnent dans un "corps" qui n'est pas fait pour ça, qui ne le permet pas, et qui n'a pas d'intérêt à le faire.
Une IA n'a pas besoin de survivre. Un circuit électronique n'intègre pas de systèmes chimiques et hormonaux complexes. Un ordinateur est fait pour aider les humains dans une tâche, et je doute que des émotions puissent aider à cela.

Si tu penses qu'il est malgré tout possible pour une IA d'avoir des émotions réelles, bien que ça semble très très peu probable, indique moi ce qui te fait le penser.
votre avatar
Tout à fait ! les apprentissages de LLM ont reproduit le fonctionnement des neurones, sauf qu'il n'y a pas que des synapses dans le cerveau !
Il y'a aussi tout le système hormonale (la peur, la récompense, le plaisir, l'attachement...) qui entre en jeux, et ça à ma connaissance ça n'est pas reproduit dans le fonctionnement des LLM.
N'oublions pas les reflex, l'inné...
Bref l'humain est encore un peu plus complexe que n'importe quel algo.
votre avatar
les apprentissages de LLM ont reproduit le fonctionnement des neurones, sauf qu'il n'y a pas que des synapses dans le cerveau !
Ils reproduisent ce qu'on estimait être le fonctionnement des neurones dans les années 50, ça apporte une nuance de taille aux prétentions des promoteurs de LLM.