L’IA menace la pratique scientifique, déplorent des milliers de mathématiciens
OpenAI, le boloss des maths
25 médailles Fields dénoncent les problèmes de parasitisme et de déprédation scientifique que pose la série de « résolutions » de problèmes mathématiques par OpenAI. Plus de la moitié des membres de la nouvelle association pour les mathématiques humaines refusent d’utiliser l’IA. D’autres veulent explorer ce que pourrait en être une « utilisation responsable » en mathématiques.
La série d’annonces faites par OpenAI ces derniers mois au sujet des problèmes mathématiques que ses modèles internes auraient résolus, sur fond d’accusations de « mauvaises pratiques scientifiques » au sujet de la résolution des solutions des équations de Navier-Stokes (l’un des sept défis mathématiques des problèmes du prix du millénaire), suscite la bronca d’un nombre croissant de mathématiciens.
Le bureau de la Société Mathématique de France (SMF) vient ainsi de publier une prise de position sur les dernières annonces d’OpenAI afin d’« attirer l’attention sur les questions éthiques qu’elle pose : pillage bibliographique, coût énergétique et écologique, rumeurs de chantage…, et sur la description des mathématiques comme d’un tableau pour chasseurs de primes ».
Elle constate ce qu’elle qualifie d’« absence totale de stratégie collective pour l’avenir », et estime que « nous avons encore fort à faire, collectivement, pour contrer la menace que les LLM (Large Language Models) font peser sur notre discipline ; notamment celle de l’entrée dans une logique de course effrénée et de déprédation, qui met en danger la culture mathématique collective et à terme le savoir humain ».
- L’IA générative bouscule la recherche en mathématiques
- OpenAI promeut son prochain modèle Astra avec la résolution de 10 problèmes de maths
- OpenAI accusée de mauvaises pratiques scientifiques pour résoudre un problème de maths
La résolution de problèmes n’est qu’un moyen, pas l’objectif premier
Cette prise de position fait écho à une déclaration cosignée par 25 lauréats de la médaille Fields (une des deux plus prestigieuses récompenses en mathématiques avec le prix Abel, équivalents d’un prix Nobel), dont les Français Artur Avila, Hugo Duminil-Copin, Pierre-Louis Lions, Cédric Villani et Wendelin Werner.
Intitulée « Un grave défaut d’alignement de l’IA en mathématiques » (« A Severe Misalignment of AI in Mathematics » en VO) et rendue publique ce 11 septembre, elle estime elle aussi que « la volonté des entreprises d’IA de résoudre des problèmes mathématiques comme critère de référence dans leurs benchmarks nuit à la science des mathématiques et à la communauté mathématique » :
« Les objectifs des entreprises d’IA et ceux de la communauté mathématique sont profondément divergents. Nous considérons que ces divergences s’inscrivent dans le cadre de problèmes d’alignement plus larges qui touchent d’autres professions scientifiques et créatives, ainsi que la société dans son ensemble. »
Ils reconnaissent que les capacités mathématiques des grands modèles de langage (LLM) « sont désormais capables de résoudre des problèmes majeurs encore en suspens dans de nombreux domaines des mathématiques », mais déplorent néanmoins, non pas une forme de concurrence déloyale, mais un véritable dévoiement de la méthode scientifique, et de son « objectif premier » :
« La résolution de problèmes n’est qu’un outil et un moyen d’atteindre l’objectif premier : la compréhension conceptuelle et la réflexion. Oublier cela dans le monde de l’IA risque de retourner cet outil contre cet objectif premier. En effet, la production en masse, à un rythme toujours plus rapide, d’énoncés de type « vrai/faux » pourrait détruire un terrain fertile au lieu d’insuffler la vie à de nouvelles idées. »
Ils déplorent que ces résolutions technosolutionnistes de problèmes scientifiques soient souvent annoncées à la hâte, « sans laisser le temps de rédiger un article en bonne et due forme, d’isoler les nouvelles méthodes et idées », ni de citer les travaux antérieurs pertinents d’autres chercheurs.
Outre les « graves questions d’attribution et de plagiat » que cela pose, ils soulignent également que, faute de permettre aux mathématiciens chargés de prompter ces IA de pouvoir les intégrer « dans le canon mathématique », ces idées générées par IA n’intégreront jamais « la chaîne de transmission humaine essentielle entre mathématiciens ».
« Nous assistons à une menace généralisée envers le travail intellectuel »
Commentaires (2)
Il y a 23 minutes
J’étais pas ouvrier, et les prix bas, c’était quand même bien.
Quand ils ont parlé de leurs savoir-faire qui disparaissaient, j’ai rien dit.
Fallait bien vivre avec son temps.
Quand on leur a répondu qu’ils avaient qu’à se reconvertir, j’ai rien dit.
C’était le système qui voulait ça.
Puis c’est mon boulot qu’on a commencé à menacer.
Alors là, j’ai dit : « Nous assistons à une menace généralisée envers le travail intellectuel. »
Mais il ne restait plus personne pour m’écouter.
Tout le monde était parti faire ses courses.
À ce qu’il paraît, on manque de plombiers.
À l'instant
1- La destruction de l'apprentissage des futurs experts.
Actuellement, les experts qui analysent les résultats (ici des résolutions mathématiques) ont tous été formés dans un temps pré IA, mais qui va vouloir se former à une discipline aussi exigeante que les maths, si une grande partie de votre travail sera uniquement de prompter de l'IA ?
Et encore pour ceux qui auront la chance de trouver un boulot en lien avec les maths.
Et même au dela de cela, comment motiver des élèves à apprendre des matières quand tout peut être fait par l'IA ? On est en train de se fabriquer une jolie idiocratie...
2- L'absence de nouveauté scientifique
L'IA n'invente rien, elle ne fait qu'utiliser ce qui existe déjà.
Concernant les problèmes mathématiques par exemple, elle sera incapable d'en produire de nouveaux qui tiennent la route.
On se prépare le plus grand recul scientifique dans l'histoire de l'humanité: quand les experts actuels disparaitront et si l'IA freine l'éclosion de nouveaux experts, la prochaine génération ne fera que tourner autour des connaissances actuelles, sans jamais avoir l'espoir de faire des découvertes majeures.
Pour l'instant ce sont des risques. Peut être que tout le monde se trompe mais vu qu'actuellement la course à l'IA est plutôt une course à court terme vers le profit maximum, je ne vois pas bien ou les conséquences dans un avenir plus ou moins lointain sont prises en compte.
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?