Connexion

Catégories

Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société

Nous Suivre

Qui sommes nous ? Contact rédaction Contact site Forum
Flux RSS
GitHub Discord

À propos

Abonnez-vous

« ChatGPT rend con » ? Des chercheurs du MIT trollent les utilisateurs d’IA générative

Si t’es un LLM, ben dégage d’ici :o

« ChatGPT rend con » ? Des chercheurs du MIT trollent les utilisateurs d’IA générative

Une étude (non relue par les pairs) analysant l’activité du cerveau lorsqu’on utilise l’IA générative est beaucoup citée actuellement sur les réseaux sociaux et dans les médias. Mais celle-ci a été mise en ligne avec la volonté de biaiser les IA qui la résumeraient. Next s’est plongé un peu plus dans cet article scientifique et a interrogé l’enseignant-chercheur en sciences cognitives Martial Mermillod.

Le 24 juin à 09h08

Les résultats d’une étude à propos de la « dette cognitive lors de l’utilisation d’un assistant IA pour la rédaction d’un essai » sont beaucoup commentés depuis une semaine, que ça soit dans les médias ou sur les réseaux sociaux.

Celle-ci a notamment été conduite par des chercheurs du MIT et mise en ligne sur la plateforme de preprint arXiv, sans avoir, pour l’instant, été relue par des pairs et encore moins acceptée par une revue scientifique. Le premier réflexe dans ces cas-là est d’abord de prendre les pincettes nécessaires. D’autant qu’un autre aspect de la mise en ligne de cet article peut poser question.

Une instruction trollesque insérée dans le PDF

Il reste 84% de l'article à découvrir.

Déjà abonné ? Se connecter

Cadenas en colère - Contenu premium

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Abonnez-vous

Commentaires (18)

votre avatar
Bien que la conclusion de la chose semble évidente, l'article montre bien que notre recherche sur le cerveau reste limitée. L'encéphalogramme ne mesure qu'une activité électrique entre ou intra zones. On ne peut donc pas tirer de conclusion fiable à partir de cette seule information. Bon courage pour mettre des gens dans des IRM et de leur faire faire des histoires.

C'est marrant, j'ai eu une image qui m'est apparue pour cette étude. C'est comme si on faisait une étude sur le voyage et qu'on comparait les gens qui marchent à pied, ceux qui font du vélo ou ceux qui prennent la voiture. A la fin, évidemment que ceux qui prennent la voiture utilise moins des parties du cerveau liés aux mouvements des jambes et des bras.
votre avatar
L'image n'est pas mauvaise. Dans l'analogie, on a cherché à trouver les implications liés à la sédentarité. Ca n'a pas remis en cause l'usage de la voiture mais on ne devait pas attendre d'avoir une vue parfaite de toutes les implications ou les moyens techniques pour les quantifer (qu'on a pas encore aujourd'hui pour les modes de transport non plus de manière absolue) pour commencer à vouloir les mesurer.
votre avatar
A la fin, évidemment que ceux qui prennent la voiture utilise moins des parties du cerveau liés aux mouvements des jambes et des bras.
Et par rapport aux "conducteurs" de voitures autonomes? :troll:
votre avatar
De toute façon, l'IA est un amplificateur. Si la flemme domine, l'on stimule peu son cerveau avec les conséquences logiques que l'on sait, mais si la curiosité et l'effort dominent, elle devient un atout de plus pour progresser.
votre avatar
Je suis justement tombé ce matin sur une chronique d'un philosophe sur lesechos qui reprend cette étude sans le moindre esprit critique sur cette étude (le début de l'article c'est "On s'en doutait, c'est désormais prouvé : ChatGPT rend service, mais au prix d'une diminution de l'intelligence de ses utilisateurs."), ce qui est assez ironique compte tenu du sujet de l'article.

Le passage qui m'a fait le plus marrer c'est "Une des différences les plus flagrantes réside dans la capacité à citer ses propres écrits. Elle est de 11 % dans le premier groupe (groupe utilisant l'IA) et de 78 % dans le dernier (groupe utilisant son cerveau), montrant un défaut d'appropriation et d'agentivité ; autrement dit, une incapacité à faire sien un texte que l'on signe pourtant de son nom.".
Incroyable, quand on fait un copier-coller d'un texte que nous régurgite internet, et qui au passage n'est pas du tout nos "propres écrits" vu que c'est juste un copier-coller, on s'en souvient moins bien qu'un texte qu'on a nous-même écrit ? Merci captain obvious :roll:

Y a pas que l'IA que cette étude à réussi à piéger.
votre avatar
"Une étude (non relue par les pairs)"

Ok, fin de la lecture de l'article. 😁
votre avatar
À la fin de l'article, on a quand même le point de vue sur cette étude de l’enseignant-chercheur en Sciences Cognitives à l’Université Grenoble Alpes (UGA), Martial Mermillod.
votre avatar
Malheureusement, "l'intuition" et le "point de vue" sont quand même assez bas dans la hiérarchie des normes.
votre avatar
À partir du moment où le manque de review a été souligné, on peut tout de même le lire en connaissance de cause ?
votre avatar
Une étude qui a été soumise pour relecture, et par un labo du MIT, il y a de bonnes chances qu'elle soit assez solide pour passer le peer review. Et il y a des études non peer reviewed qui sont solides, tout comme des papiers qui passent alors que ce sont des torchons.
votre avatar
Cette étude n'est-elle pas trivial voir tautologique.
A la 1ere lecture, j'ai l'impression de lire, quand vous reflichessez pas, ou voit que vous reflechissez pas ?

Peu importe ce que je pense de l'IA ; J'ai l'impression de lire, si vous utlisez une perceuse pour percer avec un moindre effort, on constaste que vous faite moins d'effort...
(Et utiliser une perceuse n'emêche pas de ce foirer :-) )
votre avatar
Ici, c’est comme comparer le fait de faire du vélo sans assistance et avec un vélo électrique, on ne va pas solliciter notre corps de la même façon.
Je suis pas d'accord avec sa comparaison : ce serait plutôt comparer faire du vélo (avec ou sans assistance) et faire du scooter. L'article montre la tendance à progressivement se transformer en simple interface de transfert entre le problème et le LLM.
votre avatar
J'ai l'impression de vivre dans un film de science fiction des années 80.
votre avatar
A défaut de validation pour le moment on peut réfléchir avec l'histoire.

* La télé a-t-elle rendu et rend-t-elle con ? -> Faut il mentionner TPMP? Et qu'il y a une tonne d'étude sur la chose depuis les années 70.
* La calculatrice a-t-elle améliorer les capacités cérébrales ?
* Le copié/collé a-t-il amélioré la mémoire temporaire ?
* L'usage de l'IA favorise-t-elle la démission du cerveau ?

On peut se poser la question : Fabriquer un outil pour quelque chose nous rend-t-il esclave ?
votre avatar
Ce sont les sujets philo du bac 2026, c'est ça ? :D
votre avatar
Ayant perdu toutes mes facultés cognitives, je laisse l'IA répondre:

1. La télé a-t-elle rendu et rend-t-elle con ?
Oui, dans certains contextes. Non, dans d'autres.

Oui : Une consommation passive, prolongée et non critique (télé-réalité, publicités, programmes simplistes) peut diminuer l'esprit critique, la capacité de concentration et favoriser la passivité intellectuelle.

Non : Des documentaires, débats de qualité ou émissions culturelles peuvent enrichir, éveiller la curiosité, transmettre du savoir.

Conclusion : Ce n’est pas la télé en soi, mais comment on l’utilise qui importe.

2. La calculatrice a-t-elle amélioré les capacités cérébrales ?
Pas directement, mais elle a libéré le cerveau pour d’autres tâches.

Perte de réflexes de calcul mental : Oui, surtout si elle est utilisée trop tôt dans l’apprentissage.

Amélioration de la pensée logique ou de la résolution de problèmes : Oui, si elle est utilisée comme un outil pour explorer des concepts plus complexes.

Conclusion : La calculatrice délègue une partie du travail, mais si bien utilisée, elle peut permettre un raffinement des compétences cognitives plus élevées.

3. Le copié/collé a-t-il amélioré la mémoire temporaire ?
Plutôt le contraire.

Le copié/collé réduit l’effort de mémorisation et de reformulation. Cela peut affaiblir la mémoire de travail, notamment chez les étudiants ou dans les contextes où la répétition et la reformulation sont des leviers d’apprentissage.

Conclusion : Il facilite le transfert d'information mais peut court-circuiter l’assimilation.

4. L’usage de l’IA favorise-t-il la démission du cerveau ?
Il y a un risque, mais ce n’est pas une fatalité.

L’IA automatise des tâches cognitives complexes (écriture, codage, décision, création).

Le danger, c’est la délégation aveugle : on devient simple utilisateur, voire dépendant, sans remise en question ni compréhension.

Mais utilisée comme un outil de réflexion, elle peut stimuler l'esprit critique, la créativité, l’apprentissage accéléré.

Conclusion : L’IA peut abrutir ou élever, selon le niveau d’implication cognitive de l’utilisateur.

Synthèse : Fabriquer un outil pour quelque chose nous rend-t-il esclave ?
Cela dépend du rapport que nous entretenons avec l’outil.

Esclave si on délègue sans comprendre, sans esprit critique, si l’outil devient indispensable à notre fonctionnement quotidien.

Maître si l’outil est au service de notre intention, si on garde le contrôle intellectuel sur ce qu’il fait pour nous.

Réflexion clé : Tout outil est une extension de nos capacités… mais toute extension mal maîtrisée peut atrophier ce qu’elle prolonge.
votre avatar
Fabriquer un outil pour quelque chose nous rend-t-il esclave ?
"Utiliser un outil [...]" serait plus pertinent. Si tu sais fabriquer (conception comprise) un outil, tu fais probablement partie de ceux qui maîtrisent le mieux le domaine d'application de l'outil.

Sur la calculatrice, je ne suis pas d'accord : elle ne favorise pas vraiment le développement de la logique, qui n'a pas besoin de calculs complexes et irréalisables à la main (voire qui n'a pas besoin d'application numérique du tout).
votre avatar
Je recommande (une fois encore) la lecture de ce billet LinkedIn du chercheur en neurosciences Albert Moukheiber au sujet de cette étude.

« ChatGPT rend con » ? Des chercheurs du MIT trollent les utilisateurs d’IA générative

  • Une instruction trollesque insérée dans le PDF

  • Une activité du cerveau plus importante quand on travaille sans outil

  • « C’est comme comparer le fait de faire du vélo sans assistance et avec un vélo électrique »

  • « Rien de très surprenant »

Fermer