L’IA générative rend idiot, et c’est Microsoft qui le dit
Microsoft rend idiot, et c’est l’IA générative qui le dit
Dans une étude réalisée avec l’université de Carnegie Mellon, des chercheurs de Microsoft ont pointé un appauvrissement de l’esprit critique allant de pair avec la confiance portée aux IA génératives. Ils mettent en avant un lien de cause à effet et les dangers qui l’accompagnent.
Lors de la Bordeaux I/O, nos discussions avec les ingénieures Marie-Alice Blete et Cécile Hannotte s’étaient orientées vers le danger de « l’assèchement » engendré par les IA génératives (GenAI). Ces dernières pouvaient, à force de dévorer tout nouveau contenu pour le recracher sous une forme digérée, lissée et uniforme, appauvrir petit à petit le socle des connaissances. La baisse drastique de fréquentation de sites comme Stack Overflow, servant au partage des connaissances, était perçue comme un indice.
Si la réflexion prenait place dans le domaine du développement logiciel, elle a des ramifications plus profondes. Elle posait ainsi la question d’un tarissement de la pensée créative. Des chercheurs de Microsoft, en partenariat avec l’université de Carnegie Mellon, vont encore plus loin : plus on fait confiance aux IA générative, moins on a d’esprit critique, avec tous les dangers que cela suppose.
Un schéma se dessine
L’étude a porté sur 319 personnes, des « travailleurs de la connaissance » recouvrant donc de nombreux corps de métiers, mais dont l’activité comprend dans tous les cas la manipulation d’informations ou de données.
Commentaires (26)
Le 14/02/2025 à 10h13
Le 14/02/2025 à 14h08
Le 14/02/2025 à 10h14
Le 14/02/2025 à 10h14
Le 14/02/2025 à 10h37
Le 14/02/2025 à 10h46
(Comprenne qui pourra.)
Le 14/02/2025 à 10h44
L'esprit critique n'est pas inné, ça s'apprend. Mais quand on habitue les gens à consommer passivement, il ne se développe pas.
Le 14/02/2025 à 10h48
Ensuite, n'est-il pas normal de moins contrôler et plus confier de tâches à partir du moment où l'on a plus confiance en un outil ? On fait la même chose avec les humains.
Je ne sais pas si pour autant on perd son esprit critique. On l'exerce probablement moins et ça peut devenir embêtant quand on en a besoin.
Ce n'est pas une raison pour dire que l'on devient bête en utilisant ces outils.
Je suis déçu de l'utilisation de tels qualificatifs qui ne reflètent pas l'étude.
Modifié le 14/02/2025 à 11h09
Par contre, je vois quand même un risque à vouloir faire confiance dans ces outils si on a pas la prise de recul nécessaire. C'est comme tout, cela dit.
J'ai le recul pour savoir que l'IA générative peut se tromper, je remets donc assez systématiquement en cause ce qu'elle produit (et à l'inverse, elle m'a déjà produit un excellent résultat en 5 min là où une heure de recherche web s'est avérée infructueuse). Et j'ai pris pour habitude de ne jamais la croire sur un sujet que je ne maîtrise pas.
Alors je te laisse imaginer ma réponse quand une fois on m'a demandé de convertir un script python vers un langage que je ne connaissais pas en me disant "t'as qu'à utiliser ChatGPT". Hélas, beaucoup s'en contenteront sans même challenger le résultat
Bref, l'IA générative ne rend pas idiot, elle montre qu'on l'est.
Ça me rappelle le même Linux / Windows : Windows prend l'utilisateur pour un imbécile, Linux en veut la preuve.
Le 14/02/2025 à 11h26
-------
L’IA générative rend idiot, et c’est Microsoft qui le dit
Microsoft rend idiot, et c’est l’IA générative qui le dit
Dans une étude réalisée avec l’université de Carnegie Mellon, des chercheurs de Microsoft ont pointé un appauvrissement de l’esprit critique allant de pair avec la confiance portée aux IA génératives. Ils mettent en avant un lien de cause à effet et les dangers qui l’accompagnent.
-------
Mouais, comme la télé, le matraquage de discours quelque soit le media de diffusion et pour certains d'entre eux les manuels scolaires (au hasard les livres d'histoire).
Le 14/02/2025 à 16h06
Le 14/02/2025 à 17h08
Intro :
Le 14/02/2025 à 12h38
Modifié le 14/02/2025 à 13h07
Le 14/02/2025 à 13h55
Modifié le 14/02/2025 à 14h19
Infomaniak a intégré du LLM pour sa suite kDrive, Antidote en propose pour de la reformulation / retouche de texte ainsi que l'analyse, GitLab a une offre de code assisté par IA, etc. Ajoutons à cela les moteurs de recherche Web augmentés par ce moyen, le RAG, etc. Les fonctions de retouche de Photoshop aussi.
Dire qu'il n'existe pas de cas concret d'utilisation est donc un mensonge ou une méconnaissance du sujet.
Le 14/02/2025 à 14h42
Pour le développement et la rédaction assisté c'est effectivement lié à l'IA générative.
Reste à voir l'utilité de ça et du coup le risque pour M$ (et les autres).
Sans parler de l'impact environnemental qui pour moi est le plus gros problème.
Modifié le 14/02/2025 à 15h18
Le 14/02/2025 à 16h08
Le 14/02/2025 à 16h29
Après, je relativiserai en disant que dans la Tech, c'est courant qu'ils perdent de l'argent pendant longtemps. On est dans la phase d'investissement donc le ROI est encore loin. Et je me demande s'il sera si évident à calculer. Encore pour le Cloud, avec tous les grosses entreprises de la Tech qui ont mis leurs propres services dessus, l'investissement se rentabiliser au travers des produits SaaS + des clients Cloud.
Pour les services basés IA, c'est plus un complément qu'un véritable backend aujourd'hui.
Modifié le 14/02/2025 à 15h31
Le 14/02/2025 à 14h28
Promis je ne touche rien, en fait techniquement je fais de la pub pour un concurrent !!
Le 14/02/2025 à 16h08
Du coup, sur la base de cette expérience (qui vaut ce qu'elle vaut), j'ai ma réponse à la question.
Le 14/02/2025 à 18h53
Le 14/02/2025 à 18h58
Le 14/02/2025 à 20h14
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?