L'Organisation des Nations unies pour l'éducation, la science et la culture demande la mise en place de « réglementations appropriées et à former les enseignants, pour garantir une approche centrée sur l’humain lors de l’utilisation de l’IA générative dans l’éducation ». Elle publie à l’occasion un guide mondial pour l’IA générative dans l'éducation et la recherche.
Il est notamment question de fixer « une limite d'âge de 13 ans pour l'utilisation des outils d'IA dans les salles de classe ». Le guide est aussi l’occasion de rappeler les controverses actuelles, particulièrement que les modèles ont tendance à aggraver les fractures numériques. Un exemple : « les modèles actuels de ChatGPT sont formés à partir de données provenant d’utilisateurs en ligne, qui reflètent les valeurs et les normes sociales dominantes des pays du Nord ».
Commentaires (4)
#1
La colonisation des esprits, v2.0 (AI powered).
#2
Faut-il vraiment rappeler que les valeurs et normes sociales occidentales sont objectivement les meilleures du monde ? Les promouvoir devrait être un objectif.
#2.1
Objectivement ?Ah Bah y’a plus de craies, Ah Bah y’a plus de remplaçant, Ah Bah y’a plus de place, Ah Bah y’a plus d’argent pour les fournitures, ….
C’était quoi l’année dernière ? Ah, oui le crop top !
#3
Faut surtout rapidement encadrer l’utilisation de ces IA souvent plus dégénératives qu’autre chose.
Il y a quelques jours je suis tombé sur une discussion totalement lunaire sur un forum audio, un gars est venu poser une question sur un choix de résolution et fréquence d’échantillonnage pour un projet perso sauf que vu la question le gars était de toutes évidences totalement ignorant des concepts de base de l’audio numérique.
Plusieurs gars du forum plutôt très bien calés dans le domaine on tentés de lui expliquer ses erreurs et la voie à suivre mais le gars ne voulait pas démordre de ses théories fumeuses et il s’est avéré après quelques échanges que tout ce qu’il croyait savoir sur le sujet c’était ce que ChaGPT avait répondu à ses questions, sauf que comme avec ce genre d’outil la façon de poser la question influence directement la teneur et la pertinence de la réponse et que ses questions étaient totalement à coté de la plaque les réponses étaient du même acabit et comme le mec n’y connaissais absolument rien il ne s’en rendait pas compte et pire pour lui les réponses de
ChatGPT étaient forcément la vérité absolue et celles des “humains” du forum forcément fausses
S’en est suivi 4-5 pages de dialogues de sourd avant que les dernières bonnes volontés lâchent l’affaire.
Ce truc peut potentiellement être utile dans certaines conditions bien particulières mais comme beaucoup d’outils perfectionnés/complexes la base c’est d’avoir un minimum de connaissances dans le domaine recherché avant de l’utiliser sinon on peut rapidement se faire balader sans s’en rendre compte, d’autant que comme les algorithmes FB/Insta ça a visiblement l’air programmé pour tenter de deviner ce que l’utilisateur à envie de lire/entendre et le conforter dans ses idées même si elles sont erronées et du coup s’il y a bien un domaine dans lequel ces trucs n’ont absolument rien à foutre c’est bien l’apprentissage, c’est une aberration de vouloir coller dans les pattes des élèves de tels générateurs de bullshits potentiels (la limite de 13 ans annoncées dans l’article est hallucinante, jamais aucun élève de cet âge n’aura suffisamment l’esprit critique pour remettre en cause les conneries potentielles racontées par ces IA, déjà que beaucoup d’adultes ne l’ont pas)