Connexion Abonnez-vous

Une conférence scientifique sur l’IA polluée par l’IA générative et une fuite d’API

Open(AI)Review

Une conférence scientifique sur l’IA polluée par l’IA générative et une fuite d’API

L'une des conférences scientifiques les plus importantes en machine learning, la ICLR, doit faire face à plusieurs problèmes : le recours à l'IA générative pour rédiger des articles scientifiques (ainsi que leurs relectures par les pairs), mais aussi une fuite des noms des relecteurs censés être anonymes.

Le 02 décembre à 09h32

L'International Conference on Learning Representations (ICLR) doit avoir lieu en avril 2026 au Brésil à Rio. C'est la treizième du nom et la conférence est l'une des plus importantes dans le milieu. Elle a été co-fondée en 2013 par deux chercheurs influents : Yoshua Bengio et Yann LeCun.

La fin de la semaine dernière n'a pas été de tout repos pour les chercheurs qui la gèrent. En effet, elle doit faire face à une controverse sur l'utilisation de l'IA générative pour soumettre des articles scientifiques mais aussi pour leur relecture censée être faite par les pairs. Une fuite de l'API du site de gestion de relecture par les pairs, qui permettait à tous de connaitre l'identité des relecteurs, a par ailleurs été découverte.

Un article 100 % généré par IA et bourré d'erreurs a obtenu une bonne note

Depuis le début, ICLR s'appuie sur la plateforme de relecture par les pairs Openreview, qui elle-même est l'application d'un « modèle de publication » proposé en 2009 par Yann LeCun, « basé sur un dépôt ouvert et des évaluations ouvertes (mais anonymes), qui crée un « marché » entre les articles et les entités chargées de leur évaluation ».

Il reste 80% de l'article à découvrir.

Déjà abonné ? Se connecter

Cadenas en colère - Contenu premium

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Commentaires (6)

votre avatar
Je ne comprends pas où est le problème : si les articles sont écrits par une IA et l'évaluation et également faite par une IA, alors on a bien une évaluation par les pairs. Aucun problème. :D
votre avatar
seulement si c'est pas la même IA qui écrit et qui relit. :reflechis:
votre avatar
IA master autodiag
votre avatar
Un beau panorama de l’état actuel du peer reviewing, particulièrement en machine learning.
votre avatar
Du coup avec le bug sur l'identité des relecteurs, on peut voir lesquels sont des IAs non ?
votre avatar
Le chercheur Lê Nguyên Hoang a lui aussi publié sur BlueSky un fil sur le sujet, avec des exemples tirés de son expérience de reviewer confonté a des articles bullshit générés/augmentés (hum) par de l'IA.

Une conférence scientifique sur l’IA polluée par l’IA générative et une fuite d’API

  • Un article 100 % généré par IA et bourré d'erreurs a obtenu une bonne note

  • 1 % des articles soumis entièrement générés par IA, mais 21 % des avis de relecture aussi

  • Une exaspération dans la communauté

  • Un bug dans l'api d'OpenReview révèle l'identité des relecteurs

Fermer