La multinationale de l'édition scientifique propose aux chercheurs et chercheuses, notamment les non-anglophones de naissance, un outil d'aide à l'écriture d'articles scientifiques utilisant un modèle de langage (mais pas seulement). Pourtant, sa revue phare, Nature, est plus que réservée sur l'utilisation de ces outils. Et l'utilisation du nom « Curie » peut interroger.

Curie, c'est le nom de la première femme prix Nobel de Chimie, ou plutôt Marie Skłodowska-Curie. Mais, depuis peu, c'est aussi celui du nouvel outil d'édition scientifique de Springer-Nature basé sur les modèles de langage pour assister les chercheurs et chercheuses dans la rédaction d'articles scientifiques.

La multinationale de l'édition, dans son communiqué, rappelle opportunément les résultats d'une récente étude scientifique (publiée chez son concurrent PLOS, pionnier dans l'édition en accès ouvert) qui montrent « que les scientifiques dont l'anglais n'est pas la langue maternelle mettent 51 % plus de temps à rédiger un article » (précisons que nous parlons ici d'articles scientifiques de disciplines dont l'anglais est devenu la langue commune).

« Curie est notre réponse. Il a été spécifiquement entrainé sur de la littérature académique, couvrant plus de 447 domaines d'étude, plus de 2 000 sujets spécifiques et plus d'un million de révisions d'articles publiés, y compris dans les principales revues du groupe Nature », explique le communiqué.

Cette position de la multinationale sur l'utilisation de l'IA dans l'édition scientifique est singulière dans le milieu de la recherche.

Une position commerciale à contre-courant des positions éthiques scientifiques et éditoriales

Avant même la diffusion dans le grand public d'outils basés sur les grands modèles de langage, Emily Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell ont prévenu sur les dangers de ces perroquets probabilistes, pointant des données d'entrainement problématiques, des risques de dissémination des biais et leurs coûts environnementaux notamment.

• Dangers des grands modèles de langage : des chercheuses avaient prévenu

Mais suite à la diffusion de ChatGPT, le monde de la recherche n'a pas été étanche à l'utilisation de ces outils. Des chercheurs et chercheuses ont commencé à utiliser des IA génératives pour augmenter leur production de textes scientifiques sans se poser trop de questions éthiques, allant jusqu'à laisser des traces d'utilisation de ChatGPT. Comme nous l'évoquions en avril dernier, le chercheur toulousain en informatique Guillaume Cabanac s'est fait une spécialité de repérer ces scories, montrant le peu de scrupules que prennent certains de ses collègues pour utiliser ces outils sans discernement.

En avril, nous relayions aussi le fait que des chercheuses et chercheurs continuaient à faire vivre le débat sur les risques de cette utilisation des IA génératives, spécifiquement dans le milieu de la recherche. Atoosa Kasirzadeh expliquait, par exemple, ses doutes sur leur capacité à « capturer les incertitudes, les limites et les nuances de la recherche qui sont évidentes pour le scientifique humain ».

Des critiques recueillies par la revue Nature elle-même

Il faut souligner que ces critiques ont été relayées notamment par la revue Nature (revue phare du groupe Springer-Nature, comme son nom l'indique). Et depuis, la revue continue de pousser le débat. En juin, elle publiait un éditorial pour que celui-ci ne se concentre pas sur une éventuelle apocalypse comme l'ont évoqué plusieurs PDG d'entreprises du numérique en mars dernier, mais sur les dangers concrets et actuels liés aux techniques d'intelligence artificielle.

Fin septembre, la même revue publiait un sondage effectué auprès de 1 600 chercheurs et chercheuses à propos de l'IA et la recherche. Si « les deux tiers ont noté que l'IA permet de traiter plus rapidement les données, 58 % ont déclaré qu'elle accélère les calculs qui n'étaient pas réalisables auparavant », « 69 % des chercheurs ont déclaré que les outils d'IA peuvent conduire à une plus grande dépendance à l'égard de la reconnaissance de formes sans compréhension, 58 % ont déclaré que les résultats peuvent entraîner des préjugés ou des discriminations dans les données, 55 % ont estimé que les outils peuvent faciliter la fraude et 53 % ont noté qu'une utilisation irréfléchie peut conduire à une recherche non reproductible ».

Plus particulièrement sur les grands modèles de langage, 68 % des chercheurs interrogés « pensent que cela faciliterait le plagiat et rendrait sa détection plus difficile, et 66 % s'inquiètent de l'introduction d'erreurs ou d'inexactitudes dans les travaux de recherche ».

Et en effet, si un outil comme « Curie » peut générer des textes qui ressemblent à des articles scientifiques, il faut rappeler que ceux-ci sont, au départ, avant tout une façon de communiquer des travaux de recherche établis par le personnel. Ils doivent donc être les plus factuels et les plus proches de ce qu'il s'est passé « à la paillasse » ou « dans la tête » des auteurs et autrices des articles.

La revue a aussi publié le 19 octobre des « lignes directrices » pour l'utilisation d'IA génératives par les chercheurs. Dans les conseils adressés aux développeurs de modèles de langage et aux entreprises, est inscrit le besoin d'un audit scientifique indépendant et le partage des informations sur les données d'entrainement et les biais de leurs outils.

Pourtant, la page de présentation de « Curie » mise en ligne par Springer-Nature est très vague, expliquant juste que « Curie utilise des algorithmes avancés d'intelligence artificielle et de traitement du langage naturel pour vous aider à réviser et à traduire des écrits scientifiques. Curie analyse les données fournies par les utilisateurs et suggère des modifications, ce qui permet de rédiger des articles, de peaufiner des demandes de subvention ou d'améliorer le style d'écriture. Curie a été spécialement conçu pour la rédaction d'articles de recherche et a été formé sur une collection spécialisée de manuscrits édités par des rédacteurs professionnels ».

Nature a aussi récemment mis en ligne un article expliquant que « le fait que l'intelligence artificielle puisse faire une grande partie du travail ridiculise le processus [de demande de financement de recherche] ». 

Cet outil semble, par contre, plutôt bien s'intégrer au système actuel de la recherche, poussant les chercheurs à « publier ou périr ». L'argumentaire renforce d’ailleurs la situation actuelle : l’outil propose aux chercheurs de les aider à se fondre dans le système, plutôt que d’adapter ce dernier à une communauté dont une bonne partie ne parle pas nativement anglais.

Pas eu besoin de publier en anglais pour être une chercheuse reconnue

En parlant de chercheurs non anglophones de naissance, le choix du nom de Curie pour cet outil paraît étrange. Dans son communiqué, l'éditeur n'explique pas pourquoi il a utilisé ce nom. La plus connue de la famille Curie, Marie, doublement nobélisée, n'a pourtant pas eu besoin d'une IA de ce genre pour devenir une chercheuse reconnue.

Si, comme l'historien Pierre Verschueren nous l'explique sur Mastodon, Marie Curie maitrisait l'anglais au point de « faire cours en anglais aux soldats américains en attente de retour en 1919 », la plupart de ses articles scientifiques n'ont pas été publiés dans cette langue.

Natalie Pigeard-Micault, responsable des ressources historiques du musée Curie, nous le confirme : les articles de Marie Curie, la plupart édités dans les comptes-rendus de l’Académie des sciences, ont été publiés en français (sa thèse est aussi rédigée en français). Elle a publié en anglais essentiellement sur des sujets bibliographiques et historiques concernant ses recherches.

Pour l'équipe du Musée, « Marie Curie n’a pas eu besoin de rédiger ses articles en anglais pour obtenir une reconnaissance internationale. Ainsi, le nom de Curie pour un tel usage ne nous parait pas très approprié ».

Si le paysage de l'édition scientifique a bien changé et qu'une bonne partie des disciplines s'accordent à publier dans la langue d'Isaac Newton, l'utilisation du nom d'une chercheuse polonaise de naissance et publiant essentiellement en français paraît étonnant dans ces circonstances.