L'utilisation du mot « open » concernant les intelligences artificielles génératives est-elle pertinente ? Constatant que les termes « open » et « open source » sont souvent utilisés de façons diverses et confuses pour parler des nouvelles solutions d'IA, le sociologue David Gray Widder et les deux chercheuses Sarah Myers West et Meredith Whittaker ont analysé son emploi par les différents acteurs de ces nouvelles technologies.

Dès l'arrivée de la startup OpenAI, qui se présentait à l'époque comme une alliance ouverte pour la recherche sur l'intelligence artificielle, on pouvait sentir que le terme « open » allait de nouveau être utilisé à tort et (parfois) à travers, accolé, cette fois, au terme « IA  ».

• Après la bulle des cryptos, celle de l’IA générative ?

Mais les déclarations d'ouverture n'ont pas été faites seulement dans le nom de l'éditeur de ChatGPT. Yann Le Cun, scientifique en chef de l'IA chez Meta, affirme que tous les LLM de son entreprise sont « open source ».

C'est que, depuis l'arrivée des logiciels libres et de l' « open source » dans les années 90, on est maintenant habitués à voir le terme mis en avant, tant il charrie une image positive dans la communauté informatique, tout en entretenant des confusions.

Le terme a d'ailleurs fait des émules dans le milieu académique où, depuis les années 2000, on parle d' « open access » et d' « open science ». Célya Gruson, docteure en sciences de l'information et de la communication et spécialisée sur ces questions, parlait d'ailleurs dans sa thèse de l'open access comme d' « un "western scientifique" international à l’ère numérique ».

• L’open science en transition : des pirates à la dérive ?
• Ce que font les grands modèles de langage à la recherche

David Gray Widder (dont on a déjà parlé ici), la chercheuse et présidente de la Signal Foundation Meredith Whittaker et la chercheuse de l'AI Now Institute Sarah Myers West ont mis en ligne un article [PDF] dont le but est de démêler ces confusions et analyser l'utilisation de ce terme concernant les intelligences artificielles génératives.

« open », un terme flou

Ce qu'ils expriment dans cet article, c'est qu'il est difficile de comprendre ce que veut dire « open » dans le contexte des IA génératives. Les termes « open » et « opensource » constituent « souvent plus une aspiration ou un marketing qu'un descripteur technique, et mélangent fréquemment des concepts issus à la fois des logiciels open source et de la science ouverte ». L'Open source initiative (OSI), regroupant beaucoup d'acteurs du numérique, espère réunir chacun autour d'une définition commune. Mais le processus est pour l'instant en cours.

Le problème, selon eux, c'est « qu'en pratique, l'ouverture varie considérablement et peut aller de la mise à disposition au public des ensembles de données d'apprentissage et d'évaluation utilisés pour façonner un modèle d'IA, à la publication du code définissant l'architecture d'un modèle ou ses paramètres hyperparamétriques sous l'une ou l'autre licence open source, à la mise à disposition au public des paramètres appris d'un modèle (poids du modèle), en passant par la fourniture de documentation telle que des cartes de modèles ou des fiches techniques. Mais certains systèmes décrits comme "ouverts" ne fournissent guère plus qu'une API et une licence autorisant la réutilisation, comprenant la commercialisation de la technologie ».

Or, cette utilisation du terme d'« IA ouverte » (en anglais, « 'open' AI ») joue un rôle dans la compréhension du public et des législateurs et à des conséquences sur les débats à propos de la régulation de l'intelligence artificielle. L'Europe est, par exemple, en train de discuter d'un « IA act ».

• AI Act : intenses débats en perspective

Confusion avec l'open source historique

Mais les chercheurs expliquent que « ce qui est clair [...], c'est que la définition traditionnelle de l'open source, écrite pour s'appliquer au logiciel à un moment très différent de l'histoire de l'industrie tech, ne couvre pas l'IA ».

Et c'est un problème. Car, pour eux, la transposition sur l' « IA ouverte » de ce que porte l'open source depuis des décennies dans le logiciel « traditionnel » anime « de nombreuses suppositions erronées et des affirmations hyperboliques sur ce qu'elle permet ou ne permet pas ».

« D'une manière générale, les termes "open" et "open source" sont utilisés dans le contexte de l'IA de diverses manières pour désigner une série de capacités que l'on peut globalement classer comme offrant des attributs de transparence – la possibilité d'accéder et de vérifier le code source, la documentation et les données – de réutilisation – la capacité et les licences nécessaires pour permettre à des tiers de réutiliser le code source et/ou les données – et d'extensibilité – la capacité de construire à partir de modèles existants prêts à l'emploi, en les "adaptant" à l'un ou l'autre des objectifs spécifiques. »

Il faut souligner que les trois chercheurs prennent bien soin de noter qu'ils ne prennent « pas position ici sur la question de savoir si l'ouverture de l'IA est "bonne" ou "mauvaise" de manière plus générale ». L'idée de ces chercheurs est de mettre un peu de clarté dans tout ça.

LLaMA-2 de Meta, vraiment ouvert ?

Les chercheurs prennent appui sur la comparaison du modèle GPT-Neo proposé par EleutherAI avec LLaMA-2 de Meta, décrits tous deux comme des systèmes d'IA ouverts.

« Bien que LLaMA-2 puisse être téléchargé gratuitement et que ses poids de modèle soient disponibles, il ne remplit pas les critères clés qui lui permettraient d'être considéré comme open source », affirment-ils. Sa licence a été écrite « from scratch » par Meta et n'est pas compatible avec la définition de licence open source de l'OSI, selon eux. LLaMA-2 manque aussi de transparence, notamment sur les données d'entrainement. « Cette envergure très limitée a conduit certains à affirmer que LLaMA-2 ne mérite pas d'être considéré comme open source », expliquent-ils, faisant référence, entre autres, à la position de l'OSI sur le sujet.

De l'autre côté, GPT-Neo a été développé et maintenu sous la licence MIT et les poids, paramètres et des informations détaillées sur l'entrainement et la configuration de son modèle sont disponibles. « En plus, il a été entrainé sur une base de données disponible en libre accès, The Pile, qui a aussi été créée par EleutherAI », remarquent les chercheurs

« Le cas OpenAI »

Plus loin dans l'article, les trois auteurs reviennent sur « le cas OpenAI ». Ils l'utilisent comme cas d'école de l' « ouverture comme marketing ». Les chercheurs rappellent qu'OpenAI a été lancé en 2015 comme un laboratoire de recherche à but non lucratif qui revendiquait comme mission de « créer de la valeur pour tout le monde plutôt que pour les actionnaires » et encourageait ses employés à « publier leur travail, que ce soit sous forme d'articles, de billets de blog ou de code ».

Mais ils expliquent que, dès le début, sa version de l'ouverture était très limitée. « Elle n'inclut ni gouvernance ouverte, ni contribution démocratique ou collaborative, ni open data, ni accès ouvert aux ressources coûteuses requises pour créer de grands modèles d'IA », remarquent-ils.

David Gray Widder et ses collègues prennent comme exemple la publication en 2019 de GPT-2 pour montrer l'ambivalence d'une société dont le nom contient « open » et qui annonce avoir créé ce modèle, tout en décrivant comme « trop dangereux » pour être publié. 

Connor Leahy, tout juste diplômé, puis des chercheurs de l'Université de Brown ont publié leurs propres versions de GPT-2, forçant finalement OpenAI à faire de même.

« Qu'est-ce qui est "ouvert" exactement dans l'IA "ouverte" et que permet l'IA "ouverte" ? »

Mais l'IA existe au-delà du simple marketing. Dans leur article, les trois chercheurs analysent tout ce qui est ouvert dans l'IA « ouverte », des infrastructures de développement (development frameworks, en anglais) aux modèles en eux-mêmes en passant par la gestion des calculs sur les GPU, les données ainsi que l'accès au travail humain de labellisation, calibration et de modération.

Du côté des infrastructures de développement, ils rappellent que les deux principales, PyTorch (créé par Meta/Facebook) et TensorFlow (créé Google), sont en open source, principalement financées par les deux entreprises qui les ont créées. Les chercheurs considèrent qu'elles permettent un développement et un déploiement de l'IA « plus rapide, plus prédictible et plus robuste », mais font remarquer qu'elles permettent dans le même temps à Meta et Google de contrôler la standardisation de la construction des IA.

Une alternative open-source au logiciel de NVIDIA par OpenAI

Pour le calcul, les trois chercheurs font remarquer que son coût est un frein significatif pour la réutilisation des systèmes d'IA ouvertes. L'entrainement sur des jeux de données énormes nécessite des infrastructures peu communes. Ils rappellent que l'entreprise Semi Analysis a évalué à 4 milliards de dollars l'investissement effectué par Microsoft pour déployer ChatGPT dans Bing. Et Meredith Whittaker et ses collègues ajoutent que ces investissements ne diminuent pas nécessairement après la phase préliminaire de développement et que modèles après modèles, globalement, « ce besoin de plus en plus grand de calculs ne semble pas s'estomper ».

Concrètement, à ce sujet, ils rappellent que la plupart sont effectuées sur les GPU propriétaires de NVIDIA, avec son propre logiciel, CUDA, dont les sources ne sont pas accessibles. OpenAI a développé une alternative open-source à CUDA, Triton, mais celle-ci ne fonctionne, pour l'instant, qu'avec les GPU de NVIDIA. OpenAI n'exclut pas les contributions pour étendre à d'autres GPU mais n'investit pas dans ce sens.

L'indispensable travail humain peu accessible

Les trois chercheurs font remarquer, comme d'autres avant, que les créateurs de modèles d'IA, et en particulier Google et OpenAI/Microsoft, entretiennent un flou plus important sur les données utilisées pour entraîner la génération actuelle. Les modèles actuels qui donnent des informations sur le sujet dépendent essentiellement de deux bases de données accessibles gratuitement, « Common Crawl » et « the Pile ». Mais ils rappellent qu' « en pratique, ceux qui utilisent ces ensembles de données pour former et évaluer des modèles d'IA utilisent souvent le travail et la propriété intellectuelle d'autres personnes, en invoquant le "fair use", même si ces affirmations reposent sur des bases juridiques fragiles ».

Comme on l'a déjà indiqué Next INpact, les chercheurs évoquent aussi l'indispensable travail humain de labellisation, calibration et de modération en expliquant que si ces travailleurs sont payés peu pour ce genre de tâches et de façon précaire, les besoins sont si énormes pour obtenir un modèle d'IA que peu d'entreprises peuvent y payer les nombreuses heures nécessaires.

• Quand chatGPT est utilisé par les « crowd workers » pour entraîner d'autres modèles de langage
• La délicate question du sous-traitement des données d'entraînement de l'IA

Une concentration sur le « fine tuning »

Mais les entreprises qui parlent d'IA ouverte se contentent généralement de se référer à la façon dont elles distribuent leurs modèles, tout en entretenant le flou. Et selon les trois chercheurs, « une grande partie de l'action actuelle dans le domaine de l'IA "ouverte" se concentre sur la tâche la moins coûteuse en termes de calcul, qui consiste à affiner les modèles diffusés ouvertement par les quelques acteurs puissants qui peuvent se permettre de les former à partir de zéro ».