Dans une enquête publiée ce vendredi 1er novembre, l'agence de presse Reuters explique avoir repéré le travail de chercheurs chinois s'appuyant sur un modèle de langage de la famille Llama créée par Meta. Ils l'ont utilisé pour créer un outil d'IA destiné à des fins militaires et améliorer la prise de décisions opérationnelles de l'armée chinoise.

Si les modèles Llama ne sont pas « open-source » au sens de l'Open Source Initiative (OSI), ils peuvent techniquement être récupérés et affinés par n'importe qui. Selon Reuters, six chercheurs chinois ont publié un article scientifique en juin détaillant comment ils ont utilisé un modèle Llama de 13 milliards de paramètres en l'affinant avec leurs propres données militaires. L'agence de presse ne donne pas de référence précise sur l'article en question ni ne donne de précision sur la version du modèle utilisé.

ChatBIT, un système d'analyse de renseignements militaires

L'agence de presse explique que, parmi ces chercheurs, deux travaillent pour l'Académie des sciences militaires de l'armée chinoise : Geng Guotong et Li Weiwei. Les autres travaillent au sein de l'Université de Minzu et de l'Institut de technologie de Beijing.

Selon Reuters, le système développé par ces chercheurs s'appelle ChatBIT et est, pour l'instant, capable de proposer des analyses de renseignements militaires. Mais l'article scientifique consulté par l'agence de presse britannique ouvrirait la possibilité à de plus amples utilisations : « à l'avenir, grâce au perfectionnement technologique, ChatBIT ne sera pas seulement appliqué à l'analyse du renseignement, mais également à la planification stratégique, à la formation par simulation et à la prise de décision au niveau du commandement ».

Sans avoir accès à l'article scientifique et encore moins à ChatBIT en lui-même, difficile de se faire une idée des capacités du système. L'agence de presse explique que l'affinement du modèle par les chercheurs chinois a été fait en utilisant 100 000 enregistrements de discussions militaires, ce qui est un assez petit corpus d'entrainement.

Reuters a repéré deux autres articles scientifiques signés par des chercheurs chinois travaillant avec l'armée ou les renseignements de leur pays.

Une utilisation contraire aux conditions imposées par Meta

Ces constats posent la question de l'utilisation des modèles de Meta disponibles en téléchargement, mais aussi de tous les modèles plus ou moins open source dans des projets militaires.

Les modèles de Meta sont publiés avec un texte de « politique d'utilisation » qui, entre autres, interdit explicitement leur utilisation pour « participer, promouvoir, inciter, faciliter ou aider à la planification ou au développement d'activités présentant un risque de mort ou de blessure corporelle pour les individus, y compris [...] dans les industries ou applications militaires, de guerre, nucléaires, dans l'espionnage, et dans l'utilisation de matériaux ou activités soumis à la réglementation ITAR (International Traffic Arms Regulations) maintenue par le Département d'État des États-Unis ».

Mais si ce texte affiche la bonne volonté de Meta, l'entreprise ne contrôle pas ce que fait chaque individu qui télécharge ses modèles. L'entreprise précise néanmoins à Reuters que « toute utilisation de nos modèles par l'Armée populaire de libération [ndlr : nom officiel de l'armée chinoise] est non autorisée et contraire à notre politique d'utilisation acceptable ».

Dans un billet publié en juillet dernier prônant l'IA open source, Mark Zuckerberg devançait déjà la question de l'utilisation par la Chine des modèles ouverts publiés par les entreprises américaines. « L'avantage des États-Unis réside dans l'innovation décentralisée et ouverte » affirmait-il. « Certains affirment que nous devons fermer nos modèles pour empêcher la Chine d'y avoir accès, mais je pense que cela ne fonctionnera pas et ne fera que désavantager les États-Unis et leurs alliés. Nos adversaires sont très doués pour l'espionnage, il est relativement facile de voler des modèles qui tiennent sur une clé USB, et la plupart des entreprises technologiques sont loin d'opérer d'une manière qui rendrait la chose plus difficile », ajoutait-il.