Quelques dizaines d’activistes des associations PauseAI et NoAGI se sont réunis devant les bureaux d’OpenAI à San Fransisco en début de semaine. Les messages qu’ils brandissaient : « ne faites pas confiance à Sam Altman » et « la survie avant les profits », rapporte Bloomberg.

Les manifestants s’inquiètent du changement opéré par l’entreprise leader de l’intelligence artificielle générative en matière de contrats dans le domaine militaire. Ils militent aussi contre le risque d’une potentielle intelligence artificielle générale (AGI).

• AGI, GPAI, modèles de fondation… de quoi on parle ?

Série de manifestations contre les contrats militaires

En janvier, OpenAI a en effet supprimé la mention de l’interdiction de créer des applications « militaires et de défense » à partir de ses outils. Au forum économique mondial, la vice-présidente d’OpenAI aux affaires internationales Anna Makanju a ensuite expliqué que son entreprise travaillait à plusieurs projets avec le Pentagone. La société participe notamment au AI Cyber Challenge initié en 2023 par la DARPA pour aider à « sécuriser les logiciels les plus critiques de la nation » états-unienne.

S’il vise spécifiquement la question de l’intelligence artificielle, le mouvement fait échos à d’autres mobilisations récentes : en décembre, des employés et des personnes extérieures à Google ont par exemple manifesté contre la poursuite du « projet Nimbus », un contrat que l’entreprise a passé avec le gouvernement israélien, à destination de son armée.

Absence de limites des constructeurs d'IA

Auprès de Bloomberg, la coorganisatrice de la manifestation et fondatrice de l’association Pause AI Holly Elmore a toutefois déclaré que le problème était bien plus large que les seuls contrats militaires signés par OpenAI. « Si leurs règles d'éthique et de sécurité peuvent être révisées pour des raisons de convenance, ils ne sont pas dignes de confiance », écrivait-elle dans l’événement Facebook organisant le rassemblement.

Et l’activiste de faire le parallèle entre le revirement d’OpenAI en matière de contrats militaires et la manière dont Sam Altman a déclaré, l’année dernière, que le board de son entreprise devait être capable de le licencier – pour revenir à la tête de la société au bout de cinq jours quand le cas s’est effectivement présenté. L’entreprise a aussi notoirement modifié sa copie en matière d’open source, sur lequel elle est définitivement revenue à la sortie de son modèle GPT-4.

• • OpenAI : récit d’une semaine de folie

Inquiétudes face à une potentielle AGI

Pause AI milite pour un arrêt des tentatives de construire des IA « de frontière » (terminologie proposée en juillet par OpenAI pour désigner les hypothétiques machines capables de dépasser les humains) tant que ces outils ne pourront pas être sécurisés. L’entité s’inquiète notamment des risques présents de ce type de technologies – en particulier relatifs aux fake news, à la polarisation des débats et aux menaces que cela fait peser sur les débats démocratiques. Elle s’inquiète des pertes d’emplois que l’expansion de ces technologies, des risques qu’elles créeraient aux mains de régimes autoritaires, et de ses effets en matière militaire.

Elle reprend aussi le discours porté par les signataires des divers appels lancés l’année passée pour mettre en place des moratoires sur l’IA, et signés par des personnalités des mondes scientifiques et entrepreneuriaux. En substance, Pause AI alerte donc sur les risques qu’aurait l’IA d’« exterminer » l’humanité. Cela peut s’expliquer par le parcours d’Holly Elmore, qui a longuement travaillé à des projets de protections des animaux au sein d’entité relevant de l’altruisme effectif, dans la mesure où une partie de ce courant s’est peu à peu spécialisée dans l’étude des risques existentiels, en particulier provoqués par l’IA.

Tout aussi inquiet d’un dépassement de l’humanité par les machines, NoAGI se concentre plus spécifiquement sur la « menace psychologique » que poseraient les IA générales. Menée par Sam Kirchner, l’entité milite pour un arrêt pur et simple des travaux sur la question.

Les deux se retrouvent dans un discours en faveur de la régulation du milieu. Aux États-Unis, le cadre fixé à l’industrie prend pour le moment la forme d’un décret signé fin octobre par le président Biden. Le texte impose de rares obligations, notamment en matière de sécurité, et demande un engagement volontaire des entreprises concernées.

• • Sam Altman demande des régulations au Sénat américain, mais s’inquiète de l’AI Act européen