« Perte de contrôle », évocation du traité sur les armes nucléaires et proposition d’un moratoire sur le développement de l’IA générative, Anthropic y va fort dans sa communication. Celle-ci porte un discours ambivalent et survient alors que l’entreprise prépare une entrée en bourse.

Dans un texte publié sur son site web et signé notamment par Marina Favaro, responsable du pôle R&D, l’entreprise met en avant les avancées de ses outils de génération de code pour soutenir la peur d’une IA générative qui pourrait bientôt être autonome dans la gestion de son amélioration.

L’affichage du danger de l’ « auto-amélioration récursive »

L’entreprise appuie sa communication sur son utilisation de plus en plus importante du code généré par son propre outil pour l’améliorer. « En mai 2026, Claude est l’auteur de plus de 80 % du code que nous intégrons dans la base de code d’Anthropic », argumente ainsi l’entreprise, utilisant au passage l’anthropomorphisme pour attribuer à son outil le statut d’auteur. Elle oublie aussi que, même si Lawrence Lessig affirmait que « le code fait loi » et que son code est grandement généré par Claude, le choix de mettre telle ou telle fonction en place reste bien actuellement dans les mains de ses dirigeants.

Mais qu’importe, selon l’entreprise qui a récemment lancé son projet d’entrée en Bourse de façon officielle : cela pourrait amener d’ici peu, « si l’on pousse le raisonnement assez loin et si l’on dispose de ressources informatiques suffisantes », à l’auto-amélioration récursive de ce genre de système.

Un discours catastrophiste toujours présent

Et, tout en brossant deux autres scénarios possibles, l’entreprise met en avant celui où « les systèmes d’IA deviennent eux-mêmes capables de s’améliorer de manière entièrement récursive et commencent à créer leurs propres successeurs », quitte à retrouver les accents catastrophistes des myriades d’appels à stopper la course à l’IA qui existent depuis 2015. Pour l’éviter, elle évoque un moratoire sur la R&D de ce genre de système.

• IA

  Des centaines de personnalités appellent de nouveau à stopper la course à l’IA

  IA

  Mercredi 22 octobre 2025 à 14h39 22/10/2025 14h39

  21

Ainsi, pour insister sur l’importance de sa proposition, Anthropic n’hésite pas à évoquer le traité sur les forces nucléaires à portée intermédiaire signé par Mikhaïl Gorbatchev et Ronald Reagan en 1987. Elle dramatise encore plus en affirmant que « ces régimes ont mis des décennies à mettre en place à la fois les infrastructures et la confiance » et que « nous n’avons pas autant de temps devant nous ».

L’utilisation de cette rhétorique catastrophiste par les entreprises de la tech n’est pas nouvelle. Comme nous le relations au sujet de l’agitation des peurs sur les problèmes d’alignement, Emile Torres et Timnit Gebru expliquaient déjà en 2024 que les discours sur la sécurité de l’IA permettent aux entreprises d’attirer des ressources vers la construction de leurs systèmes et de détourner l’attention. Anthropic n’est pas en reste sur le sujet et s’affiche depuis longtemps comme l’entreprise qui parie sur la sécurité de l’IA comme « stratégie gagnante ».

• IA

  Transhumanisme, long-termisme… comment les courants « TESCREAL » influent sur le développement de l’IA

  IA

  Vendredi 26 avril 2024 à 08h08 26/04/2024 08h08

  14

« Dindons de la farce »

Le chercheur Irénée Régnauld souligne l’utilisation de cette rhétorique alors que l’entreprise prépare son entrée en bourse : « Anthropic agite le drapeau des risques avec la « Pause » comme horizon moral juste avant la plus vaste IPO du monde ». Et il ajoute : « les « Pausistes » vont-ils se rendre compte qu’ils sont les dindons de la farce ? ».

• IA

  Des militants de la « sécurité de l’intelligence artificielle » lancent Pause IA en France

  IA

  Jeudi 12 septembre 2024 à 10h00 12/09/2024 10h00

  18

Il remarque au passage le paradoxe entre ce nouvel affichage de l’entreprise et son abandon en interne en février dernier d’un pan important de sa politique de sécurité. En effet, le Time expliquait que l’entreprise avait décidé de la revoir en profondeur, renonçant aux limites qui lui interdisaient catégoriquement d’entrainer des modèles au-delà d’un certain niveau si les mesures de sécurité appropriées n’étaient pas déjà en place.

Cette annonce intervient aussi alors qu’Anthropic a utilisé cette stratégie marketing de la peur pour promouvoir Mythos, son IA dédiée à la cybersécurité.