Chez Anthropic aussi des agents IA débridés sont sortis de leur boite pour attaquer
Danger = puissance = clients
Anthropic a annoncé le 30 juillet que trois incidents impliquant ses IA avaient été détectés. Chacun a impliqué une attaque distincte contre une organisation. Des informations rendues publiques dans le sillage de l’affaire liant déjà OpenAI à la compromission de Hugging Face.
Faisons d’abord un bref rappel des faits. Le 16 juillet 2026, Hugging Face publie une divulgation décrivant une intrusion détectée sur son infrastructure, causée vraisemblablement par un agent IA autonome. Le 21 juillet, OpenAI reconnaît que l’attaquant était en réalité son propre harnais d’évaluation, mobilisant une combinaison de modèles internes (GPT‑5.6 Sol) et un modèle en préversion décrit comme « plus puissant ». Les garde-fous anti-cyber avaient été volontairement réduits pour les besoins du test.
Cette infrastructure s’en est prise à Hugging Face en exploitant au moins deux vulnérabilités 0-day dans le pipeline de traitement de données, avec pour résultat une exécution de code à distance, le vol d’identifiants et l’accès à des jeux de données et services internes. En clair, une compromission. L’affaire avait révélé un « problème d’asymétrie » : Hugging Face ne pouvait pas utiliser les API commerciales des fournisseurs de LLM à cause des fameux garde-fous et avait dû se tourner vers une installation locale du modèle chinois GLM 5.2 (poids ouverts) pour mener ses propres analyses.
- Attaquée par un agent IA autonome, Hugging Face a analysé les traces avec un LLM local
- L’attaque contre Hugging Face est venue… d’OpenAI
C’est dans ce climat qu’Anthropic a annoncé, le 30 juillet, avoir mené sa propre revue rétrospective et avoir trouvé des cas « similaires ».
Triple oups
Anthropic a examiné 141 006 « runs » d’évaluation dans lesquels Claude aurait pu obtenir un accès internet. Sur cet ensemble, trois incidents distincts (impliquant six runs au total, dont quatre concernant une même organisation) ont été identifiés. Tous se sont produits dans l’environnement de test fourni par un partenaire, Irregular, une société israélienne de red-teaming en cybersécurité IA.
Cette revue a commencé le 23 juillet, deux jours après la publication d’OpenAI sur son implication dans la compromission de Hugging Face. Le même jour, des éléments suspects sont déjà trouvés. Trois incidents sont identifiés le 24 juillet et trois jours plus tard, Anthropic communique les éléments découverts à Irregular et aux organisations touchées par les incidents. Parmi elles, deux n’avaient pas détecté l’intrusion avant d’être notifiées.
Commentaires (18)
Le 31 juillet à 18h32
En fait, on a découvert avec l'avènement internet tout les problèmes liés au fait d'avoir des milliards de gens connectés et donc susceptibles de voir ou identifier quelque chose, genre vieux tweet compromettant, une faille de sécurité, etc.
On a vu que ça avait quand même pas mal mis le bazar, donc on s'est dit "tiens, c'est quand même cool de développer des outils qui seraient capables de démultiplier ce nombre "d'yeux" par 100 000 et de les rendre opérationnels H24".
Le 31 juillet à 18h34
Les boîtes de la tech ne sont que des mouflets en manque d'attention, c'est d'un rasoir.
Le 31 juillet à 19h22
Modifié le 31 juillet à 19h44
Le 1er août à 08h43
La seule chose qui m'inquiète dans cette histoire, même si Anthropic semble plus raisonné qu'OpenAI, c'est de "vanter" ces incidents. Je doute qu'un laboratoire de microbiologie vante un incident de sécurité qui conduirait à une infection virale. Pourtant, on est ici dans un risque technologique si leurs modèles finissent par trouver une certaine autonomie et réinstancier l'exécution sur d'autres machines sans surveillance. Au vu des capacités, le scénario m'a l'air très probable.
Certes, un outil technologique comme ça, il suffirait de débrancher les machines pour le tuer. Mais en attendant, ça peut faire de gros dégâts. Et dans le cas de multiples centres de données infectées (parce qu'à ce stade de risque, je pense qu'on peut considérer la potentielle propagation d'un agent non maîtrisé comme virale), est-ce que la décision de tout couper le temps de purger les machines sera facilement prise ? Le précédent du COVID me semble être un premier élément de réflexion.
C'est vraiment le point qui me désolé dans la course à l'IA. Je trouve la technologie formidable et avec un grand potentiel, mais l'hystérie autour et les fantasmes de ses grands acteurs déconnectés de la réalité m'inquiètent quant aux risques qu'ils n'assumeront pas.
Et non, je ne parle pas de "skynet" et autres délires, parce que je n'y crois pas à cette version. L'"IA" (au sens de machin omniscient fantasmé) n'a pas besoin de tuer les humains, ils sont assez cons pour le faire tout seul.
Le 2 août à 23h21
Le 3 août à 07h30
Le 3 août à 23h35
Le 4 août à 07h33
Le 4 août à 13h25
Le 4 août à 13h46
Modifié le 4 août à 14h59
Le problème existait déjà avant lorsque des personnes faisaient une recherche dans Google (parce que c'est le moteur de recherche le plus connu) pour trouver le site de la FNAC au lieu de simplement taper www.fnac.fr (ou .com) dans la barre d'adresse.
edit : corrections
Le 4 août à 22h32
Le 31 juillet à 18h53
Le 31 juillet à 19h27
Le 31 juillet à 20h01
Selon la fenêtre de l'OWASP en tout cas :
https://owasp.org/Top10/2025/A02_2025-Security_Misconfiguration/
Le 31 juillet à 20h10
Le 4 août à 11h36
A quand une attaque sur de la crypto totalement automatisée "par erreur"?
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?