Depuis l’incident impliquant Hugging Face, OpenAI marche sur une corde raide. L’entreprise est lancée dans un délicat jeu d’équilibrisme, entre pression sur la publication de données techniques et la nécessité financière de ne pas perdre la confiance du public. OpenAI prépare également son entrée en bourse et a besoin que sa valeur reste au beau fixe. Le 15 septembre, le Financial Times, cité par Bloomberg, évoquait ainsi un prochain tour de table qui valoriserait OpenAI à plus de 1 200 milliards de dollars. Interrogé sur le sujet, Sam Altman avait répondu que l’opération n’aurait pas lieu avant 2027.
La machine commence cependant à se gripper. Le narratif bâti sur le marketing de la peur et la foi inébranlable sur l’avenir de l’IA et des agents se fissure face à une pluie de critiques. Beaucoup remettent en question la volonté affichée de ralentir le développement des modèles de frontière pour se concentrer sur l’élaboration d’un cadre réglementaire. La Maison-Blanche n’a pas caché son hostilité à cette idée notamment.
Le 21 septembre, le secrétaire au Trésor américain Scott Bessent est même allé plus loin au micro de CNBC : l’incident Hugging Face revient selon lui à « la responsabilité de la direction d’OpenAI, pas d’un tas d’agents ». Il a indiqué partager l’analyse de Daniel Huttenlocher, co-directeur d’un laboratoire de recherche du MIT, pour qui les humains sont responsables, et non l’IA. Ces entreprises « doivent assumer leurs responsabilités », a ajouté Scott Bessent.
Cette déclaration n’est pas isolée. Elle prolonge la position que Bessent avait défendue le 15 septembre devant la commission des services financiers de la Chambre des représentants, souligne CNBC. Le secrétaire au Trésor s’y était opposé à toute exemption de responsabilité légale pour les entreprises d’IA, estimant qu’elle servirait davantage leurs intérêts commerciaux que la sécurité du public.
La prise de position est loin d’être anodine, car elle qualifie l’incident de défaillance de gouvernance humaine, plutôt que d’illustration de la puissance intrinsèque de leurs agents et de leurs comportements imprévisibles. Le 2 septembre, nous relevions d’ailleurs les mêmes éléments, en soulignant que le rapport complet d’OpenAI montrait effectivement une succession de défaillances humaines.
À noter qu’au cours de la même interview, le secrétaire au Trésor a indiqué la possible mise en place d’un téléphone rouge avec Pékin sur les questions, et la possible nomination d’un nouveau « tsar de l’IA » pour gérer ce type de dossier.
Commentaires (14)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousModifié le 22 septembre à 17h40
Les agents ont des capacités réelles, des comportements imprévisibles ET OpenAI est évidemment responsable de leur comportement.
Si les agents n'étaient pas en capacité de poser problème, la question ne se poserait même pas car ça serait de la science fiction, comme c'était le cas il y a un an.
Le 23 septembre à 10h13
La base de l'isolation réseau et des vérifs de conf n'ont pas été faites au moment des tests.
l'IA a beau avoir des capacités, dans le cas présent, la défaillance c'est OpenAI et son sous-traitant, pas l'IA.
Le 23 septembre à 22h24
Les humains qui les déploient sont responsables de leurs actions, mais ça n'empêche pas que le résultat dépend des capacités des modèles, dont il faut aussi se préoccuper, ne serait ce que pour définir de bonnes pratiques de déploiement.
Le 24 septembre à 08h53
Le 24 septembre à 13h59
Ça n'empêche pas de se préoccuper des capacités des modèles.
Les US ont adopté une position très pro-IA que certains qualifient d'accelerationiste, il est donc logique que leurs représentants utilisent ce type d'homme de paille pour ne pas se poser les questions des capacités et du danger potentiel liés à ces modèles (à cause de ce que les humains peuvent en faire, y compris les superviser incorrectement).
Modifié le 22 septembre à 18h39
ils ont oubliés de mettre le code pénal dans leurs données d'entrainement?
Le 22 septembre à 19h15
Le 22 septembre à 19h22
Le 23 septembre à 10h15
Le 22 septembre à 18h49
Le 22 septembre à 20h44
Le 22 septembre à 23h07
Le 23 septembre à 07h35
Ce qui est cocasse quand on prétend vouloir les vendre en tant qu'outils de sécurité.
Le 23 septembre à 08h39
Ceci dit, entièrement d'accord avec l'article !
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?