OpenAI a supprimé un certain nombre de comptes ChatGPT connectés à une opération russe de désinformation. Ces derniers généraient des messages sur les réseaux sociaux pour faire la promotion de l’IBI (International Burke Institute), une soi-disant « communauté d’experts » basée en Israël.
Ces messages, postés en anglais et en allemand sur X (anciennement Twitter), Telegram, Substack, Facebook et LinkedIn, sont générés de telle manière à masquer les indices linguistiques qui pourraient mettre les lecteurs attentifs sur la piste russe. OpenAI interdisant l’accès de ses modèles à la Russie, les attaquants utilisent des VPN.
La plupart des messages font donc la promotion de l’IBI, associée à un site enregistré en février 2025. Les articles lisibles sur ce site ne sont pas générés par ChatGPT, mais beaucoup sont copiés à partir de véritables travaux universitaires, parfois avec de fausses attributions d’auteurs.
Le site du vrai/faux think tank affirme réunir en son sein plusieurs experts de renommée mondiale, dont Noam Chomsky et Francis Fukuyama. OpenAI relève toutefois que sur 36 articles associés à des experts publiés sur le site de l’IBI entre septembre 2025 et le mois de mai, 34 avaient été copiés depuis d’autres sources. Certains étaient d’anciens papiers, d’autres étaient mal attribués.
Une des « réalisations » les plus notables de l’IBI est un « indice de souveraineté » qui fait l’éloge de la Russie et dénigre les pays occidentaux. Par exemple, la « note » de la France est peu amène pour Emmanuel Macron ; après ses deux mandats, « la France a été ouverte comme un coffre-fort rempli d’un capital historique, et elle est désormais vendue par morceaux ». Outre l’Hexagone, l’Allemagne et l’Union européenne en prennent pour leur grade, certainement en raison de leur opposition à la Russie et sa guerre en Ukraine.
« C’est la première fois que nous déjouons une opération d’influence liée à la Russie qui a déployé des efforts aussi considérables », affirme OpenAI. Malgré tout, l’impact de cette campagne semble limité : les publications sur les réseaux sociaux n’ont généré qu’un faible nombre de vues, les comptes liés à l’IBI comptant de leur côté peu d’abonnés. Exception faite des chaînes Telegram avec 10 000 à 20 000 abonnés pour chaque.
Ce qui est digne d’intérêt, c’est surtout l’infrastructure de cette campagne, dans laquelle ChatGPT n’a finalement joué qu’un petit rôle (produire des messages pour les réseaux sociaux). Mais cet usage de l’IA, même mineur, peut aider à dérouler la pelote d’une opération plus importante.
Commentaires (8)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousLe 25 août à 19h38
Le 25 août à 23h14
Le 26 août à 08h55
Le 26 août à 09h02
Le 26 août à 13h51
Le 26 août à 14h20
Le 27 août à 09h35
Avec les modes de communication des labos IA en ce moment, ils auraient très bien pu détailler un peu leur méthode dans un billet de blog ou autre, qui serait passé à côté de la vigilance de nos journalistes préférés. 😊
Le 26 août à 09h04
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?