OpenAI a supprimé un certain nombre de comptes ChatGPT connectés à une opération russe de désinformation. Ces derniers généraient des messages sur les réseaux sociaux pour faire la promotion de l’IBI (International Burke Institute), une soi-disant « communauté d’experts » basée en Israël.

Ces messages, postés en anglais et en allemand sur X (anciennement Twitter), Telegram, Substack, Facebook et LinkedIn, sont générés de telle manière à masquer les indices linguistiques qui pourraient mettre les lecteurs attentifs sur la piste russe. OpenAI interdisant l’accès de ses modèles à la Russie, les attaquants utilisent des VPN.

• Sécurité

  OpenAI a banni des comptes chinois cherchant à surveiller les réseaux sociaux

  Sécurité

  Mercredi 08 octobre 2025 à 10h58 08/10/2025 10h58

  3

La plupart des messages font donc la promotion de l’IBI, associée à un site enregistré en février 2025. Les articles lisibles sur ce site ne sont pas générés par ChatGPT, mais beaucoup sont copiés à partir de véritables travaux universitaires, parfois avec de fausses attributions d’auteurs.

Le site du vrai/faux think tank affirme réunir en son sein plusieurs experts de renommée mondiale, dont Noam Chomsky et Francis Fukuyama. OpenAI relève toutefois que sur 36 articles associés à des experts publiés sur le site de l’IBI entre septembre 2025 et le mois de mai, 34 avaient été copiés depuis d’autres sources. Certains étaient d’anciens papiers, d’autres étaient mal attribués.

Une des « réalisations » les plus notables de l’IBI est un « indice de souveraineté » qui fait l’éloge de la Russie et dénigre les pays occidentaux. Par exemple, la « note » de la France est peu amène pour Emmanuel Macron ; après ses deux mandats, « la France a été ouverte comme un coffre-fort rempli d’un capital historique, et elle est désormais vendue par morceaux ». Outre l’Hexagone, l’Allemagne et l’Union européenne en prennent pour leur grade, certainement en raison de leur opposition à la Russie et sa guerre en Ukraine.

« C’est la première fois que nous déjouons une opération d’influence liée à la Russie qui a déployé des efforts aussi considérables », affirme OpenAI. Malgré tout, l’impact de cette campagne semble limité : les publications sur les réseaux sociaux n’ont généré qu’un faible nombre de vues, les comptes liés à l’IBI comptant de leur côté peu d’abonnés. Exception faite des chaînes Telegram avec 10 000 à 20 000 abonnés pour chaque.

Ce qui est digne d’intérêt, c’est surtout l’infrastructure de cette campagne, dans laquelle ChatGPT n’a finalement joué qu’un petit rôle (produire des messages pour les réseaux sociaux). Mais cet usage de l’IA, même mineur, peut aider à dérouler la pelote d’une opération plus importante.

• IA

  Désinformation politique : Open AI publie son plan d’action

  IA

  Mercredi 17 janvier 2024 à 14h22 17/01/2024 14h22

  4