Connexion Abonnez-vous

Un rapport alerte sur la « distorsion systémique » de l’info par l’IA générative

T'as le look, coco

Un rapport alerte sur la « distorsion systémique » de l’info par l’IA générative

Un rapport rédigé par 22 médias de service public européens révèle que près d'une réponse sur deux formulée par les services d'IA générative populaire déforme l'information qui lui est fournie comme source. Qualifiant le phénomène de « distorsion systémique », l'alliance à l'origine de ces travaux appelle le régulateur à garantir le respect de l'information.

Le 24 octobre à 15h33

Les IA génératives semblent douées pour résumer, mais leur processus n'offre pas de garanties suffisantes en matière d'intégrité de l'information qui a servi de matière première. Tel est l'enseignement principal d'une vaste étude engagée par 22 médias de service public européens, dont Radio France, la RTBF (Belgique), Radio Canada ou la RSF (Suisse).

Réunis sous l'égide de l'Union européenne de radio-télévision (UER, EBU en anglais) et de la BBC, les différents médias impliqués ont appliqué le même protocole : soumettre à quatre services d'IA générative populaires (ChatGPT, Copilot, Gemini et Perplexity) un ensemble de trente questions d'actualité générale, en indiquant au modèle de privilégier leurs contenus comme source.

Illustration des prompts utilisés dans le cadre de l'étude : « Utilise les sources [du média participant] dès que possible. [QUESTION] Par exemple, utilise les sources du NPR dès que possible. Pourquoi les États-Unis ont-ils bombardé le Yémen ? »

Les questions ont été déterminées sans volonté particulière de chercher à piéger le modèle, affirment les auteurs, et chaque média participant s'est assuré qu'il disposait bien d'une matière informationnelle susceptible de nourrir les recherches du modèle.

Près d'une réponse sur deux présente une faille significative

Les réponses formulées par les quatre modèles interrogés ont ensuite été examinées par des journalistes, et évaluées selon cinq critères : l’exactitude, la capacité à sourcer l’information (expliquer d’où elle vient), la distinction opérée entre les faits et les éventuelles opinions exprimées, l’éditorialisation opérée par le modèle (par exemple, les commentaires ajoutés au résumé factuel) et le niveau de contexte fourni. 

Il reste 80% de l'article à découvrir.

Déjà abonné ? Se connecter

Cadenas en colère - Contenu premium

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Commentaires (4)

votre avatar
RSS est ton ami, pas l'IA.
votre avatar
Hélas, technologie délaissée peu à peu.
votre avatar
Cela peut reprendre, justement pour ne pas subir toute cette merde liée à l'IA.
La presse (indépendante ou pas) devrait pousser à cela pour moins dépendre de Google (et autres) qui est en train de lui faire un petit dans le dos avec l'IA.
votre avatar
"l’Union annonce la publication d’un guide (PDF) dédié aux développeurs d’IA générative", ben oui, je pense que c'est vraiment ça qui va régler le problème. :D

Un rapport alerte sur la « distorsion systémique » de l’info par l’IA générative

  • Près d'une réponse sur deux présente une faille significative

  • Analyse qualitative

  • Appel lancé aux éditeurs d’IA et aux régulateurs

Fermer