De l’IA générative pour lutter contre les théories du complot ?Photo de Levart_Photographer sur Unsplash

De l’IA générative pour lutter contre les théories du complot ?

De l’IA générative pour lutter contre les théories du complot ?Photo de Levart_Photographer sur Unsplash

GPT-4 Turbo, allié de la lutte contre certaines thèses complotistes ? C’est l’alliance improbable mais prometteuse qu’illustre l'étude de trois chercheurs, Thomas Costello de l’American University, Gordon Pennyccok de Cornell et David Rand du MIT.

Les trois scientifiques ont demandé à 2 190 personnes (choisies de manière à représenter la population états-unienne) de décrire des thèses conspirationnistes à laquelle ils étaient sensibles (sur l’inexistence du 11 septembre, le vol des élections de 2020, les illuminatis, etc).

Celles-ci ont ensuite été exposées à des conversations argumentées avec un modèle d’IA générative (en l’occurrence GPT-4 Turbo) dont les instructions sont de présenter des faits pour prouver l’absence de fondements des théories choisies. 
Résultat : les chercheurs indiquent avoir réussi à réduire de 20 % en moyenne les croyances des personnes testées dans les thèses conspirationnistes évoquées.

Auprès de Nieman Lab, David Rand indique préparer une deuxième publication au sujet d’une étude similaire, dans laquelle les participants ont été informés du fait que le modèle d’IA devait débattre avec eux et tenter de les convaincre. 
Il indique avoir observé d’aussi bons résultats dans ces conditions.

Si l'intention est intéressante (un robot, a priori, ne se fatigue pas d'entendre des thèses complotistes), la méthodologie de l'étude pose question, comme le souligne le journaliste Nicolas Kayser-Bril.

Commentaires (7)


Mais vu que la désinformation est aussi en partie générée par IA de nos jours, ce procédé va-t-il servir à convaincre les modèles qui en sont à l'origine de leur erreur ?

Je me demande ce que ça donnerait une bataille de bots IA qui se balancent des liens soigneusement choisis pour aller dans leur sens (en lisant que le titre quoi) et des arguments d'autorité en pagaille sans lire ceux des autres.

Avec un algorithme très poussé du genre "while true: if j'ai pas le dernier mot; then continue".

Remarque, l'issue de ce duel verbal pourra être un très bon indicateur pour déterminer l'intelligence souvent remise en cause de l'IA. Mais il risquerait de ne pas faire plaisir : démontrer qu'elle l'est plus qu'un humain.
Modifié le 23/09/2024 à 17h26

Historique des modifications :

Posté le 23/09/2024 à 17h25


Mais vu que la désinformation est aussi en partie générée par IA de nos jours, ce procédé va-t-il servir à convaincre les modèles qui en sont à l'origine de leur erreur ?

Je me demande ce que ça donne une bataille de bots IA qui se balancent des liens soigneusement choisis par aller dans leur sens (en lisant que le titre quoi) et des arguments d'autorité en pagaille sans lire ceux des autres.

Avec un algorithme très poussé du genre "while true: if j'ai pas le dernier mot; then continue".

Remarque, l'issue de ce duel verbal pourra être un très bon indicateur pour déterminer l'intelligence souvent remise en cause de l'IA. Mais il risquerait de ne pas faire plaisir : démontrer qu'elle l'est plus qu'un humain.

Pourquoi a t il été demandé a GPT-4 Turbo de réfuter ces théories du complot ?

L'étude aurait probablement été plus pertinente si on avait demandé a GPT-4 Turbo "Présente des faits pour prouver ou réfuter ces théories"
Parce que certaines sont juste fausses et il ne sert donc à rien d'essayer de "prouver" ces théories (puisqu'on les sait fausses).

potn

Parce que certaines sont juste fausses et il ne sert donc à rien d'essayer de "prouver" ces théories (puisqu'on les sait fausses).
Certes, mais en demandant à GPT-4 Turbo de les réfuter, on oriente la question et donc les réponses.

En fait, quel est l'objectif de l'étude ? Voir la réaction des gens quand une IA générative leur donne des arguments pour réfuter une théorie ? Dans ce cas la, inutile de parler de théorie du complot.

En revanche, si l'objectif de l'étude est de voir si GTP-4 Turbo est moins sujet aux hallucinations, alors la question initiale fausse le test.
De l’IA générative l'essence pour lutter contre les théories du complot incendies ?
Résultat : les chercheurs indiquent avoir réussi à réduire de 20 % en moyenne les croyances des personnes testées dans les thèses conspirationnistes évoquées.


Moralité: les gens influençables sont influençables.
Et suivant le camp, ce sera de la (dés-)information.
Fermer