Photo de Levart_Photographer sur Unsplash 
Photo de Levart_Photographer sur Unsplash GPT-4 Turbo, allié de la lutte contre certaines thèses complotistes ? C’est l’alliance improbable mais prometteuse qu’illustre l'étude de trois chercheurs, Thomas Costello de l’American University, Gordon Pennyccok de Cornell et David Rand du MIT.
Les trois scientifiques ont demandé à 2 190 personnes (choisies de manière à représenter la population états-unienne) de décrire des thèses conspirationnistes à laquelle ils étaient sensibles (sur l’inexistence du 11 septembre, le vol des élections de 2020, les illuminatis, etc).
Celles-ci ont ensuite été exposées à des conversations argumentées avec un modèle d’IA générative (en l’occurrence GPT-4 Turbo) dont les instructions sont de présenter des faits pour prouver l’absence de fondements des théories choisies. Résultat : les chercheurs indiquent avoir réussi à réduire de 20 % en moyenne les croyances des personnes testées dans les thèses conspirationnistes évoquées.
Auprès de Nieman Lab, David Rand indique préparer une deuxième publication au sujet d’une étude similaire, dans laquelle les participants ont été informés du fait que le modèle d’IA devait débattre avec eux et tenter de les convaincre. Il indique avoir observé d’aussi bons résultats dans ces conditions.
Si l'intention est intéressante (un robot, a priori, ne se fatigue pas d'entendre des thèses complotistes), la méthodologie de l'étude pose question, comme le souligne le journaliste Nicolas Kayser-Bril.
Commentaires (7)
#1
Je me demande ce que ça donnerait une bataille de bots IA qui se balancent des liens soigneusement choisis pour aller dans leur sens (en lisant que le titre quoi) et des arguments d'autorité en pagaille sans lire ceux des autres.
Avec un algorithme très poussé du genre "while true: if j'ai pas le dernier mot; then continue".
Remarque, l'issue de ce duel verbal pourra être un très bon indicateur pour déterminer l'intelligence souvent remise en cause de l'IA. Mais il risquerait de ne pas faire plaisir : démontrer qu'elle l'est plus qu'un humain.
Historique des modifications :
Posté le 23/09/2024 à 17h25
Mais vu que la désinformation est aussi en partie générée par IA de nos jours, ce procédé va-t-il servir à convaincre les modèles qui en sont à l'origine de leur erreur ?
Je me demande ce que ça donne une bataille de bots IA qui se balancent des liens soigneusement choisis par aller dans leur sens (en lisant que le titre quoi) et des arguments d'autorité en pagaille sans lire ceux des autres.
Avec un algorithme très poussé du genre "while true: if j'ai pas le dernier mot; then continue".
Remarque, l'issue de ce duel verbal pourra être un très bon indicateur pour déterminer l'intelligence souvent remise en cause de l'IA. Mais il risquerait de ne pas faire plaisir : démontrer qu'elle l'est plus qu'un humain.
#2
L'étude aurait probablement été plus pertinente si on avait demandé a GPT-4 Turbo "Présente des faits pour prouver ou réfuter ces théories"
#2.1
#2.2
En fait, quel est l'objectif de l'étude ? Voir la réaction des gens quand une IA générative leur donne des arguments pour réfuter une théorie ? Dans ce cas la, inutile de parler de théorie du complot.
En revanche, si l'objectif de l'étude est de voir si GTP-4 Turbo est moins sujet aux hallucinations, alors la question initiale fausse le test.
#3
l’IA générativel'essence pour lutter contre lesthéories du complotincendies ?#4
Moralité: les gens influençables sont influençables.
#4.1