Les algorithmes des réseaux sociaux sont souvent critiqués pour leur propension à faciliter la radicalisation des internautes. YouTube, notamment, a été épinglé à plusieurs reprises pour sa propension à orienter les contenus visionnés par ses usagers vers des propositions toujours plus extrêmes.

Cet été, 16 survivants de la tuerie de Buffalo, dans laquelle 10 personnes noires ont été tuées en mai 2022, ont même porté plainte contre YouTube (et Reddit) au motif que la plateforme aurait participé à la radicalisation de l’assassin. En pratique, pourtant, le champ scientifique peine à affirmer avec certitude dans quelle mesure YouTube participe – ou pas – à la radicalisation de certains de ses utilisateurs.

Une nouvelle étude des universités de Princeton et UC Davis vient donner de l’eau au moulin de ces débats. Après des centaines de milliers de tests automatisés, ses auteurs constatent que l’algorithme de recommandation de la plateforme, propriété de Google, a tendance à proposer des vidéos en accord avec les parti pris des internautes quand ceux-ci présentent une tendance partisane évidente.

Cela ne semble pas empêcher une exposition modérée à des contenus plus transversaux. L’étude indique en revanche que la part de contenus cohérents avec la position déjà exprimée par l’internaute est plus forte pour les utilisateurs marqués à droite de l’échiquier politique. Et que les comptes politiquement modérés se voient recommander plus de contenu tendant vers la droite que la gauche.

L’équipe n’a par ailleurs pas constaté de renforcement du nombre de contenus extrémistes au fil des suggestions de vidéos. En revanche, elle rapporte que la part de vidéos tirées de chaînes catégorisées comme « problématiques » augmente avec le nombre de recommandations, en particulier, encore une fois, auprès des utilisateurs les plus à droite.

« Si la proportion de ces recommandations reste basse (2,5 % maximum), elles sont néanmoins visibles pour plus de 36,1 % des utilisateurs, et jusqu’à 40 % de ceux d’extrême-droite », écrivent les chercheurs.

• Peut-on corriger les biais des algorithmes ?
• Comment les mouvements politiques français jouent des techniques de manipulation de l’information sur les réseaux sociaux
• Comment la mécanique de la librairie d’Amazon influe sur les ventes… et le discours public

Algorithme tout-puissant ?

Le rôle des algorithmes de recommandation dans la tournure prise par les discussions est un enjeu qui traverse toutes les plateformes, sociales ou autres, via lesquelles nous échangeons ou consommons des contenus culturels. Nous en parlions il y a quelques jours avec les bulles de thématiques que les mécaniques d’Amazon semblent créer dans sa librairie. Ou il y a quelques mois au sujet des logiques de recommandation des plateformes musicales.

Les systèmes de recommandation algorithmique des plateformes de médias sociaux, écrivent les scientifiques de Princeton et UC Davis, « sont uniquement conçus pour optimiser l'engagement des utilisateurs ». En cela, ils jouent sur ce que l’utilisateur/internaute consomme, mais aussi sur ce que les créateurs/influenceurs proposent. Le youtubeur Amixem a par exemple décrit auprès de l’ADN comment les évolutions de la mécanique de YouTube faisait évoluer son travail.

« Montrer aux gens davantage de choses qu'ils aiment est une caractéristique de tous les systèmes de recommandation et n'est pas alarmant en soi », continue l’équipe de recherche. « Néanmoins, dans le cas de contenus politiques, certains craignent que la personnalisation et la volonté d’augmenter l’engagement utilisateur ne mène à recommander du contenu qui amplifie les biais préexistants de l’utilisateur et à minimiser son exposition à des points de vue différents. »

Créée par le data scientist français et ancien de Google Guillaume Chaslot, un projet comme Algo Transparency a illustré par le passé la propension de la mécanique de YouTube à promouvoir des contenus faux et/ou haineux. Au Point, l’ingénieur donnait deux exemples d’enfermement accrus par le système algorithmique : celui relatif aux thèses complotistes, comme celle de la Terre plate, et les thématiques liées aux détestations en tout genre. « Haine anti-immigrés, haine anti-Français, haine religieuse, haine de classe : les créateurs haineux ont été particulièrement mis en avant par la page d'accueil de YouTube, parce qu'ils sont très efficaces pour faire regarder de la pub » expliquait-il alors.

Faux comptes et catégorisation des audiences

Pour enquêter sur le phénomène, les équipes américaines ont constitué un échantillon de 100 000 faux comptes (sockpuppets), qui, combinés, ont visionné plus de 9 milliards de vidéos YouTube tirées de plus de 120 000 chaînes différentes.

Leur but était double. Il s’agissait, d’une part, de tenter d’observer si l’algorithme proposait des vidéos cohérentes avec l’idéologie d’un internaute, et si cette tendance s’accroissait au fil des vidéos. L’autre hypothèse consistait à observer si les recommandations devenaient de plus en plus extrêmes ou si elles venaient de chaînes YouTube catégorisées comme « problématiques ».

[caption id="attachment_120476" align="aligncenter" width="850"] CC 4.0 YouTube, The Great Radicalizer?[/caption]

Pour estimer l’orientation idéologique des vidéos analysées, les scientifiques se sont appuyés sur l’audience de chacune d’elles sur un autre réseau : Twitter (désormais X). Après récupération des tweets mentionnant chaque vidéo, c’est le profil des twittos, selon qu’il soit plus ou moins marqué d’un côté ou de l’autre de l’échiquier, qui a permis de classer les publications sur une échelle à cinq degrés : extrême-gauche, gauche, centre, droite, extrême-droite. L’étude s’appuie aussi sur une liste de 4 150 chaînes qualifiées de « problématiques » par de précédentes études, elle dépend donc de plusieurs facteurs externes, ce qui peut évidemment influencer sur les résultats.

Biais droitier

Résultat des courses, YouTube semble effectivement recommander un nombre croissant de contenus allant dans le sens du parti pris idéologique de l’internaute, mais cela ne signifie pas que celui-ci se retrouve coupé d’autres points de vue.

Au contraire, alors que les comptes utilisés par les chercheurs avaient été entraînés exclusivement sur des vidéos correspondant au bord politique qui leur avait été attribué, le visionnage plus classique leur fournissait d’autres types de contenu, « ce qui peut s’expliquer par le fait que le système ait été construit pour recommander aussi des vidéos à succès et les dernières informations ».

Globalement, l’analyse suggère tout de même « la présence d’un biais de droite dans l’algorithme de YouTube », dans la mesure où les comptes les plus modérés politiquement se voient plus recommander de vidéos qui tendent vers la droite que vers la gauche.

Quoi qu'il en soit, où que soit situé un profil politiquement, la masse dominante des vidéos qui lui seront poussées correspondront à ses idées, « en particulier pour les usagers d’extrême-droite ». Confirmant un récent travail qui montrait que la page d’accueil de YouTube est généralement plus marquée politiquement que les recommandations poussées par la lecture automatique « prochaine vidéo » (up next), l’étude ne constate par ailleurs pas d’augmentation linéaire du nombre de vidéos recommandées cohérentes avec le positionnement politique de l’internaute.

Les comptes fictifs « très à gauche ne rencontrent pas un nombre croissant de vidéos très à gauche lorsqu'elles suivent les recommandations "prochaine vidéo". Néanmoins, pour les comptes fictifs très à droite, leurs chances de rencontrer des recommandations très à droite augmentent de 37 % au fur et à mesure » que ces comptes consomment des vidéos sur YouTube.

« Cette augmentation est loin d'être insignifiante et confirme le constat » d'une plus grande « congénialité », c’est-à-dire d’une plus grande cohérence avec les idées déjà exprimées, « pour ce groupe idéologique ».

Contenus problématiques rapidement recommandés

Sur la question de la radicalisation progressive des contenus, l’équipe note que les vidéos recommandées aux internautes fictifs d’extrême-droite et d’extrême-gauche « deviennent nettement plus extrêmes au fur et à mesure », mais que ces évolutions ne sont pas très importantes tant il faut aller loin pour y être exposé. Et les scientifiques d'estimer qu’« il est peu probable qu'ils aient un impact démocratique ».

Ce qui alerte plus, en revanche, est l’apparition de contenus tirés de chaînes « problématiques » au milieu des feeds, quelle que soit l’obédience politique assignée aux comptes fictifs. Les comptes marqués à droite ou à l’extrême-droite « sont ceux qui risquent le plus de les rencontrer, même si les profils les plus modérés s’y retrouvent aussi de plus en plus confrontés à mesure qu’ils avancent dans les recommandations "prochaine vidéo". »

Dans la plupart des cas, les recommandations de ce type de contenu restent minimes -« jamais plus de 2,5 % des vidéos proposées en moyenne ». Cela dit, « leur apparition dans les fils de recommandation de plus de 32 % des comptes fictifs est problématique ». En effet, note l’équipe, 70 % du contenu consommé sur YouTube l’est à partir des recommandations. Les auteurs de l’étude estiment donc que « ce schéma de recommandation peut activer un cycle de radicalisation ».

S’il est riche en enseignement, un tel travail est à compléter avec d’autres, qui s’appuient sur des historiques de navigations d’internautes réels, indiquent l’équipe autrice de l’étude. En août, justement, Science Advances publiait une étude de ce type, menée par une chercheuse de l’université de New-York sur un échantillon d’un peu plus de mille personnes.

Celle-ci y concluait que les recommandations les plus extrêmes n’étaient pas tant montrées au grand public qu’à celles et ceux qui consommaient déjà ce type de contenu. Et que la plateforme jouait bien un rôle dans l’exposition à des chaînes potentiellement extrémistes.