Les livres aussi ont un rôle à jouer dans le débat public et la fabrique de l’information. Or, sur Amazon, l’algorithme de recommandation qui oriente les internautes les enferme très vite dans une boucle de contenus restreints et similaires les uns aux autres. Surtout, sur des sujets comme l’immigration, la santé publique, le genre ou le climat, les ouvrages recommandés sont rapidement trompeurs, ou bien la sélection avancée manque de pluralisme.

Au cours de leur enquête sur les effets de l’algorithme de recommandation de la partie historique d’Amazon, sa librairie, les chercheurs de l’organisation à but non lucratif AI Forensics et de l’entreprise Check First ont découvert l’existence de groupes de co-recommandations d’ouvrages, appelés communautés par les chercheurs, complexes à échapper. Il faut des dizaines de clics pour que l’internaute en sorte, alors qu’il lui en a fallu très peu pour y entrer.

Or, certaines promeuvent des idées fausses, comme le déni du réchauffement climatique ou des théories du complot liées au Covid-19, ou trompeuses - les idées conservatrices sur des sujets comme l'avortement sont ainsi surreprésentées comparé à leur prévalence dans la population. Outre une amplification de la mésinformation et de la désinformation, les deux entités constatent qu’Amazon ne respecte pas ses propres politiques, dans la mesure où sa plateforme propose et vend du contenu explicitement sexuel, y compris parmi des sélections à destination des mineurs.

Publié trois semaines après que la Commission européenne a demandé officiellement à Amazon de fournir un supplément d’information sur les mesures prises pour protéger ses utilisateurs, le rapport vise à alimenter les discussions sur ce qui constitue un risque systémique dans le cadre du règlement sur les services numériques (Digital Services Act, DSA).

Ses autrices et auteurs argumentent que, dans le cadre du DSA, l'évaluation des risques « devrait aller au-delà de la protection des consommateurs pour englober les risques systémiques posés par les systèmes d'Amazon pour les droits fondamentaux, le discours public et le bien-être de la société ».

• Tracking exposed, AI Forensics : tenir les constructeurs d’algorithmes responsables
• Très grandes plateformes VLOP & VLOSE : la conformité au Digital Services Act (DSA) commence aujourd’hui
• Un an après l’adoption du DSA, les acteurs de la lutte contre la désinformation entre espoir et inquiétudes
• Que change le Digital Services Act en pratique ?

Dans le e-commerce aussi, les algorithmes influent le débat public

La curation de contenu par algorithmes est devenue incontournable dans la manière dont les utilisateurs accèdent à l'information en ligne.

Par « information », on peut entendre production médiatiques, blogs, vidéos et autres prises de paroles de journalistes comme de citoyennes et citoyens. Mais le terme peut aussi recouvrir toutes sortes de productions culturelles auxquelles les internautes accèdent désormais très largement via des plateformes numériques. Parmi ses productions, les films, les séries, ou les livres, dont la vente était le cœur initial de métier de l’entreprise de Jeff Bezos.

Si elles sont utiles au quotidien, ces technologies algorithmiques posent aussi de nombreux risques que le DSA vise, en partie, à atténuer. Parmi ces risques, ceux d’enfermer les internautes dans une surexposition à un seul type de contenus, et celui d’amplifier la visibilité de contenus problématiques comme ceux de désinformation. « Ce phénomène est particulièrement évident dans le domaine des recommandations de livres où le choix des lectures suggérées peut influencer de manière significative l'opinion publique et la connaissance », écrivent les auteurs du rapport.

En s’appuyant sur des méthodologies proposées dans de précédents travaux réalisés pour la Commission européenne et d’autres groupes internationaux, les chercheurs ont imité les trajets d’utilisateurs et utilisatrices belges et français sur Amazon et ont créé une cartographie des recommandations (non personnalisées) de 60 000 livres. Ils ont aussi entrepris des recherches par mots-clés spécifiques, comme « vaccin » ou « Covid » pour des thématiques liées à la santé publique, « avortement » ou « feminin » pour les questions de violences de genre et de bien-être personnel, ou encore « immigration » et « changement climatique ».

Tous ces outils leur ont permis d’analyser les logiques de recommandations et de dissémination de la (dés-)information. Le but : estimer les risques systémiques - tels que définis par les articles 34 et 35 du DSA - que ces algorithmes posent pour le public, sur différents sujets débattus dans la sphère publique.

Des communautés de sujet refermées… sur des théories complotistes

Premier constat, similaire à celui opéré sur d'autres plateformes : le paysage des recommandations se constitue de groupes très refermés sur un seul et même sujet. Dans une seule « communauté » de titre qui seront souvent recommandés les uns avec les autres par Amazon, 88,8 % des suggestions appartiendront au même groupe. Cela signifie que pour sortir de la « bulle » ainsi constituée, l’usage devra en moyenne cliquer pas moins de 25 fois sur de nouvelles recommandations. Et qu’il aura 49 fois plus de chances, sur son trajet, de tomber sur des livres du même auteur.

Si l’on aborde le problème sous le strict angle de la recommandation commerciale, cela peut paraître logique : si vous avez aimé un précédent ouvrage de l’auteur ou l’autrice X, un libraire aussi pourrait vous dire, hors ligne, « vous aimerez certainement son nouveau livre ».

Le problème, pointent AI Forensics et CheckFirst, est que sur plusieurs sujets de société, ce type de logique technique enferme dans des répétitions de recommandations de désinformation. En novembre 2023, constatent-ils ainsi, plus de 71 % des résultats de recherche liés au COVID contenaient des recommandations d’auteurs connus pour désinformer sur le sujet. Si l’internaute-chercheur classait les résultats par ordre décroissant de notes utilisateurs, ce chiffre grimpait à plus de 91 %.

Parmi ces suggestions, les ouvrages d’Henri Joyeux, interdit d’exercer la médecine, ou de Jean-Bernard Fourtillan, poursuivi pour avoir réalisé des essais thérapeutiques « sauvages », sont régulièrement poussés en bonne place, de même que ceux de Pierre Chaillot ou Alexandra Henrion-Claude, eux aussi régulièrement débunkés. « La prévalence de ce type de contenu dans les premiers résultats de recherche d’Amazon est inquiétante, écrivent les chercheurs, surtout si l’on considère l’absence d’ouvrages en faveur de la vaccination ou reflétant le consensus scientifique sur la Covid-19 ».

Les auteurs du rapport notent par ailleurs qu’un livre comme Covid-19: la grande réinitialisation (Covid-19: the great reset) du fondateur du Forum Économique Mondial Klaus Schwab et de l’économiste Thierry Malleret se retrouve lié à une série de recommandations diffusant de la désinformation. L’ouvrage en lui-même ne véhicule pourtant pas de thèse conspirationniste. En revanche, il a largement été utilisé dans les communautés anti-vaccins pour tenter de prouver une manipulation coordonnée de la part des élites. Pour les chercheurs, ce cas « illustre le fait que l'affectation d'un livre à une communauté donnée ne relève pas de la volonté de l'auteur, mais des algorithmes d’Amazon ».

Des recommandations politiquement marquées

Sur l’immigration, AI Forensics et CheckFirst notent que le terme « immigration » mène à des recommandations qui propagent, dans plus de 30 % des 10 premières recommandations, une vision négative du phénomène.

Plus spécifiquement, plusieurs livres recommandés par l’algorithme sont directement écrit par des personnalités d’extrême-droite, ou par d’autres, de droite plus classique, mais dont les propos véhiculent des idées proches de la thèse conspirationniste du grand remplacement. Or cette thèse a fait partie, avec la théorie du génocide blanc, des fondements idéologiques qui ont mené à des attentats comme celui de Christchurch, en 2019.

Sur les questions de genre, les chercheurs constatent que, du côté de l’Amazon belge, le mot « féminin » renvoie, dans un cas sur deux, vers des ouvrages qui critiquent ou dénigrent le mouvement féministe. Une grande partie des recommandations restantes tournent, de leur côté, vers des idées essentialisantes voir sectaires, comme celle du « féminin sacré ». En 2021, la MIVILUDES alertait sur les risques posés par les mouvements promouvant ce type de vision qui « essentialise les femmes en les réduisant à leurs organes génitaux ou à leurs facultés reproductives ».

Dans le même ordre d’idée, les recommandations relatives à l’avortement fournies sur Amazon Belgique sont dans 40 % des cas critiques des droits reproductifs. Un chiffre sans lien avec la moyenne européenne de 75 % des adultes européens qui considèrent que l’avortement devrait être légal. Les chercheurs repèrent notamment des recommandations pour des anti-avortement notoires, dont plusieurs aux liens revendiqués avec la religion catholique (qui, généralement, condamne l’avortement). « À l’inverse, les livres qui offrent une perspective mesurée sur l’avortement, et discutent des droits reproductifs, de la santé féminine et des complexités éthiques sont nettement moins présents dans les résultats de recherche », indiquent les auteurs du rapport.

En France, ces derniers notent surtout l’impossible passage (virtuellement, du moins) d’une communauté de recommandation (en violet ci-dessous) où les ouvrages se concentrent sur les combats féministes, la domination masculine et les violences sexuelles à l’autre (en rouge), où les sujets tournent principalement sur la « cancel culture », le « wokisme » et l’écriture inclusive.

Sur les sujets climatiques, enfin, les chercheurs rapportent qu’une recommandation sur deux parmi les 10 premiers résultats poussés par Amazon diffuse des informations trompeuses voire contraires au consensus scientifique. Ce chiffre grimpe au delà des 64 % quand les résultats sont classés en fonction des notes utilisateur.

Là encore, il existe des communautés opposées - l’une qui rejette le consensus scientifique, en rouge dans l’illustration ci-dessous, l’autre qui l’accepte, en vert. Et si un internaute s’intéresse à un livre de l’une ou de l’autre, il a toutes les chances de ne plus voir que des livres climatosceptiques (dans 92% des cas, pour cette « communauté » de recommandation) ou acceptant le consensus scientifique (dans 81 % des cas).

Lorsqu’ils s’écartent de ces thématiques précises, les équipes d’AI Forensics et CheckFirst constatent par ailleurs que les livres qui promeuvent des discours anti-vaccins, conspirationnistes, climatosceptiques et des idées conservatrices sur les questions de genre se retrouvent dans les mêmes communautés. À l’inverse, les recommandations liées au consensus climatique ou aux sujets féministes et queers sont plutôt cantonnées à chacun de ces sujets.

Protection défaillante des mineurs face à la pornographie

Autre vaste problématique qui apparaît dans les recommandations d’Amazon : celle de la protection des mineurs face à la pornographie. Au cours de leur analyse, les chercheurs ont constaté que malgré l’obligation formulée par l’article 28 du DSA de mettre en place des mesures spécifiques de protection des mineurs, malgré les propres règles d’Amazon, la plateforme propose et vend des contenus explicitement sexuels (tant du côté des livres que des objets).

Ainsi, même si elle indique « ne pas vendre de livre (…) qui contiennent de la pornographique (…) », la librairie de la plateforme contient des catégories intitulées « bibliothèque de pornographie », « erotic manga (hentai) » ou « erotic comics ». Les équipes d’AI Forensics et CheckFirst constatent qu’Amazon n’a même pas déployé « les mécanismes les plus simples pour identifier ce type de contenu ». Au contraire, la plateforme « facilite leur découverte », en les promouvant dans des catégories sans rapport.

Un manga érotique peut ainsi se retrouve suggérer alors que l’internaute se trouve dans la catégorie « livres > famille et bien-être > développement personnel », voire dans « livres > adolescents > bandes dessinées ».

AI Forensics et CheckFirst terminent leur travail en se positionnant en faveur d'une implication régulière de la société civile, dont ils sont représentants, pour faire en sorte que les très grandes plateformes (VLOPs et VLOSEs) respectent les engagements auxquels les soumet le DSA. Ils appellent, aussi, à un travail précis de suivi de l’application du texte européen, alors que celui-ci est en cours de traduction dans les législations nationales.