Pour pousser un faux article et une vidéo commerciale, Forbes a acheté faux comptes et faux votes sur Reddit. Avec quelques dizaines d'euros, il est possible de mettre des contenus en tête de certains sous-forums, au moins pendant un temps. Cette manipulation interroge, au moment où nombre de médias dénoncent les articles « bidons ».

Depuis quelques semaines, le partage massif de fausses actualités sur les réseaux sociaux, de Facebook à Reddit, est au centre du débat sur la responsabilité des plateformes. Sous un feu nourri de critiques, Facebook a lancé un plan pour combattre ces contenus, que son modèle publicitaire encouragerait largement.

En plus d'interdire la publicité pour leurs producteurs, ces contenus seront bientôt vérifiés par des journalistes. L'entreprise s'est ainsi associée avec un réseau de médias, qui seront chargés de vérifier le contenu d'articles soumis par le réseau social, notamment sur signalement des internautes. Mais elle n'est pas la seule concernée. Dans une enquête, Forbes montre à quel point il peut être aisé de mettre en avant un contenu sur des forums Reddit importants.

Parmi les sites les plus consultés dans le monde, Reddit propose un classement en temps réel des contenus présents au sein de ses communautés (sous-forums). Le tri repose sur un système de vote des membres, qui peuvent décider de soutenir (upvote) ou d'enfoncer (downvote) un contenu. C'est justement à ce système que se sont attaqués les journalistes, pour provoquer une montée artificielle de contenus venant de faux comptes.

Des vendeurs de faux profils avec pignon sur rue

« Le système de votes de Reddit peut être facilement manipulé avec quelques bitcoins et quelques contacts utiles » écrit Forbes. La première étape est d'acheter de faux comptes, avec des dizaines d'adresses à disposition en quelques heures de recherche, via des sites ou groupes Facebook ; loin de l'image de réseaux souterrains ou cachés derrière Tor.

Le premier trouvé, Reddit Secrets, propose ses comptes par ordre de karma. Ce sont les points attribués à chaque vote d'un tiers sur un contenu, en clair sa légitimité. Problème : le vendeur derrière le site discute peu. Le journal s'est donc rabattu sur des profils Facebook, dont l'un vend des comptes entre 10 dollars et 150 dollars pièce. « En une journée, nous avions accès à des centaines de comptes » explique-t-il.

C'est avec ces comptes de qualité qu'ils ont pu soumettre leur contenu « questionnable politiquement ». En disposant d'assez de faux profils, il est surtout possible de monter de toutes pièces des discussions, en cachant son adresse IP derrière des proxies ou Tor. Mais une telle microgestion de comptes demande tout de même des moyens et du temps, surtout quand on veut manipuler des centaines de faux profils et faire rapidement monter un contenu.

La production automatisée de votes en quelques clics

C'est là que la deuxième facette de Reddit entre en jeu : les upvotes et leur achat en masse. Ils peuvent soit être produits par des bots, soit par des humains, au comportement moins automatique, donc moins suspect. Par exemple, Forbes évoque l'achat de 200 upvotes pour 40 dollars, auprès de Pakistanais. Mais, cette fois-ci, le vendeur avec lequel discutaient les journalistes n'était pourtant pas assez disponible pour manipuler le classement d'un sous-forum à volonté, et refusait de vendre des downvotes.

C'est un adolescent néozélandais qui leur apporte la solution. Il pilotait des milliers de comptes achetés, tournant sur des milliers d'adresses IP automatiquement, via un système spécifique. Le but, bien entendu, est d'éviter le filtre de spam de Reddit, un bot repéré étant retiré du circuit. Pour le client, il suffit de soumettre un lien pour voir les votes affluer dessus, à un rythme personnalisable.

Des contenus montés rapidement, mais qui peuvent retomber

Le premier essai passe par un faux article, écrit sur Medium :  « Brexit : qui a besoin de l'Union européenne quand nous avons la Chine ? ». Un contenu volontairement outrancier, rempli de fautes et signé par un personnage de fiction : Espen Lunde, professeur norvégien à l'École Bergen d'économie, inventée pour l'occasion. Cette figure d'autorité doit donc suffire à valider un article écrit dans la hâte, et soumis au sous-forum /r/unitedkingdom/, comptant 145 000 membres pour beaucoup opposés au Brexit.

En l'alimentant de votes, il est rapidement passé en tête du sous-forum ; quatre mois plus tard, il s'affiche à 266 upvotes. Les premiers commentaires critiques ont été descendus avec de faux votes, ce qui a fonctionné un temps, et des messages rassurants ont été écrits avec d'autres comptes manipulés. Mais la mascarade n'aura duré qu'une journée, annonce les journalistes, dont les comptes ont été bannis.

Le deuxième défi était plus ambitieux : manipuler le classement de /r/videos, l'un des principaux sous-forums de Reddit avec plus de 13 millions d'abonnés. Leur choix s'est porté sur une manipulation commerciale, en remettant en avant la bande-annonce de Narcos saison 2 (produit par Netflix) plusieurs mois plus tard. La publicité doit sauter aux yeux, même si le message a été soutenu par 1 000 faux votes.

Ces messages commerciaux masqués sont si fréquents qu'un sous-forum dédié, /r/hailcorporate, les traque au quotidien, en remontant très régulièrement des cas flagrants de publicité déguisée.

La bande-annonce a pris la première place en deux heures, avec au moins 300 « vrais » votes en plus des faux. Une nouvelle fois, les commentaires critiques ont été rapidement descendus. Coïncidence : ce jour-là, Netflix a mis en ligne une nouvelle bande-annonce pour cette série sortie des mois avant. Interrogée par nos confrères, la société n'a pas répondu.

Faux comptes mais vraie manipulation

Ce que démontre cette enquête est qu'il est facilement possible de faire remonter un contenu artificiellement, à coups de faux comptes et de faux votes, tout en taisant certaines critiques. Mais la supercherie ne semble pas toujours tenir. Aujourd'hui, sur la page Reddit du faux article pro-Brexit, les commentaires critiques sont très largement en tête et dénoncent la supercherie. Pour Forbes, cela reste tout de même un problème, les utilisateurs de Reddit lisant surtout les titres (sans cliquer ni lire les commentaires), donnant peu d'importance à leur vote.

Il suffirait donc de donner une impression de masse pour imposer certains points de vue ou marques dans des forums donnés, pour quelques dizaines de dollars à peine, l'ensemble de l'opération ayant coûté moins de 200 dollars à Forbes. Il reste tout de même à voir quelle rentabilité un tel système offre à long terme, face à des modérateurs qui disent faire face à un manque d'outils sur le site.