Reddit et l’IA, c’est un peu je t’aime moi non plus. Très virulente lorsqu’il s’agit de défendre ses droits face à l’exploitation de ses contenus pour l’entraînement des grands modèles de langage (LLM), l’entreprise exploite massivement les capacités d’automatisation de l’intelligence artificielle pour servir ses propres desseins.

Après avoir généralisé l’usage de la traduction automatisée, notamment pour faire ressortir des contenus anglophones dans la version française de Google, la plateforme affirme avoir considérablement musclé ses capacités de modération face au spam et aux contenus publicitaires.

« Un nouveau front dans une guerre ancienne »

Pour Reddit, créée en 2005, le spam et le détournement à des fins marketing n’ont rien de nouveau, mais l’avènement de l’IA générative a, comme ailleurs sur le Web, considérablement accentué le phénomène. « Dans la mesure où les tactiques des acteurs malveillants ont évolué, nos systèmes ont évolué pour les arrêter », résume l’entreprise. Steve Huffman, CEO de Reddit, a décrit le phénomène (incarné notamment par la vague du GEO, le référencement via les LLM) comme « un nouveau front dans une guerre ancienne ».

• IA

  Reddit : cas d’école de la pollution par les contenus générés par IA ?

  IA

  Vendredi 26 avril 2024 à 10h00 26/04/2024 10h00

  9

Reddit explique ainsi avoir mis en œuvre des outils IA pour accélérer la détection des comptes et contenus dédiés au spam :

« Nous analysons les signaux dès la création d’un compte afin de bloquer les acteurs suspects avant même qu’ils ne publient quoi que ce soit. Pour ceux qui le font malgré tout, nous utilisons des modèles de langage (LLM) pour détecter les schémas subtils et coordonnés de faux comportements et de surenchère artificielle que les anciens systèmes ne parvenaient pas à repérer ».

Sur les derniers mois, la plateforme estime avoir réussi à bloquer l’équivalent de 23 millions d’affichages de spam par jour, en agissant donc de façon proactive avant que les contenus concernés aient été vus par un internaute. Pour ce faire, elle supprimerait 25 000 posts ou commentaires par jour, et indique avoir révoqué (supprimé) 2 millions de votes considérés comme non authentiques sur les trois derniers mois.

Comme souvent, le système ne va pas sans quelques heurts. Sur r/reddithelp, le canal dédié aux demandes d’aide, on a ainsi vu se multiplier ces dernières semaines les messages interrogeant des décisions de modération automatisées.

La modération assistée par IA s’étend également aux contenus non publicitaires, mais relevant des discours de haine ou des messages violents. Sur ce volet, Reddit affirme que ses systèmes automatisés sont capables d’intervenir « en moins de cinq secondes », ce qui permettrait de limiter de 40 % l’exposition des internautes, avec une baisse de plus de 40 % du nombre de faux positifs.

« Notre objectif est simple : limiter l’impact des personnes malveillantes et la diffusion de leurs contenus. Nous n’attendons pas que le contenu atteigne la communauté pour déterminer s’il est nuisible. Notre action la plus efficace se déroule avant même qu’un utilisateur ne voie une publication », estime la plateforme.

Pour Reddit, cette modération automatisée ne va pas à l’encontre des grands principes de fonctionnement de la plateforme, à savoir une visibilité conditionnée par les votes des utilisateurs (flèches vers le haut ou vers le bas) et surtout une importante modération humaine assurée bénévolement, souvent par des internautes impliqués dans une communauté donnée.

C’est d’ailleurs vers cette communauté de modérateurs que Reddit se tourne pour traiter un phénomène plus diffus que connaissent bien les adeptes de LinkedIn : la prolifération de posts à faible valeur ajoutée publiés par des humains avec l’aide de l’IA.

Reddit bientôt désignée comme VLOP par la Commission européenne ?

Entre juillet et décembre 2025, la modération a posteriori (après publication) a concerné 154 millions de publications et commentaires. Les actions se répartissaient à 52,7 % entre les modérateurs bénévoles et à 44,7 % pour les équipes internes à l’entreprise, d’après le rapport de transparence annuel de Reddit. La modération automatisée représentait 3,9 millions d’actions, soit 2,5 % des contenus supprimés. La plateforme a, sur cette période, enregistré quelque 2,2 milliards de nouveaux posts et commentaires.

L’entreprise voit une forme d’impératif dans la mise en place d’outils automatisés supplémentaires. Chaque trimestre, elle rappelle dans le chapitre « risques » de sa communication financière à quel point sa santé dépend de son attractivité pour les annonceurs et donc de sa capacité à lutter efficacement contre les contenus problématiques ou illégaux.

En Europe, Reddit se prépare par ailleurs à devoir faire face aux obligations spécifiques liées au règlement sur les services numériques (DSA) : au détour d’une publication réglementaire (PDF), elle révèle en effet avoir déclaré en février dernier à la Commission européenne le franchissement du seuil des 45 millions d’utilisateurs mensuels qui qualifie les très grandes plateformes (VLOP, pour Very large online platform). « Si la Commission européenne désigne Reddit comme une VLOP, nous serons soumis à des règles et obligations de conformité supplémentaires », prévient-elle.