Reddit a du mal à se positionner depuis la vague de l'IA générative amorcée par l'arrivée de ChatGPT fin 2022. Source importante d'entrainement des grands modèles de langage (LLM) depuis le début, elle tâtonne entre l'opportunité d'appuyer son modèle économique sur cette vague et le danger de disparaitre, emportée par le tsunami des contenus générés par IA et de leur piètre qualité.

Surtout que les publicitaires y ont vu une opportunité pour apparaitre dans les résultats des IA génératives. Ainsi, le réseau social voit dans l'outil de vérification d'identité de World ID un moyen de se débarrasser des bots. Ironiquement, cette entreprise, créée autour d'un système biométrique qui scanne l'iris de ses utilisateurs, a été fondée par le CEO actuel de l'entreprise d'IA générative OpenAI, Sam Altman.

• Reddit : fronde contre le projet d’API payante
• Reddit : Après la fronde, la « normalisation » du réseau social ?

Reddit veut rester « clairement humain »

« Là où le reste de l'internet semble être alimenté, écrit ou résumé par l'intelligence artificielle, Reddit est clairement humain », affirme le CEO de la plateforme, Steve Huffman, au Financial Times : « c'est l'endroit où l'on va quand on veut entendre les gens, leurs expériences, leurs points de vue, leurs recommandations. Reddit est synonyme de communautés, de curation humaine, de conversation et d'authenticité ».

En effet, le réseau social a un problème avec le contenu généré par IA. Comme nous le racontions l'année dernière, de nombreuses entreprises essayent d'insérer de la publicité sur Reddit via des messages générés par IA. Des entreprises se sont même spécialisées dans la vente de publications de messages sur la plateforme.

• Reddit : cas d’école de la pollution par les contenus générés par IA ?

Une lutte contre les messages générés par IA toujours d'actualité

La lutte engagée l'année dernière contre ce genre de publicité clandestine n'a pas atteint son but. En effet, le Financial Times rapporte que de nombreux responsables rencontrés lors du festival de la publicité à Cannes lui rapportent que les marques veulent se créer des comptes professionnels sur la plateforme, poster de nombreux commentaires, et ainsi augmenter la probabilité que leurs publicités apparaissent dans les réponses des chatbots.

En avril, Reddit a aussi envoyé une demande juridique à des chercheurs qui avaient lancé secrètement une expérimentation. Un avocat de Reddit a qualifié celle-ci d' « inappropriée et hautement contraire à l'éthique ». En effet, ils ont créé plusieurs robots dont les profils étaient celui d'une personne ayant subi des agressions sexuelles, d'un conseiller en traumatologie ou encore d'un homme noir opposé à Black Lives Matter.

Une vérification par le scan de l'iris fourni par une entreprise de Sam Altman

En réaction, Steve Huffman assure que Reddit met en place un plan de vérifications strictes pour assurer les utilisateurs de la plateforme que seuls des humains puissent publier des messages sur ses canaux. Pour ça, Reddit envisage donc d'utiliser le scan de l'iris de ses utilisateurs pour s'assurer de leur humanité, un projet révélé par Semafor ce vendredi 20 juin.

Et ce scan de l'iris devrait se faire via le système de World ID, qui se présente comme une « une preuve anonyme d’humanité pour l’ère de l’IA ». Ironiquement, World ID est un service de World, une startup financée par Sam Altman et dont le but semble s'inspirer de celui de l' « everything app » qu'Elon Musk espère atteindre avec X.

Au Financial Times, Steve Huffman déplore que ça soit « une course aux armements » depuis longtemps et une « bataille sans fin » dans laquelle est lancée Reddit depuis longtemps et dont l'IA n'est qu'une nouvelle étape.

Il relativise aussi le sujet en expliquant que le problème n'est pas nouveau : « Depuis 20 ans, nous luttons contre les personnes qui veulent être populaires sur Reddit », explique-t-il au Financial Times :

« Nous sommes très bien indexés dans les moteurs de recherche. Si vous voulez apparaître dans les moteurs de recherche, vous essayez d'être bien placé sur Reddit, et maintenant concernant les LLM, c'est pareil. Si vous voulez figurer dans les LLM, vous pouvez le faire par le biais de Reddit. »