Pain cancérigène, poissons recongelés: Google recommande aussi des infox GenAI diffamantes

Fin août, l’algorithme Discover de recommandations de contenus de Google promouvait un scoop, potentiellement explosif : d’après le titre de l'article, un ancien employé d’Intermarché affirmerait que « les pâtes premier prix sont fabriquées avec de la farine animale ». Sauf que la citation, comme l’affaire, étaient fausses : comme l’a repéré @GGtld, pseudo d'un juriste NTIC spécialiste des noms de domaine, l’article émanait d'un site d'infos générées par IA (GenAI).

Depuis, Next a découvert que Discover avait également recommandé plusieurs autres articles de ce même site, avançant notamment qu'Auchan serait « éclaboussé par une révélation d’un chef de rayon » au sujet des « additifs cancérigènes » contenus dans le pain vendu en magasin, ou que Grand Frais serait de son côté « pulvérisé par une tempête médiatique après des révélations sanglantes » au sujet de carcasses de viande « immergées dans des produits cancérigènes interdits depuis des années ».

Ont également été ciblés Système U, dont les légumes « ne sont pas bio du tout », Carrefour, dont les salades « sont lavées dans de l’eau pleine de javel », Intermarché, dont « les poissons vendus comme frais sont décongelés trois fois avant d’être mis en rayon », Leclerc, dont « les glaces sont recongelées après avoir fondu dans les camions », ainsi que Netto, qui « pulvérise des produits interdits sur les salades ».

Petite précision : nous n'avons pas recensé tous les articles mis en ligne sur le site d'infos GenAI, mais uniquement ceux qui ont été recommandés cet été par l'algorithme de Google.

Cette déferlante de fake news est une nouvelle illustration des problèmes posés par les sites d'info générés par IA, que Next documente depuis des mois. Notre enquête nous avait déjà permis de découvrir que nombre d'entre eux reposaient sur du plagiat, qu'ils sont prompts à relayer voire amplifier les rumeurs, mais qu'ils n'en étaient pas moins référencés sur Google Actualités, voire mis en avant par son algorithme de recommandation de contenus Discover, au mépris de ses propres règles.

• [Récap] Nous avons découvert des milliers de sites d'info générés par IA : tous nos articles

Au point que, cet été, près de 20 % des 1 000 sites d'info les plus recommandés par Google Discover, et 33 % des 120 sites les plus recommandés par Google News, à la rubrique Technologie, étaient générés par IA.

• 18% des médias et 33% des sites tech les plus recommandés par Google sont générés par IA

Nous avons à ce jour identifié plus de 8 000 sites d'infos générées par IA (rien qu'en français). Pour rappel, nous avons également développé une extension web (gratuite) pour les navigateurs web basés sur Chrome et Firefox, afin d'alerter ses utilisateurs lorsqu'ils consultent l'un de ces sites GenAI. L'AI Act prévoit en effet que les contenus synthétiques GenAI devront être labellisés comme tels à partir d'août 2026, ce qu'aucun de ces 8 000 sites GenAI ou presque ne fait à ce jour.

La psychologie des fake news expliquée par l'un de ses producteurs

Début septembre, @1492_vision partageait sur X.com une capture d'écran d'un article intitulé « Psychologie des fake news : pourquoi on croit plus facilement aux informations sensationnelles ». 1492.vision est un outil d'analyse des sites et tendances mis en avant par l'algorithme de recommandations de contenus Discover de Google. L'article qu'il épinglait avait lui aussi été publié par un site d'infos générées par IA.

Au-delà de l'image d'illustration, elle-même sensationnaliste, l'article décrivait précisément ce pourquoi, « à l'ère de l'information instantanée, les fake news se propagent à une vitesse fulgurante, souvent parce qu'elles touchent une corde sensible chez leurs lecteurs » :

« Les fake news prospèrent souvent sur un terrain émotionnellement chargé. Elles sont conçues pour susciter une réaction rapide et forte, ce qui les rend plus partageables sur les réseaux sociaux. Les informations qui provoquent peur, colère ou excitation ont tendance à être plus partagées que celles qui ne suscitent aucune émotion forte. [...] Nous cherchons souvent des informations qui renforcent notre vision du monde, ce qui peut nous rendre aveugles aux signes d’alerte indiquant une possible désinformation. »

Entre 100 et 150 000 euros de revenus par mois et par site

Julien Jimenez, l'éditeur et responsable légal des sites GenAI dont sont issues ces deux captures d'écran, en sait quelque chose : il en a fait son modèle économique. Comme nous le relations en juillet dernier, certains de ses concurrents l'accusent même de « défonce[r] le business » à force de spammer Google avec des centaines de « conneries de fake news massive (320 articles hier sur un seul site) pour s'en foutre plein les poches ».

• Éditeur de sites générés par IA, il spamme tellement Google que ses confrères se plaignent

D'après le spécialiste des noms de domaine David Chelly, les sites GenAI de Julien Jimenez lui permettraient d'engranger « à peu près de 100 000 à 150 000 euros de revenus par mois », rémunéré « essentiellement par AdSense » (la régie publicitaire de Google). Comme « les fake news, c'est le meilleur moyen » de créer du buzz et de générer du clic, elles lui procureraient un « trafic incroyable ».

• Sites d’infos générés par IA : « Notre job, c’est gruger Google » pour faire du fric

Avec près de 15 millions de visites sur le mois d’août selon SimilarWeb, un seul de ses nombreux sites pouvait « facilement » tabler sur près de 100 000 euros de revenus publicitaires mensuels, confirmait récemment un patron de régie à la newsletter spécialisée dans le marché de la publicité en ligne Open Garden.

Certains cafés sont « volontairement remplis de pesticides et d’insectes  »

Dans un précédent article, révélant que 18% des médias et 33% des sites tech les plus recommandés par Google Discover sont générés par IA, nous revenions sur certains traits caractéristiques de la ferme de sites GenAI de Julien Jimenez.

Il reste 60% de l'article à découvrir.

Déjà abonné ? Se connecter

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Abonnez-vous