Mise à jour du 6 mars : une version 2.0.3 a été mise en ligne, aussi bien sur Chrome (et les dérivés Chromium) que sur Firefox. Il s’agit principalement de corriger des bugs mineurs, de mettre à jour la liste blanche et d’atteindre le palier des 3 000 « sites d'informations » dont les articles ont été, « en tout ou partie », générés par IA.

En marge de l’enquête de Jean-Marc Manach sur des médias en français générés par IA nous avons développé une extension pour Chrome et Firefox (y compris en version mobile sur Android) afin d’être alerté lorsque vous visitez un des sites que nous avons identifiés (à la main).

Au fil des semaines, la liste a continué de s’enrichir, dépassant allégrement les 1 500 puis les 2 000 et maintenant 3 000 domaines… et ce n’est pas fini ! En plus de nouvelles listes, nous avons ajouté une mise à jour automatique de la liste dans la version 2.0 de notre extension.

• Télécharger et installer notre extension pour Chrome
• Télécharger et installer notre extension pour Firefox

Depuis le début, nous avons fait le choix de rendre cette extension accessible à tout le monde gratuitement, mais rappelons qu’elle est financée grâce à nos abonnés : merci à eux ! Pour lire l’ensemble de nos contenus, participer aux débats et nous soutenir, abonnez-vous !

Une extension utile, la preuve !

À la rédac’, il nous arrive parfois de voir « popper » le message d’alerte, généralement en suivant un lien depuis Google News. Car, oui, Google News est largement pollué par des sites GenAI. Il faut dire que c’est tellement facile et peu couteux à mettre en place…

Nous ne sommes pas les seuls. Yann Gaudin, un ancien conseiller-formateur de France Travail devenu lanceur d'alerte, s’étonnait de découvrir dans Google Actualités un article concernant son activité, en y étant cité… sans avoir donné d’interview ni même disposer des données mentionnées dans l’article. Ce site était bien signalé par notre extension, comme lui répondaient Jean-Marc et notre confrère Marc Rees.

Une recherche Google Actualités montre qu'en fait ce sont pas moins de trois articles GenAI qui lui ont été consacrés depuis un mois – eux aussi signalés par notre extension –, plagiant (jusque dans leurs titres) un article paru sur Capital en octobre dernier (mais sans le mentionner).

En outre, l'article ayant fait réagir Yann Gaudin indiquait qu'il était lui-même inspiré de celui publié sur les Déchargeurs, tout en y rajoutant des chiffres et témoignages fictifs… preuve supplémentaire que les articles GenAI peuvent « halluciner » des informations qui n'existent pas, comme nous le relevions par ailleurs dans notre enquête sur cette « rumeur » générée par IA, mais relayée par de nombreux médias.

• Cette « rumeur » relayée par de nombreux médias émanait de sites générés par IA

De la GenAI aux arnaques, notre extension évolue

L’avocat spécialiste du numérique Alexandre Archambault qualifiait notre extension de « super boulot », suggérant qu'elle pourrait aussi gérer des sites arnaques… et c’était effectivement un travail en préparation chez Next. C’est d’ailleurs l’objet de la principale nouveauté de cette version 2.0 de notre extension : la gestion de listes multiples, au-delà des médias utilisant de l’IA générative.

Pour commencer, nous en avons ajouté deux listes :

• Red Flag Domains (plus de 27 000 noms de domaine)
• Liste noire de l’AMF (plus de 2 000 noms de domaine)

Red Flag Domains : de nouveaux domaines ajoutés chaque jour

« Les Red Flag Domains sont des listes de noms de domaine très récemment enregistrés, probablement malveillants, dans les TLD français », explique Nicolas Pawlak, créateur du site. Il s’occupe également de vérifier et valider les liens à la main avant de les ajouter à la liste.

Une liste précieuse puisqu’elle comprend généralement des noms de domaine pouvant servir à du phishing, en essayant de se faire passer pour des sites légitimes. Être alerté peut donc éviter de se faire arnaquer.

L’extension récupère automatiquement la dernière liste disponible sur Red Flag Domains et se met à jour régulièrement pour être certain de ne rien louper. Les données sont publiées sous licence Creative Commons BY-NC-SA 4.0 par Red Flag Domains.

Voici, par exemple, les derniers ajouts dans la liste. Il suffit de lire les noms de domaine pour comprendre les risques : booking-com[.fr], virements-creditmutuel[.fr], macommande-leboncoin[.fr], mondialrelay-locker[.fr], assembleee-nationale[.fr], etc.

Liste noire de l’Autorité des marchés financiers

La seconde liste est celle des « entités non autorisées à proposer des produits ou services financiers en France […] Les acteurs figurant sur les listes noires, ayant fait l’objet d’une mise en garde publiée par l'Autorité des marchés financiers (AMF) et/ou usurpant l’identité d’un acteur régulé », explique l'AMF.

Pour le moment, nous récupérons cette liste afin de la nettoyer pour que l’extension puisse l’utiliser. Nous travaillons à une mise à jour qui pourrait automatiquement récupérer la liste depuis data.gouv.fr et la préparer pour l’extension. Les données sont publiées sous Open Licence 2.0 par le gouvernement.

Installation, explications et utilisation

• Télécharger notre extension sur Firefox
• Télécharger notre extension sur Chrome

Revenons à notre extension. Par défaut, les trois listes – GenAI, Red Flag Domains et AMF – sont activées après l’installation. Aussi bien sur Chrome que Firefox, il y a une page Options permettant d’activer ou désactiver certaines listes.

Pour y accéder sur Firefox, commencez par effectuer un clic droit sur l’icône de l’extension, puis sur Gérer l’extension. Sur cette page, cliquez sur les « … » puis Options pour arriver sur la page de gestion. Sur Chrome, un clic droit sur l’icône de l’extension propose directement un lien vers Options de l’extension.

En plus d’activer ou désactiver des listes, vous pouvez également voir le nombre d’éléments de chaque liste et la date de dernière mise à jour (de la liste dans l’extension). Un bouton permet de mettre à jour toutes les listes si besoin, sinon la mise à jour est automatiquement faite à intervalles réguliers.

Vous pouvez évidemment utiliser l’extension sans jamais vous rendre dans les options, les trois listes sont alors activées et mises à jour automatiquement. C’est d’ailleurs l’utilisation que l’on vous recommande.

À vous les studios lecteurs !

Nous n’avons pour le moment intégré que trois listes, mais notre extension n’est pas limitée à ce nombre et il est possible d’en ajouter facilement. Si vous avez des propositions de listes à ajouter, n’hésitez pas à nous le signaler via les commentaires.

La publication du code source interviendra rapidement sur le dépôt GitHub de Next.