Alerte sur les sites GenAI : notre extension signale plus de 6 000 sites et passe en v2.3

Encore… Ça fait beaucoup là, non ?

Alerte sur les sites GenAI : notre extension signale plus de 6 000 sites et passe en v2.3

En six mois, nous avons multiplié par six la liste des sites GenAI de notre extension. La liste mise à jour sera automatiquement récupérée par l’extension dans les 24 h, mais vous pouvez aussi forcer le destin. Notre extension passe aussi en version 2.3 avec quelques nouveautés au programme.

Le 14 août à 16h51

Commentaires (19)

votre avatar

Pour aider au repérage, serait-il possible de recommander des sites de détection d'IA dans un texte, du style de quillbot.com ; isgen.ai ou zerogpt.net. Je ne sais rien de la fiabilité de ces sites, en tous cas, testés sur des textes (sites) pour lesquels je soupçonnais de l'IA, leurs réponses sont cohérentes.

Et pour rendre plus utile cette extension ce serait bien si l'on pouvait faire en sorte que les moteurs de recherches (ou même un seul) pouvait ne pas lister les sites vérolés dans leur réponses… voeux pieux ?
votre avatar
github.com GitHub correspondrait-il à votre besoin ?
votre avatar
Il faudrait que ces listes puissent utiliser notre liste "obscurcie" au moyen du filtre Bloom... mais nous n'avons pas non plus été à ce jour contactés par des éditeurs ou développeurs de ce type de listes et d'extensions.
votre avatar
Comme indiqué dans le mode d'emploi que j'avais rédigé à ce sujet, « Comment reconnaître les sites (d’infos) générés par des IA ? », il ne sert à rien d'utiliser des détecteurs de "textes" générés par IA, qui affichent bien trop de faux positifs et de faux négatifs.

Le résumé de la grille d'analyse s'affiche quand vous cliquez sur le bouton de l'extension, par ailleurs. En cas de doute, signalez le site, je vérifierai.

Google m'a certes demandé la liste des sites, mais nous avons refusé, d'une part parce que, et comme je l'ai moult fois documenté dans plusieurs articles, ces sites violent ses propres règles, alors que Discover en recommande des dizaines, et que la plupart sont monétisés par... sa propre régie publicitaire. Nous lui avons par contre transmis un mode d'emploi circonstancié et encore plus complet que celui que nous avons rendu public, mais ils ne nous ont pas recontacté depuis à ce sujet.

D'autre part, et comme indiqué, nous ne voulons pas non plus que la liste soit rendue publique, pour ne pas qu'elle puisse être exploitée par des gens malintentionnés. D'autant qu'en l'état, ces sites GenAI violent certes les règles de Google, mais pas la loi...
votre avatar
il ne sert à rien d'utiliser des détecteurs de "textes" générés par IA, qui affichent bien trop de faux positifs et de faux négatifs.
J'ajouterai que c'est même un risque de donner des textes "légitimes" contre l'avis de leur auteur (en particulier si celui-ci a exprimé son opposition à la fouille de textes) à des sites pour qu'ils servent à entraîner des modèles.

Il faut toujours se méfier de ce qu'on "donne" à des services en ligne. Si les hébergeurs de LLM gardent les prompts et les résultats pour analyses et entraînement (ce qui est généralement indiqué dans les CGU), il faut considérer que ces services de détection feront de même.
votre avatar
Le filtrage via les moteurs de recherche, oui, j'approuve cette idée
votre avatar
Moi, c'est plutôt via mon DNS personnel... après tout, il bloque le p0rn et la pub, alors, pourquoi pas le contenu genAI ?
votre avatar
Et pour rendre plus utile cette extension ce serait bien si l'on pouvait faire en sorte que les moteurs de recherches (ou même un seul) pouvait ne pas lister les sites vérolés dans leur réponses… voeux pieux ?
J'avais fait une pull request sur une version antérieure de l'extension (PR qui n'est plus du tout fonctionnelle maintenant, car le code a évolué mais le Github pas mise à jour). Cela ne supprimait pas les liens, mais cela les marquait, afin d'éviter de cliquer dessus.

Une extension dans le genre qui marque les liens plutôt que de les supprimer, ça répondrait à ton besoin ?
votre avatar
J’aime bien l’idée. Ça aurait en plus l’intérêt de montrer l’ampleur du problème.
votre avatar
Ah oui, bonne idée !
votre avatar
J'ai développé une extension. Elle a été publiée par Google, mais est encore en attente niveau Mozilla.
- Source (dépôt github) : github.com GitHub
- Extension chrome : chromewebstore.google.com Google
- Extension Firefox : en attente de validation.

C'est actuellement en béta. Je cherche quelques testeurs pour me faire des retours + suggestions. Pour l'instant, la liste établie par Next n'est pas incluse. J'envisage de le faire, mais je voudrais avant le feu vert de l'équipe. J'attend que @SébastienGavois rentre de congés :p

J'ai inclus les listes suivantes :
- AMF
- RedFlag Domains
- uBlockOrigin-HUGE-AI-Blocklist : github.com GitHub (cf. commentaire next.ink Next

Attention : les listes ne sont pas actives par défaut (pour l'instant, c'est volontaire) car je me tâte pour créer 2 catégories de liste : les dangers (liens AMF et RedFlag Domains) et les "nuisances" (contenu genAI). Il faut donc aller dans les options de l'extension pour activer les listes.

Il est également possible de charger sa propre liste de domaine.

Il faut aussi que j'affine la documentation, et que je précise l'orientation que je souhaite donner à l'extension (par exemple, je n'envisage pas pour l'instant de faire un blocage par URL, mais uniquement par domaine).
votre avatar
Une extension pour Samsung internet browser serait elle envisageable ?
Je n'utilise que ce browser que je trouve nettement mieux que chrome et les autres sur smartphone Android Samsung.
votre avatar
Je viens de regarder vite fait, par curiosité.

Alors oui, techniquement c'est possible.

En pratique, cela à l'air malgré tout d'un écosystème assez fermé, et je ne trouve pas beaucoup d'info sur la compatibilité avec les extensions pour Chrome/Firefox.

Autrement dit, les 2 freins que je vois sont :
1) l'accessibilité au Store de Samsung
2) potentiellement un redéveloppement complet de l'extension pour ce navigateur.
votre avatar
Top top top !
Installé sur tous mes appareils (PC linux/windows et smartphones), et même ma compagne me l'a demandée !
Heureusement, il semble que je sois une très mauvaise cible, car je n'ai eu le message de l'extension que ... deux fois ce dernier trimestre.

Bon, j'avoue que disposant d'un DNS chez moi, j'aurai trouvé encore mieux que ce dernier puisse disposer d'une fonction "Alerte Gen AI", au même titre que le "blocage de contenu adulte", et avoir la possibilité d'afficher un beau message... au moins, cela permet de centraliser un peu les choses sans avoir à configurer tout le monde.
votre avatar
Bonjour certains utile cette extension sur leur mobile, chrome Android support les extension ?
Je l'ai condamné au profit de samsung internet qui permet de filter les pubs
votre avatar
chrome Android support les extension ?
Sauf si cela a changé tout récemment : non.

Firefox mobile supporte les extensions par contre.
votre avatar
Édit : oups, déjà dit par fdorin
votre avatar
Oui, sur firefox mobile, avec MuBlock Origin
votre avatar
Je n'ai jamais vu la popup de cette extension (sauf en cliquant sur un lien que vous remontez dans vos articles sur le sujet).
Pourtant je suis régulièrement confronté à ces résultats pourris de bullet point, emoji, mots en gras et phrases banales n'apportant aucune information, qui sentent l'IA à plein nez !

Alerte sur les sites GenAI : notre extension signale plus de 6 000 sites et passe en v2.3

  • Une extension, trois listes d’alerte !

  • Alerte GenAI en v2.3 : Email et métadonnées… wait, what ?

Fermer