Alerte médias GenAI : des sites bloquent notre extension, nous la mettons à jour

Oh, quelle surprise ^^

Alerte médias GenAI : des sites bloquent notre extension, nous la mettons à jour

La version 2.0.6 de notre extension est en ligne. Nous avons changé la manière dont le message d’alerte est géré afin de contrer certains sites qui ont mis en place une ligne de code pour bloquer notre extension.

Le 14 mars à 10h10

Commentaires (33)

votre avatar
J'aime bien ce côté insidieux : une appli GenAI pour détecter les sites GenAI :D
votre avatar
Allez je vais la tester pour voir combien de site genAI je visite ^^

PS: J'ai bien aimé l'avis 1 étoile sous chrome : "Censure Moderne" :tchintchin:
votre avatar
1) ça veut dire que votre extension comme sérieusement à faire du bruit et à les gêner
2) c'est une preuve flagrante que ces sites sont effectivement GenAI (sinon, ils demanderaient à être sur liste blanche)
3) continuez et tenez bon :smack:
votre avatar
C'est même étonnant que seulement quelques milliers d'utilisateurs (d'après les stats de téléchargement) fassent réagir les sites, alors que ça ne doit correspondre qu'à une infime partie de leur audience.
votre avatar
Ils craignent surtout la lumière des projecteurs je pense. Si une asso ou une institution se saisit de l'affaire, genre pour les mentions légales manquantes, ou décide de taper un grand coup au nom de la lutte contre la désinformation, ils pourraient être tentés d'utiliser l'extension de Next.

Et puis bon, une p'tite ligne CSS c'est peanuts à mettre en place.
votre avatar
Ouais enfin ça veut dire qu'ils ont été proactifs pour repérer cette extension, ou que quelqu'un le leur a signalé.
votre avatar
Un lecteur de Next travail chez eux ??? :mad2:
votre avatar
L’extension est une suite de l’enquête de Jean-Marc, enquete qui a fait parler dans les milieux SEO, donc oui ils sont au courant de l’enquête (et donc de l’extension par ricochet) :chinois:
votre avatar
Et du coup, next est flagué par l'extension ? Un site qui génère une extension par IA, puis génère plein de news pour la mettre en avant, c'est forcément un site GenAI non ? :)

Un peu plus sérieusement, c'est un peu ironique de combattre l'IA "qui prend le boulot de journalistes" et d'utiliser une IA "qui prend le boulot d'un dev" pour coder cette extension. A quand une extension qui flague les extensions générées par IA ? :)
J'entends bien que vous combattez surtout le plagiat et la désinformation, mais ça reste assez douteux comme méthode, du genre "faites ce que je dis, pas ce que je fais".

Et je ne dis pas qu'utiliser l'IA revient systématiquement à priver quelqu'un de boulot, mais dans ce cas, vu ce qui est dit dans l'article, il semble qu'il n'y ait aucun dev impliqué dans le dev de cette extension.

Un bon dev aurait mis dés le début cette mesure et peut-être d'autres pour limiter les contre-mesures, et ça reste très simple à contrer (suffit d'un bout de javascript qui cherche un bout du texte de la popin et masque son conteneur).
votre avatar
Un peu plus sérieusement, c'est un peu ironique de combattre l'IA "qui prend le boulot de journalistes"
Car ce n'est pas ce qui est critiqué. Ce qui est critiqué, c'est l'automatisation du plagiat, de la fake news (à cause des hallucinations), et de la non information des utilisateurs (les sites GenAI qui s'annonce en tant que tel ne sont pas listés par l'extension).

Le corollaire supplémentaire c'est que c'est tellement facile à mettre en place et peu couteux, que ce genre de sites pullules et viennent noyer les sites non GenAI dans les résultats de recherche et qu'il devient donc difficile de trouver des sources plus ou moins fiables.
votre avatar
D'une part, je le précise bien dans mon commentaire, d'autre part, ton 2e paragraphe peut s'appliquer aux extensions, même s'il y a un minimum de modération.
votre avatar
Je rajoute que les extensions peuvent être notées, contrairement aux résultats de recherche ;)
votre avatar
Le postulat de départ n'est pas bon : on ne combat pas une IA qui prend le boulot de journalistes (c'est un sujet, peut-être, mais c'est pas celui de Next), on signale des sites dont on a de bonnes raisons de penser qu'ils utilisent l'IA de façon non ou mal supervisée, ce qui soulève des risques juridiques (plagiat), sociaux (mésinformation), voire sociétaux (désinformation).

On n'a rien contre l'IA et son usage par les journalistes, les développeurs ou autre, à partir du moment où c'est fait proprement. Si notre extension manipulait des données personnelles par exemple, nous aurions procédé à une code review nettement plus approfondie.

edit : grilled :D
votre avatar
J'ai bien précisé que j'avais bien compris le postulat de départ, mais vu la ligne éditoriale du site, qui se veut attaché autant au social qu'à la sécurité, de façon parfois assez extrême, gérer entièrement une extension via IA sans la moindre intervention d'un dev détonne pas mal quand même, même si cette extension reste basique et ne présente ni un grand risque, ni un gros boulot de dev.

Après dans l'absolu je m'en fous, ça casse pas 3 pattes à un canard, mais ça me parait quand même mériter à minima d'être noté.
votre avatar
Je pense que ça n'a pas beaucoup de sens de comparer un pillage systématique et industriel de l'information avec restitution déformée et malhonnête à des fins purement mercantiles avec l'usage de l'IA pour développer un code qui n'a pas beaucoup de valeur commerciale (dixit toi), mais qui rend un service réel (et gratuit) à la communauté.

La thèse que tu défends me parait être de mauvaise foi en tentant de faire apparaitre une dimension insignifiante du sujet comme notable, sans tenir aucunement compte du service rendu ni des intentions sous-jacentes de ses auteurs - il n'y a d'ailleurs aucun mot de positif dans tes messages à l'endroit de cette initiative.

Je n'ai sais pas si tu t'es levé du pied gauche ou quoi, mais c'est pas un message super cool.
votre avatar
C'est quand même fort de lire ceci :

"Après dans l'absolu je m'en fous, ça casse pas 3 pattes à un canard, mais ça me parait quand même mériter à minima d'être noté."

Et d'en tirer cette conclusion :

"La thèse que tu défends me parait être de mauvaise foi en tentant de faire apparaitre une dimension insignifiante du sujet comme notable, sans tenir aucunement compte du service rendu ni des intentions sous-jacentes de ses auteurs"

Je ne défends rien du tout, "notable" veut simplement dire que ça mérite d'être noté, pas que c'est important ou grave, ou que ça mérite d'en débattre pendant des plombes. Je n'ai jamais dit que c'était exactement la même chose ou la même gravité que ce que vous dénoncez, ni même que ça me foutait en rogne, ayant même précisé l'inverse, que dans l'absolu, je m'en branle. Je ne me suis pas levé du pieds gauche, j'ai simplement posté un truc que j'ai noté et suis passé à autre chose, c'est loin de me tenir autant à coeur que ce que tu sembles croire.
Et dans le genre mauvaise foi, prétendre que c'est insignifiant par rapport au service rendu quand ça vous arrange est pas mal non plus, mais passons.

Et je ne vois pas pourquoi on devrait toujours tartiner de positif dés qu'on veut signaler le moindre élément pas totalement positif pour ménager les susceptibilités, c'est franchement insupportable de devoir toujours prendre un tas de précautions car les gens n'acceptent plus la moindre critique ou même la moindre remarque pas totalement positive ou prennent tout au plus mal, en l'amplifiant voire en le déformant s'il le faut. Et ça pour le coup, ça me fout en rogne... Et c'est un red flag systématique que je traduis par "casse toi, ça sert à rien de discuter", même si je ne peux pas toujours m'empêcher de répondre, au moins une fois, cette fois :)

Je ne vais pas prétendre être surpris qu'on ne retienne de mon message initial qu'une exagération du passage qui ne plait pas, et que ça dégénère suite à ça, mais ça énerve toujours malgré tout...

Sur ce, bonne continuation.
votre avatar
J'ai lu ton message et je me suis senti obligé de réagir, comme Seb, comme Alex, sans qu'on se soit concertés.
Je n'ai aucun problème avec la critique constructive au demeurant, depuis la reprise j'en ai eu ma fair share, mais en lisant ton message ça m'a tendu direct.
Si tu penses que tu es irréprochable dans tes trois messages c'est cool pour toi, mais souffre quand même que je te réponde avec sincérité en un message succinct - et désolé si ça ne ménage pas ta susceptibilité.
votre avatar
Ce n’est pas aussi simple pour l’extension. Par exemple, la partie obfuscation de la liste et détection des ndd basés sur cette liste a été faite par un dev (Hezirel de moji, je le remercie d’ailleurs dans l’annonce).

Pour la partie signalement des sites et code côté serveur pour réceptionner les envois, je suis également fait aider par un autre dev que je connais pour vérifier certains points techniques.

Quand il y a des points assez techniques/touchy je ne me compte pas sur une IA et mes faibles connaissances, par contre pour le reste effectivement, je m’en contente.

Maintenant faut vraiment que je me décide à finir la publication sur GitHub histoire justement d’ouvrir plus largement et de voir s’il y a des intéressés pour regarder le code, l’optimiser (c’est certainement le gros points noirs), proposer des améliorations, voire prendre le relai :)
votre avatar
Voilà une réponse concrète, les éléments un minimum complexes ou touchy sont bien supervisés par un dev, c'est une bonne chose.

Aussi appréciable que ce soit de le mettre sur GitHub, ça va aussi donner toutes les infos pour contrer, mais sur un truc aussi basique, ça ne va pas forcément changer grand chose.

Je ne sais pas si c'est déjà le cas, mais avoir l'icone de l'extension qui change sur les sites flagué est un bon moyen de s'assurer que l'info remonte un minimum même si la popin est contrée.
votre avatar
Bonne idée en effet, je prends pour la prochaine mise à jour :)
votre avatar
Techniquement le code est déjà dispo (suffit de télécharger l’extension et de «décompresser» le zip). Le passage sur GitHub est aussi une manière de regrouper des personnes souhaitant justement participer à une amélioration globale de l’extension.
votre avatar
C'est un jeu du chat et de la souris qui commence donc 😹.
votre avatar
Ha tiens j'ai eu ma toute première alerte hier sur un site, je sais plus lequel mais ça m'a un peu surpris car il a plutôt pignon sur rue, mais ça restait possible qu'une partie des contenus fassent appel à un peu d'AIde :)
votre avatar
J'avais loupé cette initiative, continuez comme ça.
:pciwin:
votre avatar
Parlons peu, parlons bien :

Est-ce que vous prévoyez de maintenir cette extension pendant plusieurs années, ou est-ce que c'est un exercice technologique comme éducatif pour quelques mois ?

Car dans le premier cas, je compte l'installer sur tous les ordinateurs que je croiserai à l'avenir. Dans le second cas évidemment je n'en ferai rien.

Ce ne sera pas des milliers d'usagers en plus, juste une contribution à mon niveau face à ce fléau.

Oh, et si c'est le premier cas, pourriez-vous ajouter dans l'aide un lien de test vers un site flaggé (par exemple le vôtre :D qu'il faudra ajouter dans la liste d'ailleurs) afin de montrer rapidement ce que ça fait aux nouveaux usagers après installation ?)
votre avatar
Oh, et si c'est le premier cas, pourriez-vous ajouter dans l'aide un lien de test vers un site flaggé (par exemple le vôtre :D qu'il faudra ajouter dans la liste d'ailleurs) afin de montrer rapidement ce que ça fait aux nouveaux usagers après installation ?)
Je crois que l'IA a bogué : Tumblr Tuesday: Moo Deng, Queen of Our Hearts xD

Après, il ne faut pas rajouter le site sur la liste de l'extension, car le but de l'extension est très clair : dénoncer les sites générés par IA qui ne s'annonce pas en tant que tel. Et le site de Next le fait de manière bien visible ;)
votre avatar
Un autre site alors, quitte à ce qu'ils le créent en très basique :D

J'ai un temps limité pour montrer les choses aux usagers et ce doit être le plus simple possible également pour moi, du coup. Et j'aimerai que les usagers puissent revoir de leur côté si ça les intéresse (à ce titre le lien vers l'enquête est une bonne chose, il manque juste une démo).

Mais peu importe, ce serait vraiment un plus, pas un impératif. C'est surtout que je refuse de l'installer s'il n'y a pas un suivi de long terme garanti, et j'aimerai savoir ça.
votre avatar
Je ne sais si nous assurerons le suivi pendant « plusieurs années », d'autant que l'AI Act prévoit qu'à partir d'août 2026 les contenus générés par IA devront être identifiables comme tels, mais on tentera a priori de la maintenir d'ici là oui.

Pour ce qui est de la tester, il suffit de consulter les sites mentionnés dans nos précédents articles à ce sujet, dont https://www.economiematin.fr ou https://armees.com par exemple.
votre avatar
Ça veut dire que vous les emmerdez.

Ça veut donc dire qu'il faut continuer.
votre avatar
Moi je suis déçu, mon plugin ne se déclenche jamais :D

Tient d'ailleurs, le site https://nextai.talc.online/ boucle sur un Tumblr
votre avatar
Zut, quelqu’un s’en est rendu compte, je suis obligé d’intervenir maintenant :transpi:
votre avatar
Déjà signalé il y a quelques jours :p next.ink Next
votre avatar
Sorry je voulais pas te donner plus de taff :stress:

Alerte médias GenAI : des sites bloquent notre extension, nous la mettons à jour

  • 1 000, 2 000 et maintenant 3 000 sites GenAI, en plus de cyberarnaques

  • Certains sites bloquent le message de notre extension

  • On déploie des contres mesures

  • Installez la version 2.0.6 de notre extension !

Fermer