Les géants américains du numérique promettent d’ajouter des filigranes à leurs contenus générés par IA
Le 24 juillet 2023 à 06h59
1 min
Droit
Droit
Sept entreprises américaines du numérique (OpenAI, Alphabet, Meta, Anthropic, Inflection, Amazon et Microsoft) ont promis vendredi à la Maison Blanche qu'elles allaient ajouter des filigranes à leurs contenus générés par leurs intelligences artificielles génératives, explique l'Associated Press.
Cet engagement fait partie de plusieurs promesses faites par les géants du numérique à Joe Biden qui a déclaré, à cette occasion, « nous devons être lucides et vigilants quant aux menaces que peuvent représenter les technologies émergentes », considérant que ces entreprises ont une « obligation fondamentale » de garantir la sécurité de leurs produits.
Ces déclarations arrivent alors que plusieurs gouvernements réfléchissent à des législations pour encadrer ces technologies :
Le 24 juillet 2023 à 06h59
Commentaires (7)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 24/07/2023 à 07h39
Quelque jours plus tard, il y aura des outils, (peut-être même des IA) pour retirer ces filigranes.
Le 24/07/2023 à 20h38
https://www.watermarkremover.io/fr ?
Le 26/07/2023 à 07h31
Un truc du genre oui. Cet outil retire les filigranes visibles, mais il en existe de différent type, parfois invisibles au regard non averti.
A voir si les outils existant seront adapté au type de filigrane qui sera proposé, mais si ça n’est pas le cas, nul doute que ça viendra vite.
Le 24/07/2023 à 09h04
Oui, mais ça ne sera plus de leur ressort, CQFD
Le 24/07/2023 à 14h06
Comment on met un filigrane (ou autre moyen de repérer à coup sur) un texte généré par LLM, sans que ça vienne empiéter à outrance le sens du texte généré ?
(vraie question, btw)
Le 24/07/2023 à 14h41
Ici, c’est bien évidemment sur les images et video/audio générées pas IA dont il est question. :)
A la source de cette brève, il est dit “The companies have also committed to methods for reporting vulnerabilities to their systems and to using digital watermarking to help distinguish between real and AI-generated images or audio known as deepfakes.”
Le 24/07/2023 à 16h27
Et en ce qui concerne une instance StableDiffusion que n’importe qui peut installer sur son PC et récupérer des modèles venant de n’importe où ? Si généralement les outils permettant de générer des images intègrent dans les metadata des PNG le prompt et d’autres infos, celles-ci sont aussi généralement supprimées par le moindre retraitement de l’image.
C’est une jolie promesse, mais c’est aussi un coup dans l’eau à mes yeux.