Sept entreprises américaines du numérique (OpenAI, Alphabet, Meta, Anthropic, Inflection, Amazon et Microsoft) ont promis vendredi à la Maison Blanche qu'elles allaient ajouter des filigranes à leurs contenus générés par leurs intelligences artificielles génératives, explique l'Associated Press.
Cet engagement fait partie de plusieurs promesses faites par les géants du numérique à Joe Biden qui a déclaré, à cette occasion, « nous devons être lucides et vigilants quant aux menaces que peuvent représenter les technologies émergentes », considérant que ces entreprises ont une « obligation fondamentale » de garantir la sécurité de leurs produits.
Ces déclarations arrivent alors que plusieurs gouvernements réfléchissent à des législations pour encadrer ces technologies :
Commentaires (7)
#1
Quelque jours plus tard, il y aura des outils, (peut-être même des IA) pour retirer ces filigranes.
#1.1
https://www.watermarkremover.io/fr ?
#1.2
Un truc du genre oui. Cet outil retire les filigranes visibles, mais il en existe de différent type, parfois invisibles au regard non averti.
A voir si les outils existant seront adapté au type de filigrane qui sera proposé, mais si ça n’est pas le cas, nul doute que ça viendra vite.
#2
Oui, mais ça ne sera plus de leur ressort, CQFD
#3
Comment on met un filigrane (ou autre moyen de repérer à coup sur) un texte généré par LLM, sans que ça vienne empiéter à outrance le sens du texte généré ?
(vraie question, btw)
#3.1
Ici, c’est bien évidemment sur les images et video/audio générées pas IA dont il est question. :)
A la source de cette brève, il est dit “The companies have also committed to methods for reporting vulnerabilities to their systems and to using digital watermarking to help distinguish between real and AI-generated images or audio known as deepfakes.”
#4
Et en ce qui concerne une instance StableDiffusion que n’importe qui peut installer sur son PC et récupérer des modèles venant de n’importe où ? Si généralement les outils permettant de générer des images intègrent dans les metadata des PNG le prompt et d’autres infos, celles-ci sont aussi généralement supprimées par le moindre retraitement de l’image.
C’est une jolie promesse, mais c’est aussi un coup dans l’eau à mes yeux.