Anthropic va tatouer les textes et les images générés par Claude
Inked
Illustration : Flock
Le 12 août à 09h52
Anthropic va appliquer des watermarks sur les contenus générés par Claude, ce qui permettra de les repérer plus facilement. Cet engagement est aussi une obligation réglementaire en vertu de l’AI Act européen.
Anthropic va tatouer les textes et les images générés par Claude
Inked
Illustration : Flock
Anthropic va appliquer des watermarks sur les contenus générés par Claude, ce qui permettra de les repérer plus facilement. Cet engagement est aussi une obligation réglementaire en vertu de l’AI Act européen.
IA et algorithmes
IA
5 min
Depuis le 2 août dans l’UE, les fournisseurs d’IA générative doivent intégrer un marquage technique de détection dans les images, les sons, les vidéos ou les textes générés ou manipulés par IA. C’est le sens de l’article 50 de l’AI Act. Il y a des exceptions importantes : quand le contenu généré par IA a fait l’objet d’un examen humain ou d’un contrôle éditorial, le tatouage n’est pas nécessaire.
Cette obligation ne concerne aussi que les modèles d’IA commercialisés après la date du 2 août ; pour les modèles déjà disponibles, un sursis de 4 mois – jusqu’au 2 décembre – a été accordé. Mais, quoi qu’il en soit, les fournisseurs d’IA doivent plancher sur des systèmes de marquage des contenus générés par leurs services.
Un double dispositif de marquage
Anthropic a dévoilé son plan de match, en tant que fournisseur et comme signataire du code de pratique sur la transparence des contenus générés par IA. L’adhésion à ce code est volontaire, mais de toute manière les exigences de transparence prévues à l’article 50 constituent des obligations légales.
Deux mécanismes sont mis en œuvre sur les modèles lancés après le 2 août (Anthropic indique travailler sur un watermark pour les contenus générés avec les modèles disponibles avant cette date). Le premier concerne le texte, qui contient une marque statistique invisible. Elle ne se voit pas à la lecture, elle ne change pas le sens du texte, et elle reste intégrée au texte ; par conséquent, un copier/coller conservera la marque.
Le deuxième dispositif touche les fichiers générés ou traités par Claude, comme les images au format SVG, PNG ou JPG. Le modèle ajoute des métadonnées de provenance signées selon le standard ouvert Content Credentials de la C2PA (Coalition for Content Provenance and Authenticity). Si de telles métadonnées sont présentes dans un fichier, cela signifie qu’il a été traité par Claude.
Google utilise de son côté SynthID, un filigrane invisible développé par DeepMind. Ce signal est directement intégré dans le contenu, ce n’est pas une métadonnée. Par conséquent, il est possible de combiner SynthID avec Content Credentials : c’est d’ailleurs le choix d’OpenAI pour ses outils de génération d’images. Anthropic donne malheureusement très peu de détails techniques sur son marquage, que ce soit pour les fichiers ou le texte.
Il y a des limites à l’exercice. Anthropic explique ainsi qu’un texte généré par Claude peut ne pas présenter de tatouage s’il a été « fortement modifié, paraphrasé, traduit ou mélangé à d’autres écrits », si le passage est très court (trop peu de texte pour obtenir un signal fiable), si les métadonnées ont été supprimées après une conversion de format, une capture d’écran ou un nouvel enregistrement.
Logiquement, le texte n’aura pas de marquage s’il a été généré par un modèle ne prenant pas en charge le tatouage numérique. Par ailleurs, si un contenu ne présente aucun marquage, cela ne veut pas dire pour autant qu’il n’a pas été généré ou modifié par une IA.
Marquage au fer rouge
Anthropic ne précise pas la technologie utilisée pour tatouer le texte, mais le marquage d’un tel contenu repose généralement sur un algorithme qui influence discrètement les choix de mots ou de tokens du modèle. Cela produit un motif statistique détectable qui peut signaler qu’un texte a été généré ou traité par un système d’IA.
L’entreprise prévient aussi que la présence d’une marque ne confirme pas la provenance d’un contenu. Claude peut ne pas être « l’auteur » d’origine : le modèle peut servir à relire, traduire, résumer ou convertir des fichiers. Le résultat porte un tatouage Anthropic, mais les idées ou les données peuvent provenir d’une autre source. De même, un contenu marqué peut être modifié, extrait ou combiné avec d’autres éléments après son traitement par Claude.
Il ne reste plus qu’une chose à mettre en place : un outil de détection des marques de Claude. Anthropic n’a rien à proposer, ce qui annule tout l’intérêt de cette annonce – pour le moment. L’entreprise planche en effet sur le sujet pour « permettre aux utilisateurs et aux tierces parties de détecter les watermarks intégrés et les métadonnées ». Une documentation technique sur les mécanismes de détection est en préparation. Pour les fichiers contenant un marquage C2PA, des outils sont déjà disponibles comme celui-ci pour détecter des Content Credentials, ou encore celui-là d’OpenAI.
Si l’AI Act a une portée européenne, Anthropic précise que ces marquages seront intégrés partout où les modèles Claude sont utilisés (le chatbot Claude, l’API, Claude Code, Cowork et Tag), dans le monde entier.
Commentaires (17)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousLe 12 août à 10h08
Le 12 août à 10h27
Modifié le 12 août à 10h34
Le 12 août à 11h18
Les méthodes :
Donc en gros tout ce petit monde a refusé de mettre en place des systèmes permettant de protéger le droit d'auteur depuis les fichiers (autres méthode que le watermark). Au moins pour la propriété de l'auteur. On ne parlait même pas de droits; juste l'auteur. En accompagnant la chose d'un engagement sérieux des parties prenantes (Tout logiciel d'édition de fichier etc). Imparfait, oui, mais au moins présent.
Pour maintenant sous prétexte d'une quelconque dangerosité (ingérence nous voila, célérusses), de marquer ces contenus fabriqués à partir du pillage des données et des œuvres humaines qu'on a pas su protéger.
Tout va bien. Juste... poses la pipe à crack.
Ça c'est le premier problème. Il y a :
etc.
Au moins le ridicule ne tue pas.
Violon, jet de pisse... Alignement parfait.
Modifié le 12 août à 12h34
Mais même dans un monde utopique où les IA ont rémunéré les auteurs à une juste valeur et attribué correctement la paternité d'une oeuvre, elles auront rendu extrêmement aisée la génération de contenus discutables, et on continuera à être abreuvé de textes prétendument attribués à Abraham Lincoln, Lao Tseu ou Gandhi qui dénoncent les agissement de Big Pharma.
Ce sont deux problèmes bien réels, mais totalement orthogonaux entre eux.
Le 12 août à 14h25
Il manque un Céléchinois.
Le 12 août à 14h52
Le 17 août à 22h27
Pour un watermark façon logo de chaine de TV (ou banque d'image), c'est assez simple : tu encodes une images blanc puis noir, tu peux regénérer le calque de marquage.
Une fois que t'as le calque il suffit de le soustraire (c'est une fonction standard de gimp /photoshop) ça peut se faire en masse...
La stéganographie illustre bien le principe :
Le 12 août à 12h19
Notamment, comment vais-je pouvoir savoir si le code APL ou Malebolge que je lis est généré par une IA ???
Nb : pour COBOL j'imagine sans peine que c'est facile, plus aucun humain n'écrirait
Mais quand j'étais à l'université, j'avais écrit un petit script qui reformatait mon COBOL en mode verbeux avant de le soumettre au prof... (dont le prénom était prédestiné : Claude).
Le 12 août à 13h23
"T'as cherché quoi ?"
"PIC XXX"
Le 12 août à 14h04
int claudeIsTheBest = 42
bool fearMythos = true
...
Discrètement 😅
Le 13 août à 11h15
Pas vu ça depuis la première année d'IUT où j'ai décidé que je ne ferai JAMAIS de COBOL.
Et je m'y tiens toujours plus de 30 ans plus tard !
Modifié le 13 août à 12h51
Depuis, c'est moi qui fais du MUMPS
Le 14 août à 14h18
D'un autre côté il y a tellement de pénurie de compétences sur Mainframe que c'est un marché porteur je pense. Il y a beaucoup de départ à la retraite qui arrivent et peu de vocation.
Les jeunes, à bon entendeur
Le 14 août à 18h43
Pour les images, ça va probablement que "réduire" la qualité, mais pour le texte, ça poirrait de plus en plus faire dériver le discours vers un discours "watermarké". J'ai hâte de voir ce que ça peut donner. Ah oui, vraiment, vivement plus tard...
Le 16 août à 11h21
Le 17 août à 21h58
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?