« Afin de répondre activement aux préoccupations sociales et aux préoccupations du public, l'Administration chinoise du cyberespace, en collaboration avec le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l'Administration d'État de la radio et de la télévision, a formulé une méthode d'étiquetage », explique la Cyberspace Administration of China (CAC).

« La loi sur l'étiquetage aidera les utilisateurs à identifier la désinformation et tiendra les fournisseurs de services responsables de l'étiquetage de leur contenu », précise la CAC dans un communiqué : « Il s'agit de réduire l'utilisation abusive des contenus générés par l'IA ».

Cette « méthode d'identification » vise à « promouvoir le développement sain de l'intelligence artificielle, à normaliser la génération d'identification de contenu synthétique par l'intelligence artificielle, à protéger les droits et intérêts légitimes des citoyens, des personnes morales, et d'autres organisations, et sauvegarder les intérêts publics sociaux ».

Des contenus GenAI dotés d'identifiants explicites et implicites

Le texte de la loi précise que « les identifiants de contenu synthétique générés par l'IA comprennent des identifiants explicites et des identifiants implicites ».

Les fournisseurs de services devront en effet « ajouter des identifiants explicites au contenu synthétique généré tel que du texte, de l'audio, des images, des vidéos, des scènes virtuelles, etc. », ainsi que des « identifiants implicites sous la forme de filigranes numériques » dans leurs métadonnées.

Ces dernières devront contenir des « informations sur les éléments de production telles que la génération d'informations sur les attributs de contenu synthétique, le nom ou le code du fournisseur de services et le numéro de contenu et d'autres informations sur les éléments de production ».

La loi précise d'autre part qu' « aucune organisation ou individu ne peut supprimer, altérer, falsifier ou dissimuler de manière malveillante le logo de contenu synthétique généré spécifié dans les présentes mesures », ni fournir d'outils ou de services permettant à d'autres de commettre de tels « actes malveillants ».

Des initiatives similaires en Europe et aux États-Unis

La Chine rejoint ainsi l'Union européenne et les États-Unis qui ont, eux aussi, adopté des règlementations afin de contrôler les risques de désinformation en exigeant l'étiquetage des contenus synthétiques en ligne, souligne Bloomberg.

L'article 50 de l'AI Act européen prévoit en effet que « les fournisseurs de systèmes d'IA, y compris les systèmes d'IA à usage général, qui génèrent des contenus synthétiques audio, image, vidéo ou texte, veillent à ce que les résultats du système d'IA soient marqués dans un format lisible par machine et détectables comme étant générés ou manipulés artificiellement ».

« Les déployeurs d'un système d'IA qui génère ou manipule un texte publié dans le but d'informer le public sur des questions d'intérêt public doivent indiquer que le texte a été généré ou manipulé artificiellement », précise-t-il en outre.

Une obligation qui ne s'appliquera pas, cela dit, « lorsque le contenu généré par l'IA a fait l'objet d'un processus d'examen humain ou de contrôle éditorial et qu'une personne physique ou morale assume la responsabilité éditoriale de la publication du contenu ».

L'ancien président Joe Biden avait de son côté signé un décret, en octobre 2023, ordonnant l'élaboration de mécanismes efficaces pour authentifier les contenus et le suivi de leurs provenances, et étiqueter les contenus synthétiques, « par exemple à l'aide d'un filigrane ». Reste encore à savoir ce qu'en fera le gouvernement de Donald Trump.

La semaine passée, le conseil des ministres espagnol avait de son côté approuvé un projet visant à sanctionner les contenus n'indiquant pas qu’ils sont générés par IA. Si la Chine ne précise pas les pénalités qui pourraient être infligées, l'Espagne prévoit quant à elle des sanctions qui s'échelonneront de 500 000 à 7,5 millions d’euros, ou de 1 % à 2 % du chiffre d'affaires mondial des entités prises en défaut.

• Deepfakes : l’Espagne sanctionnera les contenus ne précisant pas qu’ils sont générés par IA