La revue scientifique Nature a décidé de bannir toute utilisation d'image ou vidéo créée à l'aide d'outils d'intelligence artificielle générative (en dehors d'articles portant spécifiquement sur l'IA, évidemment), explique-t-elle dans un édito publié la semaine dernière, « du moins dans un avenir prévisible ».

Cette décision a été prise après plusieurs mois de discussion suite aux sorties d'outils comme ChatGPT et Midjourney.

Les artistes, photographes, vidéastes et illustrateurs avec lesquels la revue collabore devront confirmer qu'ils n'ont utilisé aucun outil de ce genre. Une note précisant cet engagement a aussi été publié sur le site de la revue.

La revue explique que c'est « une question d'intégrité » : « En tant que chercheurs, rédacteurs et éditeurs, nous avons tous besoin de connaître les sources des données et des images, afin de pouvoir vérifier leur exactitude et leur véracité. Les outils d'IA générative existants ne permettent pas d'accéder à leurs sources pour que cette vérification puisse avoir lieu. », précise-t-elle.

La revue justifie cette décision aussi par le fait que ces outils ne citent pas leurs sources alors que c'est « un principe fondamental de la science et de l'art ». La revue évoque aussi le respect du droit à l'image ainsi que du droit d'auteur.

Pourtant, elle ne prend, à l’heure actuelle, pas en compte ces critères quand il s'agit de textes : « Pour l'instant, Nature autorise l'inclusion de textes produits avec l'aide de l'IA générative, à condition que cela se fasse avec des mises en garde appropriées ». L'édito précise quand même qu' « aucun outil LLM ne sera accepté en tant qu'auteur d'un article de recherche ».

Dans un long format interactif, Bloomberg détaille comment des machines comme Stable Diffusion aggravent les biais sociaux présents dans la société dans les images qu’elles produisent. Un problème que l'on retrouve également dans l'intelligence artificielle, comme l'expliquait déjà la CNIL en 2018.

• Algorithmes, intelligence artificielle : à la découverte de l'épais rapport de la CNIL

Le sujet n’est pas neuf dans le secteur de l’intelligence artificielle : en 2018, la chercheuse Joy Buolamwini montrait par exemple des biais de genre et d’ethnicité dans les technologies courantes de reconnaissance faciale. Les biais présents dans les données et produits par les modèles d’IA sont plus largement un large sujet de travail.

• Aux États-Unis, six jours de prison pour cause de reconnaissance faciale erronée
• Des tests dévoilent les biais sexistes et racistes de ChatGPT
• Peut-on corriger les biais des algorithmes ?

Mais après analyse de 5 000 images produites par Stable Diffusion, Bloomberg démontre que des technologies de générations d’images grâce à des requêtes textuelles aggravent le problème initial. L’expérience a consisté à faire produire à Stable Diffusion des images correspondant à sept emplois considérés comme « à hauts salaires » aux États-Unis et à sept autres emplois « à bas salaires », ainsi qu’à trois catégories liées à la criminalité.

Résultat des courses : la machine avait tendance à renvoyer des visages à la peau plus claire pour les emplois les mieux payés, et à peau plus foncée pour les moins bien payés. De même, en termes de genre, avec beaucoup plus d’hommes côté professions les mieux payées, beaucoup plus de femmes dans les moins bien payées, le tout de manière beaucoup plus accrue que dans la réalité. À la demande de générer des images de médecins, la machine a par exemple produit un jeu comprenant 7 % de femmes, alors que celles-ci constituent 39 % de la profession aux États-Unis.

L’un des problèmes, explique la directrice de Black Girls Code Heather Hile au média économique, est qu’« à force de se voir ou de ne pas se voir » dans des représentations visuelles, « les gens en déduisent qu’ils ne sont peut-être pas à leur place » dans tel ou tel type d’activité.

Bloomberg a expliqué avoir choisi Stable Diffusion parce que son modèle est gratuit et transparent, contrairement à ses principaux concurrents Midjourney ou Dall-E.

Le modèle est entraîné sur LAION 5B, la plus grande banque d’images ouverte au monde - qui embarque son propre lot de biais.

• Comment LAION a créé un jeu d’images d’entraînement à partir de zéro

Ces outils sont déjà intégrés dans des applications de communication visuelle développées par Adobe ou Canva. Ils sont, aussi, utilisés par des partis dans des communications politiques.