En février dernier, OpenAI avait annoncé avoir créé un modèle permettant de générer des vidéos dont la qualité de rendu était impressionnante : Sora. Mais depuis, l'entreprise n'en parlait pas trop et ses concurrents comme Meta ont indiqué avoir réalisé peu ou prou le même genre d'outils.

• Sora : OpenAI fait des vidéos
• Meta AI fait aussi des vidéos

Mais en début de semaine dernière, OpenAI a suspendu l'accès à Sora que l'entreprise avait mis en place pour laisser quelques artistes le tester. En effet, une partie d'entre eux, rassemblée sous le nom de PR Puppets, l'avait diffusé sur Hugging Face pour protester contre l' « art washing » fait par OpenAI en les utilisant « pour dire au monde que Sora est un outil utile pour les artistes ».

La goutte d'eau : un concours pour la mise en valeur des vidéos

Dans le texte accompagnant la fuite, PR Puppets affirment que « des centaines d'artistes fournissent un travail non rémunéré de recherche de bugs, en donnant leurs retours sur l'outils et en réalisant des travaux expérimentaux pour le programme d'une entreprise dont la valeur est estimée à 150 milliards de dollars ».

S'il n'a jamais été question de rémunération quand ils se sont engagés dans le test de Sora, ces artistes expliquent que la mise en valeur de leurs travaux issus de ces tests est prévue via un concours qui ne montrera pas les œuvres de tous : « alors que des centaines d'entre eux contribuent gratuitement, quelques-uns seront sélectionnés par le biais d'un concours pour que leurs films créés par Sora soient projetés - offrant une compensation minimale qui fait pâle figure en comparaison de la valeur substantielle en termes de relations publiques et de marketing qu'OpenAI reçoit ».

PR Puppets s'exclamait dans ce texte que « les artistes ne sont pas votre R&D non payée ». Le groupe ajoutait : « nous ne sommes pas vos : testeurs de bugs gratuits, marionnettes de relations publiques, données d'entrainement, jetons de validation ».

Ils y dénoncent aussi le fait que toute publication d'une vidéo générée via Sora devait être approuvée d'abord par OpenAI.

Pour préciser leur pensée, ces artistes expliquent : « nous ne sommes pas opposés à l'utilisation de la technologie de l'IA en tant qu'outil pour les arts (si c'était le cas, nous n'aurions probablement pas été invités à ce programme). Ce que nous n'approuvons pas, c'est la manière dont ce programme pour les artistes a été mis en place et la façon dont l'outil est façonné avant une éventuelle diffusion publique ».

Sora a été disponible pendant 3 h pour tout le monde

Accompagnant ce texte, les artistes avaient mis en place un outil de génération de vidéo utilisant l'accès à l'API que leur avait donné OpenAI. Celui-ci n'est resté disponible en ligne que 3 heures, mais a permis à des internautes de générer quelques vidéos comme ce bébé libérant des bulles dans l'eau :

OMG OpenAI Sora has been leaked!

Free to use now on Huggingface, link in comment

It can be shut down anytime, try it now! It can generate 1080P and up to 10 s video! And the results are incredible!

9 Examples: pic.twitter.com/rIJJv5TQTo

— el.cine (@EHuanglu) November 26, 2024

L'entreprise a réagi en désactivant temporairement l'accès à tous les testeurs de Sora.

Questionnement sur l'usage des « red teams »

Au Washington Post, OpenAI a affirmé que « des centaines d'artistes participant à [son] alpha ont façonné le développement de Sora, aidant à prioriser les nouvelles fonctionnalités et les mesures de protection » tout en rappelant que « la participation est volontaire, sans obligation de fournir des commentaires ou d'utiliser l'outil ».

Cette histoire peut paraître anecdotique, mais elle met en lumière une autre partie du travail gratuit utilisé par les entreprises d'IA générative. Empruntant le terme de « red team » au secteur de la cybersécurité, elles font tester leurs outils par quelques futurs utilisateurs.

Ceux-ci ont un accès à l'outil mais ne peuvent pas diffuser leurs contenus sans autorisation de l'entreprise. Ce système permet aux éditeurs de maitriser toutes les critiques et exemples qui montreraient les lacunes de leurs produits sans avoir à payer une équipe pour les tester avant la diffusion.