Fin décembre, le New York Times annonçait via un article publié par deux de ses journalistes avoir porté plainte contre OpenAI et Microsoft. La plainte affirme notamment que ces entreprises ont utilisé des millions d'articles du journal pour entraîner leur famille de grands modèles de langage (Large language models en anglais, LLM) GPT utilisée par ChatGPT, Bing Chat et Copilot.

Mais elle expliquait aussi que « le grand modèle de langage GPT-4 actuel produit des copies quasi-verbatim de parties significatives des œuvres du Times ». Le journal montrait aussi dans ce document que les utilisateurs de ChatGPT pouvaient accéder au quasi-verbatim de ses articles sous paywall. La plainte donne quelques exemples comme ceux-ci :

Cette semaine, l'entreprise propriétaire de ChatGPT a publié une réponse sur son blog contredisant cette attaque en justice.

« Training is fair use » selon OpenAI

L'argument principal d'OpenAI contre la plainte du New York Times est d'expliquer que « l'entraînement de modèles d'intelligence artificielle à l'aide de contenu Internet accessible au public constitue un usage raisonnable [« fair use » en anglais], comme le montrent des précédents anciens et largement acceptés ».

Le créateur de ChatGPT met aussi en avant son processus d'opt-out simple en précisant que le New York Times l'a adopté en aout 2023. Il oublie cependant d'expliquer que ce processus n'a été, lui aussi, mis en place qu'à cette date-là. Les auteurs des contenus utilisés pour l'entrainement des modèles d'OpenAI avant aout 2023 n'ont donc pas pu bénéficier de ce mécanisme d'opt-out simple. La plainte du New York Times précisait aussi que le journal « exige des tiers qu'ils obtiennent une autorisation avant d'utiliser son contenu et ses marques à des fins commerciales, et depuis des décennies, le Times concède son contenu dans le cadre d'accords de licence négociés ».

Et l'entreprise de citer plusieurs textes publiés par des chercheurs, des associations de bibliothèques et autres, qui seraient en faveur d'une inclusion dans le « fair use » de l'entraînement de modèles d'intelligence artificielle. OpenAI cite même des législations non-américaines (notamment la directive européenne d'avril 2019 sur le droit d'auteur et les droits voisins) qui iraient dans ce sens.

Mais quand on lit certains de ces documents cités par OpenAI, il n'est pas si clair qu'ils aillent tous dans le sens de l'entreprise.

Des positions pas si nettes

OpenAI cite par exemple la réponse des chercheurs en droit Pamela Samuelson, Christopher Sprigman et Matthew Sag aux questions que leur a posées le Bureau du Copyright. Mais dans celle-ci, ils notent que « contrairement aux technologies antérieures reposant sur la copie que les tribunaux ont jugé relevant du "fair use", il est impossible d'affirmer catégoriquement que les entrées et sorties de l'IA générative relèveront toujours du "fair use" ».

Et à la question « dans quelles circonstances l'utilisation non autorisée d'œuvres protégées par le Copyright pour former des modèles d'IA relèverait du "fair use" ? », ces trois chercheurs expliquent qu' « en résumé : si les résultats d'un modèle d'IA ne sont pas substantiellement similaires à l'expression protégée incorporée dans des œuvres spécifiques dans les données d'entraînement, alors [...] la copie impliquée dans l'assemblage et le prétraitement des données d'entraînement relèverait du fair use ».

Mais, en l'occurrence, le New York Times reproche justement à OpenAI que ChatGPT renvoie des extraits entiers de ses articles. Nous ne sommes pas dans le seul cas évoqué par ces chercheurs.

Dans la directive européenne d'avril 2019 citée par OpenAI est prévue une exception au droit d'auteur pour effectuer une fouille de textes et de données. Celle-ci inclut la possibilité aux auteurs de réserver l'utilisation de leurs œuvres lorsque la fouille est faite par d'autres acteurs que des chercheurs, un système d'opt-out, donc. Mais cette directive européenne n'autorise pas le fait de reproduire en sortie des passages entiers d'articles collectés comme ceux du New York Times.

Bug ou fonctionnalité ?

Cette reproduction, ou « régurgitation » des textes fouillés, selon OpenAI, ne serait qu'un « bug rare » sur lequel l'entreprise travaille pour le réduire à zéro. « La mémorisation est une défaillance rare du processus d'apprentissage sur laquelle nous progressons continuellement, mais elle est plus fréquente lorsqu'un contenu particulier apparaît plus d'une fois dans les données d'apprentissage », explique-t-elle.

Le problème est, comme nous avons pu le montrer avec MidJourney, que cette « régurgitation » par les IA génératives ne semble pas si rare que ça.

On peut aussi observer que ces IA génératives s'appuient sur une technique principale : les modèles de langage. Ceux-ci sont des « robots perroquets probabilistes » qui « assembl[ent] au hasard des séquences de formes linguistiques qu'il [ont] observées dans ses vastes données d'apprentissage, comme l'expliquaient déjà en 2021 Emily Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell. Il est donc normal, quand un contenu apparait beaucoup de fois dans les données d'apprentissage, qu'ils aient tendance à le « régurgiter ».

Des IA génératives impossibles à créer sans accès aux contenus copyrightés

Ce procès pourrait être un moment difficile à passer pour les entreprises qui se sont lancées dans cet émergent marché de l'IA générative. Dimanche, le journal britannique Telegraph expliquait qu'OpenAI avouait, dans une lettre [PDF] au comité restreint de la Chambre des Lords sur les communications et le numérique, qu'elle ne pourrait pas entraîner ses grands modèles de langage sans utiliser des contenus copyrightés :

« Étant donné que le Copyright couvre aujourd'hui pratiquement toutes les formes d'expression humaine — y compris les articles de blog, les photographies, les messages de forum, les bouts de code de logiciel et les documents gouvernementaux — il serait impossible d'entraîner les meilleurs modèles d'IA actuels sans utiliser des documents protégés par le copyright ».

Autre complexité : Reuters Institute explique qu' « à la fin 2023, environ la moitié des principaux éditeurs ont cessé d'autoriser les grandes plateformes d'IA à accéder à leur contenu ». Si l'étude est encore en cours, « cela va de près de 80 % des principaux éditeurs aux États-Unis à moins de 20 % au Mexique ».

« En supprimant l'autorisation, les éditeurs sont mieux à même de conclure des accords avec les plateformes », commente le Reuters Institute. Le contrat entre Axel Springer et OpenAI pourrait faire tache d'huile dans le secteur.

D'ailleurs, OpenAI accuse le New York Times de ne pas raconter « toute l'histoire » et d'avoir été en négociation avec le journal : « nos discussions avec le New York Times semblaient progresser de manière constructive jusqu'à notre dernière communication du 19 décembre », soit 8 jours seulement avant la publication de l'enquête des journalistes du New York Times.

Ces négociations « portaient sur un partenariat de grande valeur autour de l'affichage en temps réel avec attribution dans ChatGPT, dans lequel le New York Times gagnerait un nouveau moyen de se connecter avec ses lecteurs existants et nouveaux, et nos utilisateurs auraient accès à leurs reportages ».

Dans sa plainte, le New York Times précisait que ces discussions, entamées à l'initiative du journal auprès de Microsoft et d'OpenAI depuis le mois d'avril, n'avaient pas abouti sur une résolution à l'amiable.

Mise à jour : une première version de l'article affirmait que la directive européenne n'était pas claire sur le mécanisme d'opt-out. Suite à un commentaire ci-dessous, cette partie a été corrigée.