Mise à jour du 29 février 2024 à 8h40 : Ajout de la réaction de Brandon Kraft, directeur de l'ingénierie des produits JetPack chez Automattic, expliquant que les sites utilisant ce plugin ne sont pas concernés.

Article publié initialement le 28 février à 16h12 :

Le site d'information spécialisé 404 Media, créé par des anciens de Vice, a révélé qu'Automattic, maison mère de Tumblr et Wordpress.com, envisage sérieusement de vendre l'accès à certaines données de ses utilisateurs aux entreprises d'intelligence artificielle générative Midjourney et OpenAI.

• 404 Media déjà rentable

En phase de préparation

Alors que les accords ne sont pas encore signés entre Automattic et les deux entreprises d'IA générative, l'entreprise qui possède deux des plus grosses plateformes de publication de contenus en ligne s'y prépare, notamment en créant des jeux de données.

Mais, selon 404 Media, « les documents internes font état d'un processus bordélique et controversé au sein même de Tumblr ».

Dans un message interne que 404 Media a pu consulter, Cyle Gage, responsable produit de la plateforme, explique qu'une erreur s'est produite lors de la compilation de données qui devaient être envoyées à OpenAI et Midjourney. La requête brassait un ensemble plus large que ce qui était prévu. Le média en ligne souligne que le message de Cyle Gage n'est pas clair sur le fait que les données aient été envoyées ou non aux futurs partenaires.

Des messages privés dans le dump

Dans son message, le responsable produit de Tumblr explique que l'entreprise a compilé une liste de tous les posts publics mis en ligne entre 2014 et 2023, mais « malheureusement, elle incluait aussi, et n'aurait pas dû inclure, les éléments suivants :

• • les messages privés sur des blogs publics

• • les messages sur des blogs supprimés ou suspendus

• • les questions sans réponse (normalement, elles ne sont pas publiques tant qu'elles n'ont pas reçu de réponse)

• • les réponses privées (elles n'apparaissent qu'au destinataire et ne sont pas publiques)

• • les messages marqués comme "explicites" / NSFW / "matures" selon nos normes plus modernes (ce n'est peut-être pas grave, je n'en sais rien)

• • le contenu de blogs de partenaires premium (blogs de marques spéciales comme l'ancien blog musical d'Apple, par exemple, qui a dépensé de l'argent avec nous pour une campagne publicitaire) qui peuvent contenir des éléments créatifs qui ne nous appartiennent pas et que nous n'avons pas le droit de partager avec ces partenaires ; je ne sais pas vraiment quels accords sont en place historiquement et ce qu'ils devraient nous empêcher de faire ».

Automattic serait en train de faire une liste de tous les identifiants de ces contenus qui devraient en être exclus.

Quid des plugins Wordpress distribués par Automattic ?

Un doute est soulevé par 404 Media sur le fait que des contenus hébergés non pas sur Wordpress.com, mais sur des sites utilisant le logiciel Wordpress pourraient aussi être concernés.

Si l'utilisation du CMS libre ne devrait pas entraîner ce genre d'effets indésirables, Automattic développe aussi des plugins comme JetPack, WooCommerce ou Mailpoet pour créer du contenu. JetPack intègre même un assistant IA. Ceux-ci, comme le souligne le média américain, sont soumis aux mêmes conditions d'utilisation que Wordpress.com, notamment en ce qui concerne l'IA. Mais l'entreprise n'a pas répondu aux demandes d'éclaircissement de 404 Media.

En réaction à ces interrogations, Brandon Kraft, Directeur de l'ingénierie des produits JetPack chez Automattic, affirme sur Mastodon que « les sites Jetpack ne sont pas inclus, quelles que soient les fonctionnalités Jetpack que vous avez activées (distribution améliorée, blaze, publicize, etc) ». Selon lui, « seuls les sites/contenus publics hébergés sur WordPress.com (ou Tumblr) » seraient concernés. Il ajoute qu'il « [comprend] tout à fait l'inquiétude suscitée par la nouvelle WordPress d'hier concernant le traitement des données par l'IA d'Automattic ».

Communication parallèle

En parallèle de cette enquête de 404 Media, Automattic a publié sur son site une page titrée « Protéger le choix de l'utilisateur ». L'entreprise y note en fin de texte qu'elle « travaille directement avec des entreprises d'IA sélectionnées tant que leurs plans sont conformes à ce qui importe à notre communauté : l'attribution, l'opt-out et le contrôle », mais sans nommer Midjourney et OpenAI.

Elle affirme prévoir « d'informer régulièrement nos partenaires des personnes qui se sont retirées et qui demandent que leur contenu soit supprimé des sources passées et des formations futures » sans toutefois assurer à ses utilisateurs que les accords qu'elle passera avec ces entreprises contiendront une clause les obligeant à prendre en compte ces signalements.

Elle explique plus haut à ses utilisateurs qu'elle bloque « actuellement », par défaut, leurs robots d'indexation.

Elle précise aussi qu'elle a ajouté sur Wordpress.com et Tumblr un paramètre utilisateur qui permet de donner son accord ou non pour cette indexation. Cette option est décochée automatiquement, mais seulement si l'option d'indexation pour les moteurs de recherche a déjà été décochée par l'utilisateur. En clair, la plupart des utilisateurs de ces plateformes devront décocher cette case (opt-out) pour que leurs contenus ne soient pas utilisés par les entreprises d'IA générative.

« Nous ne partagerons que le contenu public hébergé sur WordPress.com et Tumblr des sites qui n'ont pas choisi l'opt-out », ajoute Automattic. Cette phrase semble être une réponse à l'article de 404 Media. Contactée par les journalistes, l'entreprise n'a d'ailleurs pas répondu précisément à leurs questions et leur a seulement envoyé le texte publié sur cette page.