Connexion Premium

Twitch regrette mais assume : les contenus des chaînes entraînent par défaut l’IA d’Amazon

Faut nous comprendre, on peut pas faire autrement

Twitch regrette mais assume : les contenus des chaînes entraînent par défaut l’IA d’Amazon

Illustration : Flock

Twitch exploite les contenus des chaînes des créateurs de contenus pour entraîner les modèles IA d’Amazon. Rien de vraiment étonnant, la plateforme de streaming étant la propriété du géant du commerce en ligne, et puis bien d’autres entreprises font de même avec leurs utilisateurs. Le hic ici, c’est que la fonction est activée par défaut…

Une bonne partie de la communauté des créateurs de Twitch n’apprécie pas – c’est un euphémisme – l’IA générative. Depuis ce mercredi 12 août, c’est donc une vague de colère qui s’abat sur la plateforme, après que celle-ci a activé par défaut l’autorisation d’exploiter le contenu des chaînes pour entraîner les modèles IA d’Amazon. Tout peut y passer : streams, vidéos à la demande, clips, chats de stream, images et textes de la chaîne.

« Votre audio pourrait contribuer à améliorer les modèles de conversion de la parole en texte. Cela permettrait d’améliorer les sous-titres sur Twitch, mais aussi sur l’ensemble des services Amazon », illustre ainsi la FAQ mise en ligne pour l’occasion. Il reste heureusement la possibilité de désactiver l’utilisation des contenus, dans les réglages « Sécurité et confidentialité » de Twitch.

Néanmoins, même en désactivant l’option, les données de discussion dans un chat peuvent tout de même être exploitées pour entraîner les modèles IA d’Amazon si quelqu’un dans le chat a accepté de participer.

Twitch face à la colère des créateurs

La nouveauté n’est pas passée inaperçue. Et Twitch a bien conscience de l’impopularité de l’IA générative chez ses créateurs. Lors d’un stream houleux repris par Aftermath, Mike Minton, directeur produit du service, et Mary Kish, responsable de la communauté, ont tenté d’expliquer cette décision. Devant le barrage de questions sur le caractère « opt-in » de l’option, le directeur produit n’a pas fait mystère de la raison pour laquelle Twitch avait procédé de la sorte.

« Alors, pourquoi est-ce que ce n’est pas une option à activer volontairement ? » a expliqué Mike Minton. « Il y a une réponse honnête, et je pense que la plupart d’entre vous peuvent probablement la comprendre : si c’était à activer volontairement, personne ne le ferait. C’est honnêtement la réponse. » Aucun créateur de Twitch n’autoriserait volontairement de donner ses contenus pour entraîner les modèles IA d’Amazon, c’est pourquoi l’option est activée par défaut.

Voilà qui a au moins le mérite de la franchise. Et de la clarté… même si le reste de la discussion n’a malheureusement pas beaucoup éclairé les créateurs en colère. « C’est un sujet délicat, et je pense que notre communauté a eu la réaction à laquelle je m’attendais de votre part, à savoir que vous n’aimez pas ça », a convenu Mary Kish, qui elle-même a désactivé l’option.

Les mains liées de Twitch

Pourquoi diable avoir activé cette fonction par défaut ? Parce que si Amazon n’exploitait pas les streams pour ses modèles, d’autres entreprises l’auraient fait. « Si des modèles ont été entraînés sur [vos contenus], il se peut que ce soit Amazon, ou pas », a indiqué Mike Minton. « Il s’agissait probablement de l’une des dizaines d’entreprises qui créent des modèles et utilisent tout contenu accessible publiquement qu’elles peuvent trouver. »

Il se trouve que Twitch est la plateforme de streaming dominante, et qu’Amazon est une des plus grandes entreprises de la planète. Autrement dit, ce ne sont pas de petits acteurs soumis aux diktats des mastodontes de leurs secteurs respectifs : ils peuvent imposer leurs propres règles. Hélas, les pauvres n’ont visiblement pas le choix, à en croire Mike Minton :

« Je ne peux pas l’affirmer avec certitude, mais je pense qu’il est assez raisonnable de supposer que presque tout contenu disponible est utilisé pour l’entraînement de modèles, d’une manière ou d’une autre, que ce soit autorisé ou non. Donc je pense que nous devons aussi reconnaître qu’il y a beaucoup d’éléments ici qui échappent même à notre contrôle direct. »

Minuscule consolation : ni Amazon ni Twitch ne revendent les données à des tiers. « Nous ne revendons pas les données à d’autres entreprises qui entraînent des modèles (…) Ce n’est pas ce qui se passe ici. Nous ne tirons aucun profit et ne gagnons pas d’argent en vendant vos données », affirme Minton.

Quant à savoir si Amazon exploitait déjà en douce les contenus des streams pour l’entraînement de son IA, les deux responsables bottent en touche.« Je ne peux pas me prononcer sur ce qu’Amazon utilise ou pas précisement comme contenu concernant l’entrainement », a déclaré Mike Minton. Lui et Mary Kish encouragent les utilisateurs de Twitch à désactiver l’option : « Les chiffres de désinscription nous aideront à réaffirmer que notre communauté n’est pas réceptive à l’IA sous quelque forme que ce soit », a affirmé la responsable de la communauté.

Commentaires (22)

votre avatar
Lui et Mary Kish encouragent les utilisateurs de Twitch à désactiver l’option : « Les chiffres de désinscription nous aideront à réaffirmer que notre communauté n’est pas réceptive à l’IA sous quelque forme que ce soit », a affirmé la responsable de la communauté.
Est-ce qu'on dois comprendre que les deux dirigeants cités de Twitch sont aussi en désaccord avec la politique de la maison-mère Amazon et incitent les utilisateurs à le montrer via les stats ?
votre avatar
C'est aussi comme ça que je le comprends.
votre avatar
Pareil pour moi.
votre avatar
« Alors, pourquoi est-ce que ce n’est pas une option à activer volontairement ? » a expliqué Mike Minton. « Il y a une réponse honnête, et je pense que la plupart d’entre vous peuvent probablement la comprendre : si c’était à activer volontairement, personne ne le ferait.
Il y a clairement moyen de faire un procès pour abus de position dominante, là, non ?

Ce serait dommage que l'honnêteté leur retombe dessus, mais ça fait une belle preuve, quand même.
votre avatar
Bien qu'effectivement, il y ait un biais dans l'"opt-in" faisant que beaucoup de gens agissent dans une logique du moindre effort, et donc ceux activant une option forment un strict sous-ensemble de la population intéressée, cela n'est pas une justification pour forcer, outrepasser le consentement, la violence à l'épreuve dans l'"opt-out" que je déteste profondément pour l'inhumanité qu'elle implique.

C'est la même mécanique fascisante à l’œuvre quand par exemple on est partisan de sacrifier des droits au motif de fonctionner "mieux", retirer/ignorer le droit de parole pour aller plus vite, déshumaniser des processus au prétexte d'efficience.

C'est une réflexion que certaines personnes, pourtant par ailleurs raisonnablement intelligentes, n'ont pas, notamment dans les sphères technologiques, les amenant à former/entretenir des composantes d'un fonctionnement technologiste.
Ce Mike Minton sonne fortement comme technologiste avec cette phrase. Et ils sont légion dans tout ce qui est informatique, par manque de culture informatique à tout le moins.
Les milieux du libre, sa philosophie, amènent systématiquement à conserver l'être humain au centre de la réflexion & des actions. En France, la loi du 6 janvier 1978 est une lointaine précurseure au RGPD en ce sens, et c'était déjà un petit miracle en soi.

Respectez les humains à la source et à la destination des systèmes informatiques, n'oubliez pas que ces systèmes les réifient, donc les maltraitent, et si vous œuvrez dans ces sphères, gardez un œil ouvert, veillez à ce que cette maltraitance systémique soit la plus limitée possible, et remettez régulièrement en question les décisions prises & action effectuées à l'aune de l'impact sur les personnes.
Les utilisateurs sont des humains : pas des clients, pas un identifiant.
Ainsi, quand on en vient au consentement, il est donc non-négociable de priver un être humain de son droit à décider de son être, et par extension de ses données : l'"opt-in" est la seul à devoir être considéré, l'"opt-out" est une perversion. Une évidence, finalement.

Merci Next pour l'alerte sur cette option dont je n'avais pas entendu parler. Je n'ai constaté à mon niveau aucune communication personnelle de Twitch.
votre avatar
Pas très CNIL compatible l'optin par défaut
votre avatar
Quelles sont les données personnelles disponibles sur les chaînes en question ?

La seule fois où je suis allé sur Twitch, c'est pour le live de Next après la reprise, j'ai donc peu d'infos sur ce qui y circule tous les jours.

En plus, ils peuvent tenter l'intérêt légitime qui semble avoir le vent en poupe en ce qui concerne l'IA pour la CNIL.

Donc, pourquoi se priveraient-ils de cette possibilité ? Il faut juste prévenir et permettre de s'y opposer.
votre avatar
Le problème ici est à prendre d'un autre angle. Si j'ai émis mon refus et qu'une seule personne dans le chat l'a laissé, en quoi son acceptation vaut pour moi également par défaut ? En quoi son choix peut être au dessus du mien, du streamer voir de tous les autres ayant motivés leur désaccord en allant désactiver l'option ?

Et je pense que c'est ici que ça du plomb dans l'aile.
votre avatar
Sans animosité et sans provcation et de manière peut-être naïve, je dirai "la voix":
[...]« Votre audio pourrait contribuer à améliorer les modèles de conversion de la parole en texte[...]
votre avatar
L'image aussi, non ?
Beaucoup de streamers se filment en direct, je crois.
votre avatar
La défense de Twitch est quand même très post-moderne, j'adore : si on le faisait en respectant la loi (opt-out), d'autres auraient de meilleurs résultats en ne la respectant pas, alors on a décidé que ça apportait plus de valeur de la sacrifier.
C'est certes pas faux et très transparent, mais la pente semble fichtrement glissante vue de ma fenêtre...
votre avatar
De quelle loi parles-tu ?
votre avatar
Le RGPD, ça pourrait pas compter ici ?
votre avatar
J'ai déjà abordé le sujet du RGPD un peu plus haut.
L'opt-out est possible en raison d'intérêts légitimes et la CNIL indique que ça peut être une base légale pour l'apprentissage de l'IA.

Donc, non, ça pourrait ne pas compter car il n'y a pas que le consentement comme base légale au traitement.
votre avatar
C'est quoi l'intérêt légitime de Twitch, ici ?
N'y a t-il pas une notion d'équilibre à trouver pour pouvoir invoquer cet argument ?
votre avatar
Ok pour les nouveaux compte mais quand est-il pour les compte existant. Est-ce qu'il y a eu une information préalable de ce nouvel usage ? Ou est-ce que cet usage était déjà présent ? Il ne me semble pas qu'on puisse modifier les intérêts même légitimes comme ça sans être informé ?
votre avatar
J'en sais rien, je ne suis pas utilisateur de la plateforme. Mais lire tous mes commentaires ; j'ai indiqué que je ne sais pas si le RGPD est applicable ici mais effectivement, pour le RGPD, il faut indiquer les traitements et les intérêts légitimes associés s'il y en a d'ajoutés.
votre avatar
Eh bien, comme il t'a été répondu par d'autres, la voix et l'image des personnes peuvent être assimilées à des données sensibles selon les traitements qui en sont faits. Comme on a ici aucune info spécifique (même les boss de Twitch affirment ignorer ce qui est fait précisément, un comble pour des responsables de traitement) mais seulement des exemples, on peut tout imaginer, pour aujourd'hui comme pour demain. Sachant qu'ils font ça en disant "oui mais les autres le font aussi", je persiste à trouver que c'est particulièrement sale (moins que de le faire sans le dire, certes, mais sale tout de même).
Et dire "[nous] ne gagnons pas d’argent en vendant vos données" alors qu'ils vont gagner de l'argent en revendant le résultat de leur exploitation, j'ai dû mal à voir, là aussi, en quoi ça change quelque chose en pratique.
votre avatar
C'est la position d'Amazon, pas de Twitch. Minton et Kish semblent en profond désaccord (bien visible dans le dernier paragraphe), mais Amazon étant la maison-mère, ce sont eux qui décident et Twitch n'a rien à dire.
votre avatar
La chose qui m'amuse avec cet émoi, c'est que maintenant on le sait parce qu'ils affichent désormais tous ce petit bouton (probablement relié à rien).

Par contre, combien de temps ils se sont servi des contenus postés par la matière première les utilisateurs en toute impunité avant que ça devienne trop bruyant, là... :D
votre avatar
Quand tu envoies des données à un tiers, il peut en faire ce qu'il veut et tu n'as aucun moyen de vérifier. Case à cocher ou pas hein, faut pas se foutre du monde non plus....

Pour streamer, tu peux sinon utiliser ffmpeg et VLC et ne balancer tes données vidéos/audio à aucune plateforme. La ligne de commandes fait 3 lignes, avec 1Gbps en envoi tu peux servir 500 personnes à 2Mbps, très satisfaisant en H265 1080p, si tu veux plus, tu montes un relais RTP (nginx sait faire) ou tu prends "plus de Giga" ^^
Le problème de l'Internet est toujours le même : les gens centralisent, au lieu d'apprendre comment ça marche, puis décentraliser.
votre avatar
Le problème de l'Internet d'aujourd'hui
:cap:


En France, on avait finalement tout compris en 1980. ^^