Clarkson, un cabinet d’avocat californien, intente une action en justice contre OpenAI pour le tenir responsable de l’usage que l’entreprise a fait de milliers de données supposées personnelles pour entraîner les grands modèles de langage qui ont permis la création de ChatGPT.
La plainte vise à tester un nouvel angle juridique, explique le Washington Post : celui selon lequel OpenAI aurait violé les droits de millions d’internautes en utilisant leurs commentaires, leurs articles de blogs ou encore des articles Wikipédia sans leur demander leur consentement, pour entraîner ses modèles.
Le cabinet compte déjà une série de plaignants, mais en cherche activement de nouveaux.
La plainte a été déposée dans l’état de Californie, qui jouit d’un texte de protection des données personnelles similaire au RGPD, le California Consumer Privacy Act (ce qui est loin d’être le cas de tous les États américains, et n’existe pas non plus au niveau fédéral).
Commentaires (47)
#1
Ce texte n’a pas la notion de responsable de traitement comme le RGPD ? Car dans notre cas OpenAI est directement reconnu comme tel ce qui a permis les quelques actions comme celle de l’Italie.
Sinon j’imagine que cela va se solder un peu de la même façon que pour l’Europe : mise en place du formulaire pour demander à être retiré. Pour les données déjà dans le modèle, j’imagine qu’ils ont simplement paramétré pour que ChatGPT ne retourne rien avec le nom.
#2
Un peu comme Clearview. Sauf qu’un des deux est poursuivi, l’autre est absous de tous ces pêchés.
#2.1
C’est un peu différent quand même, Clearview donne un résultat (supposément) précis, alors que ChatGPT génère un texte (supposément) original…
Il est donc logique que le premier soit poursuivi et pas l’autre.
#2.2
Supposément précis ou original, c’est du subjectif.
Le fait est que les deux utilisent des bases/modèles de données sans avoir recueilli l’autorisation des concernés.
#3
Tout est là, dans le “supposées”. Des commentaires, des articles de blog et des fiches wiki sont-elles des données personnelles ?
#3.1
L’article du Washington Post dit “violated the copyrights and privacy of countless people when it used data scraped from the internet to train its tech.”
L’utilisation faite par OpenAI des données de blogs est bien contraire au droit d’auteur, car ils n’ont jamais demandé le consentement de qui que ce soit.
#4
Ca dépend de la législation dont on parle.
Dans le cas du RGPD, oui, le pseudonyme est une donnée personnelle permettant une identification indirecte. Au même titre que la page Wikipedia sur une personne est considérée comme telle. Il faut le consentement pour scrapper et traiter les données, même quand c’est du public (cf le scrapping des médias sociaux).
Dans le cas de la législation Californienne, aucune idée.
#5
Et si ils ont scrappé le contenu sans scrapper le pseudonyme ?
#5.1
Vu que y’a déjà eu des affaires de diffamation (contenu a priori inexact et diffamatoire au sujet d’un individu) et que les individus étaient nommés, je crois que tu peux oublier le non scrapping des pseudos ;)
#6
Scrapper le contenu c’est déjà du profilage, non ? Si oui, il faut le consentement. Je part du principe que pour entraîner une IA conversationnelle, il faut quand même savoir qui a dit quoi : les profils sont conservés, même si les pseudos sont changés pour empêcher la ré-identification après coup il y a quand même bien profilage à partir de données personnelles (le “qui a dit quoi”).
¯\_(ツ)_/¯
#6.1
Je ne suis pas spécialiste
, mais de ce que j’en sais, normalement, après l’entraînement de l’IA rien n’est gardé (ni le contenu des pages, ni profil, ni pseudos, etc.).
Le texte est donné à l’IA qui ajuste ses paramètres, mais il ne garde rien de concret en mémoire.
Si des noms ressortent après, c’est certainement qu’ils sont cachés de manière floue dans l’ensemble de ces paramètres (comme pour la mémoire humaine, impossible de dire que tel souvenir est enregistré dans tels neurones).
Est-ce que ça compte comme traitement de données personnelles ?
je dirais que oui, mais sans grande conviction…
#7
Pratiquement certain que tous les gros sites ont une clause qui dit que “you grant a license to use the content…”.
Un individu ne peut donc pas s’estimer lésé de quoi que ce soit concernant le contenu qu’il a posté sur le site.
Celui qui peut s’estimer lésé c’est le site qui s’est fait aspirer car, lui, il peut autoriser la consultation des données sous réserve d’acception d’une licence. Le fameux truc qu’on lit jamais quand on arrive sur le site la 1ère fois.
#7.1
Mais si je concède une licence à Wikipedia sur ce que j’ai écrit, ça n’implique pas nécessairement que cette licence s’étend aux scrappers….
#8
Pas spécialiste non plus
Mais en effet dans l’album Tintin Le Secret de la Licorne, quand le kleptomane prend les porte-feuilles des deux MM. Dupont et Dupond, il est d’abord supposé que c’est un pickpocket avant qu’il soit découvert que par un heureux hasard il avait aussi le porte-feuille d’un des frères Loiseau contenant le fameux fragment d’énigme dérobé en déplaçant le grand-mât d’une des trois reproductions miniatures de La Licorne (le voilier). J’en avait déduit que le larcin est bien commis même si son auteur n’en recèle pas l’objet, puisqu’à la fin de l’album suivant, Le Trésor de Rackham le Rouge, les frères Loiseau sont arrêtés pour meurtre, et le Capitaine Haddock récupère le Château de Moulinsart dont il avait été dépossédé de l’héritage (et qui contenait le trésor depuis le début, sous le nez des frères Loiseau).
Donc en fait même si les frères Loiseau n’ont pas récupéré le trésor (faute d’avoir pu conserver les trois fragments de l’énigme à cause du kleptomane), cela ne les absous pas du meurtre pour autant.
Cela devrait donc être pareil pour le cas de l’entraînement de l’IA conversationnelle : même si les pseudos ne sont pas conservés, si les données étaient personnelles (du fait du profilage) avant d’enlever les pseudos, alors le simple fait d’enlever les pseudos ne rend pas ces données non-personnelles. Sinon ça reviendrait à dire que le Capitaine Haddock a volé le Château de Moulinsart en récupérant l’héritage qui lui était dû au motif qu’au moment de la récupération les frères Loiseau étaient les propriétaires officiels du Château (et de son contenu) alors qu’en réalité le testament du Chevalier de Haddock, vainqueur historique de Rackham le Rouge, était antérieur à l’acte d’acquisition du Château par les frères Loiseau et le fait d’avoir perdu (= oublié) ce testament ne change pas l’héritier.
Mais bon après je ne sais pas si le droit de succession Syldave peut se transposer au RGPD.
#8.1
Il me semblait que c’était la vente par Tryphon Tournesol à l’Etat de ses brevets sur son sous marin de poche qui avait financé l’achat du Chateau de Moulinsart.
Mille milliards de mille sabords, il faut que je vérifie dès que je suis rentré à la maison !
#8.2
wikipédia
Il n’y a (à priori) pas de base de données pour chatGPT et un modèle n’est pas une donnée.
#8.3
D’accord, mon mauvais, j’avais oublié le brevet du sous-marin
#9
Oui, je me le suis dit après coup après la période d’edit
#10
Pour wikipedia, tu concèdes une licence BY-SA au public… et le public cela inclut moi, ma voisine et les scrappers.
Sauf à prouver que le texte/image généré par l’IA est un “remix” de ton texte/image, elle n’est pas soumise à l’obligation de te créditer.
Mais ca implique de faire des procès au cas par cas, pour chaque texte/image généré par l’IA et en montrant à chaque fois l’oeuvre originale. Je ne suis pas bien certain qu’on puisse faire un procès en généralité disant que chaque texte/image généré par l’IA est forcément un remix d’un texte/image publié sous licence BY-SA.
Mais ca sera un procès intéressant.
#10.1
A ce moment-là, le contenu généré par l’I.A. ne devrait-il pas également être sous licence BY-SA car dérivée de l’oeuvre originale ?
SA = “diffuser les nouvelles œuvres dérivées selon des conditions identiques (selon la même licence) à celles de l’œuvre originale (donc autoriser à nouveau les modifications et les utilisations commerciales).”
En définitive, ce que devrait pondre l’I.A. ne devrait provenir que de source BY ou BY-SA, si on suit la logique.
#10.2
Sauf qu’il faut prouver que le texte généré par l’IA est un dérivé du texte sous Creative Commons.
Ce qui est assez difficile puisque le fonctionnement de GPT est de produire une série de tokens qui est statistiquement la plus cohérente dans un contexte donné afin de former un texte en langage naturel. Techniquement, il a appris à lire en lisant du CC-BY, mais ça ne veut pas dire pour autant que le texte produit est sous la même license.
Et c’est là que ça devient un beau challenge vis à vis du droit d’auteur.
#10.3
Tout à fait d’accord sur la dernière phrase.
#10.4
Au fait, s’il ne provient pas d’un CC, il provient d’où ce texte original ? Un texte accessible sur Internet n’a pas forcément une licence attachée.
Supposons que j’ai un serveur Web privé sans login. Mais inconnu au bataillon. C’est vraiment à un usage privé. Qu’il soit accessible via un URL ou une adresse IP (*) L’IA a-t-elle le droit de venir le lire et d’en consulter le contenu ? Même si je n’ai pas mis d’avis de CC ? Quel droits par défaut de la propriété intellectuelle, donc ?
(*) C’est un peu le principe du domicile. Même si la porte est déverrouillée, personne ne peut entrer sans ton consentement (sans raison juridiquement valable, bien entendu)
#10.5
La différence avec la métaphore du domicile ouvert, c’est que le Web est ouvert et public par conception et ne possède pas de notion de “porte d’entrée”, l’info est exposée par elle-même. Comme une affiche dans la rue. Dès lors que tu ne mets pas de contrôle d’accès, le contenu peut être lu et enregistré par n’importe qui et n’importe quoi à moins que tu n’affiches explicitement une license d’utilisation. Le scrapper servant à entraîner une IA pourra le lire au même titre que les moteurs de recherche peuvent l’indexer. Et même si tu mets un robots.txt pour l’indexation, les moteurs ne recherche ne sont pas tenus de le suivre.
Concernant la provenance du texte généré, il n’y en a pas. Pour violemment vulgariser, c’est une chaîne de caractères (les tokens, ce qui correspond +/- à une syllabe) générée par un moteur statistique influencé par ses biais (ce n’est pas péjoratif) et le poids des paramètres. L’IA est entraînée sur des données à license libre (du CC-BY par exemple), mais ce n’est pas le texte sous license qui est restitué. Il sert juste à construire l’apprentissage du modèle.
#10.6
J’aime bien la comparaison avec l’apprentissage de la lecture/écriture.
Ce que j’écris n’est pas un plagia de tous les livres que j’ai lu, même si ça s’en inspire certainement (de certains en tout cas).
Mais les IA ont-elles suffisamment de données sources et d’aléatoire pour considérer que leur production est originale ? À partir de quelle limite ça serait le cas ?
Dur, dur…
#10.7
D’où le fait que c’est un sujet bien épineux pour le droit d’auteur de ma fenêtre. Avec des psychopathes qui considèrent que l’alphabet et tout ce qu’il engendre leur appartient, l’IA génératrice pose de belles questions.
#11
En Europe, les textes sans licences particulières sont soumis au droit d’auteur.
Donc un texte publié sur le Web en Europe est libre de droit 70 ans après la mort de l’auteur (sauf si l’auteur a vécu pendant les 2 guerres mondiales, ce qui rajoute 5 ans par guerre mondiale).
#12
Un texte accessible sur internet est mis à disposition du public.
L’IA n’ira pas lire son contenu s’il n’y a aucun lien vers ce contenu. Problème réglé. Dans ce cas très rare, ton contenu n’a pas été mis à la disposition du public.
Cette affirmation est fausse.
On peut entrer chez quelqu’un si l’accès est disponible. Il n’y a pas de violation de domicile dans ce cas en France.
L’article 226-4 du code pénal dispose que pour qu’il y ait violation de domicile :
Surprenant non ?
#12.1
Ah oui, pour parfaire un point, en Belgique, notre constitution stipule à l’article 15 que “Le domicile est inviolable; aucune visite domiciliaire ne peut avoir lieu que dans les cas prévus par la loi et dans la forme qu’elle prescrit. “
#12.2
Je parle de la France. Que ça soit différent dans ton pays, je le conçois facilement.
#13
Twitter restreint la lecture de tweets pour contenir l’utilisation des données par l’IA (AFP par Yahoo, 01/07/23)
#13.1
On est mal barré si l’on entraînait les IA avec le contenu de Twitter !
#13.2
J’adore la partie citant les “valorisations indécentes de certaines start-up de l’IA”. Y’en a un en a gros sur le fait d’avoir laissé tomber OpenAI à l’époque on dirait
Tant que c’est pour lui apprendre à lire et comprendre le langage ça pose pas de souci. Le plus important derrière ce sont les paramètres du modèle pour savoir ce qu’il est censé produire. Cela dit, si l’objectif est de produire un simulateur de haine et de violence verbale, la source était parfaite.
Après y’a aussi l’aspect études sociologiques, il y a eu un article qui en parlait dernière ici aussi sur le fait que ces plateformes qui se replient de plus en plus sur elles-mêmes deviennent problématiques pour la recherche.
#14
Quand on a l’impression de lire n’importe quoi sur internet, le plus simple est de poser la question à n’importe qui, par exemple à ChatGPT !
(les italiques sont de moi)
Et pour plus de lecture :
TL;PL : un “accès disponible”, ça veut dire une invitation à entrer, c’est à dire que la notion n’est pas à prendre au sens matériel strict.
Par exemple, si les gosses font une cabane avec des tentures dans le jardin, le fait d’y entrer sans autorisation est une violation de domicile, même si en pratique il suffit de soulever les tentures.
#14.1
Tant qu’il n’y a pas manoeuvre, menace, contrainte, voie de fait, il n’y a pas violation de domicile. Autrement-dit, un appartement ou une maison avec la porte grande ouverte : n’importe quel piéton a le droit d’entrer sous réserve de respecter les lieux (de ne pas laisser trace de son passage, de ne rien voler) et le cas échéant de motiver sa présence si elle est requise par le locataire des lieux (la personne qui en a la jouissance).
Bref, cette règle ne préjuge pas de la cordialité des personnes en présence. On trouve notamment cette situation entre touristes et agriculteurs ou éleveurs dans la campagne ou dans les alpages en montagne où il est interdit de détruire des cultures, de laisser ses déchets ou de faire des feux de camps sans que ce soit bien autorisé (pour les déchets, c’est de toute façon interdit et parfois dangereux pour les animaux).
#14.2
“TL;PL : un “accès disponible”, ça veut dire une invitation à entrer, c’est à dire que la notion n’est pas à prendre au sens matériel strict.”
“L’article 111-4 du code pénal énonce que « la loi pénale est d’interprétation stricte ».”
“Par exemple, si les gosses font une cabane avec des tentures dans le jardin, le fait d’y entrer sans autorisation est une violation de domicile, même si en pratique il suffit de soulever les tentures.”
“La notion de domicile doit être entièrement définie et correctement établie”
Je doute que la cabane à tentures puisse être définie comme un domicile.
“L’auteur s’est introduit ou maintenu dans l’habitation d’une autre personne sans son accord”
“Pour pénétrer la demeure d’autrui, l’auteur a utilisé des manœuvres, des menaces, la fraude, la voie de fait ou la violence ainsi que la contrainte par lesquelles le propriétaire n’était pas libre d’agir.”
Soulever les tentures ne me semble pas correspondre à la dernière citation.
Ton exemple semble mal choisi.
#15
Article 8 de la Convention Européenne des droits de l’homme: “Toute personne a droit au respect de sa vie privée et familiale, de son domicile et de sa correspondance”
Étonnant, n’est-ce pas ?
Et ce n’est pas comme s’il n’y avait pas justement des articles de loi et des arrêtés qui sont là pour mettre des barrières à certaines pratique: visites domiciliaires, visites des propriétaires, réglementation propres aux syndicats de propriétaires, huissiers, etc.
#16
Non, pas étonnant.
On peut voir dans le guide sur l’article 8 :
La loi française étant très claire (voir plus haut), il n’y a pas de problème à considérer qu’entrer dans un domicile sans effraction ou autre manœuvre n’est pas une violation de l’article 8 quand il s’agit de personnes privées.
Tant que la personne respecte la demande de sortir du domicile, il n’y a pas de problème.
Cela ne prouve rien. Ce que j’indique est le cas général. Qu’il y ait des restrictions au cas général, c’est habituel dans la législation.
#17
Et alors dans un camping un auvent de caravane – fait de simples tentures – ne matérialise pas un espace privé domiciliaire dans lequel il faut une invitation pour entrer ?
Non, toi tu entres dans les tentes et les caravanes de tout le monde comme si tu étais chez mémé, c’est bien ça ? D’ailleurs tout le monde fait ça, c’est bien connu
C’est l’exception, pour quand l’intrus ne savait pas avoir perpétré une intrusion. Autrement dit, l’absence d’intention de s’introduire chez autrui. Ce n’est pas la règle. Si quoi que ce soit indique que c’est le domicile d’autrui, alors même s’il est matériellement possible d’y entrer ou d’y aller ce n’est pas autorisé.
#17.1
Je ne fais que lire ce que tu as demandé à fred42 de lire en commentaire 32 (2ème lien).
On reprend donc le texte fourni par toi :
“Pour qualifier un acte de violation de domicile, différentes conditions doivent être réunies. De ce fait, quelques éléments constitutifs de l’infraction sont à préciser, à savoir :
Outre ces conditions, il faut que le domicile coïncide avec la notion d’habitation appréciée par la loi française, c’est-à-dire un lieu où l’occupant instaure sa vie privée ou son intimité. À cet effet, il faut que la maison ou l’appartement soit habité de manière continue. Le cas échéant, toute violation effectuée dans cet endroit sans le consentement du propriétaire est passible de sanctions pénales”
Je persisite, dans tes exemples, les conditions ne sont pas réunies.
Et merde, le copier-cloller a généré un cadre noir au milieu de la citation. Cet éditeur de messages est chiant.
#18
J’ai seulement dit que c’était « plus de lecture »… de là à en faire des exemples !
Tu ne peux pas défendre sérieusement l’idée que dans les campings ce soit légal d’entrer dans les tentes et caravanes de tout le monde. Même si on peut cadenasser la fermeture d’une tente, on ne peut pas cimenter tous ses côtés, donc il y aura toujours une possibilité d’entrer en soulevant une tenture. Pareil pour les auvents de caravane. Pareil si quelqu’un campe sur la plage ou dans un pré : peu importe même si l’établissement de la tente était initialement légal ou non, cela n’autorise pas à y entrer. De temps en temps des gens du voyage sont contraints de s’installer n’importe où : les propriétaires sont légalement obligés de faire appel aux forces l’ordre, n’est-ce pas ?
Les liens que j’avais indiqués ne discutent apparemment que du cas particulier où le domicile est une habitation « en dur », un immeuble ; et non pas des autres situations. En plus des tentes et des caravanes, on pourrait aussi parler des cabanes, des cases, des bidonvilles, ou de que sais-je encore… Par exemple des bobos pétés de thune qui installent dans leurs jardins des tentes-bulles à toiture transparente pour admirer les étoiles : je suis à mille millions de pourcents archi-certain qu’ils considèrent cela comme une partie de leur domicile, et non pas comme des endroits à accès libre. Pourtant on y entre en soulevant une tenture…
Mais je ne suis pas spécialiste. 😉
#19
Oh la la ce beau mélange.
Je ne dis pas que tes 3 liens plus de lecture sont des exemples.
Je dis que lorsque tu dis “Par exemple, si les gosses font une cabane avec des tentures dans le jardin, le fait d’y entrer sans autorisation est une violation de domicile, même si en pratique il suffit de soulever les tentures.” ou “Et alors dans un camping un auvent de caravane – fait de simples tentures – ne matérialise pas un espace privé domiciliaire dans lequel il faut une invitation pour entrer ?” ce sont des exemples qui ne correspondent pas aux explications données dans tes liens plus de lecture.
Tu me fais dire une chose que je n’ai pas dite.
Je répète que ton 2ème lien indique que 3 conditions doivent être réunies. Mais tu fais une fixette sur une seule condition.
En France ce qui n’est pas interdit est autorisé (et non l’inverse).
De plus, on ne peut pas se faire justice soi même.
Je suppose donc que tu as raison pour cet exemple.
Si tes liens ne te conviennent pas, ce n’est pas la peine de vouloir nous les faire lire.
Moi non plus, je ne fais que lire tes liens.
#20
Je pense que l’article 226-4-3 répond à cette question.
“Sans préjudice de l’application de l’article 226-4, dans le cas où le caractère privé du lieu est matérialisé physiquement, pénétrer sans autorisation dans la propriété privée rurale ou forestière d’autrui, sauf les cas où la loi le permet, constitue une contravention de la 4e classe.”
C’est sans doute l’article 226-4-2.
“Le fait de forcer un tiers à quitter le lieu qu’il habite sans avoir obtenu le concours de l’Etat dans les conditions prévues à l’article L. 153-1 du code des procédures civiles d’exécution, à l’aide de manœuvres, menaces, voies de fait ou contraintes, est puni de trois ans d’emprisonnement et de 30 000 € d’amende.”
Dans beaucoup de ces articles il est précisé “hors les cas où la loi le permet” mais je ne trouve pas d’explication de ces cas.
#21
Bref, c’est loin d’être simple et évident.
#22
Je viens de trouver un site qui explique la notion de domicile ainsi :
“Est donc exclu de la notion de domicile sont les lieux auxquels le public a libre accès (ex. : restaurant) ou même les terrains non clos (ex. : les champs).
Les voitures ne sont pas considérées comme domicile (sauf camping-car).
Cette définition très large du domicile permet cependant d’inclure les jardins clos, la chambre d’hôtel (car pas il n’y a pas nécessairement besoin d’une occupation permanente) ou encore la maison secondaire (ex. : maison de vacances).
La violation de domicile s’applique aussi aux personnes morales. Même quelqu’un qui n’a pas de titre valide (ex. : personne qui doit être expulsée ; bail d’une personne qui a expiré s’il occupe encore les lieux) peut établir son domicile dans l’appartement ou la maison qu’il occupe.
Par l’expression « quelle que soit l’affectation », on peut également considérer les locaux professionnels comme domicile, comme le cabinet d’un médecin. La valeur sociale protégée est l’intimité et non la propriété.
Tout endroit non meublé ne peut être considéré pour domicile (ex. : squat d’un appartement vide).
Le domicile est protégé par l’article 8 de la Convention européenne des droits de l’Homme.”
#23
Donc j’ouvre le raisonnement vers d’autres horizons. Un peu comme Buzz l’éclair. On aime Toy Story ou on aime pas, hein.
Je ne fixe pas, je montre que certaines idées/interprétations de Fred n’ont pas de sens à propos de ses histoires de portes ouvertes qu’il est pas la peine d’enfoncer.
Mais je les ai mis parce que ChatGPT l’a demandé, et en plus s’est planté en citant l’article de loi. Moi je fais ce que l’IA me dit, c’est tout.
Mais si c’est facile : le taux de condamnations pour violations de domiciles est très faible, donc c’est bien que les gens y arrivent. Sauf ceux qui veulent vraiment pas, genre les Rapetous en opération nocturne.
Non, une tente avec de la paille pour couchage n’est pas meublée mais peut servir de domicile. Et si t’avais que ça pour loger, t’aimerais pas que quelqu’un vienne s’inviter au prétexte que tu es à ce point sur la paille (d’où l’expression). Ou alors une grotte vide, pour un ermite (qui n’a pas envie qu’on le dérange). Voire même… un tonneau de vin. Pour les philosophes qui veulent capter toute la pensée socratique.
Mais j’ergote, j’ergote.
(il a bien fallu vider le tonneau d’abord aussi)
#24
Ils faut aussi que les victimes se rendent compte qu’il y a eu violation de domicile et portent plainte.