[MàJ] SpaceXAI veut faire annuler la loi du Minnesota contre la « nudification »
Protégeons la liberté d'expression de Grok !
Le 03 août à 14h06
SpaceXAI part en croisade contre une loi du Minnesota interdisant les technologies de « nudification », qui permettent de générer des deepfakes dénudés de personnes réelles. L’entreprise est la première concernée, puisque son chatbot Grok est massivement utilisé pour créer ces images.
[MàJ] SpaceXAI veut faire annuler la loi du Minnesota contre la « nudification »
Protégeons la liberté d'expression de Grok !
SpaceXAI part en croisade contre une loi du Minnesota interdisant les technologies de « nudification », qui permettent de générer des deepfakes dénudés de personnes réelles. L’entreprise est la première concernée, puisque son chatbot Grok est massivement utilisé pour créer ces images.
Droit
Droit
5 min
Mise à jour 3/08 – Le juge en charge de la plainte a rejeté la demande de SpaceXAI. L’entreprise d’Elon Musk voulait le report de la loi du Minnesota bannissant la génération de deepfakes dénudés. Celle-ci a été mise en œuvre le 1er août, alors que la plainte remontait au… 29 juillet. « Un tel délai pour engager l’action et déposer cette requête laisse penser que le préjudice n’est pas imminent », a estimé le juge.
Mais si la loi est en application depuis ce week-end, cela ne signifie pas pour autant que la plainte est éteinte. La procédure se poursuit en effet, avec une audience programmée le 19 août pour décider si la législation doit être suspendue provisoirement ou pas.
Article original, 29/07 – En début d’année, Grok était sous le feu des critiques : le chatbot de xAI (renommé SpaceXAI depuis) permettait très facilement de générer des deepfakes dénudés de personnes réelles (des femmes dans leur vaste majorité), sans leur consentement. Le tout avec le soutien actif d’Elon Musk, trop heureux de voir grimper la popularité de son bot IA.
Depuis, plusieurs enquêtes ont été lancées, en France, à la Commission européenne et à la Commission de protection des données irlandaises, qui a la responsabilité de faire appliquer le RGPD à X (anciennement Twitter).
D’autres juridictions sont allées plus loin, à l’image de l’État américain du Minnesota où une loi interdisant les technologies de nudification entrera en vigueur le 1er août (PDF). Les propriétaires ou exploitants de sites, d’applications et de logiciels ne peuvent plus permettre à leurs utilisateurs d’accéder à une telle fonction, de la télécharger ou de l’utiliser. Ils ne peuvent pas non plus produire eux-mêmes ces images pour le compte de leurs utilisateurs.
Le droit de Grok de générer des images dénudées
Le texte prévoit toutefois une exception pour les logiciels de retouche d’images qui nécessitent de l’utilisateur une compétence technique substantielle (à l’image de Photoshop) : ces outils restent heureusement licites. Les opérateurs des services de nudification pourront être poursuivis par les victimes, avec à la clé d’importantes sanctions possibles : jusqu’à trois fois le montant des dommages réellement subis, notamment pour la souffrance psychologique, ainsi que des dommages punitifs.

Quant à la sanction civile, elle peut atteindre 500 000 dollars pour chaque accès, téléchargement ou utilisation illégale. Ces amendes financeront des organismes qui viennent en aide aux victimes de violences sexuelles. Cette loi est la première du genre aux États-Unis.
SpaceXAI s’oppose à cette législation, comme le rapporte CBS News. L’entreprise affirme qu’elle « ne remet pas en cause l’intérêt du Minnesota à interdire la diffusion, sans leur consentement, d’images de personnes réelles artificiellement représentées nues », mais elle se positionne sur le terrain de la « liberté d’expression ». La loi irait « bien au-delà de [l’] objectif » de lutter contre la nudification et exposerait de nombreuses « formes d’expression protégées à des poursuites civiles et à des sanctions gouvernementales ».
L’entreprise estime que la loi rend le fournisseur d’IA automatiquement responsable, qu’il interdise ou pas aux utilisateurs de se servir de l’outil pour générer des deepfakes dénudés. Elle pourrait aussi être tenue responsable même lorsque les personnes ont consenti à la création de l’image ou quand celle-ci présente une « valeur artistique, scientifique, politique, satirique, éducative, médicale ou religieuse ». Ce qui est une interprétation très large : une image de nu peut en effet entrer dans une de ces catégories, annulant complètement la portée des lois contre ces technologies.
La plainte déposée par SpaceXAI affirme aussi que la définition d’une partie intime retenue par la loi interdit la représentation d’hommes torse nu, de personnes en short ou en maillot de bain, ainsi que d’autres images allant « au-delà de ce qu’une personne ordinaire considérerait comme de la “nudification” ». Enfin et surtout, l’entreprise d’Elon Musk estime que la génération d’images et de vidéos à l’aide de son IA est une activité protégée par la Constitution américaine en vertu du Premier amendement sur la liberté d’expression.
Au bout du compte, SpaceXAI demande au tribunal de déclarer l’inconstitutionnalité de la loi, et d’interdire au Minnesota de la faire appliquer. « On se retrouvera au tribunal, pervers », a simplement répondu le gouverneur de l’État, Tim Waltz.
Le procureur général du Minnesota, Keith Ellison, a été un peu plus prolixe : « Je sais qu’utiliser l’IA pour générer, contre leur volonté, des images de personnes nues est abject. Les débats légitimes sur la politique à mener en matière d’IA ne manquent pas. Celui-ci n’en fait pas partie. » Il ajoute que la nudification par IA prive les victimes « de leur dignité et peut leur causer un immense préjudice sur les plans émotionnel, personnel et professionnel. »
De ce côté-ci de l’Atlantique, où des réglementations similaires sont à l’étude à Bruxelles, xAI ne s’est pas encore prononcé sur le sujet.
Commentaires (21)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousLe 29 juillet à 16h13
Toutefois, on peut imaginer par exemple un vidéaste qui réalise un court métrage sur le sujet du revenge porn dans lequel il a besoin d'intégrer une photo de nu.
Avec consentement, se servir d'une IA plutôt que de demander à photographier réellement la scène est au final plutôt bénéfique pour la personne concernée, puisque c'est un corps fictif qui sera présenté, préservant son intimité. Un peu comme les faux pénis du cinéma, ou encore les coordinateurs d’intimité qui aident à ce que les scènes simulées reflètent bien un comportement "suivant la vision du rôle et le parti pris du réalisateur" plutôt que de dévoiler les habitudes intimes des acteurs (et toutes les dérives dont on a eu vent depuis des années sur l'excès de zèle dans la recherche du réalisme... 🙄).
Il faudrait peut-être simplement imposer des warnings "J'ai bien noté que je dois disposer du consentement de la personne de la photo..." pour replacer la responsabilité au bon endroit, et éventuellement du watermarking pour bien rappeler que c'est de l'IA et pouvoir trouver la provenance en cas de litige.
Au final, le problème se pose aussi pour les droits d'auteur autour des requêtes "dans le style de tel artiste" et tous les sujets qui peuvent être juridiquement sensibles.
Le 29 juillet à 17h01
"images de personnes réelles artificiellement représentées nues " :
Le 29 juillet à 17h19
En gros, les plans qui sont présentés aux étudiants de cinéma commes les références sont fortements genrés/sexistes dans certains cas. Ils ont été pris dans des films de grands réalisateurs.
Dans les plans connus, on peut évoquer le gros plan sur les talons d'une femme avec un travelling jusqu'à sa tête, une vue en contre-plongée pour voir la femme parler avec son décolleté…
Ce qui est très dérangeant, pour moi, est de trouver des films qui veulent dénoncer la sexualisation de la femme et qui utilisent de gros plans sur les fesses et les seins.
Dans le biopic sur Marylin Monroe par exemple, on aurait pu imaginer uniquement des plans sur sa tête génée quand les autres la mate ou même imaginer des gros plans bien cradent du genre le bon, la brute et le truand sur les mateurs plutôt qu'utiliser des plans qui emmène le spectateur à la reluquer avec le réalisateur.
En conservant ma réflexion et en les appliquant aux cas que tu cites, voici des contres propositions qui ne nécessitent pas de générer des nus :
Je voulais emmener à changer un peu l'angle d'approche.
Même si j'en comprends l'idée générale.
Il y a des chefs d'œuvres qui tournent autour de la nudification.
En peinture, l'Origine du monde est toujours un bon exemple.
Mais il l'a fait après des années de travail et avec un modèle consentant et payé.
A-t-on besoin d'automatiser cela ?
J'ai l'impression que l'IA sans borne est surtout très bonne pour toutes les actions malveillantes : arnaques, manipulations d'opinion, détournement des revenus de pub, revenge porn…
Sans aller à la malveillance pure, c'est trop facile et rapide de produire quelque chose. Il permet aux pulsions de sortir immédiatement sans le délai de production qui permettait à la réflexion de modérer la pulsion.
Donc, si la production n'est pas bridée, comment gérer sainement tous ses abus explicable juste par "j'ai eu envie et ça a été fait immédiatement" ?
Le 29 juillet à 18h25
Typiquement, le film Irréversible (que je n'ai pas vu) me vient en tête. Il intègre une scène où Monica Belluci se fait violer de façon absolument insoutenable, cette scène est là pour choquer le spectateur et le placer dans un état de gêne absolu pour mieux refléter le ressenti de la victime. Et c'est comme ça qu'on me l'a raconté, donc oui, c'est utile parfois d'être cru.
De la même façon, dans mon exemple de revenge porn, OK on peut montrer un bout d'écran qui montre un bout d'épaule, comme le font la plupart des fictions sur ce type de sujet, mais ça va ressembler à 90% des photos d'Instagram et ça va marquer absolument personne. La victime va donner l'impression d'en faire des caisses pour pas grand chose, et le message va pas passer correctement.
Pour les frontaux masculins, oui ça existe. C'est utilisé notamment en comédie, ou encore dans les films historiques (esclavage, guerres...). Je me souviens aussi que Gone Girl avait fait parlé à l'époque, et j'avais lu que le plan large d'un homme nu sous la douche permettait d'appuyer la vulnérabilité du personnage interprété par Ben Affleck, sans aucune intention de sexualiser le personnage.
Indispensable ? Pas forcément. Pertinent ? Plutôt vu l'histoire du film puisque l'intimité du couple est justement une clé de l'histoire. D'ailleurs, je trouve justement aussi intéressant de dé-sexualiser la vision d'un corps avec ce type de scènes.
Bref, pour en revenir au sujet, compliqué de dire que c'est SpaceXAI qui doit fixer la limite entre ce qui est artistique, consenti, légal ou illégal. Un chirurgien qui demande à projeter une reconstruction mammaire, c'est plutôt normal. Une personne qui veut générer des images avec un consentement derrière, c'est acceptable. Un gamin de 13 ans qui charge une photo depuis Instagram, ça l'est moins.
Mais bon, aujourd'hui on demande pas à Windows de détecter si j’installe des outils pour aller sur le dark web ou si j'utilise PowerShell pour hacker des serveurs distants. Il y aussi débat sur la responsabilité des hébergeurs sur les contenus pédopornographiques qu'ils stockent juste parce que "ils surveillent pas ce qu'hébergent les clients"... On est dans la même lignée pour moi.
Le 30 juillet à 11h20
Ça permet d'étoffer les possibilités de la création artistique.
Pour revenir au sujet de l'article, la loi du Minesota vise explicitement les personnes suivantes :
> (a) A person who owns or controls a website,
2.1 (1) allow a user to access, download, or use the website, application, software, program,
2.2 or other service to nudify an image or video; or
2.3 (2) nudify an image or video on behalf of a user.
2.4 (b) No person may advertise or promote any website, application, software, program,
2.5 or other service that performs the actions described in paragraph (a).
En gros, elle ne vise que les personnes qui proposent ou font de la publicité pour déshabiller des personnes dans une image ou une photo.
Il y a une exemption pour les logiciel qui demandent de la technicité.
Pour moi, c'est bien différent d'un hébergeur web.
L'hébergeur a pour objectif de proposer un service d'hébergement.
S'il y a une utilisation illicite qui en est faite, il doit immédiatement retiré le contenu.
Certains hébergeurs ont été fermés car leur objectif est de cacher du contenu illicite (stupéfiants, pédopornographie…).
Ici, ils visent un outil qui permet de nudifier des personnes. L'état estime via cette loi qu'il ne doit pas être possible de déshabiller des personnes sans travail technique (ce qui limite les utilisateurs potentiels).
Comme je l'interprète ici, c'est que Grok peut se faire sanctionner car il met en avant la capacité dénuder les personnes et c'est ce qui a permis de gagner en popularité (comme indiqué en début d'article).
Ce n'est pas le cas de Google, OpenAI, Anthropic ou autres fabricants de LLM car ils ne mettent pas en avant cette fonctionnalité. Ils ont même tendance à inclure des protections
Il reste le sujet des LLMs qui permettent de "tout" faire.
La société au sens large a estimé que ce n'était pas bien d'aider à faire des bombes ou de tuer d'autres personnes. Ce sont les choses qui paraissent de bon sens et universel.
Là on s'attaque à quelque chose de moins consensuel.
Est-ce qu'un outil peut aider à harceler les personnes sans connaissances techniques ? Est-ce qu'un outil peut permettre de spammer les personnes (faux mails, appels vocaux…) ? Est-ce qu'un outil peut permettre de tuer automatiquement des personnes ? Pouvons-nous autoriser un outil de génération de texte à fonctionner à condition d'avoir 24 centrales à gaz ? etc…
Je mets sciemment des exemples qui sont en discussion actuellement.
Les technologies sont rarement neutres et l'IA en particulier. D'autant plus que les utilisations principales sont des utilisations malveillantes car elle n'est pas fiable.
Ce n'est pas grave qu'une campagne de hameçonnage envoie 10% de mails pourris. 90 % de réussite est génial !
Par contre 10% de louper pour des décisions administratives, d'assurances, de prêts… c'est catastrophique.
Cela nécessite un choix de société qui va ainsi changer les choix techniques.
Cela pourrait arrêter les LLM pour privilégier des IA plus petites avec des utilisations ciblées et une finalité maîtrisable.
J'espère avoir réussi à montrer que les outils de base peuvent être refusés dans un choix de société pour un état (pourquoi tout uniformiser ?) et que les LLM sont vraiment très particulier même au sein de la catégorie "outils".
Le 29 juillet à 17h09
Le 29 juillet à 18h29
Par contre, cet usage a été beaucoup relayé et dénoncé dans les médias, oui.
Le 29 juillet à 18h39
Le 29 juillet à 19h17
Le 29 juillet à 20h50
65% des images générées par Grok étaient des images réalistes sexualisées, sur une période de 11 jours qui a suivi le lancement de la fonctionnalité; soit environ 3 millions, 190 par minute. Et 23000 représentant des enfants.
Et ça correspond effectivement a une priorité de Musk dans le développement de Grok et sa promotion:
https://www.washingtonpost.com/technology/2026/02/02/elon-musk-grok-porn-generator/
Le 29 juillet à 18h40
Rien que ça.
Le 30 juillet à 12h38
Le 1er août à 12h03
Ça ose tout : c'est à ça qu'on les reconnaît.
Modifié le 3 août à 18h56
Le 29 juillet à 20h23
C'est une erreur de s'attaquer aux outils et pas aux utilisateurs. C'est le résultat qui compte, pas le moyen.
J'ai l'impression que l'on a oublié les ravages de l'abus de Photoshop qui montraient des jeunes fille trop minces (amincies) comme un modèle à suivre et c'était au moins aussi destructeur.
Le 30 juillet à 12h44
Car implicitement cela valide le fait de faire des photomontages ...(oui je fais exprès d'aller un peu loin mais c'est aussi une des conclusions que certains pourraient faire).
Un peu comme :" Votre honneur", oui j'ai fais un "nude" avec ça tête dessus mais je n'ai pas utilisé d'IA...".
[Hors sujet : Ca me fais penser au film "Une créature de rêve (weird Science), nos deux lycéens pour le coup aurait leur PC saisi et les maison de leur parents hypothéquées.
Le 30 juillet à 15h38
Le 30 juillet à 16h11
Mais la série, bien qu'un peu burlesque, avait quand même l'intelligence d'apporter un peu de subtilité sur ce point. J'ai souvenir qu'elle était loin d'être stupide et qu'elle autorisait pas n'importe quoi non plus, c'était justement l'un des ressorts comiques entre les attentes initiales des 2 rédacteurs du prompt et le résultat généré par le modèle (au sens IA et au sens physique du terme).
Le 30 juillet à 15h47
Cela dit, vu qu'il me semble que Photoshop intègre de l'IA générative depuis... à voir.
Mais je rejoins Fred : c'est pas l'outil qu'il faut viser, mais le résultat. Parce que si je colle la photo d'une personne non consentante sur le corps d'un modèle de Playboy/Playgirl (avec du magazine papier, des ciseaux, de la colle, de la techno XXème siècle en gros), ben y'a quand même une intention derrière qui devrait être répréhensible, à mon sens.
Modifié le 3 août à 16h20
Ce sera intéressant de suivre dans le temps le déroulement de cette affaire.
Modifié le 3 août à 19h15
Basique
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?