Connexion Premium

[MàJ] SpaceXAI veut faire annuler la loi du Minnesota contre la « nudification »

Protégeons la liberté d'expression de Grok !

[MàJ] SpaceXAI veut faire annuler la loi du Minnesota contre la « nudification »

SpaceXAI part en croisade contre une loi du Minnesota interdisant les technologies de « nudification », qui permettent de générer des deepfakes dénudés de personnes réelles. L’entreprise est la première concernée, puisque son chatbot Grok est massivement utilisé pour créer ces images.

Mise à jour 3/08 – Le juge en charge de la plainte a rejeté la demande de SpaceXAI. L’entreprise d’Elon Musk voulait le report de la loi du Minnesota bannissant la génération de deepfakes dénudés. Celle-ci a été mise en œuvre le 1er août, alors que la plainte remontait au… 29 juillet. « Un tel délai pour engager l’action et déposer cette requête laisse penser que le préjudice n’est pas imminent », a estimé le juge.

Mais si la loi est en application depuis ce week-end, cela ne signifie pas pour autant que la plainte est éteinte. La procédure se poursuit en effet, avec une audience programmée le 19 août pour décider si la législation doit être suspendue provisoirement ou pas.

Article original, 29/07 – En début d’année, Grok était sous le feu des critiques : le chatbot de xAI (renommé SpaceXAI depuis) permettait très facilement de générer des deepfakes dénudés de personnes réelles (des femmes dans leur vaste majorité), sans leur consentement. Le tout avec le soutien actif d’Elon Musk, trop heureux de voir grimper la popularité de son bot IA.

Depuis, plusieurs enquêtes ont été lancées, en France, à la Commission européenne et à la Commission de protection des données irlandaises, qui a la responsabilité de faire appliquer le RGPD à X (anciennement Twitter).

D’autres juridictions sont allées plus loin, à l’image de l’État américain du Minnesota où une loi interdisant les technologies de nudification entrera en vigueur le 1er août (PDF). Les propriétaires ou exploitants de sites, d’applications et de logiciels ne peuvent plus permettre à leurs utilisateurs d’accéder à une telle fonction, de la télécharger ou de l’utiliser. Ils ne peuvent pas non plus produire eux-mêmes ces images pour le compte de leurs utilisateurs.

Le droit de Grok de générer des images dénudées

Le texte prévoit toutefois une exception pour les logiciels de retouche d’images qui nécessitent de l’utilisateur une compétence technique substantielle (à l’image de Photoshop) : ces outils restent heureusement licites. Les opérateurs des services de nudification pourront être poursuivis par les victimes, avec à la clé d’importantes sanctions possibles : jusqu’à trois fois le montant des dommages réellement subis, notamment pour la souffrance psychologique, ainsi que des dommages punitifs.

Quant à la sanction civile, elle peut atteindre 500 000 dollars pour chaque accès, téléchargement ou utilisation illégale. Ces amendes financeront des organismes qui viennent en aide aux victimes de violences sexuelles. Cette loi est la première du genre aux États-Unis.

SpaceXAI s’oppose à cette législation, comme le rapporte CBS News. L’entreprise affirme qu’elle « ne remet pas en cause l’intérêt du Minnesota à interdire la diffusion, sans leur consentement, d’images de personnes réelles artificiellement représentées nues », mais elle se positionne sur le terrain de la « liberté d’expression ». La loi irait « bien au-delà de [l’] objectif » de lutter contre la nudification et exposerait de nombreuses « formes d’expression protégées à des poursuites civiles et à des sanctions gouvernementales ».

L’entreprise estime que la loi rend le fournisseur d’IA automatiquement responsable, qu’il interdise ou pas aux utilisateurs de se servir de l’outil pour générer des deepfakes dénudés. Elle pourrait aussi être tenue responsable même lorsque les personnes ont consenti à la création de l’image ou quand celle-ci présente une « valeur artistique, scientifique, politique, satirique, éducative, médicale ou religieuse ». Ce qui est une interprétation très large : une image de nu peut en effet entrer dans une de ces catégories, annulant complètement la portée des lois contre ces technologies.

La plainte déposée par SpaceXAI affirme aussi que la définition d’une partie intime retenue par la loi interdit la représentation d’hommes torse nu, de personnes en short ou en maillot de bain, ainsi que d’autres images allant « au-delà de ce qu’une personne ordinaire considérerait comme de la “nudification” ». Enfin et surtout, l’entreprise d’Elon Musk estime que la génération d’images et de vidéos à l’aide de son IA est une activité protégée par la Constitution américaine en vertu du Premier amendement sur la liberté d’expression.

Au bout du compte, SpaceXAI demande au tribunal de déclarer l’inconstitutionnalité de la loi, et d’interdire au Minnesota de la faire appliquer. « On se retrouvera au tribunal, pervers », a simplement répondu le gouverneur de l’État, Tim Waltz.

Le procureur général du Minnesota, Keith Ellison, a été un peu plus prolixe : « Je sais qu’utiliser l’IA pour générer, contre leur volonté, des images de personnes nues est abject. Les débats légitimes sur la politique à mener en matière d’IA ne manquent pas. Celui-ci n’en fait pas partie. » Il ajoute que la nudification par IA prive les victimes « de leur dignité et peut leur causer un immense préjudice sur les plans émotionnel, personnel et professionnel. »

De ce côté-ci de l’Atlantique, où des réglementations similaires sont à l’étude à Bruxelles, xAI ne s’est pas encore prononcé sur le sujet.

Commentaires (21)

votre avatar
Sujet complexe, effectivement c'est assez délicat de déporter cette responsabilité vers les éditeurs d'IA, mais en même temps il n'y a qu'eux qui peuvent vraiment agir.

Toutefois, on peut imaginer par exemple un vidéaste qui réalise un court métrage sur le sujet du revenge porn dans lequel il a besoin d'intégrer une photo de nu.
Avec consentement, se servir d'une IA plutôt que de demander à photographier réellement la scène est au final plutôt bénéfique pour la personne concernée, puisque c'est un corps fictif qui sera présenté, préservant son intimité. Un peu comme les faux pénis du cinéma, ou encore les coordinateurs d’intimité qui aident à ce que les scènes simulées reflètent bien un comportement "suivant la vision du rôle et le parti pris du réalisateur" plutôt que de dévoiler les habitudes intimes des acteurs (et toutes les dérives dont on a eu vent depuis des années sur l'excès de zèle dans la recherche du réalisme... 🙄).

Il faudrait peut-être simplement imposer des warnings "J'ai bien noté que je dois disposer du consentement de la personne de la photo..." pour replacer la responsabilité au bon endroit, et éventuellement du watermarking pour bien rappeler que c'est de l'IA et pouvoir trouver la provenance en cas de litige.

Au final, le problème se pose aussi pour les droits d'auteur autour des requêtes "dans le style de tel artiste" et tous les sujets qui peuvent être juridiquement sensibles.
votre avatar
Oui sujet complexe

"images de personnes réelles artificiellement représentées nues " :
>> qu est ce que ca veut dire nue ? SI pour m amuser je prends une photo d un pote et que je lui met un gros cul en string pour se marrer ça passe ?
>> qu en est il de la caricature ?
votre avatar
J'étais tombé sur une table de discussion au sujet du sexisme dans le cinéma.

En gros, les plans qui sont présentés aux étudiants de cinéma commes les références sont fortements genrés/sexistes dans certains cas. Ils ont été pris dans des films de grands réalisateurs.
Dans les plans connus, on peut évoquer le gros plan sur les talons d'une femme avec un travelling jusqu'à sa tête, une vue en contre-plongée pour voir la femme parler avec son décolleté…

Ce qui est très dérangeant, pour moi, est de trouver des films qui veulent dénoncer la sexualisation de la femme et qui utilisent de gros plans sur les fesses et les seins.
Dans le biopic sur Marylin Monroe par exemple, on aurait pu imaginer uniquement des plans sur sa tête génée quand les autres la mate ou même imaginer des gros plans bien cradent du genre le bon, la brute et le truand sur les mateurs plutôt qu'utiliser des plans qui emmène le spectateur à la reluquer avec le réalisateur.

En conservant ma réflexion et en les appliquant aux cas que tu cites, voici des contres propositions qui ne nécessitent pas de générer des nus :

  • court métrage sur le sujet du revenge porn : montrer la victime dévastée. Si c'est trop dur, j'ai déjà vu des reportages utilisés des acteurs pour remplacer la victime en gardant une partie visuelle. A-t-on besoin de revoir la scène de sexe ?

  • faux pénis du cinéma… Il y a vraiment de faire des plans d'un pénis en dehors des pornos ? Même pour l'érotisme on ne doit pas en voir

  • les scènes d'intimité : a-t-on vraiment besoin de voir du sexe si le propos ne s’y prête pas ? Il est possible de l'évoquer avec quelques caresses et une ellipse que de le montrer systématiquement. De plus, je pense toujours à la volonté des acteurs. Certains disent après qu'ils n'étaient pas consentant ou "juste" très mal à l'aise à faire de telles scènes. En allant à l'extrème, il y a le film "la vie d'Adèle" avec un réalisateur qui a tellement cherché le "vrai" que les deux actrices ont eu du mal à s'en remettre.




Je voulais emmener à changer un peu l'angle d'approche.
Même si j'en comprends l'idée générale.
Il y a des chefs d'œuvres qui tournent autour de la nudification.
En peinture, l'Origine du monde est toujours un bon exemple.
Mais il l'a fait après des années de travail et avec un modèle consentant et payé.
A-t-on besoin d'automatiser cela ?
J'ai l'impression que l'IA sans borne est surtout très bonne pour toutes les actions malveillantes : arnaques, manipulations d'opinion, détournement des revenus de pub, revenge porn…
Sans aller à la malveillance pure, c'est trop facile et rapide de produire quelque chose. Il permet aux pulsions de sortir immédiatement sans le délai de production qui permettait à la réflexion de modérer la pulsion.
Donc, si la production n'est pas bridée, comment gérer sainement tous ses abus explicable juste par "j'ai eu envie et ça a été fait immédiatement" ?
votre avatar
Moi ce qui me gène, c'est que l'outil impose l'art justement. Je suis d'accord avec toi, il y a des moyens de "montrer sans montrer" et édulcorer, mais la subtilité d'une scène, ça peut aussi casser l'intention artistique.

Typiquement, le film Irréversible (que je n'ai pas vu) me vient en tête. Il intègre une scène où Monica Belluci se fait violer de façon absolument insoutenable, cette scène est là pour choquer le spectateur et le placer dans un état de gêne absolu pour mieux refléter le ressenti de la victime. Et c'est comme ça qu'on me l'a raconté, donc oui, c'est utile parfois d'être cru.

De la même façon, dans mon exemple de revenge porn, OK on peut montrer un bout d'écran qui montre un bout d'épaule, comme le font la plupart des fictions sur ce type de sujet, mais ça va ressembler à 90% des photos d'Instagram et ça va marquer absolument personne. La victime va donner l'impression d'en faire des caisses pour pas grand chose, et le message va pas passer correctement.

Pour les frontaux masculins, oui ça existe. C'est utilisé notamment en comédie, ou encore dans les films historiques (esclavage, guerres...). Je me souviens aussi que Gone Girl avait fait parlé à l'époque, et j'avais lu que le plan large d'un homme nu sous la douche permettait d'appuyer la vulnérabilité du personnage interprété par Ben Affleck, sans aucune intention de sexualiser le personnage.
Indispensable ? Pas forcément. Pertinent ? Plutôt vu l'histoire du film puisque l'intimité du couple est justement une clé de l'histoire. D'ailleurs, je trouve justement aussi intéressant de dé-sexualiser la vision d'un corps avec ce type de scènes.

Bref, pour en revenir au sujet, compliqué de dire que c'est SpaceXAI qui doit fixer la limite entre ce qui est artistique, consenti, légal ou illégal. Un chirurgien qui demande à projeter une reconstruction mammaire, c'est plutôt normal. Une personne qui veut générer des images avec un consentement derrière, c'est acceptable. Un gamin de 13 ans qui charge une photo depuis Instagram, ça l'est moins.

Mais bon, aujourd'hui on demande pas à Windows de détecter si j’installe des outils pour aller sur le dark web ou si j'utilise PowerShell pour hacker des serveurs distants. Il y aussi débat sur la responsabilité des hébergeurs sur les contenus pédopornographiques qu'ils stockent juste parce que "ils surveillent pas ce qu'hébergent les clients"... On est dans la même lignée pour moi.
votre avatar
Merci pour ton retour au niveau des références de film.
Ça permet d'étoffer les possibilités de la création artistique.


Pour revenir au sujet de l'article, la loi du Minesota vise explicitement les personnes suivantes :
> (a) A person who owns or controls a website,
2.1 (1) allow a user to access, download, or use the website, application, software, program,
2.2 or other service to nudify an image or video; or
2.3 (2) nudify an image or video on behalf of a user.
2.4 (b) No person may advertise or promote any website, application, software, program,
2.5 or other service that performs the actions described in paragraph (a).

En gros, elle ne vise que les personnes qui proposent ou font de la publicité pour déshabiller des personnes dans une image ou une photo.
Il y a une exemption pour les logiciel qui demandent de la technicité.

Pour moi, c'est bien différent d'un hébergeur web.
L'hébergeur a pour objectif de proposer un service d'hébergement.
S'il y a une utilisation illicite qui en est faite, il doit immédiatement retiré le contenu.
Certains hébergeurs ont été fermés car leur objectif est de cacher du contenu illicite (stupéfiants, pédopornographie…).
Ici, ils visent un outil qui permet de nudifier des personnes. L'état estime via cette loi qu'il ne doit pas être possible de déshabiller des personnes sans travail technique (ce qui limite les utilisateurs potentiels).

Comme je l'interprète ici, c'est que Grok peut se faire sanctionner car il met en avant la capacité dénuder les personnes et c'est ce qui a permis de gagner en popularité (comme indiqué en début d'article).
Ce n'est pas le cas de Google, OpenAI, Anthropic ou autres fabricants de LLM car ils ne mettent pas en avant cette fonctionnalité. Ils ont même tendance à inclure des protections


Il reste le sujet des LLMs qui permettent de "tout" faire.
La société au sens large a estimé que ce n'était pas bien d'aider à faire des bombes ou de tuer d'autres personnes. Ce sont les choses qui paraissent de bon sens et universel.
Là on s'attaque à quelque chose de moins consensuel.
Est-ce qu'un outil peut aider à harceler les personnes sans connaissances techniques ? Est-ce qu'un outil peut permettre de spammer les personnes (faux mails, appels vocaux…) ? Est-ce qu'un outil peut permettre de tuer automatiquement des personnes ? Pouvons-nous autoriser un outil de génération de texte à fonctionner à condition d'avoir 24 centrales à gaz ? etc…


Je mets sciemment des exemples qui sont en discussion actuellement.
Les technologies sont rarement neutres et l'IA en particulier. D'autant plus que les utilisations principales sont des utilisations malveillantes car elle n'est pas fiable.
Ce n'est pas grave qu'une campagne de hameçonnage envoie 10% de mails pourris. 90 % de réussite est génial !
Par contre 10% de louper pour des décisions administratives, d'assurances, de prêts… c'est catastrophique.
Cela nécessite un choix de société qui va ainsi changer les choix techniques.
Cela pourrait arrêter les LLM pour privilégier des IA plus petites avec des utilisations ciblées et une finalité maîtrisable.

J'espère avoir réussi à montrer que les outils de base peuvent être refusés dans un choix de société pour un état (pourquoi tout uniformiser ?) et que les LLM sont vraiment très particulier même au sein de la catégorie "outils".
votre avatar
Et comment sont perçues les personnes crées totalement par l'IA sans reposer sur une personne réelle ?
votre avatar
L’entreprise est la première concernée, puisque son chatbot Grok est massivement utilisé pour créer ces images.
J'avoue être toujours un peu chagriné quand on utilise ces termes sans les définir ou les sourcer.

Par contre, cet usage a été beaucoup relayé et dénoncé dans les médias, oui.
votre avatar
La différence avec Grok, c'est qu’il partageait publiquement des résultats, d’où le projecteur médiatique.
votre avatar
Ce qui fait une mise en avant massive de l'usage, pas forcément un usage massif.
votre avatar
Le CCDH, centre conte la haine en ligne, a fait une estimation: https://counterhate.com/research/grok-floods-x-with-sexualized-images/

65% des images générées par Grok étaient des images réalistes sexualisées, sur une période de 11 jours qui a suivi le lancement de la fonctionnalité; soit environ 3 millions, 190 par minute. Et 23000 représentant des enfants.
Based on a sample, CCDH estimates that Grok generated around 3,000,000 photorealistic sexualized images in the 11-day period, which reflects an estimated average pace of 190 per minute
Et ça correspond effectivement a une priorité de Musk dans le développement de Grok et sa promotion:
https://www.washingtonpost.com/technology/2026/02/02/elon-musk-grok-porn-generator/
votre avatar
"Enfin et surtout, l’entreprise d’Elon Musk estime que la génération d’images et de vidéos à l’aide de son IA est une activité protégée par la Constitution américaine en vertu du Premier amendement sur la liberté d’expression."

Rien que ça.
votre avatar
Même le diable peut dire la vérité...
votre avatar
Quel rapport entre une expression d'intellect et la génération d'images d'autrui nues ?

Ça ose tout : c'est à ça qu'on les reconnaît.
votre avatar
Oui, les agents IA sont des produits industriels, pas des personnes, même si ces automatismes exploitent et standardisent des connaissances et des savoirs humains. Les droits humains s'appliquent aux humains, pas à une industrie.
votre avatar
Le texte prévoit toutefois une exception pour les logiciels de retouche d’images qui nécessitent de l’utilisateur une compétence technique substantielle (à l’image de Photoshop) : ces outils restent heureusement licites.
Et pourquoi ceux-là devraient être licites si le résultat est le même : une personne non consentante dénudée ?

C'est une erreur de s'attaquer aux outils et pas aux utilisateurs. C'est le résultat qui compte, pas le moyen.

J'ai l'impression que l'on a oublié les ravages de l'abus de Photoshop qui montraient des jeunes fille trop minces (amincies) comme un modèle à suivre et c'était au moins aussi destructeur.
votre avatar
Je me faisais la même réflexion.

Car implicitement cela valide le fait de faire des photomontages ...(oui je fais exprès d'aller un peu loin mais c'est aussi une des conclusions que certains pourraient faire).


Un peu comme :" Votre honneur", oui j'ai fais un "nude" avec ça tête dessus mais je n'ai pas utilisé d'IA...".



[Hors sujet : Ca me fais penser au film "Une créature de rêve (weird Science), nos deux lycéens pour le coup aurait leur PC saisi et les maison de leur parents hypothéquées.
votre avatar
[Hors sujet : Ca me fais penser au film "Une créature de rêve (weird Science), nos deux lycéens pour le coup aurait leur PC saisi et les maison de leur parents hypothéquées.
De mémoire, les lycéens fabriquent une femme à partir d'une poupée Barbie et d'un logiciel de modélisation 3D, non ?
votre avatar
J'imagine que le scénario est similaire à la série du même nom des années 1990, donc oui.
Mais la série, bien qu'un peu burlesque, avait quand même l'intelligence d'apporter un peu de subtilité sur ce point. J'ai souvenir qu'elle était loin d'être stupide et qu'elle autorisait pas n'importe quoi non plus, c'était justement l'un des ressorts comiques entre les attentes initiales des 2 rédacteurs du prompt et le résultat généré par le modèle (au sens IA et au sens physique du terme).
votre avatar
Car implicitement cela valide le fait de faire des photomontages ...(oui je fais exprès d'aller un peu loin mais c'est aussi une des conclusions que certains pourraient faire).
Ben, c'est dit dans l'article :
Le texte prévoit toutefois une exception pour les logiciels de retouche d’images qui nécessitent de l’utilisateur une compétence technique substantielle (à l’image de Photoshop) : ces outils restent heureusement licites.
Cela dit, vu qu'il me semble que Photoshop intègre de l'IA générative depuis... à voir.

Mais je rejoins Fred : c'est pas l'outil qu'il faut viser, mais le résultat. Parce que si je colle la photo d'une personne non consentante sur le corps d'un modèle de Playboy/Playgirl (avec du magazine papier, des ciseaux, de la colle, de la techno XXème siècle en gros), ben y'a quand même une intention derrière qui devrait être répréhensible, à mon sens.
votre avatar
La volonté de Musk & Co laisse peu de doute mais leur ligne de défense de leurs intérêts est dans l´ensemble plutôt solide je trouve (à part le coup de la liberté d´expression, utilisé de manière pavlovienne).

Ce sera intéressant de suivre dans le temps le déroulement de cette affaire.
votre avatar
Une automatisation de la nudification souvent abusive (deepfake) entraine sa prohibition automatique.
Basique