Connexion Premium

Deepfakes sur Grok : l’autorité de protection des données irlandaise ouvre une enquête

Next, can you clarify this shit show ?

Deepfakes sur Grok : l’autorité de protection des données irlandaise ouvre une enquête

Illustrée par une vague de deepfakes visant à dénuder des femmes sur X, la permissivité de l’IA générative Grok en matière de détournements de photos soumises par des internautes n’en finit plus de faire des vagues, en France comme dans le reste du monde. Récap’ au long cours d’une ténébreuse affaire…

Le 17 février à 10h35

« Grok, mets-la en bikini ». Déjà étendue aux propos négationnistes tenus par Grok, l’enquête sur X lancée par le parquet de Paris à l’été 2025 a gagné début janvier un nouveau volet, relatif à la vague d’images de femmes virtuellement dénudées sans leur consentement. Depuis, les réactions et les menaces de rétorsion s’enchaînent, en Europe comme dans le reste du monde, compliquant la compréhension de la controverse qui enfle.

Pour essayer d’en simplifier le suivi, Next se propose de centraliser les différents rebondissements de l’affaire au sein de cet article, avec une lecture antéchronologique des faits. Cet article est donc susceptible d’être actualisé.

Publication initiale le 9 janvier à 12 heures. Dernière modification le 17 février à 10h25

17 février – La Commission de protection des données irlandaise ouvre une enquête contre X

La Data Protection Commission (DPC), équivalente à la CNIL en Irlande, a annoncé ce mardi 17 février avoir ouvert une enquête contre le réseau social d’Elon Musk. Le régulateur irlandais a la responsabilité de faire appliquer le RGPD à X qui a, comme beaucoup d’autres entreprises étatsuniennes, son siège social en Irlande.

L’enquête prend l’angle du RGPD pour investiguer sur la génération de deepfakes visant à dénuder des femmes et des enfants sur X. La Commission irlandaise ne veut pas encore affirmer que cette génération a été rendue possible sur X par Grok.

Elle explique que son enquête « porte sur l’apparente création et publication sur la plateforme X d’images potentiellement préjudiciables, intimes et/ou à caractère sexuel non consensuelles, contenant ou impliquant le traitement de données à caractère personnel de personnes concernées de l’UE/EEE, y compris des enfants, à l’aide d’une fonctionnalité d’intelligence artificielle générative associée au modèle de langage Grok au sein de la plateforme X ».

« La DPC collabore avec X depuis que les médias ont commencé à faire état, il y a plusieurs semaines, de la capacité présumée des utilisateurs de X à demander au compte @Grok sur X de générer des images à caractère sexuel de personnes réelles, y compris des enfants », affirme dans le communiqué le commissaire adjoint Graham Doyle. « En tant qu’autorité de contrôle principale pour X dans l’UE/EEE, la DPC a lancé une enquête à grande échelle qui examinera le respect par X de certaines de ses obligations fondamentales au titre du RGPD en rapport avec les questions en cause ».

3 février – Les locaux français de X perquisitionnés dans le cadre de l’enquête du parquet de Paris

Dans ce qu’il présente comme son dernier message sur son compte X, le Parquet de Paris a annoncé diligenter une perquisition dans les locaux français de X. Elle est confiée à sa section de lutte contre la cybercriminalité en coordination avec l’Unité Nationale Cyber de la Gendarmerie et Europol, dans le cadre de son enquête ouverte en janvier 2025 contre X à l’origine pour ingérence étrangère. Celle-ci avait étendu une première fois après des propos négationnistes générés par Grok et une seconde fois après la vague massive de deepfakes.

Le Parquet en profite pour ajouter qu’il quitte X et propose de retrouver sa communication sur LinkedIn et Instagram. « Parallèlement, des convocations aux fins d’auditions libres le 20 avril 2026 à Paris ont été envoyées à Monsieur Elon MUSK et à Madame Linda YACARINO, en leur qualité de gérant de fait et de droit de la plateforme X au moment des faits. La conduite de cette enquête s’inscrit à ce stade dans une démarche constructive, dans l’objectif de garantir in fine la conformité de la plateforme X aux lois françaises, dans la mesure où elle opère sur le territoire national », explique-t-il sur son profil LinkedIn.

L’avocat Alexandre Archambault remarque que les locaux perquisitionnés sont ceux de la filiale française qui n’est pas le responsable de traitement.

26 janvier – La Commission européenne lance une enquête sur les systèmes de recommandation de Grok et X

Suite à cette vague de génération de deepfakes générés par Grok visant à dénuder des femmes sur X au cours de laquelle Grok aurait créé plus de 3 millions de deepfakes en 11 jours, la Commission européenne vient de lancer formellement une enquête sur de possibles violations du DSA par le réseau social d’Elon Musk.

L’institution veut vérifier, explique-t-elle, si l’entreprise « a correctement évalué et atténué les risques associés au déploiement des fonctionnalités de Grok dans X dans l’UE ».

« Cela inclut les risques liés à la diffusion de contenus illicites dans l’UE, tels que les images sexuellement explicites manipulées, y compris les contenus susceptibles de constituer du matériel pédopornographique », ajoute-t-elle. Elle estime que ces risques « semblent s’être matérialisés, exposant les citoyens de l’UE à de graves préjudices ».

En plus de l’ouverture de cette enquête, la Commission prolonge son enquête déjà ouverte sur l’entreprise d’Elon Musk en 2023, qui concernait déjà de potentielles violations du DSA concernant la lutte contre la désinformation et les contenus illicites et sur l’efficacité des mesures de modération adoptées.

La Commission rappelle qu’en tant que « très grande plateforme en ligne », X a l’obligation d’évaluer et d’atténuer tout risque systémique potentiel lié à ses services dans l’UE.

Lors de la conférence de presse organisée par la Commission, son porte-parole, Thomas Reigner, a été plus loin que des suspicion en affirmant : « Nous avons constaté la présence de contenus antisémites, de deepfakes non consensuels de femmes et de matériel pédopornographique. En Europe, aucune entreprise ne gagnera d’argent en violant nos droits fondamentaux ».

« Les deepfakes sexuels sur les femmes et les enfants sont une forme de dégradation violente et inacceptable. Avec cette enquête, nous déterminerons si X a rempli ses obligations légales en vertu du DSA, ou si elle a traité les droits des citoyens européens – y compris ceux des femmes et des enfants – comme des dommages collatéraux de son service », estime Henna Virkkunen, vice-présidente exécutive de la Commission, chargée de la souveraineté technologique, de la sécurité et de la démocratie.

20 janvier – Plus de 50 députés européens réclament un réseau social à la Commission

Menés par les députées Alexandra Geese (Les Verts) et Veronika Cifrová Ostrihoňová (Renew), 54 députés européens de différents bords politiques ont envoyé une lettre ouverte à la Commission européenne pour lui demander la construction de son propre « réseau social européen », rapporte die Zeit. Adressée à la présidente de la Commission Ursula von der Leyen, la missive demande que l’institution « investisse dans des initiatives européennes privées qui soutiennent les innovations locales dans le secteur des médias sociaux », qu’elle « permette le développement de plateformes alternatives orientées utilisateurs et détenues par des intérêts européens », et enfin qu’elle « garantisse aux utilisateurs des droits de portabilité solides, que ce soit pour leurs contributions, leurs connexions ou leurs interactions ».

Les représentants politiques regrettent que des millions de citoyens européens restent « liés à X, car il n’existe aucune alternative claire et aucun moyen simple pour eux de transférer leurs données et les connexions qu’ils y ont établies ». En France, citons néanmoins le projet de recherche et l’outil affilié Open Portability, qui facilite le passage de X à Bluesky et Mastodon. Les députés européens demandent par ailleurs à la Commission de poursuivre et sanctionner les éventuelles infractions commises par X, et demandent à la Commission comme aux gouvernements nationaux de quitter la plateforme.

15 janvier – X et Grok annoncent limiter les possibilités de deepfakes à caractère sexuel

X, xAI et Elon Musk auraient-ils décidé de mettre fin à la polémique ? Mercredi soir, le compte dédié à la politique de sécurité et de modération de X a annoncé la mise à jour des modalités d’utilisation de Grok. Il promet l’implémentation de mesures techniques visant à empêcher l’édition de photos de personnes réelles en vue de les dénuder. « Cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants ».

Le compte @Safety annonce également le blocage des requêtes visant à générer des visuels de personnes réelles en maillot de bain, sous-vêtement ou autres « dans les juridictions où c’est illégal ». Il indique enfin que la création et l’édition d’images via le compte Grok sur X sont désormais réservées aux comptes payants.

Qu’en est-il en réalité ? Jeudi matin, nous avons procédé à une recherche d’image à partir d’un compte X non premium, localisé un tweet affichant la photo d’une femme, et avons utilisé le bouton suggéré d’édition d’image pour demander à retirer ses vêtements. Après trois secondes de calcul, X nous a retourné la photo transformée, prête à publier…

Jeudi 15 janvier matin, un compte gratuit X basé en France peut sans difficulté dénuder une personne réelle à partir d’une photo habillée sur X via Grok

En attendant de savoir si les modifications promises par xAI sont réellement mises en place, Elon Musk s’est de son côté agacé de la controverse, en affirmant que son IA générative était programmée pour refuser la génération de contenus illégaux. « Grok ne génère évidemment pas d’images spontanément, il ne le fait qu’en fonction des demandes des utilisateurs ».

13 janvier – L’association Point de Contact propose de rassembler les signalements de cyberviolence utilisant Grok et de les transmettre au Parquet

L’association Point de Contact, qui a pour mission depuis 1998 « de protéger les internautes des dérives liées à l’évolution et au développement d’Internet », propose aux victimes de deepfakes sexuels réalistes générés à partir de simples photos sur Grok de lui signaler cette cyberviolence. « Dans le cadre de sa collaboration avec les autorités judiciaires, notre association transmettra ces contenus à la section cyber du Parquet de Paris », explique l’association.

De son côté, la Haut-commissaire à l’Enfance, Sarah El Haïry, a réagi ce 13 janvier dans une interview au Parisien en affirmant avoir « saisi la commissaire européenne à la souveraineté numérique parce que ça tombe sur le coup du Digital Services Act (DSA) et le règlement sur les marchés numériques DMA, que ce soit dans le cas de Crans-Montana mais aussi sur le fait de dénuder des enfants et de faire des images pédocriminelles ». « On a l’impression que c’est tellement puissant qu’on ne peut pas l’interdire, c’est faux. Une IA qui déshabille des enfants n’a rien d’un jeu : c’est hors la loi », ajoute-t-elle.

En parallèle, le secrétaire américain de la Défense, Pete Hegseth, a réaffirmé l’intégration de Grok xAI dans la « Stratégie d’accélération de l’IA » dans son département de la Guerre qui avait été annoncée fin décembre.

12 janvier – Le régulateur britannique lance une enquête sur l’utilisation de X et Grok pour générer des images de personnes dénudées et des images sexualisées d’enfants

L’Ofcom, le régulateur britannique, a annoncé ce lundi 12 janvier lancer une enquête contre le réseau social X à propos de la « diffusion d’images à caractère sexuel sur Grok ». Il explique réagir après de nombreux signalements d’utilisation de Grok sur X pour « créer et partager des images de personnes dénudées – ce qui peut constituer un abus d’images intimes ou de la pornographie – et des images sexualisées d’enfants qui peuvent constituer du matériel pédopornographique (CSAM) ».

Le régulateur affirme avoir contacté X dès le lundi 5 janvier en lui posant le vendredi 9 janvier comme date limite de réponse, que l’entreprise a respectée. L’Ofcom explique avoir « procédé à une évaluation accélérée des preuves disponibles en urgence » et lance maintenant une enquête plus approfondie pour déterminer si X « a manqué à ses obligations légales en vertu de la loi sur la sécurité en ligne, notamment :

  • évaluer le risque que des personnes au Royaume-Uni voient des contenus illégaux au Royaume-Uni et procéder à une évaluation actualisée des risques avant d’apporter des modifications importantes à son service ;
  • prendre les mesures appropriées pour empêcher les personnes au Royaume-Uni de voir des contenus illégaux « prioritaires », notamment des images intimes non consenties et du matériel pédopornographique ;
  • supprimer rapidement les contenus illégaux dès qu’ils en ont connaissance ;
  • veiller à protéger les utilisateurs contre toute violation des lois sur la protection de la vie privée ;
  • évaluer le risque que leur service fait courir aux enfants britanniques et procéder à une évaluation actualisée des risques avant d’apporter des modifications importantes à son service ; et
  • utiliser des moyens très efficaces de vérification de l’âge afin d’empêcher les enfants britanniques de voir des contenus pornographiques ».

L’Ofcom rappelle qu’il peut infliger des amendes d’un montant de 18 millions de livres (20,7 millions d’euros) ou 10 % du chiffre d’affaires mondial éligible. « Dans les cas les plus graves de non-conformité persistante », il peut demander à un tribunal d’émettre une ordonnance imposant le retrait des prestataires de services de paiement ou des annonceurs ou même le blocage de l’accès au site au Royaume-Uni.

11 janvier – l’Indonésie et la Malaisie décident de bloquer l’accès à Grok

À quelques heures d’intervalle, l’Indonésie (samedi) puis la Malaisie (dimanche) ont annoncé ce week-end leur décision de suspendre l’accès à Grok, une première à l’échelle internationale. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique », a justifié dans un communiqué Meutya Hafid, la ministre indonésienne en charge du numérique et des communications. Contacté par l’agence Reuters pour une réaction, xAI s’est contenté d’un mail de réponse automatisé : « les médias traditionnels mentent ».

La Malaisie a de son côté affirmé dans un communiqué qu’elle suspendrait l’accès à Grok tant que l’outil serait en mesure de « générer des images manipulées obscènes, à caractère sexuel explicite, indécentes, grossièrement offensantes et non consensuelles, y compris du contenu impliquant des femmes et des mineurs ». C’est la Malaysian Communications and Multimedia Commission (MCMC, équivalent local de l’Arcom française) qui a porté le message dimanche.

Elle indique avoir formellement demandé à X et xAI la mise en place de garde-fous adaptés, mais les réponses obtenues, basées sur la capacité des utilisateurs à signaler un contenu problématique, n’ont pas été considérées comme suffisantes pour « prévenir les dommages ou garantir le respect de la loi ». Lundi matin (heure de Paris), le site de la MCMC était inaccessible.

9 janvier – Grok dit restreindre la création d’images aux comptes payants

xAI et surtout Elon Musk auraient-ils fini par prendre la mesure du phénomène ? Vendredi matin, l’éditeur de Grok semble avoir introduit une mesure de protection inédite : le service indique, en réponse à une requête d’internaute, que la génération d’images est désormais réservée aux détenteurs d’un abonnement payant à Grok.

À 44,33 euros par mois (prix de Grok Premium+ en facturation mensuelle), cette restriction est censée réduire le volume d’images problématiques générées par Grok et diffusées sur X. En revanche, elle ne s’accompagne, pour l’instant, d’aucune modification identifiée de la politique de modération du modèle.

Vendredi 9 janvier matin, Grok répond à une demande de transformation d’une photo de femme en version dénudée que la génération et l’édition d’images est « pour l’instant » limitée aux abonnés payants

La soi-disant restriction se révèle cependant moins stricte qu’il n’y paraissait au premier abord, comme l’a fait remarquer The Verge : en réalité, la génération d’image est bloquée pour les comptes gratuits lorsque l’internaute demande à Grok d’intervenir dans le déroulé d’une conversation.

Elle reste cependant accessible aux comptes gratuits par d’autres canaux : il suffit par exemple de cliquer sur une photo affichée dans le flux à partir de la version desktop de X pour se voir proposer l’option de modification par Grok. À 16 heures vendredi sur un compte X non premium hébergé en France, la requête visant à dénuder le sujet de la photo restait dans ce contexte bien accessible.

La restriction aux comptes gratuits prend des airs de faux-semblants… capture Next

9 janvier – 107 millions de dollars de CA et 1,46 milliards de pertes pour xAI au 3e trimestre

L’entreprise d’IA pilotée par Elon Musk peut s’enorgueillir d’avoir bouclé début janvier une importante levée de fonds de 20 milliards de dollars, qui va notamment lui permettre de financer la construction d’un nouveau datacenter, Colossus III, annoncé comme l’un des plus importants calculateurs dédiés à l’IA au monde. Si xAI poursuit sa très ambitieuse trajectoire d’investissement, les actionnaires doivent pour l’instant accepter de financer une société qui brûle aujourd’hui dix fois plus de cash qu’elle n’en engrange.

D’après les chiffres dévoilés vendredi matin par Bloomberg, xAI aurait en effet enregistré 107 millions de dollars de chiffre d’affaires sur le troisième trimestre 2025, clos au 30 septembre dernier. Elle aurait dans le même temps déclaré une perte nette de 1,46 milliard de dollars. En cumulé, le déficit se monterait à 7,8 milliards de dollars depuis le début 2025.

8 janvier – la Belgique et le Royaume-Uni menacent de suspendre X

En Belgique, la ministre fédérale en charge du Numérique Vanessa Matz a déclaré jeudi 8 janvier qu’elle analysait les différents leviers possibles pour suspendre l’accès à Grok et donc potentiellement à X, tant que le réseau social d’Elon Musk ne respectait pas ses obligations. La récente loi belge contre le revenge porn donnerait un levier actionnable pour une telle éviction, a-t-elle estimé.

« Ces atteintes graves à la dignité humaine relèvent d’un choix assumé de la plateforme, a déclaré la ministre, citée par le Soir. Elon Musk orchestre un coup de communication et de marketing fondé sur un usage profondément immoral de son intelligence artificielle, allant jusqu’à tourner ces violences en dérision, comme en témoigne la publication d’une photo de lui-même en bikini pour illustrer son prétendu intérêt pour la question ».

Même son de cloche outre-Manche, où c’est le Premier ministre Keir Starmer qui est monté au créneau jeudi, affirmant qu’il avait demandé à l’Ofcom (l’Arcom locale) d’étudier toutes les options possibles pour mettre un terme aux dérives permises par X et Grok : « C’est scandaleux. C’est révoltant et intolérable. X doit se ressaisir et retirer ce contenu. Nous prendrons des mesures car c’est tout simplement intolérable ». Le très controversé Online Safety Act donne en théorie au gouvernement britannique des moyens d’action.

8 janvier – un mode spicy voulu par Elon Musk ?

Quelle est la responsabilité directe d’Elon Musk dans la souplesse de xAI vis-à-vis de son modèle ? Et le développement de ces deepfakes à connotation sexuelle pourrait-il être intentionnel ? C’est la question posée jeudi par CNN. Le média souligne qu’en août dernier, Musk rappelait, clin d’œil à l’appui, que c’est la diffusion de contenus osés qui avait favorisé la victoire du VHS sur le format concurrent Betamax, à l’époque des cassettes vidéo.

Et d’après CNN, l’entrepreneur se serait ému à plusieurs reprises, en interne chez xAI, des restrictions imposées à Grok. Ses envies décomplexées ont-elles contribué au départ, signalé mi-novembre par The Information, d’une bonne partie des équipes en charge de la confiance et de la sécurité chez xAI ? À défaut d’être confirmée, l’hypothèse est soulevée par plusieurs commentateurs.

8 janvier – une victime de la police de l’immigration dénudée par Grok

Un cran supplémentaire dans l’abject ? Jeudi, plusieurs internautes se sont émus d’un nouveau montage permis par Grok et diffusé sur X : une version déshabillée de Renee Nicole Good, tuée la veille en plein jour et en pleine rue, à Minneapolis, par l’ICE, la police états-unienne de l’immigration.

Non content de livrer l’image demandée, l’IA générative accompagne les remerciements d’un message sarcastique (par ailleurs récurrent) sur les dysfonctionnements de garde-robe qu’elle corrige.

« Qu’est-ce qui a bien pu se passer chez l’équipe de @xAI ? Pour que leur produit permette à Grok de créer ce genre de contenu ? », s’émeut un internaute relayant la séquence en question.

Alors que des manifestations enflent à Minneapolis en raison d’un tir mortel attribué à l’ICE, Grok déshabille la victime sur X

8 janvier – L’Europe impose à X une mesure conservatoire

La Commission européenne a annoncé jeudi avoir pris une « ordonnance de conservation » qui impose à X « de conserver tous ses documents internes relatifs à Grok, et ce jusqu’à la fin 2026 », d’après un porte-parole cité par l’AFP.

Cette mesure juridique vise à garantir à l’exécutif européen la capacité à remonter les archives de X, soit dans le cadre des enquêtes déjà ouvertes à l’encontre du réseau social de xAI et d’Elon Musk, soit pour alimenter de nouvelles procédures.

L’Europe a pour mémoire infligé début décembre 2025 une amende de 120 millions d’euros à X pour non respect des engagements liés au DSA (sans lien avec l’épisode Grok du moment). X avait réagi en fermant le compte publicitaire de la Commission européenne.

7 janvier – Grok génèrerait 6 700 images à caractère sexuel par heure

Menée pendant 24 heures par une chercheuse indépendante et relayée par Bloomberg, une étude exhaustive des images produites par Grok entre les 5 et 6 janvier conclut que l’IA d’Elon Musk a généré, en moyenne et sur demande d’internautes, 6 700 images par heure relevant d’une démarche de sexualisation ou de nudité de la personne ciblée.

7 janvier : xAI lève 20 milliards de dollars

6 janvier – « the deepfake porn site formerly known as Twitter »

Mardi, le Financial Times est sorti de sa réserve habituelle, avec un papier au vitriol passant en revue l’état-major de X, illustré à l’aide de visuels modifiés par Grok. Directeur financier, investisseur historique, responsable de la conformité… tous se voient affublés de costumes de clown. La galerie de portraits est surmontée par un titre au vitriol : « Qui est qui chez X, le site de porno deepfake anciennement connu sous le nom de Twitter ? ». En ces temps troublés, on apprécie de voir que l’humour britannique n’a rien perdu de sa superbe.

6 janvier : Des victimes de l’incendie de Crans-Montana dénudées

Grok a répondu favorablement à des requêtes lui demandant de dénuder des victimes mineures du terrible incendie de Crans-Montana, qui a endeuillé la nuit du Nouvel-An : tel est le constat glaçant dressé notamment par l’édition suisse de 20 minutes. « En Suisse, la loi ne mentionne pas les deepfakes, mais leurs créateurs peuvent être poursuivis pour atteinte à la sphère intime, atteinte à la personnalité ou encore atteinte à l’honneur », remarque le quotidien gratuit.

Trois jours plus tôt, Elon Musk avait affirmé, sur X, que quiconque utilisait Grok pour produire des contenus illicites subirait les mêmes conséquences que s’il uploadait du contenu illicite, souligne Futurism dans sa propre chronologie de l’affaire.

5 janvier : l’Ofcom britannique et l’Europe tirent la sonnette d’alarme

Lundi 5 janvier, c’est sur X que l’Office of communications (Ofcom), l’autorité régulatrice des télécommunications au Royaume-Uni, a choisi de réagir à la polémique. « Nous avons contacté en urgence X et xAI afin de comprendre les mesures qu’ils ont prises pour se conformer à leurs obligations légales en matière de protection des utilisateurs au Royaume-Uni. En fonction de leur réponse, nous procéderons rapidement à une évaluation afin de déterminer s’il existe des problèmes de conformité potentiels justifiant une enquête ».

La Commission européenne a de son côté abordé le sujet lors d’une séance de questions-réponses avec la presse animée par l’un de ses porte-paroles, Thomas Regnier. Ce dernier a affirmé que Bruxelles regardait le sujet avec beaucoup d’attention, et a condamné sans ambages la permissivité de Grok. « C’est illégal. C’est scandaleux. C’est révoltant. Voilà comment nous le voyons, et cela n’a pas sa place en Europe », a-t-il déclaré, sans préciser à ce stade quelles mesures de rétorsion pourraient être envisagées.

5 janvier : la France étend son enquête sur X

Commentaires (59)

votre avatar
Faut arrêter de menacer de blocage et passer à l'acte.
votre avatar
Ben voilà, l'Indonésie et la Malaisie l'ont fait. Espérons que ça fasse de l'émulation (pas sûr que ce soit du bon français là)

https://www.bbc.com/news/articles/cg7y10xm4x2o
votre avatar
de l'émulation (pas sûr que ce soit du bon français là)
Des émules :cap:
votre avatar
Comment ils bloquent Grok et pas X au complet ?

En plus c'est uniquement pour des questions de moeurs, la violation de l'image des femmes et leur consentement ne sont pas ici concernés. En même temps dans ces pays...
votre avatar
Aucune idée, sur un article ultérieur (toujours sur la site de la BBC), il est indiqué que c'est la plateforme X/Twitter qui serait bloquée. Grok est identifié comme un chatbot accessible via la plateforme.
votre avatar
Grok met en bikini une victime de la police de l'immigration
Grok dénude des victimes de l'incendie de Crans-Montana
Grok a dénudé des victimes mineures du terrible incendie de Crans-Montana
Est-ce un agent automatique qui décide de le faire tout seul sans intervention humaine ?

Je n'ai pas l'impression que ce soit le cas, donc je trouve malheureux ce choix de tournure qui laisse à penser que l'outil (dénué de modération, ce qui est évidemment un problème) agit de son propre chef alors qu'il est utilisé par des crétins.

Avec de telles tournures, je trouve qu'on déresponsabilise les crétins en question.

Perso, ça m'interroge.
votre avatar
C'est vrai, Grok n'est qu'un outil (compliqué pour les intertitres, mais je vais essayer de mieux refléter cette nuance, merci)
votre avatar
Merci. La nuance est une espèce menacée d’extinction, préservons-la ! :smack:
votre avatar
c'est récurrent dans les journaux de déresponsabiliser l'utilisateur, je le vois tous les jours pour les voitures, exemples articles d’aujourd’hui ce n'est pas le vtc qui percute le piéton et la terrasse mais le conducteur ou la conductrice ; ce n'est pas la voiture / suv qui blesse grièvement une femme et son fils mais le conducteur ou la conductrice
votre avatar
Si je peux me permettre une suggestion pour les intertitres :


  • Une victime de la police de l'immigration mise en bikini via Grok

  • Des victimes mineures du terrible incendie de Crans-Montana dénudées



Le deuxième ne mentionne plus Grok, mais comme tu as mis dans la première phrase qu'il a répondu favorablement à une requête, la formulation est pour moi bien meilleure et montre la responsabilité partagée du point en question.
votre avatar
Un "Grok a permis à des utilisateurs" mettrait la responsabilité sur l'outil, qui n'est pas (assez) modéré, et les abrutis qui ont fait cela.

Edit : on peut même carrément parler "d'abrutis profonds" au lieu "d'utilisateurs". Mais je suis un peu radical sur ce coup :p
votre avatar
L'abruti profond n°1 est surtout Musk, les utilisateurs de ce truc immonde (X & Grok) viennent ensuite…
votre avatar
Deepdumb to allow deepfakes ?   😂
votre avatar
Je suis d'accord, c'est comme le fameux : "Une personne a été renversée par une voiture". Il semblerait que dans la plupart des cas quelqu'un se trouvait au volant :-).
votre avatar
Sauf si c'est une Tesla sur les routes américaines.
votre avatar
C'est du cynisme à l'état pur.
votre avatar
Le blocage n’est effectif que dans les réponses à un tweet.
theverge.com The Verge
votre avatar
haha 'tain les fourbes :D je vérifie et mets à jour, merci
votre avatar
Sur cette « restriction », j'aime bien la formule lapidaire de Drew Harwell, du Washington Post : « So X hasn't solved the problem, they've just monetized it »
votre avatar
Mise à jour à 16h15 pour souligner le faux semblant de la restriction apportée aux comptes gratuits
votre avatar
Mais bloquez-donc, bloquez-donc, qu'attends-t-on exctement ?
votre avatar
Les usages pernicieux de l'IA font de beaux prétextes de plus.

En restreignant aux comptes payants, on augmente le nombre d'utilisateurs payants, donc identifiés, donc facilement ...
... fliqués.

pas con :roll:

Qui a dit ?
"Un peuple prêt à sacrifier un peu de liberté pour un peu de sécurité ne mérite ni l'une ni l'autre, et finit par perdre les deux" ... Un amerloque du temps ou les Etats-Unis étaient épris de liberté, parait-il :D
votre avatar
ça dépend des moments de la journée, mais on voit des trucs dans le dossier média de Grok c'est hallucinant. la semaine dernière une petite fille en jupe avec une main adulte qui se glisse dessous. zéro retour sur le signalement...
votre avatar
la semaine dernière une petite fille en jupe avec une main adulte qui se glisse dessous. zéro retour sur le signalement...
Tu l'as signalé sur PHAROS ?
votre avatar
J'ai l'impression que c'est un peu la stratégie de la submersion , là:
Tous les jour une nouvelle idée plus outrancière que celle d'hier à bloquer :-/

L'un des moyens de contourner le bon sens c'est aussi de le submerger sous des évènements éphémères mais répétés...
votre avatar
oui, mais le lien a vite périmé. reste le screenshot mais il a peu de valeur.
votre avatar
votre avatar
Quand est-ce que l'Union Européenne décide le blocage de X et ses succursales (dont iAI et Grok) ?
votre avatar
Quand est-ce que l'Union Européenne décide le blocage de X et ses succursales (dont iAI et Grok) ?
Pour ça il faudrait que nos dirigeant.es drogué.es à ces fausses mesures "d'audience" arrivent à se désintoxiquer. Twitter devenant de plus en plus insignifiant (il ne reste presque plus que des nazis et assimilés, des bots et des journalistes) c'est dire si la drogue est puissante.
votre avatar
Actu mise à jour pour signaler les décisions de blocage en Indonésie et Malaisie
votre avatar
Serait-il possible d'avoir un genre de choix "chronologique" versus "antéchronologique" ; ça me permettrait d'"écouter" le truc en bon avec un Text To Speech. :-)
votre avatar
Ici, l'actu est actualisée "à la main", avec des ajouts qui viennent au fil de l'eau dans le texte, nous ne sommes donc pas outillés pour proposer une navigation alternative, mais l'idée est intéressante !
votre avatar
Ça marche, je reprendrai alors le nouveau texte, s'il est trouvable facilement, et clic droit → Read aloud selected text.
Merci,
votre avatar
Actu mise à jour pour signaler l'ouverture de l'enquête de l'Ofcom britannique sur le sujet.
votre avatar
Mon cynisme habituel me laisse à penser que ça va faire comme Shein : beaucoup de bruit à l'instant T, puis plus rien.
votre avatar
Il n'y aurait pas moyen de tagger les images générées par avec des identifiants du compte les ayant générés ? Pas tout à fait comme du watermarking qui est visible des humains, mais plutôt une sorte de stéganographie.

-> et comme cela, quand une victime se plaint, la police peut remonter à la personne ayant généré le fichier, et on responsabilise les utilisateurs.
votre avatar
Même sans watermark l'image, la plateforme peut très bien savoir qui a demandé de générer quoi à quel moment et l'output obtenu.

Ce n'est que de l'API et de l'audit, c'est ce qu'ils font déjà pour analyser les comportements et améliorer les modèles !

Dans tous les cas, indiquer qu'un contenu est généré par IA est une obligation de l'AI Act en Europe à partir du mois d'aout.
votre avatar
Actu mise à jour pour signaler la réponse (enfin) apportée par xAI. Quelques heures après l'annonce, un rapide test nous confirme que si garde-fous il y a, ils ne sont pas encore vraiment au point...
votre avatar
Pourquoi écrire cette news à l'envers ? c'est pas habituel de remonter les paragraphes des bas en haut !
votre avatar
Les rebondissements sont tellement nombreux et rapides (un peu moins maintenant que le gros de la vague est passé) qu'on a préféré tout réunir dans une seule actu plutôt que de multiplier les publications et donc d'inonder notre flux de news relatives à Grok. Pour faciliter la lecture des nouveaux épisodes, on a opté pour un mode antéchronologique (le plus récent d'abord), qui évite d'avoir à descendre en tout bas de page pour avoir la dernière info en date, mais ça peut effectivement devenir un peu inconfortable quand le suivi devient long, comme ici. Cet article nous sert justement de test sur le sujet pour essayer de trouver la bonne formule !

(et nous venons de mettre à jour pour signaler la demande d'une cinquantaine de députés européens de créer une alternative à X sous l'égide de l'UE)
votre avatar
Ce serait pas mal effectivement que l'UE supporte un peu plus les alternatives, et pas que au niveau des réseaux sociaux. Chaque année elle investie des centaines de millions (voire sans doute des milliards au niveau européen) dans éditeurs comme Microsoft alors qu'on aurait vraiment eu de quoi développer une alternative hyper efficace avant autant d'argent (à condition qu'on évite de subventionner les capgemini, sopra/steria, etc. vu les récents déboires de leurs développements) et de véritablement financer le logiciel libre.

Douce utopie :craint:
votre avatar
J'avais la même remarque que fofo92: à la lecture, la chronologie inverse m'a gênée car je n'avais pas suivi les épisodes précédents, et la rédaction n'aide pas si on ne fait pas attention aux dates des sous-titres. Ex: lire 'X, xAI et Elon Musk auraient-ils décidé de mettre fin à la polémique ? ' au début de l'épisode 15 janvier après avoir lu celui du 20 janvier m'avait semblé s'appliquer à ce que je venais de lire et non à l'épisode du 13 janvier que j'allais lire ensuite...
votre avatar
Pour n'en citer que 2, en France on a Qwice (dont le système de l'île de base sur le niveau d'intérêt su contenu et non sur l'émotion uniquement), en Europe on a Mastodon, c'est pas les alternatives européennes qui manquent mais la motivation de la population à migrer.
votre avatar
Ajout du 20 janvier: On est le premier avril c'est ca ?
ha bha non ...
ha mais c'est vrais que le problème vient uniquement le ce méchant Musk et de son réseau. Ces pôôôvres petits européens restent sur X car il n'y pas d'alernative européene. Vous verez on va en créer une et ce sera comme chez les bisounours.

L'équipe de la Pat'Patrouille vient de s'agandir de 54 membres.
votre avatar
20 janvier - Plus de 50 députés européens réclament un réseau social à la Commission
Cadeau. On a déjà des trucs, pourquoi ne les utilise-t-on pas ? Peur ?

Cela dit, j'ai toujours du mal à comprendre pourquoi on demande aux instances publiques de faire le taff du privé.

Un subventionnement (basé sur les prunes payées par les plateformes américaines, dans l'espoir qu'elles le soient) serait une possibilité, mais c'est hélas trop souvent détourné par des entrepreneurs peu scrupuleux. Le projet doit être monté par des gens qui y croient, pas par des imbéciles qui veulent vivre d'argent public.
votre avatar
Actu mise à jour avec l'ouverture de l'enquête de la Commission européenne accompagnée de déclarations comme « En Europe, aucune entreprise ne gagnera d'argent en violant nos droits fondamentaux ».
votre avatar
Ce qui est drôle, c'est qu'il y aurait eu une proposition de "réseau social européen" et qu'il s'avérait qu' c'était un Bsly renommé.

Il en existe un d'origine germanique : Mastodon. (rattaché au Fédivers).
votre avatar
Et une nouvelle mise à jour avec la perquisition des locaux français de X. Le parquet de Paris annonce son départ du réseau social en même temps.
votre avatar
Quitter Twitter/X pour LinkedIn (Microsoft) et Instagram (Meta), est-ce vraiment un progrès ?
D'autant plus que du point de vue de la communication avec les citoyens, ça reste des login walls (partiel dans le cas de LinkedIn, quasi total pour Instagram). Certes X l'était devenu, alors que Twitter était au départ ouvert...
votre avatar
Ils ne quittent pas X pour LinkedIn et Insta: ils y étaient déjà avant.
votre avatar
Certes, mais ils redirigent vers les autres plateformes :
Le parquet de Paris quitte X. Retrouvez-nous sur Lkd et insta
votre avatar
Le parquet de Paris quitte X. Retrouvez-nous sur Lkd et insta
Hâte de voir des posts d'autocongratulation rédigés par des LLM entre deux duck faces de magistrats.
votre avatar
Plus de 50 députés européens réclament un réseau social à la Commission
En dehors de la symbolique politique, c'est un voeux pieux.

On ne fait pas émerger une alternative de la sorte. Le problème majeur qui fait qu'aucune alternative n'a réussit à percer jusque-là au même niveau, malgré qu'il en existe, vient de plusieurs choses dont deux principales selon moi :

  • l'effet de silo majoritairement ;

  • le mode de financement des entreprises US vs EU.



Pour l'effet de silo il faut avoir une ou des solutions qui poussent à la migration. Le volet politique peut jouer, mais ce sera surtout sur ce que le ou les nouveaux produits vont apporter de plus face à l'existant.

Pour le mode de financement : nous ne faisons que très peu de capital-risque en UE face aux US. Même si ça progresse... mais trop accès sur l'IA.
Alors je ne dis pas qu'il faille également suivre ce modèle-là chez nous. On peut très bien choisir un autre mode de financement, d'accompagnement, des entreprises sans reproduire les travers du système US. Surtout avec l'épargne disponible chez nous, qui pourrait stimuler plus fortement l'économie.
Mais le point majeur est là selon moi : on n'arrive pas à rivaliser face aux milliards injectés de l'autre côté de l'Atlantique.

A voir si les perturbations politiques et monétaires actuelles du côté US joueront en notre faveur. Je l'espère (en tout cas ça commence ENFIN à bouger, avec ENFIN un début de prise de conscience au niveau politique).
votre avatar
C'est bien plus simple : les USA ont le dollar, alors que nous c'est l'euro. Les USA font payer au reste du monde, leur double déficit, et c'est grâce au dollar.

Quand tu es une société financière, pouvoir dépenser des dollars dans le pays qui émet cette monnaie, c'est largement mieux que dépenser des euros en Europe.
Actuellement, l'euro est une devise refuge pour les banques centrales et les banques. Mais le dollar est une monnaie d'échange, qui aura toujours de la valeur. Dépenser de l'argent aux USA , fait que ces dollars vont toujours avoir une valeur.

La structure du monde la finance entre US et Europe est surtout liée à cette différence fondamentale. C'est pour moi la cause de beaucoup de choses, pas la conséquence.
votre avatar
Oui, le fameux paiement de la dette américaine sur le dos du reste du monde :)
Chose que Trump souhaite finalement accentuer par sa politique monétaire (si j'ai bien compris - je ne suis pas économiste).

En effet il y a cet aspect, auquel je n'avais pas songé.
votre avatar
Totalement, Trump veut faire comme sur le reste : abuser, provoquer, humilier les autres pays. Sur le plan monétaire, il tire vraiment sur la corde.

Mais il semble ignorer qu'un jour, les "commodities" vont s'échanger en euros ou renminbi , s'en sera fini du dollar.
Quand le volume d'échange (incluant les achats de pétrole sous sanction) se chiffre maintenant en dizaine et centaines de milliards d'euros pour le pétrole, mais pas en dollar...
votre avatar
Vous êtes beaucoup trop nombreux à croire que nos dirigeants nous veulent du bien en matière de liberté.
Les laisser bloquer des sites/appli est un pouvoir qui nous emmènerait vers un futur bien pire que ce que vous ne pensez.

Est-ce qu'on a le même niveau d'enquête et d'accusation sur les autres RS ?
Comme Mastodon et son "problème" de contenu p*do ?

Apprenez à vous méfier quand on vous montre un même "méchant" du doigt dans tous les médias.
votre avatar
Intéressant d'attaquer ces deepfakes sous l'aspect RGPD, les photos avec le visage étant évidement des données personnelles, qui plus est identifiantes.

Il va être difficile de légitimer le traitement si on lit bien l'article 6.