S3 1 To
S3 1 To
Connexion Premium
Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société
Déontologie Règles de modération Mentions légales et contact
Qui sommes nous ? Contact rédaction Contact site Forum
Flux RSS GitHub Discord

Un Alsacien arrêté pour avoir évoqué le meurtre d’agents du renseignement à une IA

Le 07 avril à 11h01

Après avoir évoqué son intention d’acheter une arme pour « tuer un agent du renseignement de la CIA, du Mossad ou de la DGSI » au cours d’une discussion avec un outil d’intelligence artificielle, un Strasbourgeois de 37 ans s’est vu arrêté, chez lui, ce 3 avril.

Des enquêteurs du FBI, aux États-Unis, ont repéré le message et l’ont transmis à la plateforme française de signalement de contenu illicite Pharos, rapportent Les Dernières Nouvelles d’Alsace, puis le Raid est intervenu et a interpellé le suspect. Aucune arme n’a été retrouvée chez lui.

Suivi pour antécédents psychiatriques, il a en revanche été hospitalisé.

Illustration : Flock

Aux États-Unis, le recours à l’IA à des fins de surveillance de masse par les autorités fait largement débat, notamment depuis l’ultimatum imposé à Anthropic pour que l’entreprise lève les quelques restrictions d’usage de ses outils.

Comme l’entreprise a maintenu son refus de voir ses outils utilisés pour de la « surveillance intérieure de masse » (et pas pour de la surveillance extérieure) et des « armes complètement autonomes », le Pentagone s’est tourné vers son concurrent OpenAI.

Au Canada, après la tuerie de Tumbler-Ridge, OpenAI s’était retrouvé sous le feu des critiques pour ne pas avoir transmis aux autorités des informations relatives à Jesse Van Rootselaar. Si le compte de la tireuse avait été suspendu, la teneur de ses échanges avec ChatGPT n’avaient pas été relayés par l’entreprise, quand bien même ils décrivaient des scénarios de violence armée.

Les principaux modèles indiquent par ailleurs se tourner vers les forces de l’ordre en cas de nécessité. OpenAI précise par exemple dans ses spécifications de modèles recourir « à une surveillance automatisée pour détecter d’éventuelles violations de nos conditions d’utilisation » et, après examen par un humain, « saisir les autorités judiciaires dans les cas présentant une menace imminente de préjudice physique grave ou d’autres risques sérieux pour la sécurité publique ».

Le 07 avril à 11h01

Commentaires (28)

votre avatar
Un alsacien ? Gotz biii der?
votre avatar
C'est un élément important de la news. Si ça avait été un mec de Seine-Saint-Denis, ça n'aurait pas fait autant de vagues. Là-bas, clairement, c'est le genre de propos qu'on échange chaque jour en racketant son pain. On le sait tous. Que de la gueule là-bas. Mais on connait bien.
Mais là c'est un Alsacien. C'est bizarre l'Alsacien. On ne le comprends pas, il murmure dans une langue étrange, et même quand il parle français c'est pas clair. C'est louche un Alsacien. On ne connait pas vraiment l'Alsacien. Il n'est pas Français depuis si longtemps l'Alsacien. Dans l'histoire récente, l'Alsace n'était pas Française que l'Algérie l'était, doit-on le rappeler!
Ce sont deux département des TOM (Territoires d'Outre-Moselle), aux limites de notre héritage gaulois!

Bref, il fallait préciser qu'il était Alsacien.
votre avatar
Rien à redire, sauf un petit détail : l'Alsace était française quand l'Algérie l'est devenue, elle a été rattachée au domaine royal par monsieur XIV, un type pas très doué pour lire les petites lignes dans les traités qu'il signait, soit dit en passant. C'est pas la faute à l'Alsace si les députés français ont choisi de la lâcher contre un plat de lentilles (presque authentique : la ratification du traité de Versailles de 1871 a été votée à l'unanimité, à l'exception des députés alsaciens).
votre avatar
Namého il va s'calmer le Voschpat' ? :transpi:
votre avatar
Est-ce que l’on sait quel fournisseur d’IA il utilisait ?
Moi qui croyais discuter au calme et de manière privée avec une IA (non)
votre avatar
Je ne sais pas quel service cette personne utilisait, mais ça démontre que toutes les conversations avec ces outils sont bien écoutées par les services de renseignement américains.
votre avatar
Il faut lire les articles jusqu'au bout avant de sombrer dans le complotisme :
Les principaux modèles indiquent par ailleurs se tourner vers les forces de l’ordre en cas de nécessité. OpenAI précise par exemple dans ses spécifications de modèles recourir « à une surveillance automatisée pour détecter d’éventuelles violations de nos conditions d’utilisation » et, après examen par un humain, « saisir les autorités judiciaires dans les cas présentant une menace imminente de préjudice physique grave ou d’autres risques sérieux pour la sécurité publique ».
Je ne dis pas que les backdoors sont impossibles et n'existent pas, mais avant même d'imaginer des écoutes secrètes du gouvernement car "on ne nous dit pas tout", il suffit simplement de lire les CGU (et les articles), qui sont déjà très explicites sur le traitement qui peut être fait des prompts utilisés.
votre avatar
CGU qui sont lu par nous tous bien entendu :non:
votre avatar
CGU qui sont lu par nous tous par une IA bien entendu :non:
votre avatar
A priori, ce serait avec Chat GPT (cf ICI)
votre avatar
Ça paraît sévère pour quelques phrases échangées avec un LLM, d'autant plus qu'il n'était pas armé. Sont-ce les trois précogs qui ont confirmé à la police des précrimes qu'il allait passer à l'acte ? :D
votre avatar
Promis c'est pas moi ! :-D
votre avatar
Après avoir évoqué son intention d’acheter une arme
Aucune arme n’a été retrouvée chez lui.
😑
votre avatar
Un Alsacien arrêté pour avoir évoqué le meurtre d’agents du renseignement à une IA
La preuve que l'IA a une capacité d'autodéfense et de préservation : elle a appelé la police parce qu'elle a senti que ses agents étaient menacés.
votre avatar
bha merde j'avais mon n+1 en Colombie, si j'avais su, j'aurais demandé a chatgpt comment faire passer 1kg de coke en son nom...
votre avatar
donc un gars a rien fait d'illégal et s'est fait arrêté sans raison...
votre avatar
Rien fait d'illégal ?

Code pénal - Chapitre Ier : Des actes de terrorisme (Articles 421-1 à 421-8) - Article 421-2-6
Constitue un acte de terrorisme le fait de préparer la commission d'une des infractions mentionnées au II, dès lors que la préparation de ladite infraction est intentionnellement en relation avec une entreprise individuelle ayant pour but de troubler gravement l'ordre public par l'intimidation ou la terreur et qu'elle est caractérisée par :
1° Le fait de détenir, de se procurer, de tenter de se procurer ou de fabriquer des objets ou des substances de nature à créer un danger pour autrui ;
votre avatar
"évoqué son intention" écrit a un chatbot est assez loin de "détenir, de se procurer, de tenter de se procurer ou de fabriquer"...
votre avatar
évoqué son intention d’acheter une arme pour « tuer un agent [...]

La citation moins tronquée de l'article montre qu'on est bien dans le "tenter de se procurer".

Cela dit, je pense qu'on est plutôt dans le champ d'application de l'article 222-17 du code pénal.
votre avatar
Parler à un chatbot n'est pas une menace. Il en aurait été autrement s'il avait publié son intention en ligne.
votre avatar
En effet, il y a une légère différence entre « évoquer son intention d’acheter une arme » et « tenter de se procurer ».

Mais de toute façon, il n'est pas nécessaire d'avoir commis un crime ou un délit pour être en état d'arrestation, un soupçon suffit (Article 62-2 du Code de procédure pénale) :
La garde à vue […] s'il existe une ou plusieurs raisons plausibles de soupçonner qu'elle a commis ou tenté de commettre un crime ou un délit
Ça déclenche une enquête, qui vérifie les faits (et potentiellement empêche des passages à l'acte avant qu'il ne soit trop tard…).
votre avatar
Il y a aussi :
2° Et l'un des autres faits matériels suivants :
Et ce qu'il a fait ne correspond à aucun des faits matériels cités.

Je ne pense pas qu'on lui reproche un acte de terrorisme ici.
votre avatar
Vu qu'il est mentionné « un agent du renseignement de la CIA, du Mossad ou de la DGSI », ça rentrerait peut-être dans le a) :
a) Recueillir des renseignements sur des lieux ou des personnes
votre avatar
Tu y crois vraiment ?
votre avatar
Franchement, j'en sais rien…
Mais bon comme dit plus haut, un soupçon suffit pour déclencher une arrestation, l'enquête permet ensuite de vérifier s'il y a vraiment des éléments démontrant qu'il y a eu une tentative ou pas…
votre avatar
Le reste de l'article semble à penser que la personne avait un problème psy.
Cependant, que serait -il passer si dans le prompt (ou pas ) il avait été indiqué, "dans le cadre de l'écriture d'un roman..."?
Tout cela serait-il resté applicable ?
votre avatar
C'est l'officier de police judiciaire qui décide d'une arrestation ou pas en fonction des éléments qu'il a en main, donc c'est à lui qu'il faut demander 😅.
votre avatar
Il me semble que le procureur a aussi son mot à dire. A moins que ce ne soit que pour le maintien en GAV.