Le Royaume-Uni développe un programme de prédiction des meurtres
Minority Report
AI City / Emily Rand & LOTI / Better Images of AI / CC-BY 4.0
Le ministère de la Justice britannique développe, sans en avoir parlé, un projet de prédiction des meurtres utilisant des données personnelles. L'information a été révélée via des demandes de documents en vertu de la liberté d'information. Le programme serait pour l'instant un projet de recherche.
Le 09 avril à 11h58
4 min
Droit
Droit
S'appuyant sur plusieurs documents officiels, l'association StateWatch a révélé le 31 mars dernier un « Projet de prédiction des homicides ». Mis en place par le gouvernement britannique, il utilise les données de certaines polices du pays et du ministère de la Justice pour « prédire » quelle personne a « des risques » de commettre un meurtre.
StateWatch a pu connaître et confirmer l'existence de ce projet en faisant plusieurs requêtes au nom du Freedom of Information Act, la loi britannique qui permet d'accéder à des informations et des documents détenus par l'administration.
« Explorer le pouvoir prédictif des ensembles de données »
Dans l'un de ces documents, au format Excel (xlsx), ce programme est décrit comme « un projet pilote de sciences des données visant à :
- examiner les caractéristiques des délinquants qui augmentent le risque de commettre un homicide
- explorer des techniques alternatives et innovantes de science des données pour la prédiction du risque d'homicide,
- explorer le pouvoir prédictif des ensembles de données Oasys, Delius et Nomis (ensembles de données du ministère de la Justice disponibles sur la plateforme analytique) en ce qui concerne le risque d'homicide,
- explorer le pouvoir prédictif supplémentaire de l'ensemble de données national PNC (ensemble de données du ministère de la Justice hébergé sur un terminal AirGap sécurisé et séparé du système analytique) en ce qui concerne le risque d'homicide,
- explorer le pouvoir prédictif supplémentaire des données de la police locale (Greater Manchester) par rapport au risque d'homicide,
- fournir des preuves pour améliorer la prédiction des crimes graves et, en fin de compte, contribuer à la protection du public grâce à une meilleure analyse ».
Selon le Guardian, le projet a changé de nom en cours de route et est passé de « projet de prédiction des homicides » à « partage des données pour améliorer l'évaluation des risques ».
Des données qui concernent de 100 000 à 500 000 personnes
StateWatch explique que l'accord de partage des données entre le ministère de la Justice britannique et la police locale de Greater Manchester « indique que des données concernant entre 100 000 et 500 000 personnes ont été partagées par les forces de police pour développer l'outil ».
L'association ajoute que les données de cette police locale utilisées « comprennent des informations sur des centaines de milliers de suspects, de victimes, de témoins, de personnes disparues et de personnes pour lesquelles il existe des préoccupations en matière de protection ». Celles-ci incluraient des « marqueurs de santé [...] censés avoir un pouvoir prédictif important » et notamment « des données sur la santé mentale, la toxicomanie, l'automutilation, le suicide, la vulnérabilité et le handicap », selon StateWatch.
Interrogées par le Guardian, les autorités responsables nient fermement et insistent sur le fait que seules les données de personnes ayant fait l'objet d'au moins une condamnation pénale ont été utilisées.
Confirmation de l'existence du projet par les autorités
Les autorités confirment donc l'existence du projet, en insistant sur la dimension de recherche. Néanmoins, selon le ministère de la Justice britannique cité par le Guardian, le projet doit bien « examiner les caractéristiques des délinquants qui augmentent le risque de commettre un homicide » et « explorer des techniques alternatives et innovantes de science des données pour l'évaluation du risque d'homicide ». Il ajoute qu'il doit « fournir des éléments permettant d'améliorer l'évaluation des risques de criminalité grave et contribuer en fin de compte à la protection du public grâce à une meilleure analyse ».
« La tentative du ministère de la Justice de mettre en place ce système de prédiction des meurtres est le dernier exemple effrayant et dystopique de l'intention du gouvernement de mettre au point des systèmes de "prédiction" de la criminalité », juge pour sa part Sofia Lyall, chercheuse au sein de StateWatch. Elle ajoute que « ce dernier modèle, qui utilise les données de notre police et de notre ministère de l'Intérieur institutionnellement racistes, renforcera et amplifiera la discrimination structurelle qui sous-tend le système juridique pénal. Comme d'autres systèmes de ce type, il codera les préjugés à l'égard des communautés racialisées et à faibles revenus ». L'association demande au ministère britannique d'arrêter immédiatement tout développement de cet outil.
Le Royaume-Uni développe un programme de prédiction des meurtres
-
« Explorer le pouvoir prédictif des ensembles de données »
-
Des données qui concernent de 100 000 à 500 000 personnes
-
Confirmation de l'existence du projet par les autorités
Commentaires (27)
Abonnez-vous pour prendre part au débat
Déjà abonné ? Se connecter
Cet article est en accès libre, mais il est le fruit du travail d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles
Profitez d’un média expert et unique
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousLe 09/04/2025 à 12h23
Le 09/04/2025 à 14h56
Le 09/04/2025 à 15h23
Le 11/04/2025 à 10h11
Modifié le 09/04/2025 à 12h39
Cela permettra de savoir que les trafiquants de drogue peuvent tuer leurs concurrents, que les conjoints violents peuvent tuer leur conjoint. J'en oublie sûrement, mais ce projet pourra mettre en évidence d'autres catégories de personnes à risque.
Et je propose d'associer ce projet à la dernière proposition de Laurent Wauquiez : déporter ces futurs criminels sur un territoire qui aura le mérite de les éloigner de la plupart de la population française qui sera ainsi protégée de futurs crimes.
Le 09/04/2025 à 12h39
Modifié le 09/04/2025 à 13h32
Moins sympa niveau température positive, la terre Adélie.
Le 09/04/2025 à 13h34
Le 09/04/2025 à 19h14
Modifié le 09/04/2025 à 13h44
CayenneSaint-Pierre-et-Miquelon.Le 10/04/2025 à 13h42
J'ai des doutes.
Le 10/04/2025 à 15h38
Le 10/04/2025 à 16h26
Modifié le 11/04/2025 à 11h12
Remarque, ça correspond bien à la mentalité courante des condamnations hâtives basées sur de simples suspicions ou accusations qu'on voit énormément.
Edit : marrant, je poste ça et après je vois le message #7. Comme quoi, suffit de se pencher pour trouver un exemple.
Le 11/04/2025 à 12h01
Dire que la famille Sackler est très directement responsable de dizaines de milliers de morts c'est pas une suspicion. Ils payent des miliards, se mettent en banqueroute, etc... justement pour ne pas avoir à répondre de ces accusations devant la justice et aller en taule (c'est le privilège des ultra-riches).
Dire que le CEO de compagnie d'assurance santé (récemment assassiné) est responsable d'à peu près la même chose est aussi une évidence bien connue de la recherche en science sociale ricaine, criée sur tout les tons par des tonnes de militant.es et fermement étouffée par les grands médias.
Ce que vous considérez comme des accusations hâtives ou des suspicions ne sont peut-être que le reflet d'un certain prisme par lequel vous voyez ou ne voyez pas l'actualité (et moi tout pareil sur d'autres sujets bien entendu, il n'est pas question de jugement de valeur). Les faits connus influent évidemment sur notre perception de ça (sauf les personnes "en lecture seule" comme dit Doctorow sur qui rien n'influe et surtout pas la réalité du monde).
Modifié le 11/04/2025 à 13h36
Si ces personnes sont des meurtriers, elles ont été condamnées pour. Sinon, non. Ça me saoule cette société qui ignore de plus en plus la présomption d'innocence. Vous embrassez de plein fouet l'arbitraire sans même vous en rendre compte.
Modifié le 11/04/2025 à 13h51
J'ai LU personnellement certaines de ces étude et fait l'effort de suivre cette actualité. Et personne n'est obligé de me croire. Typiquement le procès Sackler a bien eu lieu et c'est pas difficile à trouver.
Par contre il est pas raisonnable du tout que JE fasse l'effort de sourcer ce que toi ou un autre devrait regarder / lire.
La présomption d'innocence est en effet toute bafouée dans un certain nombre de ces autres situations. A titre personnel, cette posture, considérant le biais considérable dans le fonctionnement de la justice (ici ou ailleurs) me parait bien justifiée. (et je force personne à l'adopter). La faible prise en compte concrète, avec jugement définitif, de tout ce qui sort dans l'actualité est bien un symptôme non pas de bafouage de présomption d'innocence mais de pipage des dés de la société. A tel point que quand Sarko et Le Pen prennent de la prison ferme, ça a l'air d'étonner. La décision de poursuivre ou pas les assurances santé ricaine pour meurtre de masse est une décision politique. La décision de poursuivre ou pas le type qui a signé l'effacement de 300M€ de redressement fiscal de Bolorré est une décision politique, etc... La présomption d'innocence n'a de sens que si le fonctionnement de la justice est observable, critiquable et que les personnes en responsabilité rendent concrètement des comptes.
Modifié le 11/04/2025 à 14h23
J'aimerais bien voir une source qui indique que le procès a eu lieu.
J'ai l'impression qu'il n'y a pas eu de procès proprement dit.
Aux dernières nouvelles (23 janvier 2025), il ya eu un accord avec 15 états US pour payer 7,4 milliards de $. Cet accord doit (devait ?) encore être validé par un tribunal.
Auparavant, des juges puis la Cour Suprême (juin 2024) ont décidé qu'elle ne pouvait pas se mettre en faillite.
Quant à tes positions sur le reste, garde les pour toi, les états totalitaires sont probablement d'accord avec toi sur le fait que la présomption d'innocence, c'est surfait. Et révise ce qu'est un meurtre, ça te fera du bien.
Le 11/04/2025 à 14h43
Le 09/04/2025 à 13h47
Il y avait notamment une personne (noire évidemment) que l'algorithme avait identifié comme étant un "futur point d'intérêt", sans pouvoir dire s'il serait victime ou agresseur.
Ça s'est transformé en prophétie auto-réalisatrice, parce que le gars avait aucun soucis dans sa vie, mais comme il a reçu plusieurs visite de policiers, sans ressortir avec des menottes, les gangs du coin ont interprété ça en pesant qu'il était informateur pour la police, et suite à ça, il été victime de plusieurs agressions violentes et tentatives d'assassinat.
Le 09/04/2025 à 14h53
Le 09/04/2025 à 15h03
On va bientôt pouvoir dire : "Détenir le pouvoir nécessiterait d'avoir des capacités cognitives supérieures à celles d'une huitre".
On vit une époque formidable. Chaque jour j'ai l'impression d'être le premier avril ou que je suis en train de lire une suite sans fin d'articles du Gorafi.
Si c'est ça le 21ème siècle, je pense qu'on ne verra jamais le 22ème. Rage !
Le 09/04/2025 à 15h28
Le probleme vient de concept même de l'IA qui nécéssite des millions de points de données pour en déduire des résultats.
Comment identifier les quelques points à probleme parmis les milliards d'interactions entre personnes chaque année ?
Le 10/04/2025 à 14h01
Dans une population donnée, les crimes et délits étant très rares, la proba qu'un quidam fasse qqch au cours des 10 prochaines années est (disons pour l'exemple) probablement autour de 0.01%. Dans les quartiers spécifiques elle sera différente A Neuilly-Sur-Seine avec ses milliardaires elle sera par exemple de 1%, soit 100x la moyenne, alors que dans un quartier ultra pauvre elle sera peut-être de 0.1% (encore une fois les chiffres sont fictifs, pour illustrer la stupidité du bordel).
Du coup si t'as les données d'entrainement qui vont bien, tu sais en effet identifier des cohortes. Avec des données personnalisées (i.e. de l'espionnage massif), tu vas pouvoir avoir des proba façon le-film-dont-on-ne-doit-pas-prononcer-le-nom. Qui seront (encore une fois, c'est une exemple) de 2% pour le milliardaire et de 0.2% pour la mère isolée de 3 enfants qui a coché frauduleusement une case sur sa déclaration CAF pour arriver à bouffer.
Admettons.
200x et 20x la moyenne. respectivement... ça parait énorme ?? tu vas donc fliquer ses personnes ??
... c'est jamais que 2% et 0.2%... soit une chance sur 50 et une chance sur 500 de faire qqch. Dans quel état de droit peut-on justifier ça ?? (question toute réthorique bien sûr, qui serait valable si on était en état de droit et on sait très bien que le miliardaire verra jamais l'ombre d'un interrogatoire, mais c'est un autre sujet).
Pour celleux que ça intéresse y a les mêmes questions sur l'influences des produits chimiques sur les maladies. "la molécule X augmente de 200% la proba de développer le cancer Y, c'est horrible !"... oé ça fait passer la proba de 0.0001% à 0.0003%. Les pros de la santé ont des protocoles (impact, coût sociétal, etc...) pour recommander la régulation de telle ou telle molécule. Là on parle d'être humains, censés avoir des droits.
Le 09/04/2025 à 16h21
Et je suis prêt à parier que ça prend même pas en compte les meurtriers qui assassinent le plus de monde, ceux en cols blancs : genre la famille Sackler, les patrons de mutuels aux US, les grosses entreprises (et donc leurs patrons) qui exploitent les gens en Afrique, par exemple, des gens qui tuent des centaines de milliers voir des millions de personnes.
Tous ceux qui soutiennent ce genre de trucs sont soit inconscient, soit racistes/pauvrophobes/etc. et ont des préjugés uniquement basés sur la stigmatisation.
Le 11/04/2025 à 11h17
Le 12/04/2025 à 01h30