IA : l’Argentine s’inspire d’Israël, de la Chine et de la France pour « prédire les futurs crimes »

Le président argentin, connu pour avoir fait d'une tronçonneuse le symbole de sa campagne électorale, avait été surnommé « le fou » par ses camarades de classe en raison de son agressivité. Arrivé au pouvoir après avoir promis la suppression de plusieurs ministères sociaux, il s'inspire du programme Précrime de Minority Report.

Javier Milei, le président argentin libertarien, vient de se doter d'une « Unité d'intelligence artificielle appliquée à la sécurité » (UIAAS). La résolution, signée par Patricia Bullrich, ministre de la Sécurité, précise qu'elle a vocation à développer des algorithmes d'apprentissage automatique « pour analyser les données criminelles historiques afin de prédire les futurs crimes et contribuer à leur prévention ».

Elle devra aussi « identifier les modèles inhabituels dans les réseaux informatiques et détecter les cybermenaces avant que les attaques ne se produisent ». Ce, qu'il s'agisse de logiciels malveillants, de phishing ou « d’autres formes de cyberattaques ».

Cette unité devra également « traiter de gros volumes de données provenant de diverses sources pour extraire des informations utiles et créer des profils suspects ou identifier des liens entre différents cas ».

L'UIAAS devra en outre patrouiller sur les médias sociaux ouverts, les applications et les sites Internet, ainsi que ce que l'on appelle « Deep Internet » ou « Dark Web », « afin d'enquêter sur les délits et d'identifier leurs auteurs, ainsi que de détecter les situations de risque grave pour la sécurité ».

• Frontex va (aussi) surveiller les réseaux sociaux

Elle est aussi censée analyser les activités sur les réseaux sociaux pour « détecter les menaces potentielles, identifier les mouvements des groupes criminels et anticiper les troubles ».

Vidéosurveillance et reconnaissance faciale

La nouvelle unité ne s'occupera pas seulement du cyberespace. Elle pourra en effet « patrouiller dans de vastes zones à l'aide de drones, assurer une surveillance aérienne et répondre aux urgences », mais également effectuer « des tâches dangereuses, telles que le désamorçage d'explosifs, à l'aide de robots ».

Elle est aussi chargée d' « analyser en temps réel les images des caméras de sécurité pour identifier les activités suspectes ou identifier les personnes recherchées grâce à une reconnaissance faciale ».

• Des députés veulent (encore) coupler vidéosurveillance et reconnaissance faciale

Elle devra enfin « détecter les transactions financières suspectes ou des comportements anormaux qui pourraient indiquer des activités illégales ».

Objectif : remplacer les fonctionnaires par des IA

Au-delà de son versant techno-solutionniste, cette résolution répond aussi à un objectif politique. Classé à l'extrême droite, Javier Milei a en effet déclaré vouloir remplacer les fonctionnaires par des systèmes d'intelligence artificielle, souligne El Pais. Élu en novembre, il a déjà licencié 25 000 fonctionnaires entre décembre et mai, et a annoncé, en mars, la fin de 70 000 contrats de travail dans la fonction publique, relève Le Monde.

• Trois pistes pour en finir avec le « solutionnisme technologique »

La résolution portant création de cette unité relève que « des pays comme les États-Unis d'Amérique, la Chine, le Royaume-Uni, Israël, la France, Singapour et l'Inde, entre autres, sont des pionniers dans l'utilisation de l'intelligence artificielle dans leurs domaines de gouvernement et de forces de sécurité » :

« Que les pays susmentionnés utilisent l'intelligence artificielle dans l'analyse vidéo et la reconnaissance faciale, la prévision de la criminalité, la cybersécurité, l'analyse des données, les drones et la robotique, la communication et la coordination, les assistants virtuels et l'automatisation, l'analyse des réseaux sociaux et la détection de fraude et d'anomalies. »

• Un logiciel pour prédire si quelqu’un est criminel à partir d’une photo de son visage

Le texte précise en effet que « ces pays sont à l'avant-garde dans l'intégration des technologies d'intelligence artificielle pour renforcer la sécurité et la protection de leurs citoyens, améliorant ainsi leur efficience et leur efficacité ».

Étrangement, la résolution précise aussi que « cette mesure n'implique aucune dépense budgétaire ».

Des cyberpatrouilles OSINT à l'apprentissage automatique

« La surveillance à grande échelle porte atteinte à la liberté d'expression, car elle encourage les gens à s'autocensurer ou à s'abstenir de partager leurs idées ou leurs critiques s'ils soupçonnent que tout ce qu'ils commentent, affichent ou publient est surveillé par les forces de sécurité », a de son côté déclaré Mariela Belski, directrice exécutive d'Amnesty International Argentine, rapporte The Guardian.

Le Centre argentin d'études sur la liberté d'expression et l'accès à l'information (CELE) relève pour sa part que le ministère de la Sécurité avait déjà publié une résolution réintroduisant le renseignement de source ouverte (OSINT) à des fins de surveillance sous le terme de « cyberpatrouille ».

La résolution évoquait « l'utilisation de logiciels ou de tout dispositif ou outil technologique de traitement automatisé de l'information basé sur l'intelligence artificielle, l'apprentissage automatique, le système expert, les réseaux de neurones, l'apprentissage profond ou tout autre développement futur ».

Le CELE déplore « l'opacité qui entoure l'acquisition et la mise en œuvre des technologies », et rappelle que ces technologies ont déjà été utilisées pour « établir le profil d'universitaires, de journalistes, de politiciens et d'activistes ».

🕵️‍♂️ La opacidad en la adquisición e implementación de tecnologías y la falta de rendición de cuentas son preocupantes. En el pasado, estas tecnologías se han usado para perfilar académicos, periodistas, políticos y activistas: https://t.co/aQC4fAIHHJ

— CELE (@CELEUP) July 29, 2024

Le renseignement argentin a déjà fiché journalistes et ONG

Sans même avoir besoin de revenir aux pratiques des dictatures ayant dirigé le pays au XXe siècle, Ies forces de sécurité argentine ont récemment utilisé les réseaux sociaux pour ficher de potentiels dissidents.

En 2020, l'Agencia Federal de Inteligencia (AFI), le principal service de renseignement argentin, avait ainsi été accusée d'avoir illégalement constitué de tels fichiers. Étaient visés plus de 400 journalistes, photographes et cameramen ayant demandé à être accrédités pour un sommet du G20 en 2017, et près de 100 universitaires, hommes d'affaires et représentants d'ONG participant à une conférence ministérielle de l'OMC.

Les fichiers des journalistes contenaient une photo, des références au contenu de leurs réseaux sociaux, et un en-tête rouge, jaune ou vert, sorte de feu tricolore indiquant leur potentielle hostilité. Dans de nombreux cas, leurs préférences politiques et leurs activités culturelles étaient également mentionnées.

Ces fichiers allaient jusqu'à contenir des plaques d'immatriculation des voitures, des noms des membres de la famille « et même de la femme de ménage » d'une des personnes fichées. L’objectif était d’identifier les personnes ou organisations qui « pourraient agir comme éléments déstabilisateurs du déroulement normal de la réunion ».

Rapport minoritaire, la nouvelle de science-fiction de Philip K. Dick que Steven Spielberg a mis en scène dans son film Minority Report, mettait en garde contre les problèmes liés à la prédiction des crimes, rappelle El Pais. « Nous les avons arrêtés [les futurs criminels] avant qu'ils ne puissent commettre le moindre acte de violence », déclare en effet l'un des personnages de l'histoire. « La commission du crime lui-même est donc une question métaphysique. Nous affirmons qu'ils sont coupables. Et eux, à leur tour, ne cessent de clamer leur innocence. Et dans un certain sens, ils sont innocents ».