« Sous la pression de la France », révèle Euractiv, le Conseil des ministres de l’UE a adopté une « exemption étendue » du champ d’application de la règlementation sur l’IA pour les systèmes utilisés ou mis à disposition par toute entité concernant les domaines militaire, de la défense ou de la sécurité nationale. Une formulation qui va pourtant, estime la Commission, à l’encontre des traités de l’UE.

Le Parlement européen serait en passe d’autoriser l’utilisation des technologies d’identification biométrique en temps réel à distance « dans certains cas très précis » et ce, rapporte Euractiv, « alors que les eurodéputés prévoyaient initialement de les interdire, dans le cadre d’un accord élargissant la liste d’utilisations interdites ».

L’identification biométrique à distance avait en effet été un « point de désaccord majeur » dans les négociations au sujet de la règlementation sur l’intelligence artificielle (AI Act), le projet de loi de l’UE visant à règlementer les systèmes d’intelligence artificielle en fonction de leurs risques, souligne notre confrère : 

« Le projet de règlementation sur l’IA se trouve dans la dernière phase du processus législatif de l’UE, appelé trilogues, au cours duquel le Parlement, le Conseil et la Commission définissent les dispositions finales du texte. »

Or, la semaine passée, les cabinets des corapporteurs du Parlement européen Dragoș Tudorache et Brando Benifei « ont fait circuler un texte de compromis abandonnant l’interdiction totale de l’identification biométrique à distance en temps réel en échange de concessions sur d’autres parties du dossier ».

• AI Act : intenses débats en perspective
• AI Act : le texte interdit désormais la reconnaissance faciale, la notation sociale et la police prédictive
• AI Act : un groupe d’associations demande au Parlement européen de protéger les droits fondamentaux

Laisser une marge de manœuvre aux forces de l’ordre 

Dans la proposition initiale, la Commission suggérait en effet de n’autoriser les technologies d’identification biométrique à distance en temps réel « uniquement dans des cas spécifiques, tels que la recherche de personnes disparues, la prévention d’attaques terroristes ou la localisation de suspects d’un crime grave ».

Et ce, alors qu'au Parlement européen, une majorité d’eurodéputés, issus de tous les partis, s’est pourtant prononcée en faveur d’une « interdiction totale » de l’utilisation de ces systèmes, craignant un détournement de la mesure permettant d’organiser une « surveillance de masse » des citoyens.

Or, au Conseil de l’UE, une majorité de gouvernements européens ont tenu à laisser « une certaine marge de manœuvre » aux forces de l’ordre pour l’utilisation de cette technologie.

Le dernier texte de compromis introduit ainsi une clause définissant les « conditions exceptionnelles » permettant le recours aux technologies d’identification biométrique à distance en temps réel afin de « traquer un suspect ». Et le texte précise en outre que l’infraction pénale « doit figurer dans une nouvelle liste et être passible d’une peine maximale d’au moins cinq ans ». 

Ces infractions graves, énumérées dans une nouvelle annexe, comprennent le terrorisme, le trafic d’êtres humains, de drogues et d’armes, l’exploitation sexuelle de mineurs, le meurtre, l’enlèvement, les crimes relevant de la Cour pénale internationale, la prise d’otages et le viol. 

Une interdiction des déductions de profils politiques et sexuels

Les forces de l’ordre ne pourraient en outre recourir aux « usages autorisés de l’identification biométrique à distance en temps réel » qu'après avoir procédé à une analyse d’impact sur les droits fondamentaux.

De plus, et suite à l’exemple tristement célèbre de Clearview AI, le texte introduit une interdiction des « systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale par la collecte non ciblée et de grande ampleur d'images faciales sur Internet ou issues de systèmes de vidéosurveillance ».

• 27 pays ont testé l'application de reconnaissance faciale de Clearview
• RGPD : Clearview AI condamné à 20 millions d'euros d'amende, pour la 3e fois
• ClearView a fait tester son IA de reconnaissance faciale dans 24 pays, dont la France
• La CNIL inflige 5 millions d'euros d'astreinte à Clearview, mais comment contraindre à payer ?

Des eurodéputés ont également rajouté une interdiction des « systèmes utilisant des technologies de classification de données biométriques pour déduire des informations confidentielles sur les personnes ».  Il est ainsi interdit, dans le texte de compromis actuel, d’utiliser des « systèmes profilables déduisant l’orientation politique ou les préférences sexuelles d’un individu ». Les technologies de reconnaissance des émotions sont également interdites « sur le lieu de travail et dans l’enseignement ».

« Sous la pression de la France », une « exemption étendue »

Euractiv note par ailleurs que des divergences de points de vue subsistent quant à l’utilisation de l’IA pour la  « prévision policière », que les députés européens souhaitent voir interdire, alors que les États membres veulent la maintenir dans des « situations à haut risque ». Mais également que le Conseil de l’UE a introduit plusieurs « exemptions importantes » pour les organismes chargés de faire respecter la loi. 

Les eurodéputés semblent également avoir accepté que les forces de l’ordre et les organismes de protection civile puissent utiliser une application d’IA « à haut risque dans des circonstances exceptionnelles, même si elle n’a pas encore fait l’objet d’une évaluation de conformité. »

« Sous la pression de la France », souligne Euractiv, le Conseil a en outre adopté une « exemption étendue » du champ d’application de la règlementation sur l’IA pour les systèmes utilisés ou mis à disposition par toute entité concernant les domaines militaire, de la défense ou de la sécurité nationale.

Et ce, quand bien même la Commission avait indiqué, dans un document officieux daté du mois dernier, que cette formulation allait à l’encontre des traités de l’UE. L’exécutif européen avait alors « proposé un texte de compromis », avec « deux modifications importantes ».

Le texte avait été agrémenté de la phrase suivante : « Le présent règlement ne s’applique pas aux systèmes d’IA développés ou utilisés exclusivement à des fins militaires ». Et si le passage précisant que « le présent règlement est sans préjudice des compétences des États membres en ce qui concerne leurs activités dans le domaine militaire, de la défense ou de la sécurité nationale »" a été maintenue, la référence à la conformité avec la législation de l’UE a  par contre été supprimée.

Euractiv conclut qu' « une autre formulation pourrait être recherchée pour être conforme à l’exemption de sécurité nationale du règlement sur les données (Data Act) ».