AI Act : le Parlement européen pourrait autoriser l’identification biométrique « en temps réel à distance »

AI Act : le Parlement européen pourrait autoriser l’identification biométrique « en temps réel à distance »

Eyes Wide Shot

Avatar de l'auteur

Jean-Marc Manach

Publié dansDroit

09/11/2023
12
AI Act : le Parlement européen pourrait autoriser l’identification biométrique « en temps réel à distance »

« Sous la pression de la France », révèle Euractiv, le Conseil des ministres de l’UE a adopté une « exemption étendue » du champ d’application de la règlementation sur l’IA pour les systèmes utilisés ou mis à disposition par toute entité concernant les domaines militaire, de la défense ou de la sécurité nationale. Une formulation qui va pourtant, estime la Commission, à l’encontre des traités de l’UE.

Le Parlement européen serait en passe d’autoriser l’utilisation des technologies d’identification biométrique en temps réel à distance « dans certains cas très précis » et ce, rapporte Euractiv, « alors que les eurodéputés prévoyaient initialement de les interdire, dans le cadre d’un accord élargissant la liste d’utilisations interdites ».

L’identification biométrique à distance avait en effet été un « point de désaccord majeur » dans les négociations au sujet de la règlementation sur l’intelligence artificielle (AI Act), le projet de loi de l’UE visant à règlementer les systèmes d’intelligence artificielle en fonction de leurs risques, souligne notre confrère : 

« Le projet de règlementation sur l’IA se trouve dans la dernière phase du processus législatif de l’UE, appelé trilogues, au cours duquel le Parlement, le Conseil et la Commission définissent les dispositions finales du texte. »

Or, la semaine passée, les cabinets des corapporteurs du Parlement européen Dragoș Tudorache et Brando Benifei « ont fait circuler un texte de compromis abandonnant l’interdiction totale de l’identification biométrique à distance en temps réel en échange de concessions sur d’autres parties du dossier ».

Laisser une marge de manœuvre aux forces de l’ordre 

Dans la proposition initiale, la Commission suggérait en effet de n’autoriser les technologies d’identification biométrique à distance en temps réel « uniquement dans des cas spécifiques, tels que la recherche de personnes disparues, la prévention d’attaques terroristes ou la localisation de suspects d’un crime grave ».

Et ce, alors qu'au Parlement européen, une majorité d’eurodéputés, issus de tous les partis, s’est pourtant prononcée en faveur d’une « interdiction totale » de l’utilisation de ces systèmes, craignant un détournement de la mesure permettant d’organiser une « surveillance de masse » des citoyens.

Or, au Conseil de l’UE, une majorité de gouvernements européens ont tenu à laisser « une certaine marge de manœuvre » aux forces de l’ordre pour l’utilisation de cette technologie.

Le dernier texte de compromis introduit ainsi une clause définissant les « conditions exceptionnelles » permettant le recours aux technologies d’identification biométrique à distance en temps réel afin de « traquer un suspect ». Et le texte précise en outre que l’infraction pénale « doit figurer dans une nouvelle liste et être passible d’une peine maximale d’au moins cinq ans ». 

Ces infractions graves, énumérées dans une nouvelle annexe, comprennent le terrorisme, le trafic d’êtres humains, de drogues et d’armes, l’exploitation sexuelle de mineurs, le meurtre, l’enlèvement, les crimes relevant de la Cour pénale internationale, la prise d’otages et le viol. 

Une interdiction des déductions de profils politiques et sexuels

Les forces de l’ordre ne pourraient en outre recourir aux « usages autorisés de l’identification biométrique à distance en temps réel » qu'après avoir procédé à une analyse d’impact sur les droits fondamentaux.

De plus, et suite à l’exemple tristement célèbre de Clearview AI, le texte introduit une interdiction des « systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale par la collecte non ciblée et de grande ampleur d'images faciales sur Internet ou issues de systèmes de vidéosurveillance ».

Des eurodéputés ont également rajouté une interdiction des « systèmes utilisant des technologies de classification de données biométriques pour déduire des informations confidentielles sur les personnes ».  Il est ainsi interdit, dans le texte de compromis actuel, d’utiliser des « systèmes profilables déduisant l’orientation politique ou les préférences sexuelles d’un individu ». Les technologies de reconnaissance des émotions sont également interdites « sur le lieu de travail et dans l’enseignement ».

« Sous la pression de la France », une « exemption étendue »

Euractiv note par ailleurs que des divergences de points de vue subsistent quant à l’utilisation de l’IA pour la  « prévision policière », que les députés européens souhaitent voir interdire, alors que les États membres veulent la maintenir dans des « situations à haut risque ». Mais également que le Conseil de l’UE a introduit plusieurs « exemptions importantes » pour les organismes chargés de faire respecter la loi. 

Les eurodéputés semblent également avoir accepté que les forces de l’ordre et les organismes de protection civile puissent utiliser une application d’IA « à haut risque dans des circonstances exceptionnelles, même si elle n’a pas encore fait l’objet d’une évaluation de conformité. »

« Sous la pression de la France », souligne Euractiv, le Conseil a en outre adopté une « exemption étendue » du champ d’application de la règlementation sur l’IA pour les systèmes utilisés ou mis à disposition par toute entité concernant les domaines militaire, de la défense ou de la sécurité nationale.

Et ce, quand bien même la Commission avait indiqué, dans un document officieux daté du mois dernier, que cette formulation allait à l’encontre des traités de l’UE. L’exécutif européen avait alors « proposé un texte de compromis », avec « deux modifications importantes ».

Le texte avait été agrémenté de la phrase suivante : « Le présent règlement ne s’applique pas aux systèmes d’IA développés ou utilisés exclusivement à des fins militaires ». Et si le passage précisant que « le présent règlement est sans préjudice des compétences des États membres en ce qui concerne leurs activités dans le domaine militaire, de la défense ou de la sécurité nationale »" a été maintenue, la référence à la conformité avec la législation de l’UE a  par contre été supprimée.

Euractiv conclut qu' « une autre formulation pourrait être recherchée pour être conforme à l’exemption de sécurité nationale du règlement sur les données (Data Act) ».

12
Avatar de l'auteur

Écrit par Jean-Marc Manach

Tiens, en parlant de ça :

Un mélange entre une réunion d’Anonymous et de tête d’ampoules, pour le meilleur et le pire

652e édition des LIDD : Liens Intelligents Du Dimanche

Et bonne nuit les petits

00:04 Next 1
dessin de Flock

#Flock distribue des mandales tous azimuts

13:40 Flock 11
Un Sébastien transformé en lapin par Flock pour imiter le Quoi de neuf Docteur des Looney Tunes

Quoi de neuf à la rédac’ #11 et résumé de la semaine

11:47 Next 26

Sommaire de l'article

Introduction

Laisser une marge de manœuvre aux forces de l’ordre 

Une interdiction des déductions de profils politiques et sexuels

« Sous la pression de la France », une « exemption étendue »

Un mélange entre une réunion d’Anonymous et de tête d’ampoules, pour le meilleur et le pire

652e édition des LIDD : Liens Intelligents Du Dimanche

Next 1
dessin de Flock

#Flock distribue des mandales tous azimuts

Flock 11
Un Sébastien transformé en lapin par Flock pour imiter le Quoi de neuf Docteur des Looney Tunes

Quoi de neuf à la rédac’ #11 et résumé de la semaine

Next 26
Carte graphique AMD GeForce

Cartes graphiques : 30 ans d’évolution des GPU

Hard 18

Google lance son opération de communications Gemini pour rivaliser avec OpenAI

IA 6
Ecran bleu de Windows

Linux : le composant systemd se dote d’un écran bleu de la mort

Soft 32
Une petite fille en train d'apprendre à programmer et hacker logiciels et appareils électroniques

Un roman graphique explique les logiciels libres aux enfants

SoftSociété 20
Nouveautés pour Messenger

Meta lance (enfin) le chiffrement de bout en bout de Messenger, entre autres

Socials 5

#LeBrief : cloud européen, OSIRIS-REx a frôlée la catastrophe, CPU AMD Ryzen 8040

Windows en 2024 : beaucoup d’IA, mais pas forcément un « 12 »

Soft 21
Einstein avec des qubits en arrière plan

Informatique quantique, qubits : avez-vous les bases ?

HardScience 9
Notifications iPhone

Surveillance des notifications : un sénateur américain demande la fin du secret

DroitSécu 17

En ligne, les promos foireuses restent d’actualité

DroitWeb 19

#LeBrief : modalité des amendes RGPD, cyberattaque agricole, hallucinations d’Amazon Q, 25 ans d’ISS

Logo Twitch

Citant des « coûts prohibitifs », Twitch quitte la Corée du Sud

ÉcoWeb 29
Formation aux cryptomonnaies par Binance à Pôle Emploi

Binance fait son marketing pendant des formations sur la blockchain destinées aux chômeurs

Éco 10
Consommation électrique du CERN

L’empreinte écologique CERN en 2022 : 1 215 GWh, 184 173 teqCO₂, 3 234 Ml…

Science 6
station électrique pour voitures

Voitures électriques : dans la jungle, terrible jungle, des bornes de recharge publiques

Société 75

#LeBrief : intelligence artificielle à tous les étages, fichier biométrique EURODAC

KDE Plasma 6

KDE Plasma 6 a sa première bêta, le tour des nouveautés

Soft 13
Un homme noir regarde la caméra. Sur son visage, des traits blancs suggèrent un traitement algorithmique.

AI Act et reconnaissance faciale : la France interpelée par 45 eurodéputés

DroitSociété 4
Api

La CNIL préconise l’utilisation des API pour le partage de données personnelles entre organismes

SécuSociété 3
Fouet de l’Arcep avec de la fibre

Orange sanctionnée sur la fibre : l’argumentaire de l’opérateur démonté par l’Arcep

DroitWeb 23
Bombes

Israël – Hamas : comment l’IA intensifie les attaques contre Gaza

IA 22

#LeBrief : bande-annonce GTA VI, guerre électronique, Spotify licencie massivement

Poing Dev

Le poing Dev – Round 7

Next 102
Logo de Gaia-X sour la forme d’un arbre, avec la légende : infrastructure de données en forme de réseau

Gaia-X « vit toujours » et « arrive à des étapes très concrètes »

WebSécu 7

Trois consoles portables en quelques semaines

Hard 37
Une tasse estampillée "Keep calm and carry on teaching"

Cyberrésilience : les compromis (provisoires) du trilogue européen

DroitSécu 3

#LeBrief : fuite de tests ADN 23andMe, le milliard pour Android Messages, il y a 30 ans Hubble voyait clair

next n'a pas de brief le week-end

Le Brief ne travaille pas le week-end.
C'est dur, mais c'est comme ça.
Allez donc dans une forêt lointaine,
Éloignez-vous de ce clavier pour une fois !

Commentaires (12)


ragoutoutou Abonné
Le 09/11/2023 à 13h04

Quand je dis que la France a une mauvaise influence sur les droits des européens…


fred42 Abonné
Le 09/11/2023 à 14h12

Tu vas être surpris, mais ici, je suis d’accord avec toi.



Mais ça n’est possible que parce que les autres états membres acceptent le compromis en négociant autre chose en échange.



Ça fait 2 fois en peu de temps que l’on parle du trilogue qui permet de passer outre le vote des députés. C’est à mon avis surtout ça qu’il faut supprimer. C’est un déni de démocratie.


Alianirah Abonné
Le 09/11/2023 à 17h25

La dérive hypothétique du projet est effectivement dangereuse et peut faire flipper.



Toutefois, c’est bien dommage de se priver d’un tel dispositif pour les cas cités : “uniquement dans des cas spécifiques, tels que la recherche de personnes disparues, la prévention d’attaques terroristes ou la localisation de suspects d’un crime grave “.



Et puis la temps que ce soit mis en place, la délinquance de manière générale s’adapte bien plus facilement et rapidement (eux n’ont pas de texte, “rien n’est interdit, tout est permis”) donc l’inquiétude initiale peut éventuellement se justifier.



D’autre part, le jeu des influences et des négociations reste toujours surprenant et inquiétant quant à l’indépendance des institutions européennes.


refuznik Abonné
Le 10/11/2023 à 15h55

Ce que tu oublies c’est cette partie :
… *« traquer un suspect ». Et le texte précise en outre que l’infraction pénale « doit figurer dans une nouvelle liste et être passible d’une peine maximale d’au moins cinq ans ». *



On a déja pleins de listes de personnes recherchées, il suffit simplement de voir chez europol et ailleurs. Donc au final cela permet de continuer la reco. faciale en permanence chez Frontex, dans les aéroports et dans les gares dans toutes l’UE.


Alianirah Abonné
Le 11/11/2023 à 07h05

refuznik

Ce que tu oublies c’est cette partie : … *« traquer un suspect ». Et le texte précise en outre que l’infraction pénale « doit figurer dans une nouvelle liste et être passible d’une peine maximale d’au moins cinq ans ». *

On a déja pleins de listes de personnes recherchées, il suffit simplement de voir chez europol et ailleurs. Donc au final cela permet de continuer la reco. faciale en permanence chez Frontex, dans les aéroports et dans les gares dans toutes l’UE.

La taque des personnes risquant des peines d’au moins cinq ans (il s’agit a minima des délits aggravés) semble normale alors en utilisant ce procédé.
Et si la liste est restrictive ça rassure pour les libertés individuelles ? C’est ce que tu suggères ?


ragoutoutou Abonné
Le 09/11/2023 à 19h18

fred42 a dit:


Ça fait 2 fois en peu de temps que l’on parle du trilogue qui permet de passer outre le vote des députés. C’est à mon avis surtout ça qu’il faut supprimer. C’est un déni de démocratie.




Aussi en finir avec le monopole de l’initiative législative laissé entièrement dans les mains de la commission. Cela permet à cette dernière de dicter complètement l’agenda législatif, les textes de départ et de bloquer les réformes des textes déjà passés.



Mais bon, pour avoir encore une réforme de l’U.E. à ce niveau, il faudrait pas mal de conditions dont la faisabilité s’éloigne de plus en plus.


Jean de Tolbiac Abonné
Le 10/11/2023 à 10h46

Ce n’est pas un déni de démocratie : il faut voir le conseil européen comme une deuxième chambre représentant les États. Dans beaucoup de démocraties, il y a un système bicaméral avec une chambre élu au suffrage direct et une autre représentant les « territoires » (le Sénat en France qui est élu par les conseillers municipaux, départementaux, régionaux principalement, le Sénat américain qui comporte deux sénateurs par État américain…)



L’Union européenne n’est pas dans sa forme actuel un état fédéral. Il ne semble donc pas antidémocratique que le fonctionnement ne soit pas le même qu’au sein d’un État.



De plus, rappelons que la Commission est responsable devant le Parlement : ce dernier a un pouvoir de veto sur les commissaires lors de leur nomination et de censure globale ensuite.



Mais peut-être que l’élection de la commission serait une piste intéressante.


f_p_ Abonné
Le 10/11/2023 à 06h53

Jean Moulin était un “terroriste”, pour le régime autoritaire qu’il combattait. Et notre ministre de l’intérieur parle tout le temps d’“éco-terroristes”.
L’intérêt de banaliser le mot, c’est de généraliser l’usage des technologies les plus intrusives dans la faille juridique qui aura été ouverte.
L’interdiction totale est une nécessité démocratique.


ragoutoutou Abonné
Le 10/11/2023 à 11h29

(reply:2164349:Jean de Tolbiac)




Qu’est-ce que tu racontes, le bicaméralisme n’est pas le problème que je soulève. Je parle du fait que le parlement de l’U.E. ne peut pas déposer de lois. Quand même une grosse blague d’appeler le P.E. ‘le législateur’ dans de telles conditions.



Dans une démocratie, ce n’est pas juste l’exécutif qui contrôle l’agenda législatif.


fred42 Abonné
Le 10/11/2023 à 11h54

(reply:2164349:Jean de Tolbiac)




Je ne suis pas d’accord avec ta comparaison au bicamérisme.
Mais même en prenant compte ton hypothèse, en France, on a certes la commission mixte paritaire mais en cas de désaccord, c’est l’Assemblée Nationale qui a le dernier mot et qui décide du contenu de la loi. C’est donc la chambre élu au suffrage direct.



Ici, il n’y a eu accord que parce que le parlement européen n’avait pas le dernier mot.


Patch Abonné
Le 10/11/2023 à 13h15

ragoutoutou a dit:


Qu’est-ce que tu racontes, le bicaméralisme n’est pas le problème que je soulève. Je parle du fait que le parlement de l’U.E. ne peut pas déposer de lois. Quand même une grosse blague d’appeler le P.E. ‘le législateur’ dans de telles conditions.



Dans une démocratie, ce n’est pas juste l’exécutif qui contrôle l’agenda législatif.




Sans compter que le Conseil de l’UE, qui n’est pas élu (il est composé de ministres), a à la fois un pouvoir exécutif et législatif.


ragoutoutou Abonné
Le 10/11/2023 à 13h32

Disons que le conseil est un mal nécessaire, dans la mesure où on demande aux états d’abandonner des pans de souveraineté… maintenant, ce serait bien entendu mieux d’avoir des représentants des organes législatifs de chaque pays plutôt que de l’exécutif.



Mais c’est vrai qu’au final on a deux exécutifs (conseil et commission) contre un législatif (parlement) qui ne peut même pas proposer de lois, c’est un peu disproportionné.