Un homme noir regarde la caméra. Sur son visage, des traits blancs suggèrent un traitement algorithmique.Mirror B – Comuzi – Better Images of AI

AI Act et reconnaissance faciale : la France interpelée par 45 eurodéputés

Report minoritaire

Avatar de l'auteur
Jean-Marc Manach

Publié dans

DroitSociété numérique

05/12/2023
4

Un homme noir regarde la caméra. Sur son visage, des traits blancs suggèrent un traitement algorithmique.Mirror B – Comuzi – Better Images of AI

« À la lumière des négociations de la loi sur l'IA », 45 eurodéputés entendent réagir aux révélations de l'ONG Disclose sur l'utilisation du logiciel de vidéosurveillance algorithmique et de reconnaissance faciale Briefcam au sein de la police française. Le projet de règlement européen, auquel la France s'oppose, pourrait ne pas aboutir à un compromis avant les élections européennes.

45 eurodéputés viennent d'adresser une lettre ouverte à Emmanuel Macron, Elisabeth Borne et Gérald Darmanin pour, précise Le Monde, « condamner l’utilisation de ce type d’outil et les presser de défendre l’interdiction de la reconnaissance faciale dans l’espace public, dans le cadre du futur règlement européen sur l’intelligence artificielle ».

Les eurodéputés rappellent que Gérald Darmanin s’était en effet, ces derniers mois, déclaré « opposé à la légalisation et à l’utilisation des technologies de reconnaissance faciale par les forces de l’ordre dans les espaces publics ».

Ironisant quant au fait que « la police française, dont il est responsable, semble avoir une pratique complètement différente, sans contrôle et sans recours juridique », les eurodéputés se félicitent de l'ouverture d'une enquête et espèrent que « tout constat d'illégalité sera traité avec plus de rigueur qu'auparavant ».

Une étape cruciale des négociations sur l'AI Act

Le Monde relève que figurent parmi les signataires, tous membres des groupes écologistes, socio-démocrates ou de gauche, plusieurs eurodéputés français (Raphaël Glucksmann, Sylvie Guillaume, Pierre Larrouturou, Damien Carême…), mais aussi et surtout six négociateurs pour le Parlement européen du règlement sur l’intelligence artificielle, dont une « étape cruciale des négociations » interviendra ce mercredi 6 décembre.

Les négociations entre le Parlement, le Conseil européen (les États membres) et la Commission « s’annoncent houleuses, puisque le Parlement n’est pas sur la même ligne que celle du Conseil, et notamment celle de la France », souligne Le Monde.

Or, relèvent les eurodéputés, « si le ministre responsable de la police dans un État membre de l’Union européenne a effectivement dissimulé l’existence de pratiques illégales d’identification biométrique à distance pendant des années, s’il a menti aux membres du Parlement et aux citoyens, ou s’il n’a pas été informé de l’utilisation de cette technologie par sa propre administration, cela montre que nous avons besoin de toute urgence d’un cadre européen directement applicable pour renforcer la protection des droits fondamentaux ».

Les signataires appellent dès lors les autorités françaises à soutenir le Parlement européen « dans sa demande d’interdiction stricte et complète de l’utilisation des technologies de surveillance biométrique dans les espaces publics accessibles ».

Et ce, alors qu’ils déplorent dans le même temps que « la France a jusqu’à présent pris la direction opposée, réclamant avec insistance une exemption des forces de l’ordre de l’interdiction de l’identification biométrique à distance ».

Des négociations compliquées par l’arrivée des IA génératives

Les pays membres souhaiteraient en effet une « exemption afin que les forces de l’ordre puissent l’utiliser pour retrouver des enfants disparus ou des terroristes », relève Associated Press. Et ce, alors que les ONG de défense des droits humains « craignent que cela ne crée effectivement une base juridique » pour faciliter la surveillance de masse.

Évoquant un « moment décisif », AP évoque « des négociations compliquées par la montée soudaine de l’IA générative » et un processus « entravé par une bataille de dernière minute » sur la manière de gouverner les IA comme ChatGPT d’OpenAI et le chatbot Bard de Google.

Les grandes entreprises technologiques feraient en effet pression « contre ce qu’elles considèrent comme une réglementation excessive qui étouffe l’innovation », tandis que les législateurs européens souhaiteraient de leur côté des « garanties supplémentaires ».

« Au moins, les choses sont désormais claires » : des entreprises comme OpenAI défendent leurs entreprises et non l’intérêt public, a déclaré le commissaire européen Thierry Breton lors d’une conférence sur l’IA en France quelques jours après la saga de l’éviction finalement annulée de Sam Altman par le board d’OpenAI.

La résistance « improbable » de la France, l’Allemagne et l’Italie

La résistance aux règles gouvernementales concernant ces systèmes d’IA « est venue d’un endroit improbable : la France, l’Allemagne et l’Italie », souligne AP : « les trois plus grandes économies de l’UE » ont « réagi avec un document de position plaidant en faveur de l’autorégulation ».

Un « changement d’avis » visant à aider les acteurs locaux de l’IA générative tels que la startup française Mistral AI et l’allemand Aleph Alpha, mais également à « ne pas laisser les entreprises américaines dominer l’écosystème de l’IA comme elles l’ont fait dans les vagues précédentes de technologies telles que le cloud, le commerce électronique et les médias sociaux », précise Nick Reiners, analyste des politiques technologiques chez Eurasia Group.

L’IA est « trop ​​importante pour ne pas être réglementée, et trop importante pour ne pas être bien réglementée », a de son côté déclaré Kent Walker, directeur juridique de Google, dans un discours prononcé à Bruxelles la semaine passée : « la course devrait porter sur les meilleures réglementations en matière d’IA, et non sur les premières réglementations en matière d’IA ».

Une des dernières chances de parvenir à un accord

Les trois branches du gouvernement de l’UE sont confrontées mercredi à ce qu’AP qualifie de « l’une de leurs dernières chances de parvenir à un accord ». Quand bien même elles y parviendraient, la version finale devra encore être approuvée par les 705 eurodéputés d’ici avril, avant que ne commence la campagne pour les élections européennes de juin.

S’ils n’y parviennent pas, le projet de règlement sera suspendu jusqu’à la fin de l’année prochaine, après l’entrée en fonction de nouveaux dirigeants européens qui, souligne AP, pourraient avoir des points de vue différents sur l’IA. Sachant que la loi n’entrerait de toute façon pas en vigueur avant une période de transition, généralement de deux ans.

Les eurodéputés signataires de la lettre ouverte soulignent de leur côté qu’en réponse aux révélations de Disclose, le ministre de l’Intérieur « a affirmé que l’identification biométrique à distance n’avait pas été utilisée », et notent qu’il a aussi « nié avec véhémence être en faveur de son déploiement ».

« Nous espérons donc qu’il fera le nécessaire pour que la France soutienne la position du Parlement au Conseil », concluent les signataires : « comme nous constatons que les garanties déjà en place sont contournées, nous nous attendons à ce qu’il en aille de même pour toute exception inclue dans la loi sur l’IA – c’est pourquoi nous avons besoin d’une interdiction totale ».

4

Écrit par Jean-Marc Manach

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Une étape cruciale des négociations sur l'AI Act

Des négociations compliquées par l’arrivée des IA génératives

La résistance « improbable » de la France, l’Allemagne et l’Italie

Une des dernières chances de parvenir à un accord

Le brief de ce matin n'est pas encore là

Partez acheter vos croissants
Et faites chauffer votre bouilloire,
Le brief arrive dans un instant,
Tout frais du matin, gardez espoir.

Commentaires (4)


Le 05/12/2023 à 16h 44
Petite question de forme : est ce volontaire de mettre autant de back links au milieu de l'article ?
Ce n'est pas très agréable pour la lecture et je présume que les personnes intéressées par le sujet ont déjà croisé la majorité des articles associés, non ?
Le 05/12/2023 à 17h 06
Cela fait des années que l'on propose des liens renvoyant à nos autres articles relatifs (on ne part pas du postulat que tout le monde a tout lu, ni tout retenu), mais on attend (avec impatience) que l'interlignage ne soit plus si espacé, et avec une indentation allégeant la lecture, comme c'était le cas auparavant.
De Compet Abonné
Le 05/12/2023 à 18h 26
J'ai déjà lu la plupart des articles en liens et suis bien aise de les retrouver ici. De plus ils mettent en avant le contexte de celui-ci.
Merci JMM de respecter mon droit à la paresse.
fred42 Abonné
Le 05/12/2023 à 18h 59
D'habitude je lis sur pc et ça passe mieux, mais là je suis sur smartphone et c'est assez désagréable ( en plus de la justification qui ajoute à la laideur).