45 eurodéputés viennent d'adresser une lettre ouverte à Emmanuel Macron, Elisabeth Borne et Gérald Darmanin pour, précise Le Monde, « condamner l’utilisation de ce type d’outil et les presser de défendre l’interdiction de la reconnaissance faciale dans l’espace public, dans le cadre du futur règlement européen sur l’intelligence artificielle ».

Les eurodéputés rappellent que Gérald Darmanin s’était en effet, ces derniers mois, déclaré « opposé à la légalisation et à l’utilisation des technologies de reconnaissance faciale par les forces de l’ordre dans les espaces publics ».

Ironisant quant au fait que « la police française, dont il est responsable, semble avoir une pratique complètement différente, sans contrôle et sans recours juridique », les eurodéputés se félicitent de l'ouverture d'une enquête et espèrent que « tout constat d'illégalité sera traité avec plus de rigueur qu'auparavant ».

• Un logiciel de reconnaissance faciale utilisé illégalement par la police française
• Reconnaissance faciale de BriefCam : condamnation de l’agglomération de Deauville
• La CNIL et le ministère de l'Intérieur vont enquêter sur la reconnaissance faciale à des fins policières

Une étape cruciale des négociations sur l'AI Act

Le Monde relève que figurent parmi les signataires, tous membres des groupes écologistes, socio-démocrates ou de gauche, plusieurs eurodéputés français (Raphaël Glucksmann, Sylvie Guillaume, Pierre Larrouturou, Damien Carême…), mais aussi et surtout six négociateurs pour le Parlement européen du règlement sur l’intelligence artificielle, dont une « étape cruciale des négociations » interviendra ce mercredi 6 décembre.

Les négociations entre le Parlement, le Conseil européen (les États membres) et la Commission « s’annoncent houleuses, puisque le Parlement n’est pas sur la même ligne que celle du Conseil, et notamment celle de la France », souligne Le Monde.

Or, relèvent les eurodéputés, « si le ministre responsable de la police dans un État membre de l’Union européenne a effectivement dissimulé l’existence de pratiques illégales d’identification biométrique à distance pendant des années, s’il a menti aux membres du Parlement et aux citoyens, ou s’il n’a pas été informé de l’utilisation de cette technologie par sa propre administration, cela montre que nous avons besoin de toute urgence d’un cadre européen directement applicable pour renforcer la protection des droits fondamentaux ».

Les signataires appellent dès lors les autorités françaises à soutenir le Parlement européen « dans sa demande d’interdiction stricte et complète de l’utilisation des technologies de surveillance biométrique dans les espaces publics accessibles ».

Et ce, alors qu'ils déplorent dans le même temps que « la France a jusqu’à présent pris la direction opposée, réclamant avec insistance une exemption des forces de l’ordre de l’interdiction de l’identification biométrique à distance ».

• • AI Act : le texte interdit désormais la reconnaissance faciale, la notation sociale et la police prédictive

Des négociations compliquées par l'arrivée des IA génératives

Les pays membres souhaiteraient en effet une « exemption afin que les forces de l’ordre puissent l’utiliser pour retrouver des enfants disparus ou des terroristes », relève Associated Press. Et ce, alors que les ONG de défense des droits humains « craignent que cela ne crée effectivement une base juridique » pour faciliter la surveillance de masse.

Évoquant un « moment décisif », AP évoque « des négociations compliquées par la montée soudaine de l'IA générative » et un processus « entravé par une bataille de dernière minute » sur la manière de gouverner les IA comme ChatGPT d'OpenAI et le chatbot Bard de Google.

Les grandes entreprises technologiques feraient en effet pression « contre ce qu’elles considèrent comme une réglementation excessive qui étouffe l’innovation », tandis que les législateurs européens souhaiteraient de leur côté des « garanties supplémentaires ».

« Au moins, les choses sont désormais claires » : des entreprises comme OpenAI défendent leurs entreprises et non l’intérêt public, a déclaré le commissaire européen Thierry Breton lors d’une conférence sur l’IA en France quelques jours après la saga de l'éviction finalement annulée de Sam Altman par le board d'OpenAI.

• • OpenAI : récit d’une semaine de folie

• • Coups de tonnerre chez OpenAI : Sam Altman viré, Greg Brockman démissionne, ils sont « choqués et attristés »

• • Intelligence artificielle : Microsoft récupère Sam Altman, Greg Brockman et une partie de l’équipe d’OpenAI

La résistance « improbable » de la France, l'Allemagne et l'Italie

La résistance aux règles gouvernementales concernant ces systèmes d’IA « est venue d’un endroit improbable : la France, l’Allemagne et l’Italie », souligne AP : « les trois plus grandes économies de l’UE » ont « réagi avec un document de position plaidant en faveur de l’autorégulation ».

Un « changement d’avis » visant à aider les acteurs locaux de l’IA générative tels que la startup française Mistral AI et l’allemand Aleph Alpha, mais également à « ne pas laisser les entreprises américaines dominer l’écosystème de l’IA comme elles l’ont fait dans les vagues précédentes de technologies telles que le cloud, le commerce électronique et les médias sociaux », précise Nick Reiners, analyste des politiques technologiques chez Eurasia Group.

• • AI Act : intenses débats en perspective

• • AI Act : l’IA générative pourrait être régulée par niveaux

• • AI Act : la France, l’Allemagne et l’Italie ne veulent pas réguler les modèles « de fondation »

• • AI Act : le Parlement européen pourrait autoriser l’identification biométrique « en temps réel à distance »

L’IA est « trop ​​importante pour ne pas être réglementée, et trop importante pour ne pas être bien réglementée », a de son côté déclaré Kent Walker, directeur juridique de Google, dans un discours prononcé à Bruxelles la semaine passée : « la course devrait porter sur les meilleures réglementations en matière d’IA, et non sur les premières réglementations en matière d’IA ».

Une des dernières chances de parvenir à un accord

Les trois branches du gouvernement de l’UE sont confrontées mercredi à ce qu'AP qualifie de « l’une de leurs dernières chances de parvenir à un accord ». Quand bien même elles y parviendraient, la version finale devra encore être approuvée par les 705 eurodéputés d’ici avril, avant que ne commence la campagne pour les élections européennes de juin.

S’ils n'y parviennent pas, le projet de règlement sera suspendu jusqu’à la fin de l’année prochaine, après l’entrée en fonction de nouveaux dirigeants européens qui, souligne AP, pourraient avoir des points de vue différents sur l’IA. Sachant que la loi n'entrerait de toute façon pas en vigueur avant une période de transition, généralement de deux ans.

Les eurodéputés signataires de la lettre ouverte soulignent de leur côté qu'en réponse aux révélations de Disclose, le ministre de l'Intérieur « a affirmé que l'identification biométrique à distance n’avait pas été utilisée », et notent qu'il a aussi « nié avec véhémence être en faveur de son déploiement ».

« Nous espérons donc qu'il fera le nécessaire pour que la France soutienne la position du Parlement au Conseil », concluent les signataires : « comme nous constatons que les garanties déjà en place sont contournées, nous nous attendons à ce qu'il en aille de même pour toute exception inclue dans la loi sur l'IA – c'est pourquoi nous avons besoin d'une interdiction totale ».