Les eurodéputés ont adopté une résolution par 377 voix pour, 248 contre et 62 abstentions. Un texte visant « l’intelligence artificielle en droit pénal et son utilisation par les autorités policières et judiciaires dans les affaires pénales »

La résolution réaffirme ainsi les solutions d’IA poursuivant ces finalités doivent « respecter pleinement les principes de non-discrimination, de liberté de circulation, de présomption d’innocence et de droits de la défense, y compris le droit au silence, de liberté d’expression et d’information, de liberté de réunion et d’association, d’égalité devant la loi, d’égalité des armes et de droit à un recours effectif et à un procès équitable »

Dans la longue liste des désidératas, les élus en appellent à « un contrôle démocratique strict et une surveillance indépendante de toute technologie fondée sur l’IA utilisée par les autorités (…) en particulier celles pouvant être détournées à des fins de surveillance de masse ou de profilage de masse ».

Autre vœu, l’interdiction permanente « de l’utilisation de l’analyse et/ou de la reconnaissance automatisées, dans les espaces accessibles au public, d’autres caractéristiques humaines telles que la démarche, les empreintes digitales, l’ADN, la voix et d’autres signaux biométriques et comportementaux ».

Cette résolution à une valeur uniquement politique, non juridique. Les eurodéputés n’en demandent pas moins à l’Agence des droits fondamentaux de l’Union « d’élaborer, en collaboration avec le comité européen de la protection des données et le contrôleur européen de la protection des données, des lignes directrices détaillées, des recommandations et des bonnes pratiques » pour cette utilisation de l’IA par les autorités.

Le texte prône aussi un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, « à moins qu’ils ne soient utilisés qu’aux fins de l’identification des victimes de la criminalité ».

Un moratoire « jusqu’à ce que les normes techniques puissent être considérées comme pleinement respectueuses des droits fondamentaux, que les résultats obtenus ne soient ni biaisés, ni discriminatoires, que le cadre juridique offre des garanties strictes contre les utilisations abusives ainsi qu’un contrôle et une surveillance démocratiques rigoureux, et que la nécessité et la proportionnalité du déploiement de ces technologies soient prouvées de manière empirique »

« Nous nous opposons clairement à la police prédictive fondée sur l’utilisation de l’IA ainsi que sur tout traitement des données biométriques conduisant à une surveillance de masse. C’est une énorme victoire pour tous les citoyens européens », commente le rapporteur Petar Vitanov (S&D, BG).