Intelligence artificielle : la feuille de route du Parlement européen

Le parlement européen a adopté, ce 3 mai, la résolution sur « l’Intelligence artificielle à l’ère du numérique ». Un texte long de 66 pages, fruit du travail de la commission spéciale sur l'intelligence artificielle. Désormais, le maillage législatif devrait se baser sur les recommandations et les lignes directrices annoncées par ce nouveau texte.

Le texte fraichement adopté appréhende l’IA comme une « quatrième révolution industrielle », exigeant par la même occasion une régulation adaptée. Cette transition s’accompagne en effet d'inquiétudes éthiques et juridiques avec des systèmes d’IA aujourd’hui « plus complexes, plus autonomes et plus opaques, ce qui peut mener à des résultats moins explicables » souligne le Parlement. 

• Les algorithmes, entre intelligence et injustice artificielles  
• Réflexions philosophiques et scientifiques sur l’intelligence artificielle  

La résolution dresse une « feuille de route » pour plaider en faveur d'une réglementation contribuant au rayonnement international des acteurs économiques et favorisant l’innovation, tout en respectant les droits fondamentaux et les principes démocratiques. 

Les premières briques d'une réglementation de l’IA au sein du droit européen remontent à plusieurs années. En 2016, par exemple, une communication de la Commission évoquait le « passage au numérique des entreprises européennes »,  où l’Union devait agir pour « tirer les avantages du marché unique numérique », citant déjà cette activité. 

Dans un premier temps considérée presque comme une industrie parmi d’autres,  l’IA est devenue un sujet plus majeur pour la Commission qui, en 2018, préconisait davantage d’investissement de manière à bâtir une « Intelligence artificielle pour l’Europe » . 

Le livre blanc de l’intelligence artificielle a posé en février 2020 les jalons de la future législation européenne de l’IA, édifiée sur « une approche européenne axée sur l’excellence et la confiance », dixit la Commission européenne. 

• Comment l'Europe veut devenir acteur majeur de l'intelligence artificielle ?

Côté Commission, ces travaux se sont concrétisés par la publication d’une proposition du règlement européen sur la régulation de l’intelligence artificielle, le 21 avril 2021. L’Europe veut désormais devenir un acteur principal au niveau mondial dans le domaine et ne plus rester uniquement le consommateur de solutions venues d'États tiers.

La proposition de règlement privilégie une approche basée sur les risques permettant d’établir une proportionnalité entre les risques encourus par l’utilisation du système d’IA et les obligations et restrictions qui pèsent sur le concepteur ou le producteur du système.

Ainsi, le texte vise principalement à : 

• « veiller à ce que les systèmes d’IA mis sur le marché de l’Union et utilisés soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux et les valeurs de l’Union »
• « garantir la sécurité juridique pour faciliter les investissements et l’innovation dans le domaine de l’IA »
• « renforcer la gouvernance et l’application effective de la législation existante en matière de droits fondamentaux et des exigences de sécurité applicables aux systèmes d’IA »
• « faciliter le développement d’un marché unique pour des applications d’IA légales, sûres et dignes de confiance, et empêcher la fragmentation du marché » 

Néanmoins, la Commission précise que la proposition législative « se limite aux exigences minimales nécessaires pour répondre aux risques et aux problèmes liés à l’IA, sans restreindre ou freiner indûment le développement technologique ni augmenter de manière disproportionnée les coûts de mise sur le marché de solutions d’IA ». 

En parallèle, une commission spéciale sur l'intelligence artificielle à l'ère numérique (AIDA en anglais, pour Artificial Intelligence in a Digital Age) a été mandatée par le Parlement européen afin  « d’analyser la future incidence de l’intelligence artificielle à l’ère numérique sur l’économie de l’Union européenne » et rédiger « une feuille de route intitulée Une Europe adaptée à l’ère du numérique ».  

La commission AIDA avait débuté ses activités en septembre 2020 et procédé à plusieurs auditions pour accueillir les avis et les observations des experts du secteur. Les recommandations de la commission spéciale votées par le Parlement européen devraient guider les commissions du marché intérieur et de la protection des consommateurs (IMCO) et des libertés civiles, de la justice et des affaires intérieures (LIBE), qui examinent actuellement la proposition législative.

Les constats saillants de la résolution

Si l’intelligence artificielle reflète des perspectives ambitieuses, elle serait également source de « répercussions différentes selon les couches de la population, en fonction de leurs objectifs, de leur emplacement géographique ou de leur contexte socio-économique ».  Tout le monde ne dispose pas des mêmes capacités et des compétences face à un changement aussi radical. Certains secteurs d’activité ou différentes parties de la population pourraient se trouver démunis et vulnérables lors de cette transition. 

• Un rapport européen épingle les risques de l’intelligence artificielle 

Si « l’IA devrait contribuer à l’économie mondiale à hauteur de plus de 11 000 milliards d’euros d’ici 2030 », cette (r)évolution ne « devrait pas remplacer l’autonomie humaine, ni supposer la perte de la moindre liberté individuelle ». Le rapport constate dans le même temps que les outils numériques deviennent de plus en plus « un instrument de manipulation et d’abus entre les mains de certains acteurs du monde de l’entreprise ainsi que de gouvernements autocratiques ». 

• Un rapport identifie des vulnérabilités dans la stratégie nationale pour la cybersécurité  
• En cybersécurité, « la maîtrise totale est sans doute totalement hors de portée »

Dans le même temps, la position de l’Europe sur le marché du numérique est loin d’être satisfaisante comparée à la puissance des États-Unis ou de la Chine, qui investissent davantage dans le domaine. Pour le Parlement, l'Europe accuse un « retard », dans le contexte d’une concurrence mondiale, avec le risque « que les acteurs européens soient marginalisés dans l’élaboration des normes mondiales et les progrès technologiques et que les valeurs européennes soient remises en question ». 

Ainsi, « si l’Union n’agit pas rapidement et courageusement, elle finira par devoir se soumettre aux règles et normes édictées par d’autres et risque d’en subir les conséquences dans le domaine de la stabilité politique, de la sécurité sociale, des libertés individuelles et de la compétitivité économique », explique le Parlement européen.  

Verdict, l’Union, ambitieuse d’achever avec pleine réussite cette « nouvelle révolution industrielle » et devenir un leader mondial dans le domaine d’IA, est invitée à suivre religieusement la feuille de route tout juste adoptée.

Une nécessité d’harmonisation et de cohérence dans l’application des règles européennes

Sur sa lancée, le Parlement insiste sur les risques de fragmentation de la législation et recommande de privilégier la voie du règlement, qui permet d'assurer une application uniforme sur l'ensemble des Etats membres. De plus,  cette législation « devrait toujours être flexible, fondée sur des principes, neutre sur le plan technologique, à l’épreuve du temps et proportionnée ». 

Dans la même veine, au nom « d’un haut degré de sécurité juridique », le texte insiste sur « la nécessité de critères d’applicabilité, de définitions et d’obligations solides, pratiques et sans ambiguïté dans tous les textes juridiques concernant la vente, l’utilisation ou le développement des technologies d’IA ». Le Parlement plaide en ce sens pour que chaque proposition en la matière soit précédée d'analyses d’impact et de risques. 

Afin d’instaurer confiance et sécurité dans l'IA, il milite pour un système de labélisation européen ainsi que la création d'« espaces d’expérimentation dans lesquels on pourrait tester les systèmes d’IA et les nouveaux modèles économiques dans des conditions réelles, dans un environnement contrôlé, avant qu’ils n’entrent sur le marché ».

La future réglementation européenne en matière d’IA devrait également respecter les autres règles européennes, notamment les droits de l’homme et la protection des données. 

• La CNCDH s’inquiète de l’impact de l’intelligence artificielle sur les droits fondamentaux

Une proposition législative de la Commission sur la responsabilité en matière d’intelligence artificielle devrait intervenir pour « éviter une situation dans laquelle les personnes qui subissent un préjudice ou dont les biens sont endommagés se retrouvent sans indemnisation ». 

D’ailleurs, le Parlement prend note que « les techniques d’anonymisation ne sont pas actuellement en mesure de garantir une protection complète de la vie privée, puisque des expériences ont montré que les systèmes d’IA modernes parviennent néanmoins à ré-identifier une personne ».

Par conséquent, le Parlement invite l’UE et les États membres à garantir une application efficace et cohérente du RGPD tout en encourageant le transfert et le partage des données, afin de dynamiser les secteurs de la recherche et d’innovation en IA.  

L’objectif d’un marché unique numérique…

Le Parlement souligne que certains États ne disposent même pas d’une stratégie nationale en matière d’IA alors que d’autres ne sont pas encore claires ou sont sans objectifs précis. 

Afin d’éliminer ces obstacles à l'unicité du marché, il estime que « l’élaboration de règles à l’échelle de l’Union sur l’IA, contrairement à une approche fragmentée pays par pays, constitue une approche qui permettrait de favoriser le leadership européen en matière de développement et de déploiement de l’IA ». 

D'où la nécessité de mettre à jour « les cadres nationaux et européens actuels en matière de concurrence et d’antitrust » pour les adapter aux nouvelles exigences du marché du numérique. Certaines pistes sont déjà envisagées  :

• « Adapter ses pratiques en matière de définition du marché en vue de définir les marchés avec davantage de précision et dans le respect des réalités du marché moderne dans le secteur numérique ».
• « Surveiller de façon permanente les marchés numériques » et « imposer ensuite plus fréquemment des mesures correctives aux sociétés qui abusent de leur position dominante ou qui adoptent un comportement anticoncurrentiel ».
• « Accélérer les procédures pour abus et, lorsque cela est nécessaire, appliquer des mesures provisoires pour préserver et promouvoir une concurrence loyale, tout en garantissant les droits procéduraux des entreprises en matière de défense ».

…et le fameux « Pacte vert » européen 

Le Parlement européen estime que « le pacte vert pour l’Europe » devrait être une autre des préoccupations de la Commission au même titre que la transition numérique. L'occasion de rappeler « la nécessité de veiller à ce que la transition numérique contribue au développement durable et favorise la transition verte ».

Les eurodéputés se souviennent de « l’ambition d’inciter 75 % des entreprises européennes à adopter les services d’informatique en nuage, les mégadonnées et l’IA d’ici 2030 afin de rester compétitif au niveau mondial et d’accélérer ses objectifs de neutralité climatique pour s’assurer qu’ils seront atteints d’ici 2050 ».

Néanmoins, ils jugent que « les 2,07 milliards d’euros alloués au financement des infrastructures numériques dans le cadre du mécanisme pour l’interconnexion en Europe sont insuffisants » et invitent à davantage d'investissement dans les infrastructures écologiques de demain.

En outre, le niveau de connectivité et la puissance de calcul nécessaire pour l’emploi massif d’IA devront faire l’objet d’études et d’analyses « coûts/avantages environnementaux ». La Commission est invitée, au passage, « à mener des évaluations de l’incidence de la 5G sur l’environnement ». 

• Ce que prévoit la loi pour verdir le numérique 

Le Parlement recommande également que les infrastructures numériques, que ce soit pour le stockage des données, les villes intelligentes ou encore dans le transport, soient mises au service « de la transition écologique, la neutralité climatique et l’économie circulaire ». À cette fin, la feuille de route du Parlement préconise : 

• « l’élaboration d’exigences garantissant la disponibilité d’éléments factuels appropriés permettant de mesurer l’empreinte environnementale des applications d’IA de grande ampleur »
• « la création de labels verts européens en matière d’informatique en nuage » 
• « d’ établir des critères environnementaux et à associer l’allocation du budget de l’Union, le financement et l’attribution de marchés publics aux performances environnementales de l’IA »

Le passage par des écosystèmes d’excellence et de confiance  

Afin de devenir leader dans le domaine d’IA, le Parlement prône la création d'un écosystème d’excellence en attirant les talents et misant davantage sur l’investissement dans la recherche en matière d’IA.

L’UE et les États membres devraient d'abord favoriser l’éducation et l’apprentissage du numérique « à un stade précoce, dès l’éducation primaire ». Au-delà, l’objectif « d’emploi de 20 millions de spécialistes des technologies de l’information et de la communication dans l’Union » pourrait être réalisé en évitant la fuite des cerveaux notamment en offrant « des salaires compétitifs et de meilleures conditions de travail ». 

De plus, les États membres devraient utiliser « la carte bleue européenne » (appelé aussi passeport talent) pour attirer les experts et travailleurs étrangers. La Commission est invitée à élargir le champ d’application de ce dispositif européenne « afin de veiller à ce que l’Europe reste ouverte aux talents du monde entier ».  

En outre, le Parlement demande une hausse des « investissements dans la recherche sur l’IA et d’autres technologies clés, tels que la robotique, l’informatique quantique, la microélectronique, ’internet des objets, les nanotechnologies et l’impression 3D ».

L’UE devrait soutenir la recherche en contribuant à un partage des connaissances, par la création d'autorités et d'organismes européens qui collaborent avec les institutions étatiques, de manière à favoriser l’innovation dans le domaine. Par ailleurs, l’Europe devrait contribuer à un écosystème de confiance, afin « [d’] apaiser les inquiétudes que peuvent avoir les citoyens quant à l’utilisation généralisée de l’IA en Europe ». 

Ainsi, l’Union est invitée à « veiller à ce que le développement, le déploiement et l’utilisation de l’IA respectent pleinement les principes démocratiques, les droits fondamentaux et la loi, de manière à pouvoir contrer les mécanismes de surveillance et à ne pas interférer indûment avec les élections ou contribuer à la diffusion de la désinformation ». 

Le texte fait plusieurs recommandations dans ce sens :

• Renforcer les droits des consommateurs, « par exemple en accordant aux consommateurs le droit de savoir s’ils interagissent avec un agent virtuel » ;
• « Promouvoir la diversité au sein des équipes qui mettent au point et exécutent des applications d’IA spécifiques et qui évaluent les risques qu’elles posent »
• La création « d’un fonds européen de transition pourrait être envisagé pour aider à gérer, par exemple, les pertes d’emplois dans les secteurs vulnérables ou entre les régions »

De plus, en matière de santé « la supervision et la prise de décision humaines » devraient être maintenues et l’IA ne devrait pas être envisagée « comme un substitut des professionnels de la santé ou comme un acteur indépendant au sein des systèmes de santé ». 

Le Parlement rappelle « la nécessité de garantir un niveau de qualité, de sûreté et de sécurité équivalent à celui du processus d’approbation réglementaire des médicaments, des vaccins et des dispositifs médicaux » et souligne que l’IA devrait respecter le RGPD et les autres règles de l’UE telles que le principe de non-discrimination et l’accès à des soins de santé. 

D’ailleurs, le texte invite la Commission à favoriser l’émergence des « technologies neurologiques sûres » tout en se faisant le porte-parole des « droits des neurones » au point de les inscrire dans la Déclaration universelle des droits de l’homme, s'agissant du droit à l’identité, du droit au libre arbitre et au respect de l'intimité mentale, de « l’égalité d’accès aux progrès en matière d’augmentation cérébrale et [du] droit à la protection contre les biais algorithmiques ». 

La nécessité de prévoir une stratégie industrielle 

Le Parlement demande enfin à la Commission de faire un bilan des points faibles et des vulnérabilités de l’UE dans le domaine d’IA et d’adopter une stratégie industrielle à long terme. 

Cette stratégie devrait favoriser davantage « les petites et jeunes entreprises » qui ne disposent évidemment pas des mêmes capacités et compétences que les autres. Le Parlement relève sur ce point « que l’incapacité à se doter d’équipes juridiques conséquentes constitue souvent un obstacle à l’accès des jeunes entreprises et des entrepreneurs à des environnements réglementaires complexes ». Il propose la création « du portail numérique unique   afin de disposer d’un tel outil à l’échelle de l’Union dans différentes langues contenant toutes les procédures et formalités nécessaires pour opérer dans un autre pays de l’Union ». 

L’Union devrait dès lors continuer à collaborer avec ses partenaires de façon à « promouvoir l’utilisation socialement responsable et éthique de l’IA et coopérer avec les organismes internationaux de normalisation afin d’améliorer davantage les normes en matière d’éthique, de sûreté, de fiabilité, d’interopérabilité et de sécurité ».

La sécurité par l’IA et dans l’IA

Reconnaissant que l’IA couplé à la biométrie peut être « à la fois intrusive et dommageable ou bénéfique pour la personne, ainsi que pour le grand public », le Parlement « demande instamment aux États membres d’appliquer des exigences significatives en matière de contrôle humain et de garantir des moyens de recours pour ceux qui sont assujettis à des décisions prises par l’IA ». 

Les détails manquent cruellement, mais la feuille de route prend soin de souligner que « de nombreux régimes autoritaires utilisent des systèmes d’IA pour contrôler, exercer une surveillance de masse, espionner, observer et catégoriser leurs citoyens et restreindre leur liberté de mouvement ». 

Il estime que l’UE devrait veiller au développement de règles et normes afin de pouvoir se protéger contre les activités malveillantes de certains acteurs privés ou des États, non sans relever que la réponse « à des cyberactivistes malveillantes, à des attaques hybrides, y compris des campagnes de désinformation » peut également se fonder sur l’IA.

La résolution, qui n'a pas de portée juridique, juge utile le déploiement d'une cyberdéfense reposant sur « certains moyens et mesures offensifs, sous réserve que leur usage soit conforme au droit international ».

En revanche, la position du Parlement semble beaucoup plus claire concernant les armes létales autonomes (SALA) puisque les eurodéputés plaident pour la conclusion d’un traité international, contraignant, interdisant les armes « entièrement autonomes ». Avec une difficulté tenant à la définition de l’autonomie, puisqu’il en existe plusieurs niveaux à différents stades d’un système militaire déterminé. 

• L'armée s'intéresse à l'IA pour l'aviation de combat et investit 100 millions d'euros par an

La feuille de route dévoilée, il reste désormais à déterminer comment l’UE va suivre ce chemin et si les recommandations du Parlement européen seront respectées. De son côté, Wikimédia France profite de cette fenêtre parlementaire pour réclamer une interdiction de la surveillance biométrique de l'espace public.

• Wikimédia France réclame une interdiction de la surveillance biométrique dans l'espace public