Respect de l’autonomie personnelle, obligations de transparence et contrôles adaptés au contexte, obligation de rendre des comptes en cas d’impacts négatifs des systèmes d’intelligence artificielle sur les droits humains, la démocratie ou l’État de droit… Le Conseil de l’Europe a adopté ce 17 mai sa Convention-cadre « sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit ».

Il s’agit, en matière d’intelligence artificielle, du premier texte d’ampleur internationale qui soit juridiquement contraignant. Le texte a été adopté pendant la réunion ministérielle annuelle du Comité des ministres du Conseil de l’Europe, qui rassemble les ministres des Affaires Étrangères des 46 États membres (parmi lesquels les 27 pays de l'Union, mais aussi des États comme la Suisse, la Norvège ou la Turquie).

Plus de 50 pays réunis

La Convention-cadre, elle, a été produite en deux ans par un organe dédié. Celui-ci a rassemblé les représentants des États membres, de l’Union européenne, mais aussi de onze États non-membres, parmi lesquels les États-Unis, le Japon, l’Australie, le Canada ou Israël.

Le comité en charge de la rédaction de la Convention a aussi accueilli, toujours en tant qu’observateurs, des personnes issues de la société civile, du secteur privé ou du monde universitaire. Début 2023, l’obtention, par les États-Unis, de la création d’un groupe de travail excluant les organisations représentant la société civile avait provoqué des débats.

• Les États-Unis obtiennent l’exclusion des ONG de la rédaction du traité sur l’intelligence artificielle
• Convention européenne sur l’IA : les associations s’adressent au Conseil de l’Europe

Respect des droits humains, accès au débat public et protection des institutions

En termes de champ d’application, « les questions relatives à la défense nationale n'entrent pas dans le champ d'application de la Convention ». Les pays qui signent la Convention n’ont pas non plus à l’appliquer « dans le cadre du cycle de vie des systèmes d'intelligence artificielle et liées à la protection de ses intérêts de sécurité nationale, étant entendu que ces activités sont menées de manière compatible avec le droit international applicable, y compris les obligations nées du droit international des droits de l’homme, et dans le respect de ses institutions et processus démocratiques ».

Parmi ses obligations générales, la Convention-cadre impose aux pays d’adopter ou maintenir les mesures qui assurent « que les activités menées dans le cadre du cycle de vie des systèmes d'intelligence artificielle soient cohérentes avec les obligations de protection des droits de l’homme » (article 4).

Elle impose aussi de veiller « à l'intégrité, à l'indépendance et à l'efficacité des institutions et processus démocratiques, y compris au principe de la séparation des pouvoirs, au respect de l'indépendance de la justice et à l'accès à la justice ». Par protection des processus démocratiques, elle entend aussi la nécessité d’assurer « l'accès équitable et la participation des personnes au débat public, ainsi que leur capacité à se forger librement une opinion » (article 5, alinéas 1 et 2).

Transparence, fiabilité et lutte contre les discriminations

Plus spécifiquement, on retrouve dans cette Convention des incitations à la transparence sur tout le cycle de vie des systèmes d’IA, au contrôle de cette transparence (article 8), mais aussi la nécessité de faire prendre leurs responsabilités (article 9) aux acteurs qui participent aux déploiements de ces systèmes.

En termes d’égalité et d’interdiction des discriminations, la Convention appelle non seulement à mettre en place des mesures garantissant l’absence de discrimination au gré du cycle de vie des systèmes d’IA (article 10 alinéa 1), mais aussi d’œuvrer en faveur de mesures « visant à supprimer les inégalités », toujours dans le même cadre (article 10 alinéa 2).

Elle appelle aussi à garantir la fiabilité des résultats de ces systèmes (article 12), et à la mise en place, « le cas échéant […] d’environnements contrôlés pour le développement, l’expérimentation et l’essai de systèmes d’intelligence artificielle sous la surveillance de ses autorités compétentes » (article 13).

La Convention-cadre prévoit par ailleurs que des moyens de recours soient mis en place conformément aux systèmes juridiques internes des États signataires (article 14). Et que des mesures d’identification et d’évaluation des risques posés par les systèmes soient développés, tant pour les prévenir que pour les atténuer (article 16).

Le texte sera ouvert à la signature le 5 septembre, lors d'une conférence des ministres de la Justice à Vilnius.

• AI Act : les États européens votent le texte à l’unanimité