Transparence des algorithmes publics : les sénateurs tapent du poing sur la table

Alors que les administrations peinent encore à appliquer la loi Numérique, une sénatrice propose de rendre nulles toutes les décisions individuelles ne comportant pas de « mention explicite » relative à la transparence des algorithmes publics. Sophie Joissains souhaite également revenir sur la récente brèche concernant Parcoursup.

En application de la loi Numérique, toutes les décisions individuelles prises « sur le fondement d'un traitement algorithmique » doivent être accompagnées, depuis le 1er septembre 2017, d’une « mention explicite » informant le citoyen qu’un programme informatique est venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.

Avec ces quelques mots, chaque administration est tenue d’expliquer au citoyen qu’il a le droit de demander la communication des « règles » et « principales caractéristiques » de mise en œuvre de l’algorithme utilisé. L'usager est ainsi en droit d’avoir des détails individualisés sur :

• Le degré et le mode de contribution du traitement algorithmique à la prise de décision.
• Les données traitées et leurs sources.
• Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé.
• Les opérations effectuées par le traitement.

L’absence de « mention explicite » bientôt synonyme de décision annulée ?

Seul hic : plus de six mois après l’entrée en vigueur de cette réforme, aucune administration n’a (à notre connaissance) intégré la moindre « mention explicite ». Pôle emploi, CAF, impôts... Difficile de trouver un acteur public avertissant les citoyens de l’existence de ce nouveau droit.

La sénatrice Sophie Joissains, rapporteure du projet de loi adaptant le droit français au Règlement européen sur la protection des données personnelles (RGPD), voudrait toutefois bousculer les administrations. Au travers d’un amendement, l’élue centriste propose que l’absence de « mention explicite » provoque la « nullité » automatique de la décision.

On peut ainsi imaginer que si votre prochain avis de taxe d’imposition faisait l’impasse sur ces quelques mots, vous n’auriez rien à payer au Trésor public... Sans trop s’étendre sur le sujet, Sophie Joissains fait valoir qu'une telle réforme permettrait « d’inciter l’administration à se conformer à la loi ».

Revenir sur la dérogation introduite pour Parcoursup

Autre mesure proposée par l’élue, toujours au travers du même amendement : colmater la brèche ouverte début février par le législateur à l’occasion du projet de loi sur Parcoursup – lequel a été promulgué la semaine dernière. En toute fin de navette parlementaire, le gouvernement a fait adopter un amendement introduisant une sorte de dérogation à la loi Numérique au profit de la plateforme succédant à Admission Post-Bac (voir nos explications détaillées).

Après avoir souligné que ces dispositions avaient été adoptées « tardivement en séance publique au Sénat », sans que la « commission de la culture ait pu se prononcer », Sophie Joissains soutient qu’il n’y a « aucune raison » pour que les établissements de l’enseignement supérieur n’expliquent pas, à l’instar des autres administrations, comment fonctionnent leurs algorithmes.

La sénatrice invitera ainsi ses collègues membres de la commission des lois à « corriger » cette « première entorse aux règles de publicité des algorithmes employés par l’administration pour fonder des décisions individuelles ». Les débats doivent débuter ce matin.