Alors que la loi Numérique impose désormais aux administrations de faire la transparence sur les algorithmes qu’elles utilisent pour prendre des décisions individuelles, aucune ne semble pour l’heure s’être conformée à ses nouvelles obligations légales.

Montant des impôts, attribution d’allocations familiales ou de bourses scolaires,... Depuis le 1er septembre, toutes ces décisions individuelles prises « sur le fondement d'un traitement algorithmique » doivent être accompagnées d’une « mention explicite » informant l’usager qu’un programme informatique est donc venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.

Avec cette petite ligne, rendue obligatoire par le nouvel article L311-3-1 du Code des relations entre le public et l’administration, chaque acteur public est tenu de rappeler au citoyen qu’il a le droit d'obtenir la communication des « règles » et « principales caractéristiques » de mise en œuvre du traitement algorithmique utilisé.

L’objectif, à terme, est de permettre au public de mieux comprendre comment fonctionnent ces traitements automatisés. Les codes sources étaient en effet d’ores et déjà considérés comme des documents administratifs « communicables » au citoyen, sur demande. Il s’agit donc ici de venir mettre des mots sur des lignes de code...

De nouvelles obligations en vigueur depuis le 1er septembre

Dorénavant, l’administration est ainsi tenue de fournir (sur demande), « sous une forme intelligible et sous réserve de ne pas porter atteinte à des secrets protégés par la loi », les informations suivantes :

• Le degré et le mode de contribution du traitement algorithmique à la prise de décision
• Les données traitées et leurs sources
• Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé
• Les opérations effectuées par le traitement

Dans l’étude d’impact annexée au projet de loi Numérique, le gouvernement de Manuel Valls expliquait que cette réforme permettrait par exemple d’y voir plus clair sur le fonctionnement d’Admission Post-Bac (finalement appelé à disparaître). « Le recours à ce logiciel, reposant sur des traitements algorithmiques, peut susciter des interrogations sur les mécaniques et les règles de fonctionnement qui conduisent à un résultat décisif pour l’avenir des étudiants : comment ce système est-il paramétré ? Quelle est la part de tirage au sort dans la procédure d’affectation pour les filières les plus demandées ? Comment s’assurer qu’il n’est pas possible de « tricher » avec le système ? »

Aucune « mention explicite » pour la taxe d'habitation, les aides de la CAF, etc.

Pour résumer, toute décision individuelle prise sur le fondement d’un traitement algorithmique fait désormais naître deux obligations pour les administrations :

1. Intégrer une mention informant l’usager d’une part que la décision qui le concerne a été prise sur le fondement d’un traitement algorithmique, et d’autre part qu’il a donc le droit de savoir quelles sont les règles régissant ce programme (les modalités d'exercice de ce droit doivent également être précisées).
2. Expliciter, sur demande, comment fonctionne l’algorithme utilisé.

Problème : plus de deux mois après l’entrée en vigueur de ces dispositions, nous n’avons trouvé aucune administration respectant la première de ces obligations (de loin la plus simple). Les récents avis de taxe d’habitation ne contenaient par exemple aucune mention évoquant l’utilisation d’algorithmes de calcul...

Assez curieusement, nos demandes auprès de la Direction générale des finances publiques (DGFiP), de Pôle emploi et des CAF, qui rendent un nombre astronomique de décisions individuelles relevant a priori de traitements algorithmiques, sont restées lettre morte...

« Ce n’est pas simple », argue-t-on à Bercy

Nous avons néanmoins pu en toucher quelques mots à Lionel Ploquin, « l’administrateur des données » de l’administration fiscale, lors d’une interview réalisée au mois de septembre. « Ce n'est pas simple », expliquait l’intéressé, très en pointe sur la loi Numérique :

« On voit très bien comment ça peut se concrétiser dans le cadre d'Admission Post-Bac. Sauf que le droit fiscal, c'est autre chose. Il colle à la loi. Et à chaque fois qu'il y a un espace où la loi n'est pas suffisamment précise, il y a immédiatement une instruction qui est prise (et qui est publiée au Bulletin officiel des finances publiques, qui est opposable). Les cas sont très différents. »

D’après ce relais de l’Administrateur général des données au sein de la DGFiP, Bercy est « en train de réfléchir » à la manière de mettre en oeuvre ses nouvelles obligations. « Il y aura un rattrapage, nous a promis Lionel Ploquin. Nous savons que nous devons le faire, mais l'administration doit aussi gérer des contraintes, notamment budgétaires. »

Une collaboration avec la mission Etalab, l’institution chargée d’accompagner les administrations dans leur marche vers l’Open Data, est ainsi prévue. Laure Lucchesi, sa directrice, nous confie qu’une « équipe pluridisciplinaire » réfléchit actuellement « aux moyens de recenser ou cartographier ces algorithmes de l’administration » : « Il s’agit avant tout d’aider les administrations à identifier les algorithmes potentiellement concernés, ainsi que la meilleure manière de rendre accessible aux usagers les informations pertinentes concernant le traitement, afin qu’elles soient réellement utiles à l’usager. »

La tâche s’annonce toutefois fastidieuse, dans la mesure où « cette information sera probablement particulière à chaque algorithme », prévient la directrice d'Etalab.

Des acteurs publics qui attendent encore avant de se mettre en conformité

« C'est un travail pharaonique », nous confirme un agent de Pôle emploi chargé des questions d’Open Data. « Tout va se jouer dans le niveau de détails qu'on va donner : soit on donne le code et ça ne s'adresse qu’à des techniciens, soit on fournit un premier niveau d'informations, qui pourra satisfaire 80 % des gens. »

L’institution prévoit de se lancer véritablement dans ce chantier « d'ici la fin de l'année », parce qu'il y a « énormément d'algorithmes, parfois très complexes ». La première étape, hautement symbolique, consistera à « expliciter l'algorithme sur le calcul des droits à l'allocation chômage ». Un travail qui mobilisera des techniciens, mais aussi des juristes.

A saisir ! Peu de gens le savent, mais la #transparence des algorithmes des administrations est un droit https://t.co/VjQ2b8i3Hl

— Axelle Lemaire (@axellelemaire) 28 septembre 2017

Force est néanmoins de constater que, comme pour les premières obligations dites d’Open Data « par défaut » (où les administrations d’au moins 50 agents sont obligées de mettre en ligne certains documents), nombre d’acteurs publics ne respectent toujours pas leurs obligations légales, plus d’un an après la promulgation de la loi Numérique – et deux ans après la présentation officielle du texte...

« On est dans la première étape d'un long combat », commente l'un des architectes de la loi Numérique. Rappelons à cet égard qu’à compter du 7 octobre 2018, les administrations d’au moins 50 agents seront tenues de mettre directement en ligne les « règles définissant les principaux traitements algorithmiques » servant à prendre des décisions individuelles...