Parcoursup et Mon master dans l’éducation, Foncier Innovant du côté de l’administration fiscale, algorithmes utilisés par la CAF pour détecter les indus… Les systèmes algorithmiques déployés par le service public se multiplient au fil des années, suscitant au passage un nombre croissant de questionnements.

Fin octobre, la Cour des comptes regrettait le manque de pilotage des projets d’IA au sein du ministère de l’Économie et des finances. Mi-novembre, la Défenseure des droits signait un rapport s’inquiétant du respect des droits des usagers des services publics et appelant les administrations à faire preuve de plus de transparence.

Mais dans le détail, quels algorithmes utilise le service public ? Pour quels usages ? Pour répondre à ces questions, trois chercheuses viennent de lancer l’Observatoire des algorithmes publics (ODAP). Dans sa première version, leur inventaire (téléchargeable sur data.gouv.fr) contient 72 systèmes différents, dont 3 en conception, 7 qui ont été abandonnés, 11 en expérimentation, et 48 déployés.

Next a rencontré les trois fondatrices de l’ODAP : la sociologue Camille Girard-Chanudet, la designer Estelle Hary, qui prépare une thèse sur la conception des algorithmes dans le secteur public, et la consultante Soizic Penicaud, chercheuse indépendante sur les effets de l’intelligence artificielle sur les droits humains.

Quel est l’objectif de cet observatoire ? 



Camille Girard-Chadunet : Nous avons lancé l’ODAP sur la base d’un constat : celui qu’il y a extrêmement peu d’informations sur les algorithmes utilisés et déployés par les administrations publiques, malgré l’obligation de transparence qui leur est faite dans la loi (notamment par la Loi pour une République Numérique de 2016, qui a intégré des exigences de transparence dans le Code des relations entre le public et l’administration, CRPA, ndlr).

Notre objectif est donc double : il s’agit d’une part de centraliser des informations qui sont difficilement accessibles, donc de créer une plateforme sur laquelle tous ces éléments seraient accessibles. La seconde raison est de montrer la variété de ce qui se cache derrière le terme d’ « algorithmes publics », montrer que ça peut aussi bien être des algorithmes sophistiqués que des algorithmes par règles, qui automatisent pour autant aussi la décision publique. 



Il s’agit autant de visibiliser les outils qu’il y a derrière le développement d’algorithmes publics que de donner des ressources à divers acteurs.

Quels sont les acteurs, justement, que vous visez ? Pour qui est pensé le travail de l’ODAP ?

Estelle Hary : Ça va dépendre des cas. Pour commencer, on aimerait que les gens qui travaillent sur le sujet puissent participer à l’inventaire, notamment le monde de la recherche. L’idée, ce serait de mutualiser les travaux déjà publiés. Ensuite, même si ça reste un travail à construire, l’observatoire pourrait servir aux associations, en fonction des besoins qu’elles expriment.

Camille Girard-Chadunet : On porte une vision incarnée des algorithmes, ces technologies n’existent pas hors sol : elles sont construites dans des contextes précis, elles ont des effets dans des contextes donnés. C’est pourquoi on cible aussi les collectifs et associations qui travaillent sur la mise en œuvre d’algorithme dans le domaine de la Justice, de la santé, etc – ou même pas forcément sur la question des algorithmes, d’ailleurs, mais dans des contextes sur lesquels les algorithmes du service public ont des effets concrets.

Soizic Penicaud : En termes de collectifs cibles, on peut aussi citer les syndicats. L’ODAP a la volonté d’œuvrer en complémentarité avec les associations et groupes qui travaillent déjà sur des algorithmes de services publics, comme Le Mouton Numérique, la Quadrature du Net côté numérique, et, sur la question des accès aux droits sociaux, avec les collectifs numérique et non numérique qui ont déjà fait un travail important.

• [Algorithmique 3/6] Questionner les systèmes

À l’heure actuelle, votre inventaire compte 72 algorithmes différents, dont 48 projets déployés et sept abandonnés. Quels sont les principaux enseignements que vous tirez de cette cartographie ?

Estelle Hary : La plus évidente est que plus de la moitié des administrations dont les algorithmes sont soumis à l’obligation de transparence posée par le CRPA ne la respectent pas. Dans la plupart des cas, les informations sur ces projets sont absentes, ou très parcellaires. Par ailleurs, tout ce qui est lié au budget nécessaire à ces projets est extrêmement complexe à trouver. Seulement 3 projets sur 72 ont diffusé des éléments sur le sujet, ce qui peut être questionnable dans la mesure où ces technologies sont régulièrement promues sous l’angle de l’efficacité.

Soizic Penicaud : Sur la publication du budget de ces projets, il y a aussi un enjeu de redevabilité de l’action publique, prévue par l’article 15 de la Déclaration des droits de l’homme et du citoyen (« La société a le droit de demander compte à tout agent public de son administration », ndlr). En termes d’évaluation, enfin, seulement 4 % des projets qu’on a recensés font l’objet d’évaluations internes rendues publiques – pour trois d’entre eux, l’administration a publié des indicateurs, mais ça reste parcellaire.

Estelle Harry : Après, il y a aussi des rapports de la Cour des comptes ou du Sénat qui font plus ou moins ce travail d’audit, de même que des travaux de recherche, ou d’autres menés par des associations. Mais ça n’a rien de systématique : selon le type d’évaluateur, la Cour des comptes ou une association ne s’intéresseront pas aux mêmes éléments. Cela dit, quand on en a connaissance, on les recense.

Sur votre site, vous appelez directement les acteurs de la recherche et le monde associatif à collaborer à votre observatoire. Outre cette mutualisation, est-ce que vous prévoyez d’autres projets ?

Soizic Penicaud : À court terme, la vocation est de capitaliser sur l’existant, de l’enrichir, de le faire évoluer avec des associations, des syndicats, des personnes qui travaillent dans le domaine numérique. Le but, c’est aussi de nous en servir pour démarrer des discussions, d’organiser des événements pour débattre de l’existence de ces technologies dans l’espace public, et sur la transparence de l’administration. Le but, ce n’est pas simplement d’avoir un inventaire, mais aussi de provoquer le débat.

Camille Girard-Chadunet : À plus long terme, toujours dans le but de rendre évident le contexte autour de ces systèmes, on prévoit de réaliser des études de cas un peu plus précises. Ce genre de travaux nous conduira aussi à parler plus directement avec la société civile, pour bien comprendre ce qui existe, comment ces systèmes sont utilisés en pratique, etc.