Des chercheuses indépendantes s’allient pour obliger les administrations françaises à être plus transparentes sur leur usage de l’intelligence artificielle, la Cour des Comptes alerte sur le manque de pilotage des déploiements d’IA au sein du ministère de l’Économie et des finances… mais qu’en pensent celles et ceux qui se retrouvent à manipuler ces outils au quotidien ? Comment les agentes et agents de l’administration envisagent les technologies d’IA déployées dans leurs services ?

Solidaires Finances Publiques s’est posé la question et l’a transmise aux plus de 90 000 agents de la direction générale des Finances publiques (DGFiP), fin 2023. Le 6 décembre, elle publiait les premiers résultats de cette campagne. Sur les 4 199 répondants à travers le pays, 20 % déclarent utiliser des outils d’IA dans leurs missions.

« L’IA nous est vendue comme permettant d’être plus efficace et de mettre fin aux tâches chronophages », souligne Linda Sehili, du bureau national de Solidaires Finances Publiques. Sur le terrain, cela dit, l’efficacité de ces outils reste « relative » : plus de 85 % de leurs usagers déclarent que ces outils ne leur permettent pas de se « consacrer à d’autres tâches plus intéressantes », et plus de 90 % déclarent que l’utilisation de l’IA ne donne pas « plus de sens à [leur] travail ».

Évolution des missions, des conditions de travail et du service rendu

Depuis le lancement de son questionnaire, Solidaires Finances Publiques a pris la question du déploiement de l’intelligence artificielle au sein de sa direction générale à bras-le-corps. « La DGFiP est le fer de lance de l’expérimentation et du déploiement de l’IA dans l’administration », a déclaré la secrétaire générale du syndicat Sandra Demarcq ce 9 décembre. « Nous avons considéré que ce développement avait des conséquences sur nos missions, sur notre travail, mais aussi que cela transformait le champ du service public de proximité que nous fournissons. »

Pour détailler les implications de ces bouleversements, le syndicat a donc publié L’IA aux impôts, Réflexions et actions syndicales aux éditions Syllepses, riche analyse des effets concrets du déploiement de ces technologies au sein d’une administration française. « Nous ne sommes ni concepteurs ni data scientists, nous ne sommes pas technophobes non plus, mais nous sommes résolument technocritiques, explique encore Sandra Demarcq. Nous revendiquons le droit de remettre l’IA en cause quand elle n’est pas synonyme de progrès social, quand elle est le reflet d’intérêts privés et que son déploiement est seulement motivé par la suppression d’emplois. »

Or, outre les 85 % d’agents utilisant de l’IA sans y gagner de temps, plus de 51 % d’entre eux signalent que l’utilisation de l’IA dans leurs missions « génère des erreurs » (35,26 %), voire « beaucoup d’erreurs » (16,07 %). Et Linda Sehili d’illustrer avec le projet Ciblage fraude et valorisation des requêtes (CFVR) : en 2022, « 52 % des entreprises contrôlées l’ont été suite à une programmation par data mining » (c’est-à-dire suite aux résultats du projet CFVR). Pour autant, cette dernière n’est à l’origine « que de 13,6 % des droits et pénalités de recouvrement » réalisés la même année.

Opacité technique et par externalisation

Les membres de Solidaires Finances Publiques relèvent par ailleurs que le fonctionnement opaque des systèmes déployés crée de brusques surcharges d’alertes inexpliquées – par exemple celles relatives aux dépenses de carburant, autrefois validées sans difficultés. Quand les entités contrôlées demandent aux agents de justifier les demandes de documents, ces derniers se retrouvent à leur tour dans l'incapacité de fournir une explication. Une dynamique susceptible de créer le mécontentement des contribuables comme celui des agents, qui se plaignent de leur manque de maîtrise des résultats des systèmes.

Solidaires explique ce manque de transparence par des raisons techniques, d'abord, qui compliquent la compréhension précise des résultats fournis par un système d’apprentissage machine. Mais le syndicat alerte aussi sur la perte de maîtrise de l’administration : certains projets informatiques sont externalisés à plus de 80 %. « Or, pour la direction interministérielle du numérique (Dinum), un taux d’externalisation supérieur à 70 % constitue un risque », rappellent les auteurs de L'IA aux impôts.

• Intelligence artificielle : l’explicabilité, cette notion « chiante »

Le recours à des sociétés de conseils (principalement CapGemini, CGI France et Sopra Steria) se traduit aussi, dans certains cas, par des enjeux de souveraineté. Ces dernières ayant toute latitude en matière de sous-traitance, le syndicat relève ainsi que la partie reconnaissance d’image du système Foncier Innovant est réalisée par Google, géant états-unien habile en optimisation fiscale.

Dans le même ordre d’idée, le projet de chatbot e-contact a été créé dans l’idée de faciliter le traitement des 12 millions de mails reçus par l’administration fiscale – présupposé que Solidaires remet en question, soulignant que le contexte de suppression d’emplois ne facilite pas le traitement des demandes. D’après son contrat de transformation (.pdf), ce projet (d’un coût global de 6,4 millions d’euros, pour des économies prévisionnelles, chiffrées en termes de suppression de 138 emplois, soit 4,8 millions d’euros) s’appuie notamment sur les « services cognitifs tiers » d’IBM Watson.

Morcellement des tâches et surcharge de travail

Outre générer des résultats inexplicables, soit pour raisons techniques, soit faute d’interlocuteurs intégrés à l’administration, les machines déployées au sein de la DGFiP produisent des erreurs que les agents doivent corriger avant de reprendre le cours de leurs activités. Dans les réponses à l’enquête de Solidaires, un nécessaire « apurement des listes » et une « exclusion des faux positifs » sont régulièrement évoqués. Cela crée chez certains un « sentiment d’abattage de masse ».

En outre, en croisant énormément de données au niveau national, un système comme CFVR permet de détecter des fraudes simples. « Mais l’IA est incapable de détecter des fraudes complexes, ne serait-ce que parce que ces schémas reposent souvent sur l’absence de données », illustre Linda Sehili. Si les agents y parviennent, c’est parce qu’eux savent repérer les schémas suspicieux d’absence de facturation, de carrousels de TVA ou encore d’entreprises qui se créent, puis disparaissent.

Citant le biais d’automatisation, qui tend à faire plus confiance aux résultats d'une machine qu’à son propre jugement, Benjamin Gandouin souligne le risque que les fonctionnaires perdent en initiative dans l’enquête de schémas de fraude plus complexes que ce que la machine est capable de détecter. « Les fonctionnaires craignent une perte de technicité et d’autonomie au fil des années » résume Linda Sehili.

Là où la plupart avaient une relative vision d’ensemble auparavant, « ils se retrouvent désormais avec une succession de petites tâches à accomplir, donc une vision parcellaire de leur emploi ». Derrière les nouvelles tâches et l’absence de sens dans le travail relevé dans les témoignages des agents, Solidaires Finances Publiques craint la multiplication de risques psychosociaux. Depuis plusieurs décennies, les études se succèdent, qui soulignent en effet un lien direct entre perte de sens au travail et accroissement des risques de maladies professionnelles.

Dégradation du service rendu

Comme la Cour des Comptes, qui relevait en novembre 2023 la difficulté à évaluer l’efficacité du système CFVR (sauf en matière de suppression d’emplois), les équipes de Solidaires Finances Publiques constatent l’absence de communication des bilans des projets déployés, donc l’absence de données sur leurs effets concrets. Un vide qui rappelle les difficultés des institutions à dresser le bilan de leurs expérimentations en termes de vidéosurveillance et de vidéosurveillance algorithmique.

En tirant la réflexion, le syndicat interroge l’évolution du service public, auquel les méthodes de gestion du secteur privé, puis une numérisation croissante, ont été appliqués au motif d’une recherche d’efficacité. Demandant à ses lecteurs si « le service public est compatible avec l’idée de rentabilité », Solidaires Finances Publiques le conteste aussitôt, soulignant que cette recherche de rentabilité ne semble fondée que sur de la réduction d’emplois.

Dans son ouvrage, le syndicat souligne également que l’imposition de mesures administratives totalement numériques engendre « un transfert de charges et de responsabilité sur l’usager.e ». En 2022, un rapport de la Défenseure des droits sur le sujet relevait pourtant que « 35 % de la population rencontre, à un titre ou un autre, des difficultés pour utiliser les outils numériques ».

En interne, il s’inquiète des effets du déploiement de systèmes informatiques sur la qualité du travail réalisé, et de la propension qu’a cette tendance à éloigner l’administration de ses administrés. Moins nombreux, les géomètres vont par exemple moins sur le terrain. L’association de leur travail à celui de systèmes d’IA commence à avoir des effets concrets sur le cadastre, « qui devient un peu moins bon, explique Linda Sehili, alors que la France est connue au niveau européen, voire mondial pour avoir un super plan cadastral ».

Outillage pour un dialogue social technologique

Défendant un service public « technicien, de proximité et de qualité », selon les mots de Sandra Demarcq, Solidaires Finances Publiques a aussi dû adapter ses pratiques pour tenter de créer ce qu’il qualifie de « dialogue social technologique ».

Pour mener son enquête, agir au quotidien et écrire L’IA aux impôts, le syndicat a multiplié les liens avec des chercheurs, des associations et d’autres acteurs de la société civile. En échangeant avec Maxime Cornet et Clément Le Ludec, deux doctorants en sociologie travaillant sur l’externalisation du travail du clic « à la française », « nous avons par exemple appris que le système de Foncier innovant était entraîné à Madagascar, où le salaire mensuel pour ce type de tâches ne dépasse pas les 150 à 200 euros », indique Benjamin Gandouin. 



Aux contacts de journalistes et d’associations comme la Quadrature du Net, le syndicat s’est par ailleurs mis à chercher les informations qui lui manquaient en sources ouvertes, ou par l’intermédiaire de demandes de documents administratifs auprès des personnes responsables de l’accès aux documents administratifs (PRADA), voire en saisissant la Commission d’accès aux documents administratifs (CADA).

Il prévoit désormais de demander régulièrement les analyses d’impact relatives à la protection des données (AIPD) des projets pour faciliter sa cartographie du déploiement d’outils d’IA. En partenariat avec l’Institut de recherches économiques et sociales (IRES), et de nombreux syndicats des secteurs publics et privés, Solidaires Finances publiques a aussi participé à la fabrication de DialIA, un outil concret de création de registre des projets d’intelligence artificielle. Il en facilite le suivi du financement, de l’intégralité de la chaîne de sous-traitance, l’identification des données utilisées et de celles à risque, etc.

Témoignant de la difficulté d’obtenir des informations, Benjamin Gandouin ajoute : « Il nous arrive de demander l’appui de personnalités politiques locales ou nationales. Quelquefois, des questions prioritaires de constitutionnalité nous permettent de récupérer de l’information, tout en sensibilisant les élus. »