[Interview] Efficacité, coût des algorithmes publics : les administrations manquent de transparence

Algorithmes surveillés

Avec l’Observatoire des algorithmes de services publics, des expertes du sujet cherchent à mieux comprendre comment l’administration s’empare de l’IA et à ouvrir le débat sur l’usage de ces technologies.

Mathilde Saliou

Le 18 novembre à 17h52

6 min

IA et algorithmes

Parcoursup et Mon master dans l’éducation, Foncier Innovant du côté de l’administration fiscale, algorithmes utilisés par la CAF pour détecter les indus… Les systèmes algorithmiques déployés par le service public se multiplient au fil des années, suscitant au passage un nombre croissant de questionnements.

Fin octobre, la Cour des comptes regrettait le manque de pilotage des projets d’IA au sein du ministère de l’Économie et des finances. Mi-novembre, la Défenseure des droits signait un rapport s’inquiétant du respect des droits des usagers des services publics et appelant les administrations à faire preuve de plus de transparence.

Mais dans le détail, quels algorithmes utilise le service public ? Pour quels usages ? Pour répondre à ces questions, trois chercheuses viennent de lancer l’Observatoire des algorithmes publics (ODAP). Dans sa première version, leur inventaire (téléchargeable sur data.gouv.fr) contient 72 systèmes différents, dont 3 en conception, 7 qui ont été abandonnés, 11 en expérimentation, et 48 déployés.

Next a rencontré les trois fondatrices de l’ODAP : la sociologue Camille Girard-Chanudet, la designer Estelle Hary, qui prépare une thèse sur la conception des algorithmes dans le secteur public, et la consultante Soizic Penicaud, chercheuse indépendante sur les effets de l’intelligence artificielle sur les droits humains.

Il reste 73% de l'article à découvrir.

Déjà abonné ? Se connecter

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Abonnez-vous

Commentaires (4)

fred2vienne Abonné

Le 19/11/2024 à 07h37

Merci pour l'article.
C'est une initiative qui est la bienvenue vu à quelle vitesse les administrations se reposent de plus en plus sur les algos.
Et le risque de délégation de se défausser en disant "j'y peux rien, c'est la machine qui dit que" est de plus en plus grand.

Il y a un article sur The Conversation qui en parle très bien avec des exemples américains (et c'est catastrophique).

A suivre donc.

trytodosth Abonné

Le 19/11/2024 à 13h38

Surtout que beaucoup de systèmes empêchent de plus en plus les exceptions je trouve. Bientôt on aura un humain qui ne peut pas nous aider si l’algo dit non...

Mais je trouve aussi ça bien de lister les algorithmes simples qui sont utiles mais restent impactant. Les fameuses "règles" devraient être librement connues ! C'est la loi après tout

AnoNyMeuh

Le 19/11/2024 à 08h02

A lire aussi : Algorithmes, la bombe à retardement de Cathy O’Neil. C'est presque déjà un vieux livre (2017 je crois) mais ça met bien en avant la dérive + les fausses croyances : croire qu'un algo est bon parce qu'il donne de bons résultats dans "la majorité des cas" sans prendre en compte le coût humain engendré par les cas où le résultat est mauvais, notamment par le fait de se baser sur des "proxys" pour mesurer telle ou telle donnée (lorsque la donnée en elle-même est non mesurable facilement). Exemple typique : la notation de la qualité des profs via les notes des étudiants, ça zappe tout un tas de facteurs (niveau des étudiants au départ, parfois même le système de notation de l'année précédente par un prof qui a été laxiste et a laissé passer des erreurs pour augmenter la note de ses propres élèves...)
Il y a aussi les biais introduits dans les algo écrits par des "hommes blancs riches", les biais obtenus par le fait de surveiller plus les populations qu'on considère "à problème" que les autres, et donc étrangement on vient confirmer le fait qu'ils ont bien en effet plus de problèmes... normal vu qu'on n'observe pas les autres...
Bref beaucoup de fausses bonnes idées dans ces algos.
... et un excellent bouquin.

trytodosth Abonné

Le 19/11/2024 à 13h35

Merci Mathilde pour l'interview et merci Next pour ce contenu. Content de payer mon abonnement pour le permettre !