Connexion Premium

Algorithme de la CAF : des organisations européennes rejoignent la Quadrature du Net

Le 20 janvier à 14h41

Dix nouvelles organisations se joignent à la requête déjà déposée devant le Conseil d’État pour contester l’usage que fait la Caisse nationale des affaires familiales (CNAF) et les CAF affiliées d’un algorithme de détection des paiements indus pour lutter contre de potentielles fraudes. 
Parmi elles, plusieurs acteurs européens de défense des droits humains ou des droits numériques.

En octobre 2024, emmenées par l’association de défense des droits numériques la Quadrature du Net, 15 associations, dont Changer de Cap, le Mouvement national des chômeurs et précaires (MNCP), la Ligue des droits de l’homme (LDH) ou encore le Syndicat des avocats de France, déposaient un recours sur le sujet devant le Conseil d’État.

Auprès de Next, la responsable numérique de Changer de Cap expliquait : « On attend l’interdiction de l’algorithme de la CAF, et par jurisprudence, l’interdiction des algorithmes similaires utilisés par France Travail, par l’assurance maladie, par l’assurance vieillesse, etc. ». Juriste auprès de la Quadrature, Bastien Le Querrec expliquait par ailleurs que le groupe d’associations demandait au Conseil d’État de se prononcer sur la légalité de l’outil au regard du Règlement général sur la protection des données (RGPD), ou de demander l’avis de la Cour européenne de justice (CJUE).

Le 15 janvier, la CNAF publiait une notice relative à son nouveau modèle de datamining, nommé DMDE 2026. Elle y signalait notamment que l’algorithme critiqué par les associations était un outil « de contrôle », autrement dit, « un appui, pas une " décision automatique " ».

algorithmes de la CAF

« Dans un contexte de forte attente de la société en matière de transparence sur ce sujet, cette refonte est la première mise en œuvre complète d’une démarche éthique dès la conception sur un algorithme de la Cnaf », indiquait l’entité.

De fait, elle a partagé le code de l’outil, une démarche dont la Quadrature du Net « salue la transparence » dans un communiqué, avant de souligner que « la transparence seule ne suffit pas ».

Ce 20 janvier, le groupe initial de 15 associations françaises est rejoint par dix nouvelles organisations non gouvernementales. Parmi elles : plusieurs syndicats français (Confédération Générale du Travail, Union Syndicale Solidaires, Fédération Syndicale Unitaire Travail Emploi Insertion Organismes Sociaux), le mouvement des mères isolées, Féministes contre le cyberharcèlement, ou encore l’association Data for Good, qui cherche à « mettre la technologie au service de l’intérêt général ». 
Le groupe est aussi rejoint par des acteurs européens : l’ONG allemande Algorithm Watch, la polonaise Panoptykon Foundation, European Digital Rights (EDRi) et European Newtork Against Racism.

Pour la Quadrature, la diversité des acteurs désormais mobilisés dans le recours déposé devant le Conseil d’État est un argument en faveur du renvoi de l’affaire « devant la Cour de justice de l’Union européenne ». Une telle logique permettrait à la décision finalement prise d’être « applicable à l’ensemble de l’Europe ».

Le 20 janvier à 14h41

Commentaires (9)

votre avatar
Ne vous inquiétez pas, avec l'allocation unique, tout sera tellement obscur que ça sera une énième façon de rebattre toutes les cartes pour contrôler toutes les données, tout croiser, et également niveler un max de choses par le bas.
La simplification, c'est bien, en soi... Mais on sait très bien que ce n'est pas pour le bien de la population que ça se fait, mais par désir de faire migrer la république sociale des citoyens vers la république sociale des entreprises.

Il suffit de voir les dizaines de milliards d'euros qui ont été détournés de la TVA pour compenser l'allègement des cotisations des grosses entreprises & cie sur la sécurité sociale, pour savoir que leur crédo "zéro augmentation d'impôts" c'est du pipeau !

Les français n'ont jamais été autant taxé, et pourtant, tout se dégrade...
votre avatar
Ouf, c'est pas du cobol :)

En tout cas, la notice explicative est intéressante. On voit qu'ils ont fait un effort, probablement à cause de la cartouche qu'ils se sont prise il y a quelques années.
votre avatar
Si je résume bien, ils veulent qu'aucune détection de fraude ne puisse être aidée par un quelconque outil.

Il est juste impossible humainement de faire ces recherches manuellement. Que proposent ces associtions à la place?

Concernant l'algorythme, c'est avant tout une séquence d'actions et de tests comme un texte d'une procédure administrative. C'est donc une démarche écrite qui guide les contrôles pour qu'ils soient basés sur les mêmed critèredms pour tous. Pour rappel, sans démarche écrite, on tombe dans l'arbitraire.

Ils se trompent donc de cible selon moi. Que l'on luttte contre l'opacité, oui, et la publication de l'argorythme va bien dans ce sens. Mais que l'on pointe du doigt l'outil, non.
votre avatar
Je me pose un peu les mêmes questions que toi.

Cet article n'apporte pas les arguments des associations. Ou tout du moins, le seul apporté dans l'article c'est en gros "on est beaucoup d'associations, donc on veut être entendus".
Le précédent article de 2024 rapportait des propos de la Quadature du Net, le système « découle d’une politique de mise sous pression des personnes les plus précaires, à qui l’on impose des complexités déclaratives très fortes ».
Autrement dit, on doit faire beaucoup de contrôles car les formulaires sont complexes à remplir.

Si la proposition, c'est réduire les démarches pour laisser moins de places aux erreurs (volontaires ou non), j'adhère à fond.
Pour moi-même être en train de remplir une demande d'aide pour un proche, c'est une comédie. Les formulaires sont tout papier, au format 24*32 (rien imprimable/scannable/photocopiable avec des outils domestiques, enveloppe spécifiques, etc...). Je dois recopier des chiffres de l'avis d'imposition, mais les libellés ne sont pas les mêmes, je dois additionner certains chiffres et en soustraire d'autres parce qu'ils n'ont pas défini de bases communes.
Je suis certain d'avoir fait des erreurs de bonne foi, et pourtant je ne suis pas à plaindre niveau études.

En soi, sur ce formulaire, l'administration a toutes les infos ou presque. Sur une administration simplifiée, je ne devrais normalement donner que le numéro de sécu de ce proche et la référence du professionnel à qui sont destinées les aides. Les services publics ont déjà toutes les autres infos qu'ils demandent.
Et encore, cette démarche pourrait même être automatisée par l'ERP de l'établissement de santé au moment d'émettre la facture.

Par contre, niveau RGPD, c'est à nouveau un croisement de données, qui plus est sur le numéro de sécurité sociale.
On se retrouve à choisir entre la peste et le choléra. Bref, comme toi, je reste sur ma faim au sujet des solutions proposées ?
votre avatar
C'est marrant (ou pas :pleure:), tout ce que tu décris c'est tout pareil pour pôle emploi (je ne me résout pas à appeler ça "france travail").

Quand 2 personnes BAC+5 mettent des heures ensemble à déchiffrer une procédure ou un formulaire de ces agences, c'est assez difficile d'imaginer que ce n'est pas volontairement conçu comme ça pour dissuader un maximum de gens et réduire la quantité d'argent à verser, bien que cet argent ne soit pas un cadeau mais un droit. :supervomi:
votre avatar
Une amie de mon père, devenue veuve à 88 ans, a mis plus de 6 mois avant de commencer à toucher la pension de réversion de feu son mari, il manquait toujours une pièce à son dossier. Dossier pourtant réalisé par son fils, comptable de profession, qui y mettait tout le soin possible.
6 mois pendant lesquels, n'ayant pas de retraite propre, elle a été sans ressource. Heureusement pour elle, elle a pu bénéficier de la solidarité familiale.
votre avatar
J'ai eu vent de cas similaires: des femmes aux foyer qui n'existaient eux yeux de l'administration que par l'existence de leur mari, par exemple pas de numéro de sécu propre. Elles étaient desayants-droits mais pas des titulaires. Le décès du mari les faisaient rentrer dans un vide administratif.
votre avatar
« un appui, pas une « décision automatique »
Sauf que quand on demande aux contrôleurs de faire du chiffre pour réduire le trou, on fini en mode "la machine a dit, la machine a raison, je passe au dossier suivant"
votre avatar
Je ne peux que me demander : LQDN propose de faire comment ? Plus d'agents à contrôler ? Du coup ça fait ça de thunes en moins redistribuées, c'est ça le but ?

Automatiser les contrôles réduit leur couts. Et dans le budget total de la cnaf, c'est pas plus mal de ne pas augmenter le nombre d'agents amha...

Algorithme de la CAF : des organisations européennes rejoignent la Quadrature du Net