La cellule investigation de Radio France a enquêté sur le « datamining » utilisé depuis 2010 par la Caisse nationale des allocations familiales (Cnaf) pour noter les allocataires en fonction des risques d’erreurs ou de fraude qu’ils représentent.
« La Cnaf a été le laboratoire, le bon élève du datamining au sein des administrations françaises », explique le sociologue Vincent Dubois, professeur à l’Institut d’études politiques (IEP) de Strasbourg et auteur de l’ouvrage Contrôler les assistés. Genèses et usages d’un mot d’ordre (Ed. Raisons d’Agir), au point d'avoir même « développé une politique d’automatisation du déclenchement des contrôles ».
À l'époque, Nicolas Sarkozy avait en effet « décidé d’engager une action résolue contre les fraudes sociales » :
« C’est la fraude qui mine les fondements même de cette République sociale que les frères d’armes de la Résistance ont voulu bâtir pour la France et qu’ils nous ont légué. Frauder la Sécurité sociale, ce n’est pas simplement abuser du système, profiter de ses largesses, c’est voler chacun et chacune d’entre nous. »
En juin 2020, l’ancien directeur général de la Caf déclarait à ce titre que le datamining était « devenu la première source de détection des dossiers destinés au contrôle ». Or, le fait que l'algorithme attribue un mauvais score à un allocataire, explique Vincent Dubois, « place les contrôleurs dans la quasi-obligation de trouver quelque chose qui cloche ». Et ce, alors que la Cour des comptes estime pourtant le montant des fraudes à 309 millions d’euros en 2021, soit un taux de 0,39 % rapporté à l’ensemble des prestations versées.
Un chiffre contesté par une estimation de la Caf basée sur un échantillon de 6 000 dossiers, qui estimait les indus frauduleux à 2,8 milliards d’euros. À titre de comparaison, relevait la Cour des comptes, « la fraude aux cotisations sociales des employeurs est estimée entre 7 et 25 milliards d’euros. Et la fraude fiscale qui échappe aux recettes de l’État est, quant à elle, estimée autour de 80 milliards d’euros ».
Or, d'après La Quadrature du Net, « cet algorithme entraîne un score de risque élevé pour les personnes les plus précaires, parce qu’à leur statut sont associés des facteurs de risque qui sont en fait des facteurs de précarité. C’est la raison pour laquelle, parmi les personnes contrôlées, on retrouve une surreprésentation de personnes aux minima sociaux. Plus quelqu’un est précaire, plus il est considéré comme "risqué" ».
Ce qui génère des situations dramatiques pour les allocataires qui reçoivent des notifications d'indus, se voient bloquer ou retirer leurs allocations, entraînant « dettes et frais bancaires colossaux », et doivent apporter la preuve que l'algorithme se serait trompé, alors même qu'ils ne comprennent souvent pas bien ce qui leur est reproché.
Commentaires (34)
#1
on a vu la même chose aux Pays-Bas il y a quelques années, des algos du fisc ayant identifié des “fraudeurs” (faux positifs à 96%), principalement à faibles revenus, souvent originaires des anciennes colonies néerlandaises ou du Maroc, qui se sont retrouvés dans des situations inextricables, sans voies de recours. Des dizaines des milliers de familles ruinées en conséquence, et un plan de réparation mis en place des années après, très insuffisant. Le gouvernement est tombé pour ça (mais les élections qui ont suivi l’ont grosso modo remis en place à l’identique).
#2
Plus quelqu’un est précaire, plus il est considéré comme “risqué” »
On peut critiquer cet aspect du contrôle , on pourrait aussi écrire “plus quelqu’un est recensé dans le système, plus il nécessite un contrôle de sa situation”, mais affirmer que les contrôleurs sont dans la quasi-obligation de trouver quelque chose qui cloche, relève plus du commentaire politique que de l’obligation, écrire cela c’est nier la place de l’humain et son raisonnement.
#2.1
Je crois que c’est justement ce que dénonce l’enquête : il n’y a plus la place pour l’humain et son raisonnement avec la mise en place de ce ciblage par algorithme.
#2.2
Plus rien à voir avec l’humain. “Etre pauvre et donc obligatoirement coupable” est érigé en dogme dans une société capitaliste.
#3
Ca aurait été étonnant que la CAF cible les plus grosses fortunes de France, non ?
Vincent Dubois est professeur de science politique à l’IEP de Strasbourg et ex-professeur de sociologie à l’université de Metz.
Il est surement très compétent en science politique et sociologie, mais il ne me semble pas maitriser les statistiques et le principe du biais de sélection.
#3.1
c’est exactement la réflexion que je me suis faite à la lecture de l’article. En pratique les plus précaires sont par définition ceux qui dépendent le plus des aides de la CAF, et qui en seront les plus demandeurs.
tu n’as peut-être pas lu la partie sur le biais de sélection… le datamining est utilisé pour faire des contrôles sur des grosses masses de données. Les plus précaires, qui représentent peut-être 99,9% des personnes touchant des aides, sont forcément surreprésentés à l’entrée.
Ce que tu décris devrait à la limite plutôt relever d’un contrôle humain, avec ce petit point délicat que ça nécessiterait peut-être de croiser quelques fichiers d’administrations diverses…
#4
On parle du déclenchement du contrôle, pas d’un radar automatique de la “fraude” sociale. Derrière c’est aux humains de résoudre les problèmes et de négocier des remboursements étalés des trop perçus (ce que la CAF fait bien volontiers).
Effectivement quand on cumule les aides c’est tellement compliqué que les erreurs sont beaucoup plus fréquentes, car on ne sait plus qui sait quoi et qui doit savoir quoi, surtout avec des statuts qui changent parfois tous les mois, des références N-2 ou N-1 suivant les aides, et la déclaration ou non de ces aides dans les revenus.
L’automatisation permet surtout de pas atteindre des trop perçus démentiels avant d’intervenir, sans quoi la régularisation est impossible.
L’important ce serait surtout de faire un algorithme pour rendre ça plus fluide et sans erreur au départ.
#4.1
La où j’habite on parle plus d’erreur de déclaration de quelques dizaines d’euro qui t’invalide le droit à la CAF. Un temps de traitement des dossiers qui se compte en mois avec évidemment pas de rétroactivités. Pas d’aide d’une personne physique pour remplir ta déclaration, tout se faisant sur internet. Et à recommencer tous les 3 mois.
https://www.caf.fr/allocataires/caf-de-loire-atlantique/indicateurs-de-qualite-de-service
C’est encore pire que ce que je pensais mais au moins ils sont honnêtes…
#5
Pourtant c’est bien de ce côté qu’il y a une probabilité :
-Qu’un revenu faible ait des aides, ça se conçoit et c’est souvent légitime.
-Qu’une personne touche des aides alors qu’elle a des activités immobilières ou autre fortes, bah faut vérifier le montage.
#6
Mouais à chaque fois que je vois un reportage sur les fraudes à la CAF t’as plutôt l’impression que les tricheurs sont uniquement “condamnés” à rembourser le trop perçu. Pour qu’il y ait des suites judiciaires, il faut vraiment être à la tête d’un réseau ou avoir agressé un agent de la CAF.
#7
Et avant c’était quoi ? Pif des enquêteurs ? Dénonciation ? Tirage au sort ?
#8
J’aimerais la même enquête sur les moyens mis en œuvre contre la fraude fiscale et aux cotisations sociales tiens, histoire de me faire une idée.
#9
C’est surtout à mon avis une question “pratique” : Les pauvres sont beaucoup, beaucoup plus nombreux, et n’ont la plupart du temps pas les moyens , les connaissances et le temps de se défendre contre l’administration. Donc , comme les ripoux, “on gagne petit mais on gagne souvent”.
(On sous-estime souvent le harcèlement administratif’, qui consiste à réclamer sans arrêts des tas de justificatifs et de documents à des individus par des agents qui, eux, en retour, n’ont aucune obligation de justifier ces demandes ni aucune conséquence personnelles. Par contre le stress, le temps et l’argent passé à se défendre tombe bien sur les individus. Les plus riches savent se défendre de ceci , notamment via leurs avocats fiscalistes, mais les autres…)
A l’inverse, les “gros poissons” ont des appuis. Connaissent la fille du cousin du directeur de cabinet.
Attaquer un gros fraudeur (ou une grosse entreprise) c’est prendre le risque de, insidieusement, voir sa carrière stoppée. Refus de mutation, stagnation salariale…. mutation inopinée.
Et sans “reconnaissance” car quelque part s’attaquer aux plus riches c’est risquer de s’attaquer aux copains des directeurs….
Pour un petit fonctionnaire , où est la “sécurité de l’emploi” ?
Il y a un aspect très politique à ce ciblage. Le problème est qu’actuellement les impots sur les sociétés sont considérés pratiquement comme “illégitime” , de même que les prestations sociales.
https://www.aide-sociale.fr/infographie-fraude-sociale-particulier-entreprise/
La court des comptes pointe régulièrement ceci sans conséquences depuis des années.
A un moment donnée , si l’on veux une société inégalitaire par principe, il faut l’assumer : pas d’impôts sur les sociétés, pas de presta sociale, et on créer des cimetières et des prisons plutôt que des écoles et des hopitaux. Après tout c’est vrai qu’on a collectivement voté pour ça deux fois d’affilé.
#10
Faut demander à l’Irlande, la Hollande, le Lichtenstein, Malte … C’est du boulot tout ça.
#11
Mon dieu l’argument
#12
C’est logique. Les aides sont identiques ou inférieures (car inversement proportionnelles aux revenus) pour les “grosses” fortunes donc le gain est proportionnellement bien moins élevé alors que le risque est bien plus grand. Pour les petits, la CAF applique généralement une “excuse de subsistance” (= pas de poursuite judiciaire si pas d’enrichissement) ce dont ne bénéficierait pas un “gros”. Mais comme le vivier des gros est très réduit, il est beaucoup plus rentable d’aller pêcher des petits ne serait-ce que du point de vue statistique de récupérer du trop perçu.
#12.1
Tu réponds bien trop sérieusement (et à côté) à un argument qui n’en était pas un
#13
Je crois que la question est: mais comment ont-ils entraîné leur IA?
Sur la base de quels dossiers de fraude?
Sur la base de quels critères de soupçons?
Et la seconde grande question : qu’est-ce qui sert de garde-fou pour éviter:
ou
Car un petit chef qui lit son magazine qui lui promet que l’IA va résoudre tous ses problèmes est un problème.
#14
Pour moi la faute est autant sur lui que sur les boites privés qui leur proposent des solutions miracle clé en main avec budget et “retour sur investissement”, avec des présentations pleines de mots-clés.
Ex: https://www.defiscalisation.immo/informations/piscines-non-declarees-les-images-satellites-au-secours-du-fisc/ (je mentionne ça car c’est le seul exemple que j’ai en tête et qui est passé ici à un moment).
Il serait intéressant de voir comment et par qui est “vendu” et mis en place le datamining dont il est question dans cet article, je serais étonné qu’il n’y ait pas un “marché public” suivi d’une prestation d’une boite privée pour ce datamining. Boite privée qui, elle, n’a ni scrupules ni mission de service public, ni d’intérêt à maintenir la moindre “paix sociale”.
#15
Vachement intéressant ton lien, merci !
Pour moi ça montre 2 choses :
L’informatique c’est Garbage in, Garbage out. C’est ce qui me gêne avec l’approche actuelle de l’AI, que ce soit la vidéosurveillance ou autre : On considère qu’on y balance tout ce qu’on a comme donnée en vrac, non trié et que “magiquement” ce qui va en sortir est juste et pertinent. Il n’est jamais précisé que ce qui sort est une probabilité, qui de plus est dont la qualité peux décroitre avec le temps, comme une erreur de précision dans un calcul peux s’empirer au fur et à mesure qu’on réutiliser les résultats précédent comme entrée du calcul suivant.
Ca montre aussi sur un sujet différent, ce qui rejoint mon commentaire précédent, le coté impitoyable de l’administration, donc les agents font à priori confiance à leur hiérarchie et à la pertinence de leur administration, en considérant les administrés comme fautif à priori.
Ceci n’a rien à voir avec l’informatique mais plutôt avec la servilité, mais bien sur lorsque la légitimité de la “magie informatique” est utilisée les conséquences peuvent s’enchainer jusqu’à des drames pour lesquelles “personne” et “tout le monde” est responsable.
(On a d’ailleurs la même chose dans la police).
Il manque dans les administrations un tel système de “défenseur des droits” , ou de “médiateur” , avec des gens , formés, qui prendraient le parti des personnes mises en cause. Et aussi à mon sens une certaine responsabilité, personnelle , directe et pécunière, des agents public qui font preuve de discriminations (raciale, sociale, …).
Par exemple pour les contrôles CAF, fiscaux ou autre, rien n’empêcherais de tirer au hasard à la fois les personnes concernées et les agents qui s’en occuperaient.
#16
Fascinant. Tu prends un cas extrême qui n’est pas celui de la France pour asséner ton point de vue: il y a suffisamment de problème avec ce qui se passe à la CAF sans venir raconter tout et n’importe quoi.
Aux Pays Bas c’était automatisation du processus du début à la fin. Ici, c’est mise en avant d’un profil pour qu’une enquête ait lieu derrière.
Le problème ici n’est pas tant que l’Etat vérifie que son argent soit bien distribué que le fait que les allocations soient coupées en attendant la régularisation ou pas. C’est à l’Etat de prouver qu’ils sont coupables pas aux “suspects” de prouver qu’ils sont innocents.
Pour finir, la QDN fait de la QDN: un bon titre putaclic car statistiquement parlant les précaires sont aussi largement les plus représentés dans la population touchant les aides de la CAF.
#17
Si vous saviez le nombre d’artisans qui liquident leur société, se foutent au RSA et font du black à coté …
Ou les soit disant famille mono-parentable qui ont depuis un nouveau conjoint mais le déclare pas pour continuer à toucher les aides …
C’est la dessus (donc dans les stats, ça ressort bien faisant parti des plus pauvre) que la CAF doit concentrer ses contrôles pour que les aides aillent vraiment aux pauvres qui en ont besoin !
#17.1
Je ne sais pas. Tu as des chiffres.
Des margoulins, il y en a partout (dernière en date mais sur le registre fiscal).
Les artisans payent proportionnellement plus d’impôts et de cotisations qu’Uber ou d’autres gafam. Si ces optimisation fiscale étaient évincée, il y aurait plus équité devant l’impôt.
Pour les familles faussement monoparentale, beaucoup de personnes ignorent qu’elles peuvent bénéficier d’aide. Et le jargon administratif n’aide pas.
#18
Fais toi une idée
Moins d’une minute de recherche sur le net.
#19
Le problème (et ça a été dit par d’autres), c’est qu’il y a suspension des allocations pendant la durée du contrôle. Dans un reportage radio sur le sujet, il est fait mention d’une personne contrôlé 5 fois de suite tous les 3 mois avec à chaque fois la suspension de l’allocation. C’est criminel.
Mouais, chaque fois que j’entends parler de la fraude fiscale, les tricheurs sont uniquement condamnés à payer le différentiel d’impôts, et encore, quand ils ne négocient pas à la baisse.
De même, la fraude à la sécurité sociale est plus du fait des professionnels que des patients.
#20
De ma modeste connaissance de l’Administration, tu es coupable par défaut. L’administration s’oppose une preuve indirect de non respect d’un formulaire, procédure ou autres et tu dois apporter une preuve directe. Comme tous le monde ne maîtrise pas ces subtilités, on peut tomber dans le panneau.
Dernier exemple en date: pôle emploi demande ton salaire brut estimé ou réel à la fin de chaque mois. Si, ce salaire est faux: courrier automatique, anxiogène avec sous-entendu d’arrêt d’indemnisation.
Alors qu’un courrier plus neutre signalant une incohérence et demandant des précisions serait plus humain.
#21
Ben en fait j’ai le même que toi…
Mon point de vue c’est juste que c’est une illustration qu’un projet d’IA (et pour arrêter de rabâcher un terme qui est plus marketing que réel, un projet d’aide à la décision automatisée), c’est un projet avec une partie informatique, mais aussi une partie organisation et une partie humaine.
Aucune des 3 parties ne peut être bâclée:
Je ne sais pas si l’article est orienté (il y a quand même un mec de la CGT qui “témoigne”, pour moi c’est déjà suspect). Peut-être que la situation n’est pas si noire. Peut-être que l’outil est mauvais, peut-être qu’il est tout à fait correct mais mal exploité (euh, de mon expérience, certainement mal exploité:) ), peut-être que c’est encore un problème de management, ou d’agent trop zélé, ou tout ça en même temps …
Maintenant, on reproche à l’état d’être super lourd et super en retard et en même temps on lui reproche de se moderniser, il va falloir couper le pire en 2.
#22
En parallèle, les ministères poussent aux projet “dites le nous jamais”: une fois que l’administration a les infos sur toi, ils te proposent les aides auxquelles tu as droit.
Bon, d’expérience, on y est pas …
#22.1
On aime les mille-feuilles en France… Tu paies des impôts, mais tu peux recevoir des aides de quinze organismes. Et il y a des règles, tu dois demander à douze d’entre eux seulement, sinon, ça ne te rend plus éligible aux trois derniers et c’est de la fraude.
Je caricature, mais peut-être pas tant que ça.
Maintenant qu’on a un prélèvement à la source, on devrait être capables de suivre le revenu des gens et leur offrir les aides qui leur correspondent, bien sûr il y a des cas plus compliqués, mais en automatisant le cas général (les salariés à plein temps), on aura du temps pour aider les cas compliqués. Mais comme c’est plein d’organismes et qu’il faut pas croiser les fichiers, on n’est pas foutus d’aider facilement ni de contrôler facilement non plus.
#23
Plus vraisemblablement ils vont négocier le montant de l’amende.
Et ? Du coup il ne faut pas chercher les fraudeurs ? Et les professionnels de santé fraudeurs eux ils vont réellement en prison (et vu les montants c’est normal)
#24
C’est juste logique si tu regardes les lois de répartition.
Même avec un ciblage parfaitement aléatoire des bénéficiaires ou des dépenses, tu as peu de chance de tomber sur qqn du dernier décile.
source: https://www.securite-sociale.fr/files/live/sites/SSFR/files/medias/DSS/2022/Cahier_stat_Prestations_familiales_2022.pdf
#25
Tu crois vraiment qu’une grosse fortune de France va chercher à frauder la CAF pour des bricoles ?
Heu,,, On parle de la CAF, les “gros poissons” s’ils existent (vu les montants en jeu) ne sont pas des gens ayant des appuis. Et le coup des appuis, ça fait rigoler, ne serait-ce que vu les gens connus et riches qui se sont fait redresser par le Fisc (pas la CAF mais justement les montants sont d’un autre ordre).
Elle est assez bonne.
Je n’ai entendu personne dire ça.
N’importe quoi.
On est d’accord, j’ai fait un “facepalm” en lisant ça.
#26
C’est un festival décidément. Non seulement l’administration ne considère plus les administrés comme fautifs à priori (droit à l’erreur et présomption de bonne foi, c’est passé dans la loi il y a quelques années), en tous cas le Fisc (la CAF je connais moins), mais en plus parler de “servilité”…
Concernant le Fisc, j’ai expérimenté il y a quelques années l’application de la présomption de bonne foi, ils ne m’ont pas appliqué la pénalité de retard (j’ai expliqué que j’avais envoyé ce qu’il fallait). Ce qui a dû jouer c’est que ça fait plus de 20 ans que je paie et déclare dans les temps. Je me suis aperçu après coup qu’en fait je n’avais pas envoyé dans les temps…
Il y a déjà une forme de hasard dans l’orientation d’un dossier lambda au sein de l’administration.
#27
Le genre de commentaire qu’on voit apparaître à chaque fois qu’il est question de fraude sociale ou fiscale.
Alors que ces enquêtes existent depuis avant leur naissance et sont disponibles.
Moi j’aimerais bien connaître ce qui se passe dans la tête de quelqu’un qui écrit ce genre de chose, au lieu d’aller chercher l’information.
(Pfff, les commentaires à chaque fois “ouin ouin mais on fait quoi contre la fraude fiscale, ouin ouin ouin on ne s’attaque pas aux gros, etc.”)