Publié dans IA et algorithmesSociété numérique

57

Le code source de la CAF révèle une catégorisation discriminatoire des allocataires

des nuages de données s'échappent des cheminées de petites maisons dessinées en rang d'oignon

La Quadrature du Net a obtenu le code source des deux modèles algorithmiques utilisés par la CAF entre 2010 et 2018 pour ses allocataires. Le but : identifier les plus « susceptibles » de frauder, et lancer des procédures de contrôle à leur encontre. Son analyse permet de montrer que la machine traite les données de plus de 32 millions de personnes, dont 13 millions d’enfants, dans des foyers bénéficiaires d’une des allocations fournies par la CAF. 


Par ailleurs, le modèle attribue à chacune des personnes concernées ce que La Quadrature appelle un « score de suspicion », entre 0 et 1. Plus ce score s’approche de 1, plus la personne risque d’être catégorisée « suspecte », auquel cas un contrôle de sa situation est déclenchée.

Parmi les variables qui font grimper le score, l’association relève divers critères discriminants, parmi lesquels le fait de toucher des revenus faibles, d’être au chômage, de toucher le RSA, de consacrer une large part de ses revenus à son loyer, ou encore de ne pas avoir de revenus stables.

Être bénéficiaire de l’Allocation adulte handicapée (AAH) en travaillant semble être l’un des paramètres susceptibles de provoquer la plus forte hausse du score d’un allocataire, note encore l’association.

Un article plus complet est disponible ici.

57

Tiens, en parlant de ça :

Un mélange entre une réunion d’Anonymous et de tête d’ampoules, pour le meilleur et le pire

663e édition des LIDD : Liens Intelligents Du Dimanche

I’m Blue myself

00:00 Next 0

[Édito] Le buzz à tout prix sur les réseaux sociaux

Intelligence artificielle vs bêtise humaine

17:32 NextSocials 54

La Commission européenne se penche sur l’alternative paiement ou publicité comportementale de Meta

Neverending Story

17:02 DroitSocials 5
next n'a pas de brief le week-end

Le Brief ne travaille pas le week-end.
C'est dur, mais c'est comme ça.
Allez donc dans une forêt lointaine,
Éloignez-vous de ce clavier pour une fois !

57

Commentaires (57)


Le 27/11/2023 à 19h 20
Les critères discriminants sont discriminatoires.

C'est pour ce genre d'article que je suis abonné à Next
/s
RuMaRoCO Abonné
Le 28/11/2023 à 13h 14
Nous sommes peut-être sur la même base.
J'ai une question de candide pour les linguistes du site :
N'est-ce pas une lapalissade de dire "catégorisation discriminatoire" ?
De ma compréhension une catégorisation se fait justement trier via des critères.
Discriminatoire n'est pas nécessairement péjoratif (comme "critique")
Est-ce que sa subtilité serait via des critères "infamants" ?
Je n'ai pas l'impression que les critères cités le sont.

Si j'habite dans un HML, et que je vois un voisin "sans emploi" avec une voiture de plusieurs dizaines de milliers d'euros, je ne me dis pas nécessairement:" Le pauvre il a dû perdre un membre de sa famille, mais il compense sa peine via l'héritage..."

Modifié le 28/11/2023 à 13h15
Le 27/11/2023 à 19h 56
Donc en gros :
Plus t'es dans la M*, plus t'as besoin de la CAF, plus t'es suspect.
Le 27/11/2023 à 20h 01
Moins t'as besoin de la CAF, moins t'as de raison de la truander, donc moins t'es suspect.

#MindBlowing
Modifié le 27/11/2023 à 20h01
Le 27/11/2023 à 20h 06

127.0.0.1

Moins t'as besoin de la CAF, moins t'as de raison de la truander, donc moins t'es suspect.

#MindBlowing
Plus t'es riche, plus tu es méritant et honnête.
Le 27/11/2023 à 20h 35

consommateurnumérique

Plus t'es riche, plus tu es méritant et honnête.
non.
Plus t'es riche, plus t'es suspect pour la fraude fiscale.
Moins t'es riche, moins t'es suspect pour la fraude fiscale.

Mais là, le critère ne touche pas des populations protégées.
Donc il y a moins d'indignation.

Pour info, la QDN est en guerre contre le scoring.
Leur déclaration de guerre, all-inclusive, est ici:
https://www.laquadrature.net/lutter-contre-les-algos-de-controle/

Du coup leurs cris d'orfraie semblent surtout servir leur propre narratif.

Concernant l'algo de la honte de la CAF (comme dit la QDN), le groupe des mauvais élèves va très certainement "intersecter" celui des populations protégées.
Et comme elles sont protégées, c'est normal de penser qu'on voulait les stigmatiser.
On concluera dont qu'elles sont la cible d'un système qui est forcément fachisant.
Un système qu'il faut donc combattre... ce qui correspond au narratif de départ.
Bref...
Modifié le 27/11/2023 à 20h37
Le 27/11/2023 à 22h 11

127.0.0.1

non.
Plus t'es riche, plus t'es suspect pour la fraude fiscale.
Moins t'es riche, moins t'es suspect pour la fraude fiscale.

Mais là, le critère ne touche pas des populations protégées.
Donc il y a moins d'indignation.

Pour info, la QDN est en guerre contre le scoring.
Leur déclaration de guerre, all-inclusive, est ici:
https://www.laquadrature.net/lutter-contre-les-algos-de-controle/

Du coup leurs cris d'orfraie semblent surtout servir leur propre narratif.

Concernant l'algo de la honte de la CAF (comme dit la QDN), le groupe des mauvais élèves va très certainement "intersecter" celui des populations protégées.
Et comme elles sont protégées, c'est normal de penser qu'on voulait les stigmatiser.
On concluera dont qu'elles sont la cible d'un système qui est forcément fachisant.
Un système qu'il faut donc combattre... ce qui correspond au narratif de départ.
Bref...
Tu peux être riche et payer ton impôt rubis sur l'ongle. C'est pas un problème de situation de richesse, c'est un problème de contrôle de collecte de l'impôt.

Tu gagnes un million d'euros avec seulement un unique salaire, tu seras moins contrôlé (ça ira beaucoup plus vite) que celui qui gagne autant avec des locations immobilières à travers la France, des portefeuilles d'actions dans 3 banques et 2 entreprises à faire tourner. Il se trouve que plus tu es riche, plus tu multiplies les placements et les activités lucratives.

Quand tu es indemnisé par la CAF, ta situation sociale est précaire. Que tu sois contrôlé n'est pas un problème en soi (l'AAH représente certainement des gros montants et il est normal de contrôler ces versements), le problème est d'être contrôlé du fait de ta situation particulière. Et si la CAF fait une erreur, tu ne devrais pas avoir à rembourser au détriment de ta situation financière (pareil pour les impôts).
Le 27/11/2023 à 20h 36

consommateurnumérique

Plus t'es riche, plus tu es méritant et honnête.
L'honnêteté vs les revenus se modélise peut-être part une courbe de gauss..... :-)
Le 27/11/2023 à 20h 11
« La politique sociale, regardez : on met un pognon de dingue dans des minima sociaux, les gens ils sont quand même pauvres. On n’en sort pas. Les gens qui naissent pauvres, ils restent pauvres. Ceux qui tombent pauvres, ils restent pauvres. On doit avoir un truc qui permette aux gens de s’en sortir. »

https://www.lefigaro.fr/flash-actu/2018/06/13/97001-20180613FILWWW00015-macron-on-met-un-pognon-de-dingue-dans-des-minima-sociaux-les-gens-sont-quand-meme-pauvres.php
Le 27/11/2023 à 20h 32

consommateurnumérique

« La politique sociale, regardez : on met un pognon de dingue dans des minima sociaux, les gens ils sont quand même pauvres. On n’en sort pas. Les gens qui naissent pauvres, ils restent pauvres. Ceux qui tombent pauvres, ils restent pauvres. On doit avoir un truc qui permette aux gens de s’en sortir. »

https://www.lefigaro.fr/flash-actu/2018/06/13/97001-20180613FILWWW00015-macron-on-met-un-pognon-de-dingue-dans-des-minima-sociaux-les-gens-sont-quand-meme-pauvres.php
Merci de ce rappel.

je trouve ça encore plus savoureux quand on connais la suite de l'histoire écrite depuis.
OlivierJ Abonné
Le 28/11/2023 à 17h 59

OB

Merci de ce rappel.

je trouve ça encore plus savoureux quand on connais la suite de l'histoire écrite depuis.
C'est quoi la suite de l'histoire ?

Sinon, cette déclaration que le PR avait faite avec un style un peu familier, c'est un constat d'une part mais surtout un appel à changer cet état de fait.
Le 28/11/2023 à 08h 18

consommateurnumérique

« La politique sociale, regardez : on met un pognon de dingue dans des minima sociaux, les gens ils sont quand même pauvres. On n’en sort pas. Les gens qui naissent pauvres, ils restent pauvres. Ceux qui tombent pauvres, ils restent pauvres. On doit avoir un truc qui permette aux gens de s’en sortir. »

https://www.lefigaro.fr/flash-actu/2018/06/13/97001-20180613FILWWW00015-macron-on-met-un-pognon-de-dingue-dans-des-minima-sociaux-les-gens-sont-quand-meme-pauvres.php
C'est mieux la politique des riches : on donne un pognon de dingue aux riches et ils sont encore plus riches.
carbier Abonné
Le 27/11/2023 à 21h 19
Le parallèle a déjà été fait: plus tes revenus sont faibles moins tu seras soumis à un controle fiscal. Plus tes revenus sont élevés moins tu seras soumis à un controle de la CAF.

Plutôt que de dénoncer cela de façon sémantique, il convient plutôt de demander à la CAF si les faits avérés confirment leur algo ou si statistiquement cela n'est pas vrai. Et dans ce cas cela pose problème.
Le 27/11/2023 à 21h 40

carbier

Le parallèle a déjà été fait: plus tes revenus sont faibles moins tu seras soumis à un controle fiscal. Plus tes revenus sont élevés moins tu seras soumis à un controle de la CAF.

Plutôt que de dénoncer cela de façon sémantique, il convient plutôt de demander à la CAF si les faits avérés confirment leur algo ou si statistiquement cela n'est pas vrai. Et dans ce cas cela pose problème.
J'imagine bien que plus on est susceptible de payer beaucoup d'impôts, plus on est contrôlé. Plus on est susceptible de percevoir beaucoup d'indemnisation, plus on est contrôlé. Dans ce cas, l'algo se fixe sur le montant, pas sur la situation personnelle du contribuable ou de l'allocataire. Ce n'est pas de la sémantique, c'est un principe égalitaire.
Modifié le 27/11/2023 à 21h47
Le 27/11/2023 à 23h 03

consommateurnumérique

J'imagine bien que plus on est susceptible de payer beaucoup d'impôts, plus on est contrôlé. Plus on est susceptible de percevoir beaucoup d'indemnisation, plus on est contrôlé. Dans ce cas, l'algo se fixe sur le montant, pas sur la situation personnelle du contribuable ou de l'allocataire. Ce n'est pas de la sémantique, c'est un principe égalitaire.
Si les allocataires CAF ne souhaitent pas que leurs situations personnelles soient analysées en cas de contrôle peut-être qu'il faudrait que leurs situations personnelles ne servent plus d'argument pour être "bénéficiaire", non?
wagaf Abonné
Le 27/11/2023 à 23h 05

consommateurnumérique

J'imagine bien que plus on est susceptible de payer beaucoup d'impôts, plus on est contrôlé. Plus on est susceptible de percevoir beaucoup d'indemnisation, plus on est contrôlé. Dans ce cas, l'algo se fixe sur le montant, pas sur la situation personnelle du contribuable ou de l'allocataire. Ce n'est pas de la sémantique, c'est un principe égalitaire.
Le montant perçu fait partie de la situation personnelle, c'est un élément parmi d'autres.

De mon point de vue, c'est totalement logique que des éléments objectifs de la situation personnelle puisse être utilisés pour évaluer le risque de fraude. Mieux vaut ça qu'un jugement humain biaisé ou une utilisation de critères subjectifs.

On est dans une période où les États n'ont jamais été aussi pauvres et faibles, dépassés de tous les cotés, par le secteur privé et par les criminels. Quand l'État est abusé c'est la population qui trinque. Quand des circuits frauduleux sont utilisés pour essorer l'État, c'est le système d'aide sociale qui est fragilisé et politiquement délégitimé (les gens arrêtent de considérer le système comme légitime s'ils perçoivent trop de fraude).

Quand on est rendu à exiger de l'État qu'il n’utilise pas les informations dont il dispose déjà pour évaluer le risque de fraude (on ne parle pas d'une sanction quelconque mais de l'évaluation d'un risque), difficile de ne pas se dire que ça va peut-être un peu trop loin.


Modifié le 27/11/2023 à 23h18
fred42 Abonné
Le 27/11/2023 à 23h 51

wagaf

Le montant perçu fait partie de la situation personnelle, c'est un élément parmi d'autres.

De mon point de vue, c'est totalement logique que des éléments objectifs de la situation personnelle puisse être utilisés pour évaluer le risque de fraude. Mieux vaut ça qu'un jugement humain biaisé ou une utilisation de critères subjectifs.

On est dans une période où les États n'ont jamais été aussi pauvres et faibles, dépassés de tous les cotés, par le secteur privé et par les criminels. Quand l'État est abusé c'est la population qui trinque. Quand des circuits frauduleux sont utilisés pour essorer l'État, c'est le système d'aide sociale qui est fragilisé et politiquement délégitimé (les gens arrêtent de considérer le système comme légitime s'ils perçoivent trop de fraude).

Quand on est rendu à exiger de l'État qu'il n’utilise pas les informations dont il dispose déjà pour évaluer le risque de fraude (on ne parle pas d'une sanction quelconque mais de l'évaluation d'un risque), difficile de ne pas se dire que ça va peut-être un peu trop loin.


Je préférerais que le contrôle se fasse sur des croisements de données (avec d'autres administrations si besoin) et donc sur une détection d'erreur que sur des statistiques.
Parce que on vous contrôle parce que d'autres qui ont le même profil que vous ont déjà truandé le système, je n'aime pas vraiment.

J'aimerais aussi connaître l'évaluation de la fraude pour voir si l'enjeu est important.
swiper Abonné
Le 28/11/2023 à 10h 00

fred42

Je préférerais que le contrôle se fasse sur des croisements de données (avec d'autres administrations si besoin) et donc sur une détection d'erreur que sur des statistiques.
Parce que on vous contrôle parce que d'autres qui ont le même profil que vous ont déjà truandé le système, je n'aime pas vraiment.

J'aimerais aussi connaître l'évaluation de la fraude pour voir si l'enjeu est important.
L'enjeu ne sera jamais aussi important que la fraude fiscale, c'est certain. Néanmoins, toutes les fraudes doivent être chassées, ça me semble de la logique simple.
Je ne suis pas choqué de voir ces critères pour un algorithme d'aide à la détection des fraudes. Comme l'a dit un commentaire précédent, si statistiquement cela reflètent une réalité alors ainsi soit-il. Après tout, ce n'est pas le résultat du contrôle qui est contrôlé par cet algo.
Si on devait avoir le code source de l'algo pour les fraudes fiscales, d'autres seraient choqués aussi des critères. Mais il en faut bien. Ensuite, si le contrôle révèle une fraude tant mieux sinon tant mieux.
fred42 Abonné
Le 27/11/2023 à 21h 01
Quand on parle de traitement de données personnelles, je pense RGPD.

J'ai trouvé dans la page du site de la CAF recensant l'ensemble des traitements de ce type (ici : https://www.caf.fr/allocataires/informatique-et-libertes ) le communiqué de la CAF sur ce traitement (celui-ci : https://www.caf.fr/sites/default/files/medias/cnaf/DCOM/mentions_legales/informatique_libertes/Communique-Datamining-score.pdf ) et l'avis de la CNIL de mars 2010 (antérieur au RGPD : https://www.legifrance.gouv.fr/cnil/id/CNILTEXT000022205702 )

Le communiqué justifie le traitement par le respect d'une obligation légale.

On peut considérer que ceci (dans l'arrêté cité par le communiqué) :
>-détermine les modalités d'analyse des résultats des contrôles et des indicateurs, ainsi que d'identification des principales causes d'erreurs ou d'anomalies par catégorie d'opérations. Le plan national de contrôle interne précise les conditions de définition et de suivi des actions permettant de réduire ces anomalies à la source ou, à défaut, de les détecter et les corriger.

correspond bien à l'obligation légale.
Modifié le 27/11/2023 à 21h02
Le 28/11/2023 à 08h 55
> Un article plus complet est à venir.

Attendons de voir l'article complet (du moins pour les abonnés).

Mais je doute que l'article nous explique en quoi le critère est mathématiquement incorrect.
Il va plus probablement insister sur le fait qu'il est moralement incorrect.
Le 04/12/2023 à 20h 08
<3
Lyzz Abonné
Le 28/11/2023 à 09h 17
Ah toutes ces personnes marginalisées, ces pauvres et ces handicapés qui méritent bien qu'on se méfie d'eux !
Toujours un grand plaisir les commentaires sur Next, le changement de direction a pas changé la communauté.
On verra jamais autant de zèle de l'administration à se pencher sur la fraude fiscale.

> Être bénéficiaire de l’Allocation adulte handicapée (AAH) en travaillant semble être l’un des paramètres susceptibles de provoquer la plus forte hausse du score d’un allocataire, note encore l’association.

Alors que l'AAH est une des allocations les plus difficiles à obtenir (surtout quand on est handicapé). Les dossiers demandés sont absurdes, les pièces "perdues" à coup sûr, les délais de traitement dépassent souvent l'année. On te l'octroie pour 5 ans au mieux (bon prince) à faire renouveler au cas où tes jambes repoussent entre temps.
Arona Abonné
Le 28/11/2023 à 09h 51
L'AAH... la gestion de l'AAH ça c'est un vrai scandale.
xlp Abonné
Le 28/11/2023 à 09h 55
Si je te suis c'est plus facile d'obtenir l'AAH en étant pas handicapé qu'en l'étant ? (Demande sincère)
Le 28/11/2023 à 10h 14

xlp

Si je te suis c'est plus facile d'obtenir l'AAH en étant pas handicapé qu'en l'étant ? (Demande sincère)
il y a des tutos sur le net pour obtenir facilement l'AAH.

Ca t'explique comment se faire 1200€/net par mois sns bosser (AAH + APL + ...)
Lyzz Abonné
Le 28/11/2023 à 10h 39

xlp

Si je te suis c'est plus facile d'obtenir l'AAH en étant pas handicapé qu'en l'étant ? (Demande sincère)
Je n'ai jamais dit ça, les critères sont vraiment sévères sur les handicaps à avoir. Mais en étant handicapé tu as souvent plus de mal à effectuer des démarches, faire les déplacements nécessaires, aller au rendez vous, remplir des documents dans les temps.

J'aide mon colloc à faire ces démarches c'est un enfer, on lui retoque des documents, on lui en demande d'autres, les délais sont dingues. On lui a octroyé l'AAH pour 18 mois après 1 an de traitement de dossier, donc plus que 6 mois de versements il a du direct faire une demande de renouvellement pour pas être sans revenu à la fin.

Il en a aussi chié a obtenir la CSS (équivalent CMU) pour prendre en compte ces frais de santé, quelques mois plus tard la sécu a simplement retiré ses droits sans avertissement, il a du refaire tout un dossier pour réactiver sa carte vitale sans raison (on nous a jamais dit pourquoi ses droits avaient été retirés malgré nos demandes).
Lyzz Abonné
Le 28/11/2023 à 10h 33
On oublie très souvent aussi que la fraude sociale est INFÉRIEURE aux prestations qui ne sont pas reversées aux personnes qui y ont droit. Mais on voit pas la CAF aller chercher les gens qui ont des droits pour leur verser (au contraire les employés qui font ces efforts sont virés gentiment parce que faudrait pas déconner).
carbier Abonné
Le 28/11/2023 à 10h 37

Lyzz

On oublie très souvent aussi que la fraude sociale est INFÉRIEURE aux prestations qui ne sont pas reversées aux personnes qui y ont droit. Mais on voit pas la CAF aller chercher les gens qui ont des droits pour leur verser (au contraire les employés qui font ces efforts sont virés gentiment parce que faudrait pas déconner).
Tu as une source pour confirmer que des employés se seraient fait virer à cause de cela ?
carbier Abonné
Le 28/11/2023 à 10h 35
> Alors que l'AAH est une des allocations les plus difficiles à obtenir (surtout quand on est handicapé). Les dossiers demandés sont absurdes, les pièces "perdues" à coup sûr, les délais de traitement dépassent souvent l'année. On te l'octroie pour 5 ans au mieux (bon prince) à faire renouveler au cas où tes jambes repoussent entre temps.

C'est la même chose pour l'ALD: tout le monde n'est pas égal face au handicap. Dans certains cas, la situation peut évoluer favorablement.
dvr-x Abonné
Le 28/11/2023 à 09h 45
Du coup, qu'est ce qui est discriminatoire concrètement ?
Le 28/11/2023 à 10h 02
Est discriminatoire, sauf erreur de ma part, une action qui consiste à marginaliser une personne en raison de sa personne (atteinte de handicap, mariée ou célibataire, vivant seule, avec ou sans enfants, etc).

En d'autres termes, on n'est pas suspect parce qu'on est parent isolé ou qu'on est atteint de handicap. En revanche on peut être contrôlé parce qu'on perçoit des indemnités plutôt élevées, parce que la situation personnelle a changé récemment et qu'il manque des justificatifs, parce qu'on fait l'objet d'un contrôle ponctuel d'une catégorie de prestations selon l'organisation interne de la CAF, etc.
Modifié le 28/11/2023 à 10h04
Le 29/11/2023 à 06h 39

consommateurnumérique

Est discriminatoire, sauf erreur de ma part, une action qui consiste à marginaliser une personne en raison de sa personne (atteinte de handicap, mariée ou célibataire, vivant seule, avec ou sans enfants, etc).

En d'autres termes, on n'est pas suspect parce qu'on est parent isolé ou qu'on est atteint de handicap. En revanche on peut être contrôlé parce qu'on perçoit des indemnités plutôt élevées, parce que la situation personnelle a changé récemment et qu'il manque des justificatifs, parce qu'on fait l'objet d'un contrôle ponctuel d'une catégorie de prestations selon l'organisation interne de la CAF, etc.
marginaliser ? vous prenez que le terme péjoratif de discriminatoire / discrimination . C'est avant tout un critère pour différencier les catégories. Blond brun noir est un critère discriminant .
Le 28/11/2023 à 09h 50
Quelque chose m'échappe. Plus on est pauvre et dans une situation instable et plus on a besoins d'aides. Pourquoi donc la CAF se méfierait des pauvres ? Au contraire un riche qui demande des aides est suspect.

J'attends une réponse sérieuse, les personnes derrière l'algo ont forcément des arguments.
swiper Abonné
Le 28/11/2023 à 10h 04
Mais le revenus ou les richesses sont un préalable à la demande de droit sociaux. Si tu es hors fourchette, tu n'as pas d'aide, point. Et quel est l'intérêt pour un riche de demander 100 ou 200€ d'aide quand il gagne 4000€ (il me semble est le seuil de richesse en France cette année). Doit pas y en avoir beaucoup.
Et ce n'est pas une histoire de méfiance mais de critères de risques. N'oubliez pas que si l'algo se plante et qu'un contrôle est fait sur une personne qui ne fraude pas c'est du temps perdu et de l'argent pas récupérée par ailleurs. Ce n'est absolument pas dans l'intérêt de la CAF d'établir des critères stigmatisants mais plutôt efficaces.
carbier Abonné
Le 28/11/2023 à 10h 19
Un riche n'a pas le droit aux aides de la CAF
lakitrid Abonné
Le 28/11/2023 à 11h 14

carbier

Un riche n'a pas le droit aux aides de la CAF
La CAF gère aussi les aides liés aux enfants et certaines sont versés quelque soit le niveau de ressource, donc si un "riche" peut toucher des aides de la CAF.
alex.d. Abonné
Le 28/11/2023 à 11h 05
La CAF ne se méfie pas des pauvres, elle se méfie de ceux qui prétendent être pauvres pour toucher des aides. Dans le lot, il y a les vrais pauvres, mais il y a aussi les fraudeurs.
Le 28/11/2023 à 14h 22

alex.d.

La CAF ne se méfie pas des pauvres, elle se méfie de ceux qui prétendent être pauvres pour toucher des aides. Dans le lot, il y a les vrais pauvres, mais il y a aussi les fraudeurs.
Traquer les fraudeurs, OK. Mais est-ce qu'un bon critère pour les repérer c'est "plus ils sont -- ou ont l'air -- pauvre, plus c'est suspect" ?
alex.d. Abonné
Le 28/11/2023 à 16h 11

Jonathan Livingston

Traquer les fraudeurs, OK. Mais est-ce qu'un bon critère pour les repérer c'est "plus ils sont -- ou ont l'air -- pauvre, plus c'est suspect" ?
Les fraudeurs se donnent l'air pauvre, voire très pauvre, pour toucher un max d'allocations. Ils ne le font pas pour toucher seulement des clopinettes. Par conséquent, si tu cherches des fraudeurs, il est pertinent d'aller contrôler ceux qui ont l'air très pauvres.
Mais c'est une erreur de raisonnement que de croire que la CAF considère tous les très pauvres comme des fraudeurs.
Le 28/11/2023 à 10h 21
Cela me fait souvenir de la vidéo que j'avions sauvegardé ^^
L'algo a pas du bien fonctionner :/

https://www.dailymotion.com/video/x8o6j96
carbier Abonné
Le 28/11/2023 à 10h 28
Par rapport aux critères, je suis également curieux d'avoir le complément d'enquête.

Par exemple, pour le critère "toucher le RSA", il semblerait que le RSA soit la fraude la plus importante.
Donc il faut bien savoir qui touche le RSA pour savoir qui controler.

La CAF effectuant plusieurs dizaines de millions de controles dans l'année: soit en physique, soit en croisant les données, il faudrait préciser ce qui est appelé discrimination. Il devrait plutôt s'agir des champs à contrôler pour chaque personne.
Snarkk Abonné
Le 28/11/2023 à 11h 55
"Par exemple, pour le critère "toucher le RSA", il semblerait que le RSA soit la fraude la plus importante."

Si par cette phrase, tu te demandes si le RSA est la fraude la plus importante pour la CAF, la réponse est oui et largement (60% environ).

https://www.lesechos.fr/economie-france/social/la-fraude-aux-allocations-a-atteint-un-niveau-record-en-2022-1949360

Si tu te demandes si elle est la plus importante à l'échelle française par exemple, là c'est un grand non par contre ! La fraude sociale, c'est du pipi de chat comparé à la fraude fiscale.

https://www.alternatives-economiques.fr/fraude-fiscale-ecrase-fraude-sociale/00098439
Le 29/11/2023 à 06h 43

Snarkk

"Par exemple, pour le critère "toucher le RSA", il semblerait que le RSA soit la fraude la plus importante."

Si par cette phrase, tu te demandes si le RSA est la fraude la plus importante pour la CAF, la réponse est oui et largement (60% environ).

https://www.lesechos.fr/economie-france/social/la-fraude-aux-allocations-a-atteint-un-niveau-record-en-2022-1949360

Si tu te demandes si elle est la plus importante à l'échelle française par exemple, là c'est un grand non par contre ! La fraude sociale, c'est du pipi de chat comparé à la fraude fiscale.

https://www.alternatives-economiques.fr/fraude-fiscale-ecrase-fraude-sociale/00098439
Oui sauf que le RSA c'est la CAF ( ou un autre organisme de droit privé ) qui la verse .. les fraude fiscale ne sont pas de leur ressort . on parle toujours de la CAF non ?
Snarkk Abonné
Le 30/11/2023 à 12h 15

Elwyns

Oui sauf que le RSA c'est la CAF ( ou un autre organisme de droit privé ) qui la verse .. les fraude fiscale ne sont pas de leur ressort . on parle toujours de la CAF non ?
Salut Elwyns !

Je cherchais à répondre à carbier. N'étant pas sûr du sens de sa phrase, j'ai répondu aux deux sens qui me paraissaient les plus probables. Ni plus, ni moins.
Le 28/11/2023 à 10h 52
« L’entretien avec l’agent de la CAF a été une humiliation » : les bénéficiaires du RSA dans l’enfer des contrôles

Au fil des ans, des progrès du big data et des croisements de fichiers, les Caisses d’allocations familiales et les départements intensifient leur chasse aux fraudeurs, parfois jusqu’à l’acharnement.

https://www.lemonde.fr/societe/article/2021/02/20/l-entretien-avec-l-agent-de-la-caf-a-ete-une-humiliation-les-beneficiaires-du-rsa-dans-l-enfer-des-controles_6070648_3224.html



Le conseiller Pôle emploi qui aidait les allocataires vient d’être licencié

Yann Gaudin, conseiller Pôle emploi à Rennes, vient d’être licencié. Connu pour avoir aidé des centaines d’usagers à récupérer leurs indemnités chômage, la direction de Pôle emploi lui reproche son insubordination et son comportement.

https://www.mediapart.fr/journal/france/160720/le-conseiller-pole-emploi-qui-aidait-les-allocataires-vient-d-etre-licencie
Le 28/11/2023 à 11h 02
J'ai vu ça hier sur Mastodon (par la LQDN justement) et c'est à gerber. Les Femmes mères solo sont particulièrement ciblées au passage.
alex.d. Abonné
Le 28/11/2023 à 11h 07
C'est clair que si on focalisait les contrôles sur ceux qui ne touchent rien de la CAF, ce serait beaucoup moins discriminatoire.
Ramaloke Abonné
Le 28/11/2023 à 12h 08
Ca doit surtout être parce qu'une fraude ultra simple et répandu étant pour un couple de "faire semblant" d'être séparé pour que la mère touche l'allocation femme seule pendant que le mari travaille et continuer de vivre dans le foyer (au black ou pas d'ailleurs).

Y'en a plein les journaux des contrôles de ce genre où "bizarrement" il y a semble-t-il 2 adultes qui vivent dans le logement mais c'est jamais le mari ou quelqu'un qui participe au ménage.

Il ne faut pas confondre sélectionner des critères POUR discriminer (faire la chasse aux pauvre) et sélectionner des critères qui sont ceux utilisés par les fraudeurs (pour faire la chasse aux fraudeurs.
On vous monte la tête pour quelque chose de complétement normal et vous tombez dans le panneau direct.

Ici on ne sucre pas les allocataires sur décision de l’algorithme (type ParcourSup ou ADP où tu as pour le coup des choses dégueulasses), on optimise juste des contrôles, si tout est en ordre personne ne perd ses allocations...
Ce serait effectivement plus intéressant de savoir si oui ou non l’algorithme améliore l'efficacité des contrôles ou pas, et si donc les critères retenus sont pertinents ou pas.
Le 28/11/2023 à 14h 19

Ramaloke

Ca doit surtout être parce qu'une fraude ultra simple et répandu étant pour un couple de "faire semblant" d'être séparé pour que la mère touche l'allocation femme seule pendant que le mari travaille et continuer de vivre dans le foyer (au black ou pas d'ailleurs).

Y'en a plein les journaux des contrôles de ce genre où "bizarrement" il y a semble-t-il 2 adultes qui vivent dans le logement mais c'est jamais le mari ou quelqu'un qui participe au ménage.

Il ne faut pas confondre sélectionner des critères POUR discriminer (faire la chasse aux pauvre) et sélectionner des critères qui sont ceux utilisés par les fraudeurs (pour faire la chasse aux fraudeurs.
On vous monte la tête pour quelque chose de complétement normal et vous tombez dans le panneau direct.

Ici on ne sucre pas les allocataires sur décision de l’algorithme (type ParcourSup ou ADP où tu as pour le coup des choses dégueulasses), on optimise juste des contrôles, si tout est en ordre personne ne perd ses allocations...
Ce serait effectivement plus intéressant de savoir si oui ou non l’algorithme améliore l'efficacité des contrôles ou pas, et si donc les critères retenus sont pertinents ou pas.
En tout cas, l'algorithme améliore le contrôle des mères célibataires et des personnes atteintes de handicap qui travaillent. On en est certain.
Le 28/11/2023 à 14h 16
Bientôt comme dans le film "Minority Report" : il y a 99% de chances que vous frauderez 💸 on vous refuse votre allocation. 💰 (et on met en concurrence la CAF tellement cet organisme est une bureaucratie inefficace)
alex.d. Abonné
Le 28/11/2023 à 11h 06
Ok, donc la QDN a découvert que 100% des fraudeurs de la CAF sont dans les bénéficiaires et pas dans ceux qui ne touchent rien. C'est en effet scandaleux.
Wosgien Abonné
Le 04/12/2023 à 20h 42
C'est clair, rien que le fait qu'ils traitent leurs bénéficiaires est dsicriminatoire
Groupetto Abonné
Le 28/11/2023 à 14h 27
Je pense qu’ils ont fait tourner un modèle de classification sur des données historiques, et que les variables ayant le plus d’influence sur la classe (a fraudé / n’a pas fraudé) sont celles citées dans l’article (et qui peuvent se comprendre assez facilement dans le cadre d’une fraude aux allocations).

Et puisque le but est de limiter la fraude avec un nombre restreint de contrôles, alors je vois pas vraiment ce qu’y a de choquant à utiliser ces variables pour guider les contrôles.

De la même façon que pour la fraude à l’IR, je m’attends à ce que les contrôles soient plus courants chez les personnes qui gagnent bien leur vie…

Bref…circulez y’a rien à voir.
Le 28/11/2023 à 17h 45
Oui mais je sors la carte "biais systémique patriarcal" !

On a construit le modèle de classification à partir de ceux qui avaient fraudés. Mais on sait qu'ils avaient fraudé car on les avait contrôlé. Et ont les avait contrôlé parce qu'on se méfiait d'eux. Ah ah ah (rire patriarcal).
Modifié le 28/11/2023 à 17h46
Le 29/11/2023 à 06h 45

127.0.0.1

Oui mais je sors la carte "biais systémique patriarcal" !

On a construit le modèle de classification à partir de ceux qui avaient fraudés. Mais on sait qu'ils avaient fraudé car on les avait contrôlé. Et ont les avait contrôlé parce qu'on se méfiait d'eux. Ah ah ah (rire patriarcal).
je comprends toujours pas l'offuscation dans les commentaires précédent .Ah ah ah (rire patriarcal)(sic).

127.0.0.1

Oui mais je sors la carte "biais systémique patriarcal" !

On a construit le modèle de classification à partir de ceux qui avaient fraudés. Mais on sait qu'ils avaient fraudé car on les avait contrôlé. Et ont les avait contrôlé parce qu'on se méfiait d'eux. Ah ah ah (rire patriarcal).
Non, on a construit le modèle de classification à partir des gens qu'on a contrôlés. Parmi les gens dont on se méfiait, il y en a dont on se méfiait à tort à cause du biais systémique patriarcal. Quand ils ont été contrôlés, ils étaient en règle, ce qui a ainsi permis d'affiner les règles, le biais a été identifié comme irrationnel et les gens dans la même situation ne sont plus systématiquement considérés comme suspects.
Le 30/11/2023 à 09h 45

33A20158-2813-4F0D-9D4A-FD05E2C42E48

Non, on a construit le modèle de classification à partir des gens qu'on a contrôlés. Parmi les gens dont on se méfiait, il y en a dont on se méfiait à tort à cause du biais systémique patriarcal. Quand ils ont été contrôlés, ils étaient en règle, ce qui a ainsi permis d'affiner les règles, le biais a été identifié comme irrationnel et les gens dans la même situation ne sont plus systématiquement considérés comme suspects.
Mon commentaire se voulait sarcastique.

Il se moquait de la justification morale (fruit de l'arbre empoisonné) qu'on voit fleurir généralement dans ce genre de cas.

Mathématiquement le modèle est valide tant que la segmentation de l'échantillon est correcte. Certes le modèle ne sera pas optimal en terme de spéci/sensi sur l'ensemble de la population si l'échantillon était biaisé, mais il n'en reste pas moins valide.