Emmenées par la Quadrature du Net, quinze associations contestent devant le Conseil d’État l’usage que fait la CNAF de son algorithme de détection de paiements indus pour lutter contre de potentielles fraudes. L’enjeu : élargir le débat à l’extension de ces systèmes dans les administrations sociales.
« On attend l’interdiction de l’algorithme de la CAF, et par jurisprudence, l’interdiction des algorithmes similaires utilisés par France Travail, par l’assurance maladie, par l’assurance vieillesse, etc », indique Valérie, responsable numérique au sein de l’association Changer de Cap, interrogée par Next.
Avec 14 autres organisations, Changer de Cap conteste devant le Conseil d'État la décision de la CNAF d’utiliser un algorithme de détection de paiement d’indus pour orienter ses actions de lutte contre la fraude. Principaux arguments : le système n’est pas construit pour le but pour lequel il est employé, il est construit de telle manière que son usage conduit à des discriminations, et il opère un traitement de données disproportionné par rapport à son objectif, contrairement à ce que requiert le règlement général sur la protection des données (RGPD).
« Plus largement, ce contentieux s’insère dans une demande de revoir en profondeur la manière d’envisager le contrôle dans les instances sociales », détaille Bastien Le Querrec. Pour le juriste de la Quadrature du Net (LQDN), l’usage de ce type de système technique « découle d’une politique de mise sous pression des personnes les plus précaires, à qui l’on impose des complexités déclaratives très fortes ».
Dans un tel contexte, développe-t-il, si on déploie un algorithme de recherche de paiement d’indus, c’est-à-dire de recherche d’erreurs, « forcément, on en trouvera ».
Contestation au long cours
Parmi les organisations impliquées dans le recours, on compte des spécialistes des droits des plus précaires – Droits des Jeunes et d’Accompagnement vers la majorité (AADJAM), Mouvement national des chômeurs et précaires (MNCP), Groupe d’information et de soutien des immigré•es (Gisti) –, des défenseurs des droits humains – Amnesty International France, Ligue des droits de l’hommes (LDH), Collectif National Droits de l’homme Romeurope –, des experts du numérique -le Mouton numérique –, ou des juristes, par la voix du Syndicat des avocats de France.
Il reste 78% de l'article à découvrir. Abonnez-vous pour ne rien manquer.
Déjà abonné ? Se connecter
Commentaires (11)
#1
L'algorithme a le droit à une défense basée sur ChatGPT ?
Je suis dubitatif sur cette affirmation. À ma connaissance, la jurisprudence en droit français ne fait pas office de loi (la loi étant la source du droit) et chaque affaire est jugée au cas par cas. Celle-ci sert surtout à orienter d'éventuels cas similaires ou lors d'un appel ou d'une cassation, mais elle ne fait pas office de décision. Les juges ne sont pas tenus de la suivre.
A voir si le traitement en question ne ferait pas l'objet d'une des trois exceptions définies aux paragraphes l'article 22.2, comme le point 2 par exemple (cas où le traitement est une obligation légale).
Historique des modifications :
Posté le 16/10/2024 à 12h57
L'algorithme a le droit à une défense basée sur ChatGPT ?
Posté le 16/10/2024 à 13h10
L'algorithme a le droit à une défense basée sur ChatGPT ?
Je suis dubitatif sur cette affirmation. À ma connaissance, la jurisprudence en droit français ne fait pas office de loi (la loi étant la source du droit) et chaque affaire est jugée au cas par cas. Celle-ci sert surtout à orienter d'éventuels cas similaires ou lors d'un appel ou d'une cassation, mais elle ne fait pas office de décision. Les juges ne sont pas tenus de la suivre.
#1.1
Sinon sur le fond, l'algo sert à se dédouaner d'une politique d'écrasement de personnes déjà mises à mal par tout le reste de leur existence. "c'est pas ma faute c'est l'algo". C'est bien que ça se fasse attaquer. (tout ça sous couvert de lutte contre la fraude alors que ça marche pas)
Maintenant, vu la politique menée depuis 2 ou 3 lurettes je suis pas méga optimiste. Personne va se rendre compte que "oh mais oui c'est horrible ce qu'on fait subir à des pans entiers de la population, vite changeons". C'est plutôt "oh mince ça commence à se voir qu'on se comporte comme des crevards sans réel résultat. vite appelons CNews pour dénoncer le laxisme bisounours des humanistes".
#1.2
Les notions semblent un peu mélangées : le droit se compose de plusieurs sources, contenant loi, jurisprudence, ainsi que d'autres encore.
La jurisprudence est une source réputée "non-écrite" (alors qu'en fait si, mais bon bref… :P) de droit, et celle des plus hautes cours (nationales voire supra-nationales dans le cadre de l'Union Européenne) est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leurs prérogatives, car les magistrats des plus hautes cours sont traditionnellement considérés plus sages, car plus expérimentés, et traitant les problématiques à un niveau plus large, donc avec plus de hauteur.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi - réputée "écrite" - n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
Historique des modifications :
Posté le 16/10/2024 à 13h33
La jurisprudence est une source de droit, et celle des plus hautes cours est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leur prérogatives.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
Posté le 16/10/2024 à 13h34
La jurisprudence est une source de droit, et celle des plus hautes cours (nationales voire supra-nationales dans le cadre de l'Union Européenne) est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leur prérogatives.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
Posté le 16/10/2024 à 13h34
La jurisprudence est une source de droit, et celle des plus hautes cours (nationales voire supra-nationales dans le cadre de l'Union Européenne) est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leurs prérogatives.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
Posté le 16/10/2024 à 13h35
La jurisprudence est une source de droit, et celle des plus hautes cours (nationales voire supra-nationales dans le cadre de l'Union Européenne) est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leurs prérogatives, car les magistrats des plus hautes cours sont traditionnellement considérés plus sages, car plus expérimentés.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
Posté le 16/10/2024 à 13h35
La jurisprudence est une source de droit, et celle des plus hautes cours (nationales voire supra-nationales dans le cadre de l'Union Européenne) est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leurs prérogatives, car les magistrats des plus hautes cours sont traditionnellement considérés plus sages, car plus expérimentés, et traitant les problématiques à un niveau plus large, donc avec plus de hauteur.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
Posté le 16/10/2024 à 13h38
La jurisprudence est une source réputée "non-écrite" (alors qu'en fait si, mais bon bref… :P) de droit, et celle des plus hautes cours (nationales voire supra-nationales dans le cadre de l'Union Européenne) est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leurs prérogatives, car les magistrats des plus hautes cours sont traditionnellement considérés plus sages, car plus expérimentés, et traitant les problématiques à un niveau plus large, donc avec plus de hauteur.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi - réputée "écrite" - n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
Posté le 16/10/2024 à 13h39
La jurisprudence est une source réputée "non-écrite" (alors qu'en fait si, mais bon bref… :P) de droit, et celle des plus hautes cours (nationales voire supra-nationales dans le cadre de l'Union Européenne) est attentivement scrutée pour les conséquences qu'elle peut avoir dans l'interprétation des cas pour les cours inférieures, qui suivent généralement leurs prérogatives, car les magistrats des plus hautes cours sont traditionnellement considérés plus sages, car plus expérimentés, et traitant les problématiques à un niveau plus large, donc avec plus de hauteur.
Sur la base des différentes sources.
Un jugement a effectivement une forte composante d'interprétation (la loi - réputée "écrite" - n'est par exemple appliquée qu'au travers de décrets & règlements), et la jurisprudence peut permettre de clarifier un cap dans des situations ambiguës.
#2
Snif snif Ça sent fort, ça.
Cherche-t-on des fraudes ou des fraudeurs ? Et si, comme mon intuition me le laisse penser, il s'agissait du second cas, ferait-on face à du profilage ?
In-cro-yable ! Dans un système non-parfait (ie humain), en cherchant suffisamment, on trouverait des problèmes. Je suis abasourdi par cette révélation.
C'est comme cela que l'on construit des système fascistes brutalisant quelques cas (pour en faire des "exemples") afin de justifier la machine répressionnaire.
Si seulement on apprenait de l'Histoire…
Pour empêcher toute insupportable anomalie (posons-nous la question : vraiment ? Ne faudrait-il pas humainement rationaliser par une étude/estimation quantitative et tolérer un seuil de non-perfection ?), on va complexifier les cas en bout de branche, et là, in-cro-yable, ce vont être ceux qui ont le plus besoin d'aide qui vont être le plus fliqués. Là encore, quelle révélation !
Si seulement l'Histoire nous permettait de déjà savoir cela…
Posons-nous une question, nous citoyens qui laissons cette forme de (non-)gouvernement proliférer, détruisant petit à petit la notion d'État-providence d'abord, puis notion d'État ensuite : Que souhaitons-nous ?
Depuis des décennies se transforment devant-nous des services publics à l'origine soutenant les plus faibles en entités cherchant un peu plus chaque jour à ne plus les aider et en fliquant ceux qui demanderaient cette aide.
Pourquoi ? Quelle(s) idée(s) fondatrice(s) de cette transformation se cache(nt) derrière celle-ci ? Les a-t-on déjà croisées dans l'Histoire ? D'où viennent-elles ? Que risquent-elles de produire à terme ?
Je vous invite chaudement à lire "Libres d'obéir" de Johann Chapoutot.
Historique des modifications :
Posté le 16/10/2024 à 13h53
Snif snif Ça sent fort, ça.
Cherche-t-on des fraudes ou des fraudeurs ? Et si comme mon intuition me le laisse penser il s'agit du second cas, ferait-on face à du profilage ?
In-cro-yable ! Dans un système non-parfait (ie humain), en cherchant suffisamment, on trouverait des problèmes. Je suis abasourdi par cette révélation.
C'est comme cela que l'on construit des système fascistes brutalisant quelques cas (pour en faire des "exemples") afin de justifier la machine répressionnaire.
Si seulement on apprenait de l'Histoire…
Pour empêcher toute insupportable anomalie (posons-nous la question : vraiment ? Ne faudrait-il pas humainement rationaliser par une étude/estimation quantitative et tolérer un seuil de non-perfection ?), on va complexifier les cas en bout de branche, et là, in-cro-yable, ce vont être ceux qui ont le plus besoin d'aide qui vont être le plus fliqués. Là encore, quelle révélation !
Si seulement l'Histoire nous permettait de déjà savoir cela…
Posons-nous une question, nous citoyens qui laissons cette forme de (non-)gouvernement proliférer, détruisons petit à petit la notion d'État-providence d'abord, puis notion d'État ensuite : que souhaitons-nous ?
Depuis des décennies se transforment devant-nous des services publics à l'origine soutenant les plus faibles en entités cherchant un peu plus chaque jour à ne plus les aider et en fliquant ceux qui demanderaient cette aide.
Pourquoi ? Quelle(s) idée(s) fondatrice(s) de cette transformation se cache(nt) derrière celle-ci ? Les a-t-on déjà croisées dans l'Histoire ? D'où viennent-elles ? Que risquent-elles de produire à terme ?
Je vous invite chaudement à lire "Libres d'obéir" de Johann Chapoutot.
Posté le 16/10/2024 à 13h54
Snif snif Ça sent fort, ça.
Cherche-t-on des fraudes ou des fraudeurs ? Et si, comme mon intuition me le laisse penser, il s'agissait du second cas, ferait-on face à du profilage ?
In-cro-yable ! Dans un système non-parfait (ie humain), en cherchant suffisamment, on trouverait des problèmes. Je suis abasourdi par cette révélation.
C'est comme cela que l'on construit des système fascistes brutalisant quelques cas (pour en faire des "exemples") afin de justifier la machine répressionnaire.
Si seulement on apprenait de l'Histoire…
Pour empêcher toute insupportable anomalie (posons-nous la question : vraiment ? Ne faudrait-il pas humainement rationaliser par une étude/estimation quantitative et tolérer un seuil de non-perfection ?), on va complexifier les cas en bout de branche, et là, in-cro-yable, ce vont être ceux qui ont le plus besoin d'aide qui vont être le plus fliqués. Là encore, quelle révélation !
Si seulement l'Histoire nous permettait de déjà savoir cela…
Posons-nous une question, nous citoyens qui laissons cette forme de (non-)gouvernement proliférer, détruisons petit à petit la notion d'État-providence d'abord, puis notion d'État ensuite : que souhaitons-nous ?
Depuis des décennies se transforment devant-nous des services publics à l'origine soutenant les plus faibles en entités cherchant un peu plus chaque jour à ne plus les aider et en fliquant ceux qui demanderaient cette aide.
Pourquoi ? Quelle(s) idée(s) fondatrice(s) de cette transformation se cache(nt) derrière celle-ci ? Les a-t-on déjà croisées dans l'Histoire ? D'où viennent-elles ? Que risquent-elles de produire à terme ?
Je vous invite chaudement à lire "Libres d'obéir" de Johann Chapoutot.
Posté le 16/10/2024 à 13h55
Snif snif Ça sent fort, ça.
Cherche-t-on des fraudes ou des fraudeurs ? Et si, comme mon intuition me le laisse penser, il s'agissait du second cas, ferait-on face à du profilage ?
In-cro-yable ! Dans un système non-parfait (ie humain), en cherchant suffisamment, on trouverait des problèmes. Je suis abasourdi par cette révélation.
C'est comme cela que l'on construit des système fascistes brutalisant quelques cas (pour en faire des "exemples") afin de justifier la machine répressionnaire.
Si seulement on apprenait de l'Histoire…
Pour empêcher toute insupportable anomalie (posons-nous la question : vraiment ? Ne faudrait-il pas humainement rationaliser par une étude/estimation quantitative et tolérer un seuil de non-perfection ?), on va complexifier les cas en bout de branche, et là, in-cro-yable, ce vont être ceux qui ont le plus besoin d'aide qui vont être le plus fliqués. Là encore, quelle révélation !
Si seulement l'Histoire nous permettait de déjà savoir cela…
Posons-nous une question, nous citoyens qui laissons cette forme de (non-)gouvernement proliférer, détruisant petit à petit la notion d'État-providence d'abord, puis notion d'État ensuite : Que souhaitons-nous ?
Depuis des décennies se transforment devant-nous des services publics à l'origine soutenant les plus faibles en entités cherchant un peu plus chaque jour à ne plus les aider et en fliquant ceux qui demanderaient cette aide.
Pourquoi ? Quelle(s) idée(s) fondatrice(s) de cette transformation se cache(nt) derrière celle-ci ? Les a-t-on déjà croisées dans l'Histoire ? D'où viennent-elles ? Que risquent-elles de produire à terme ?
Je vous invite chaudement à lire "Libres d'obéir" de Johann Chapoutot.
#3
#4
Pourquoi pas, mais dans le tableau proposé il manque la part de chaque population dans le total pour aider à se faire une idée.
Après la situation est compliquée: il vaut mieux pour quelqu'un que son indus soit trouvé au plus tôt, car s'il est trouvé plus tard, le calcul est rétroactif et cela fait mal.
Il faudrait aussi et surtout déterminer si l'indus est du à une erreur (volontaire ou pas) du demandeur ou à une erreur au niveau de l'administration. Je vois plus cela comme un angle d'attaque que celui d'attaquer un algorithme. Meme s'ils font disparaitre l'algo, cela ne fera pas disparaitre les controles.
PS: si cela peut rassurer certains, les controles fiscaux présentent aussi un biais, mais vers les revenus (très largement) au dessus de la médiane.
Edit: Le doc mis en ligne par la CAF
Bon cela reste de la com' à vérifier mais cela permet d'avoir les 2 discours.
Historique des modifications :
Posté le 16/10/2024 à 14h27
Donc le code a été mis en place en 2018 et les chiffres qu'on nous propose datent au mieux de 2014 ?
Pourquoi pas, mais dans le tableau proposé il manque la part de chaque population dans le total pour aider à se faire une idée.
Après la situation est compliquée: il vaut mieux pour quelqu'un que son indus soit trouvé au plus tôt, car s'il est trouvé plus tard, le calcul est rétroactif et cela fait mal.
Il faudrait aussi et surtout déterminer si l'indus est du à une erreur (volontaire ou pas) du demandeur ou à une erreur au niveau de l'administration. Je vois plus cela comme un angle d'attaque que celui d'attaquer un algorithme. Meme s'ils font disparaitre l'algo, cela ne fera pas disparaitre les controles.
PS: si cela peut rassurer certains, les controles fiscaux présentent aussi un biais, mais vers les revenus (très largement) au dessus de la médiane.
#5
Dans notre société moderne et égalitaire ; Est-ce que la Caisse Allocations Familliales, a encore une raison d'être ?
Avoir ou pas un enfant devrait une question personnel et non plus une initaitive de l'Etat pour avoir plus de [Prendre la mention qui vous arange :] - Soldats ; croyants ; mains d'oeuvres
Et dans ce contexte ne serait-ce pas aux personnes d'assumer, d'assurer leurs choix.
#5.1
D'accord pour supprimer les allocations familiales à la condition que les personnes sans enfants se voient supprimer le paiement d'une pension, vu qu'elles n'auront pas contribué au maintien de la masse salariale qui permettra de les payer dans le futur.
[Mode troll OFF]
#5.2
Pas de pension = pas de cotisations retraite y donnant droit et on commence donc à cotiser au premier enfant.
#6
Par contre, ce qui est nettement plus dérangeant, c 'est qu'en cas de "ré-étude" d'un dossier, la procédure devrait être bien plus rapide, pour éviter que des personnes en difficulté ne se retrouvent davantage en difficulté le temps qu'il y ait vérification. Et quand c'est la CAF qui se plante (ca arrive !), ce serait bien qu'elle assume au lieu d'enfoncer les bénéficiaires.
De façon plus générales, certains proches (par exemple, retour de 10 ans à l'étranger, auto-entreprenariat, travail comme employé, retour au chômage, grossesse ... tout ca en moins de 2 ans), souffrent de cette inertie terrible entre l'URSAF, la CAF, France Travail et Améli, avec parfois de la paperasse avec l'étranger (et pourtant faisant partie de l'UE). A l'heure du numérique, c'est vraiment pénible. Constater sur le site de la CAF que les dossiers traités sont ceux d'il y a 3 à 6 mois, c'est vraiment casse pied quand on doit commencer à raquer pour une crèche par exemple.
Historique des modifications :
Posté le 16/10/2024 à 14h42
A un moment donné, qu'on soit suspicieux (et que la suspicion soit "guidé"), pourquoi pas... A vrai dire, je ne vois pas le problème d'avoir un système automatique qui pousse à la vigilance sur les dossiers à risque.
Par contre, ce qui est nettement plus dérangeant, c 'est qu'en cas de "ré-étude" d'un dossier, la procédure devrait être bien plus rapide, pour éviter que des personnes en difficulté ne se retrouvent davantage en difficulté le temps qu'il y ait vérification. Et quand c'est la CAF qui se plante (ca arrive !), ce serait bien qu'elle assume au lieu d'enfoncer les bénéficiaires.
De façon plus générales, certains proches (par exemple, retour de 10 ans à l'étranger, auto-entreprenariat, travail comme employé, retour au chômage, grossesse ... tout ca en moins de 2 ans), souffrent de cette inertie terrible entre l'URSAF, la CAF, France Travail et Améli, avec parfois de la paperasse avec l'étranger (et pourtant faisant partie de l'UE). A l'heure du numérique, c'est vraiment pénible. Constater sur le site de la CAF que les dossiers traités sont ceux d'il y a 3 à 6 mois, c'est vraiment casse pied quand on doit commencer à raquer pour une crèche par exemple.
#7
Alors que ces populations sont les plus éloignées du numérique, et que les bureaux avec de l'humain ferment les uns après les autres, victimes de la dêêêêêtte publîîîîque !