Transparence des algorithmes publics : les sénateurs tapent du poing sur la table
Mon alter algo
Le 14 mars 2018 à 13h12
3 min
Droit
Droit
Alors que les administrations peinent encore à appliquer la loi Numérique, une sénatrice propose de rendre nulles toutes les décisions individuelles ne comportant pas de « mention explicite » relative à la transparence des algorithmes publics. Sophie Joissains souhaite également revenir sur la récente brèche concernant Parcoursup.
En application de la loi Numérique, toutes les décisions individuelles prises « sur le fondement d'un traitement algorithmique » doivent être accompagnées, depuis le 1er septembre 2017, d’une « mention explicite » informant le citoyen qu’un programme informatique est venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.
Avec ces quelques mots, chaque administration est tenue d’expliquer au citoyen qu’il a le droit de demander la communication des « règles » et « principales caractéristiques » de mise en œuvre de l’algorithme utilisé. L'usager est ainsi en droit d’avoir des détails individualisés sur :
- Le degré et le mode de contribution du traitement algorithmique à la prise de décision.
- Les données traitées et leurs sources.
- Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé.
- Les opérations effectuées par le traitement.
L’absence de « mention explicite » bientôt synonyme de décision annulée ?
Seul hic : plus de six mois après l’entrée en vigueur de cette réforme, aucune administration n’a (à notre connaissance) intégré la moindre « mention explicite ». Pôle emploi, CAF, impôts... Difficile de trouver un acteur public avertissant les citoyens de l’existence de ce nouveau droit.
La sénatrice Sophie Joissains, rapporteure du projet de loi adaptant le droit français au Règlement européen sur la protection des données personnelles (RGPD), voudrait toutefois bousculer les administrations. Au travers d’un amendement, l’élue centriste propose que l’absence de « mention explicite » provoque la « nullité » automatique de la décision.
On peut ainsi imaginer que si votre prochain avis de taxe d’imposition faisait l’impasse sur ces quelques mots, vous n’auriez rien à payer au Trésor public... Sans trop s’étendre sur le sujet, Sophie Joissains fait valoir qu'une telle réforme permettrait « d’inciter l’administration à se conformer à la loi ».
Revenir sur la dérogation introduite pour Parcoursup
Autre mesure proposée par l’élue, toujours au travers du même amendement : colmater la brèche ouverte début février par le législateur à l’occasion du projet de loi sur Parcoursup – lequel a été promulgué la semaine dernière. En toute fin de navette parlementaire, le gouvernement a fait adopter un amendement introduisant une sorte de dérogation à la loi Numérique au profit de la plateforme succédant à Admission Post-Bac (voir nos explications détaillées).
Après avoir souligné que ces dispositions avaient été adoptées « tardivement en séance publique au Sénat », sans que la « commission de la culture ait pu se prononcer », Sophie Joissains soutient qu’il n’y a « aucune raison » pour que les établissements de l’enseignement supérieur n’expliquent pas, à l’instar des autres administrations, comment fonctionnent leurs algorithmes.
La sénatrice invitera ainsi ses collègues membres de la commission des lois à « corriger » cette « première entorse aux règles de publicité des algorithmes employés par l’administration pour fonder des décisions individuelles ». Les débats doivent débuter ce matin.
Transparence des algorithmes publics : les sénateurs tapent du poing sur la table
-
L’absence de « mention explicite » bientôt synonyme de décision annulée ?
-
Revenir sur la dérogation introduite pour Parcoursup
Commentaires (51)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 14/03/2018 à 08h40
Woa je suis choqué… Et dommage que sa carrière politique s’arrête si brièvement du coup…
Le 14/03/2018 à 08h42
On peut ainsi imaginer que si votre prochain avis de taxe d’imposition
faisait l’impasse sur ces quelques mots, vous n’auriez rien à payer au
Trésor public…
C’est sûr, ça a de grandes chances d’être adopté… " />
Le 14/03/2018 à 08h52
On peut ainsi imaginer que si votre prochain avis de taxe d’imposition faisait l’impasse sur ces quelques mots, vous n’auriez rien à payer au Trésor public…
Le jeu du “Jacques à dit …” réinventé pour les administrations !
Le 14/03/2018 à 08h58
“Sophie Joissains fait valoir qu’une telle réforme permettrait « d’inciter l’administration à se conformer à la loi ».”
Nous aussi on aimerait que les administrations, qui n’hésitent pas à nous rappeler qu’on doit se conformer à la loi, donnent le bon exemple et s’y conforment…
Le 14/03/2018 à 09h09
Elle a réfléchi avant de proposer cela ?
Toutes les décisions positives pour les personnes concernées seraient aussi annulées, donc plus d’allocations familiales, de RSA, d’ASPA, …
Finalement, le sous-titre me fait sourire.
Le 14/03/2018 à 10h14
Bah oui, mécaniquement c’est ce qui devrait arriver si on suit cette proposition (après j’ose espérer que quelqu’un aurait soulevé cela lors des débats " /> )
Ce qui me rend dingue, moi, c’est cette idée qui revient régulièrement sous différentes nuances :
En regardant de plus loin, on dirait que ce sont surtout les règles tacites ou fermes de fonctionnement du parlement qu’il faudrait remettre à plat " />
Le 14/03/2018 à 11h03
Pourquoi les Algos informatisés doivent être accompagné d’une explication, alors les Algos humain (ex : à la tête du client, en fonction de la somme dans l’enveloppe … ) ne son pas soumis a cette règle ?
Le 14/03/2018 à 12h36
C’est sur que l’algo de la caf il est super lisible :)
Le 14/03/2018 à 12h42
En théorie, une proposition de loi ou un amendement correspond au pouvoir d’un député. Par cette action, il/elle engage les autres députés et le gouvernement à se positionner et éventuellement trouver finalement une solution au problème posé. On appelle ça poser un problème, débattre, rendre public une préoccupation. Mais bien sûr, on peut tout à fait faire la même chose dans les bureaux d’un ministère ou en posant une simple question écrite ou orale au Gouvernement, et le ministre donne sa position pour qu’enfin chacun retourne dans ses bureaux sans que rien ne se soit passé.
Pour faire une analogie, dans une association “loi 1901” il y a des réunion et des assemblées générales pendant lesquelles chacun pose des questions, mais c’est quand même plus constructif d’avoir une résolution à l’ordre du jour avec une décision finale que tout le monde dans l’assemblée devra assumer (si tant est qu’on s’intéresse un peu aux assemblées ou aux réunions dans lesquelles on siège).
Le 14/03/2018 à 13h14
L’amendement a d’autres avantages :
Dans le cas de discussions dans un bureau, on perd totalement en transparence de l’action publique, ce qui est dommage.
Le 14/03/2018 à 13h52
Le 14/03/2018 à 13h57
Le 14/03/2018 à 15h46
1.) Si seulement…
https://arstechnica.com/tech-policy/2017/12/14-year-old-girl-faces-child-porn-ch…
https://arstechnica.com/tech-policy/2015/09/busted-in-north-carolina-you-can-hav…
2.) C’est con en fait, c’était ma première réaction au message en question, mais il semblerait que je l’ai complètement oubliée quand je suis revenu sur les nouveaux commentaires et j’ai vu quelqu’un d’autre se faire prendre…
Le 14/03/2018 à 15h54
Oui, et même pas besoin d’aller voir aux USA. Même en France, la détention même par un mineur de photos d’un mineur nu, y compris les siennes propres, est considéré comme de la pédophilie. Dura lex, sed lex.
Le 14/03/2018 à 15h56
C’est comme ça que ça se faisait dans la marine nationale.
Me souviens d’un mec un soir de beuverie qui avait tondu le chien de l’amiral de la base, ( 2 bandes genre gordini sur le dos faites à la tondeuse électrique )
Comme ce n’était pas prévu dans le manuel, il a rien eu!
" />
Le 14/03/2018 à 16h01
Le 14/03/2018 à 16h14
@Radithor &@Dedrak merci pour les éclaircissements :)
Le 14/03/2018 à 16h20
Mouais, ne serait-ce pas mieux d’agir en amont et de manière plus générale en donnant plus de moyens aux administrations, punissant celles qui ne suivent pas les lois et récompensant celles qui le font le mieux ?
Le 14/03/2018 à 16h58
Le 14/03/2018 à 17h08
On bosse avec eclipse y compris sur le cobol, y’a pire… :)
Le 14/03/2018 à 22h03
spam du site de cul
On s’en fout. Nous on a des ordinateurs et des joysticks… " />
Et bientôt, on aura des robots avec un sexe a piles. " />
Le 14/03/2018 à 22h09
Oui, mais que veux-tu, tu n’es pas un petit génie qui est tellement fort qui peut réécrire une telle compléxité fonctionnelle tout seul dans son coin.
Comme tu le dis, il faut des années avec des centaines de personnes pour réécrire se genre de projet, quand ça aboutit (hein, LOUVOIS, SIRHEN….) mais certains s’imaginent le faire en 3 clics avec des framework/pro-logiciel.
Si ce COBOL est encore la, y a bien une raison, c’est qu’il est adapté à ces millions de traitements à passer sur 1 nuit par exemple.
Le 14/03/2018 à 22h33
Le 15/03/2018 à 05h25
Donc voler une pomme doit être autant puni que voler une voiture ? Tuer un homme dans un accident de la route doit être autant puni qu’assassiner ton voisin ?
Non, désolé, la vie est faite de nuances et si le bons sens est gauchiste laxiste alors je suis gauchiste laxiste aussi :)
Le 15/03/2018 à 05h28
Le 15/03/2018 à 07h45
Le 15/03/2018 à 09h04
t’inquiete, on s’y emploie, mais difficile de contrer les vieux aixois, y’en a vraiment beaucoup qui ne jurent que par elle. " />
Le 14/03/2018 à 14h03
Le 14/03/2018 à 14h08
Parce qu’un des principes de base est prendre en compte la personnalité du prévenu, ce que les machines ne savent pas encore faire.
Le 14/03/2018 à 14h12
ahem ahem les 4 millions et demie de lignes de COBOL (sans compter les commentaires)
J’aimerais tellement me faire embaucher pour moderniser tout ce genre de logiciels… (et mettre en place un beau Gitlab/Gogs public des algorithmes administratifs)
Le 14/03/2018 à 14h18
Je ne m’en fait pas pour elle, elle va bientôt récupérer la marie de maman " />
Le 14/03/2018 à 14h20
argumentaire de gauchiste laxiste, c’est favoriser la récidive que de ne pas punir chaque crime et délit du maximum de ce qui est prévu par la loi.
Le 14/03/2018 à 14h20
Le 14/03/2018 à 14h25
L’algo aussi peut sortir des décision “à la tête du client”, justement en ayant son code on peut le vérifier. Il n’est pas sorti du cul d’une vache, ce sont des humains qui l’ont décidé et créé, donc on est en droit de savoir comment il compose ses résultats. Et il va concerner des milliers/millions de personnes, là où un agent humain va peut-être prendre une décision selon ta gueule, mais ça va concerner une toute petite partie de la population (qui va être en contact avec lui).
Le 14/03/2018 à 14h39
Oui, oui, il faut qu’une grosse série de tests soit effectuée en conditions réelle. Et que ce soit bien documenté. Bref, du développement logiciel en bonne et due forme.
L’aspect open-source est à mon sens très intéressant pour récolter des avis/bug reports très larges, vu que toute la population est potentiellement intéressée. Et évidemment, pour éviter les saisines de la CADA ;)
Le 14/03/2018 à 14h48
Ok, on en parlera quand tu en commettras un et que tu pleureras face au tribunal " />
Le 14/03/2018 à 14h50
Le 14/03/2018 à 15h12
Le 14/03/2018 à 15h32
Le 14/03/2018 à 15h36
Le 14/03/2018 à 15h37
Edit : ouf, ce n’est pas moi qui a vendu la mèche.
Le 14/03/2018 à 15h41
Le 14/03/2018 à 15h45
Le 15/03/2018 à 10h26
Le 15/03/2018 à 10h29
Le 15/03/2018 à 10h48
Le 15/03/2018 à 10h49
Tiens je vois que quelqu’un a déja expérimenté le batch de nuit dont le code écrit dans un langage moderne
mettait 36 heures pour finir et donc démolissait la période TP.
Been there done that " />
Le 15/03/2018 à 11h06
Le 15/03/2018 à 11h08
Le 15/03/2018 à 11h56
Le 15/03/2018 à 14h05