Transparence des algorithmes publics : le gouvernement  à la manœuvre face aux députés

Transparence des algorithmes publics : le gouvernement à la manœuvre face aux députés

I can't explain

Avatar de l'auteur
Xavier Berne

Publié dans

Droit

12/04/2018
15

Transparence des algorithmes publics : le gouvernement  à la manœuvre face aux députés

Alors que les discussions autour du projet de loi RGPD entrent dans une phase décisive, l’Assemblée examinant aujourd’hui le texte en nouvelle lecture, le gouvernement vient de déposer ses amendements relatifs à l'explicitation, par les administrations, des algorithmes publics. L’exécutif continue de demander une dérogation pour Parcoursup.

Pour bien comprendre les débats qui s’annoncent, mieux vaut se replonger dans l’article L311‑3‑1 du Code des relations entre le public et l’administration, introduit par la loi Numérique de 2016. Lequel impose aux administrations :

  1. D’informer chaque citoyen, lorsqu’une décision individuelle le concernant a été prise à son encontre à l’aide d’un algorithme, qu’il a le droit d’obtenir la communication – sur demande – des « règles » et « principales caractéristiques de mise en œuvre » de ce programme informatique, au regard de sa situation individuelle. Une « mention explicite » doit ainsi être intégrée à cet effet (sur les feuilles d'impôts, les attributions d'aides sociales, etc.).
  2. De répondre aux demandes des administrés, en fournissant des explications individualisées (opérations effectuées par le traitement, source des données traitées, degré de contribution de l’algorithme à la prise de décision, etc.).

Ce dispositif est ainsi complémentaire au droit « CADA » d’accès aux documents administratifs, qui permet aux citoyens de demander la communication de l’algorithme lui-même.

Des députés tentés par la nullité automatique des décisions sans mention explicite

Le problème est que ce dispositif, bien qu’en vigueur depuis septembre 2017, reste largement ignoré des administrations. Afin d’inciter les acteurs publics à s’y conformer, le Sénat a ainsi souhaité, au travers du projet de loi RGPD, que l’absence de « mention explicite » provoque la nullité automatique des décisions administratives.

« À quoi cela sert-il de créer ou de déclarer des droits si le citoyen n'en est pas informé et si, finalement, ces droits restent lettre morte ? » s’était justifiée Sophie Joissains, rapporteure pour la Haute assemblée. Au grand dam de Mounir Mahjoubi, le secrétaire d’État au Numérique, pour qui une telle réforme serait « tout à fait disproportionnée ».

Et mardi, surprise : en commission des lois, les députés ont suivi les sénateurs.

À l’approche des débats en séance publique, qui devraient débuter dans quelques minutes, le gouvernement a toutefois déposé deux amendements pour revenir sur la copie du Sénat. L’exécutif met néanmoins un peu d’eau dans son vin.

Il accepte que l’absence de « mention explicite » soit une cause de nullité automatique, mais uniquement à deux conditions :

  • Que cette nullité automatique ne prévale que pour les décisions prises sur le seul fondement d’un traitement algorithmique (alors que la loi Lemaire vise toutes les décisions dans lesquelles un algorithme est intervenu, par exemple en complément d’une action humaine).
  • Que l’entrée en vigueur de cette réforme soit reportée au 1er juillet 2020.

Retour à l'offensive sur Parcoursup

Le gouvernement a d’autre part déposé un amendement concernant le cas spécifique de Parcoursup. Comme nous avons déjà eu l’occasion de l’expliquer, l’exécutif a introduit dans la loi sur l’orientation des étudiants une sorte de dérogation à l’article L311‑3‑1 du CRPA.

Dès lors que les utilisateurs de la plateforme seront simplement « informés » qu’ils ont la possibilité de demander « la communication des informations relatives aux critères et modalités d’examen de leurs candidatures ainsi que des motifs pédagogiques qui justifient la décision prise », les obligations de la loi Numérique ont vocation à être « réputées satisfaites ». Un peu comme si la Sécu se voyait autorisée à ne plus rembourser les médicaments, dès lors qu’elle indiquerait préalablement aux assurés qu’ils peuvent prétendre à une prise en charge...

mahjoubi
Crédits : Assemblée nationale

Là aussi, le Sénat est venu apporter son grain de sel en supprimant ces dispositions, contre l’avis du gouvernement. « Est-il légitime que les lycéens sélectionnés par les universités au moyen de traitements automatisés ne puissent savoir quels paramètres leur ont été appliqués ? » s’était faussement interrogée la rapporteure Joissains.

Face aux députés, qui ont maintenu en commission les dispositions votées par la Haute assemblée, l’exécutif s’apprête à repasser à l’offensive. Le gouvernement persiste et signe en affirmant que revenir au dispositif prévu par la loi Numérique « fragiliserait le rôle de la délibération des équipes pédagogiques ».

Pour mieux faire passer la pilule, il propose aux députés que le « comité éthique et scientifique » de Parcoursup remette chaque année un rapport au Parlement, au travers duquel l’institution pourrait formuler « toute proposition afin d’améliorer la transparence de cette procédure ».

Restera maintenant à voir si ce gage convaincra les députés.

15

Écrit par Xavier Berne

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Des députés tentés par la nullité automatique des décisions sans mention explicite

Retour à l'offensive sur Parcoursup

Commentaires (15)


JFP285 Abonné
Le 12/04/2018 à 09h 01

Une bonne part des équipes pédagogiques ne veut pas de Parcoursup, vous fatiguez pas pour ça les gars.


Le 12/04/2018 à 09h 17

Habituellement, et même si on n’est pas d’accord, il est assez facile de comprendre la logique qui pousse tel ou tel acteur à défendre une mesure.



Pour Parcoursup…. je ne comprends pas. Que recherche le gouvernement en faisant de l’obstruction à la transparence sur le fonctionnement de Parcoursup?

Ce n’est pas la raison annoncée, puisqu’il n’y a clairement aucun rapport entre le secret de la délibération pédagogique et la transparence sur le jeu de règles appliqué de façon automatique aux élèves.

Mais du coup, c’est quoi la vraie raison? ça rends théorie-du-complot-iste, ce genre de chose.


hypo Abonné
Le 12/04/2018 à 09h 38







Zerdligham a écrit :



Mais du coup, c’est quoi la vraie raison? ça rends théorie-du-complot-iste, ce genre de chose.






if (AnnuaireFrancsMacons.Contains(Etudiant.Nom))      

{



      return true;

}



else     



{

  // TODO : trouver du blabla

    return false;

 }



Le 12/04/2018 à 09h 46







Zerdligham a écrit :



Pour Parcoursup…. je ne comprends pas. Que recherche le gouvernement en faisant de l’obstruction à la transparence sur le fonctionnement de Parcoursup?





A masquer la totale nullité de l’algo qui relève visiblement plus de l’arbitraire que de la retranscription des règles fixées pour traiter les dossiers :

https://www.marianne.net/societe/baccalaureat-les-enseignants-decryptent-l-algorithme-ubuesque-de-parcoursup

 



Le 12/04/2018 à 10h 07

L’article souligne surtout l’aspect ubuesque de la sélection qui ne veut pas dire qu’elle en est en université. Parcoursup ne fait en fait rien sinon rassembler des informations et fournir des outils d’analyse semi-automatiques.

Est-ce la faute de Parcoursup si les université de droit de Toulouse et de Lyon ne veulent pas se baser sur les mêmes critères? si les profs font une sorte de ‘grève de l’anit-zèle’ en prenant soin de ne pas respecter les directives de notation…

Je ne dis pas que les critères retenus sont bons ou non ni que l’outil Parcoursup est bien foutu (ne l’ayant jamais utilisé, je ne peux me prononcer), mais tout système qui tente de se baser sur des éléments non purement objectifs est soumis à ces biais.

C’est un bien mauvais procès qui est fait à Parcoursup dans cet article.





Ensuite, par rapport au fait de ‘cacher’ la mauvaise qualité de Parcoursup, il leur suffirait de proposer de ne publier qu’en 2020 le temps de ‘se préparer’, ce qui passerait probablement mieux auprès des députés, et leur laisserait le temps de faire du ménage.


Le 12/04/2018 à 11h 49







crocodudule a écrit :



A masquer la totale nullité de l’algo qui relève visiblement plus de l’arbitraire que de la retranscription des règles fixées pour traiter les dossiers :

https://www.marianne.net/societe/baccalaureat-les-enseignants-decryptent-l-algorithme-ubuesque-de-parcoursup



 







Si ce que dit Marianne est vrai alors on est face à un problème important: le programme introduit de la discrimination interdite et sanctionnée par notre code pénal.

En clair, le donneur d’ordre peut être poursuivi au pénal pour les discriminations causées suite aux décisions de Parcoursup.

De plus, ces décisions étant prises sur une base illégale, cela signifie qu’il faudrait les annuler et tout reprendre depuis le début.



On comprend pourquoi ils refusent de rendre ce rapport public



fred42 Abonné
Le 12/04/2018 à 12h 22

S’ils ne veulent pas appliquer la réglementation, ils n’ont qu’à démissionner et trouver un boulot ailleurs.


Le 12/04/2018 à 12h 52







fred42 a écrit :



S’ils ne veulent pas appliquer la réglementation, ils n’ont qu’à démissionner et trouver un boulot ailleurs.





C’est valable aussi pour le gvt qui ne respecte pas la loi.<img data-src=" />



Jarodd Abonné
Le 12/04/2018 à 12h 56

Oui mais au contraire des profs, lui peut changer la loi <img data-src=" />


Le 12/04/2018 à 12h 57







Jarodd a écrit :



Oui mais au contraire des profs, lui peut changer la loi <img data-src=" />







En attendant de la changer, il est tenu de la respecter, comme TOUS les français.



Le 12/04/2018 à 13h 07







Zerdligham a écrit :



L’article souligne surtout l’aspect ubuesque de la sélection qui ne veut pas dire qu’elle en est en université. Parcoursup ne fait en fait rien sinon rassembler des informations et fournir des outils d’analyse semi-automatiques.

Est-ce la faute de Parcoursup si les université de droit de Toulouse et de Lyon ne veulent pas se baser sur les mêmes critères? si les profs font une sorte de ‘grève de l’anit-zèle’ en prenant soin de ne pas respecter les directives de notation…

Je ne dis pas que les critères retenus sont bons ou non ni que l’outil Parcoursup est bien foutu (ne l’ayant jamais utilisé, je ne peux me prononcer), mais tout système qui tente de se baser sur des éléments non purement objectifs est soumis à ces biais.

C’est un bien mauvais procès qui est fait à Parcoursup dans cet article.





La tambouille de chaque université est intégrée dans Parcoursup.



C’est bien la façon dont Parcoursup est pensé qui est problématique; on fait d’abord des marqueurs généraux et nationaux (plus ou moins pertinents; être bien noté ok, avoir changé de filière et venir de lycées étrangers, je suis déjà plus perplexe). Puis on tente d’intégrer des spécificités locales de traitement des dossiers. Et on ajoute enfin une notation de la lettre de motivation.



Tout ceci devant au final donner un système de tri équivalent pour tous.



Force est de constater que le bien fondé des tris des dossiers par Parcoursup semble bien obscur.



Le 12/04/2018 à 13h 19

De mon point de vue (mais certaines personnes me trouvent désespérément optimiste borderline naïf), Parcoursup constitue de de point de vue une avancée.

Ça a beau rester une usine à gaz avec des tas de règles locales, ça n’a pas empiré la situation, ces tambouilles locales existaient déjà avant d’être intégrées à Parcoursup. Au contraire ça a établi un minimum de bases communes à cette tambouille, et ça garantit qu’elle soit homogène à l’échelle d’une formation.



Ce qu’on peut reprocher à Parcoursup me semble plus être de s’être arrêté en chemin, en particulier de ne pas être allé jusqu’à introduire des règles homogènes, ou au moins homogènes par filière.

Mais ça c’est plus de la volonté politique que de l’outillage.


Le 12/04/2018 à 13h 32







Zerdligham a écrit :



De mon point de vue (mais certaines personnes me trouvent désespérément optimiste borderline naïf), Parcoursup constitue de de point de vue une avancée.

Ça a beau rester une usine à gaz avec des tas de règles locales, ça n’a pas empiré la situation, ces tambouilles locales existaient déjà avant d’être intégrées à Parcoursup. Au contraire ça a établi un minimum de bases communes à cette tambouille, et ça garantit qu’elle soit homogène à l’échelle d’une formation.



Ce qu’on peut reprocher à Parcoursup me semble plus être de s’être arrêté en chemin, en particulier de ne pas être allé jusqu’à introduire des règles homogènes, ou au moins homogènes par filière.

Mais ça c’est plus de la volonté politique que de l’outillage.





C’est donc logique que Parcoursup cristallise toutes les oppositions: celles qui s’opposent au principe de la sélection, celles qui ne sont pas contre mais s’opposaient aux tambouilles locales, celles qui estiment qu’ils faut intégrer des facteurs de discriminations positives etc…



L’idée d’avoir un tel outil n’est pas mauvaise en soi, en revanche s’il s’agit de cumuler les inconvénients de tous les systèmes en place jusqu’ici, ça devient une catastrophe.



Comme tu le dis ce n’est qu’un outil, à charge pour le politique de faire en sorte que celui-ci soit pertinent, à défaut je comprends sans mal l’opposition généralisée contre l’état actuel de l’outil.



JFP285 Abonné
Le 12/04/2018 à 14h 53

De ce que je comprends, la solution semble être de mettre tout le monde ex aequo, ce qui est un “critère local” comme un autre et permet de ne bloquer ni l’algo (donc le parcours des dossiers des futurs étudiants), ni de contrevenir aux ordres.


allea Abonné
Le 12/04/2018 à 17h 43

Et si le problème n’était pas parcoursup (et son prédécésseur), mais le fait qu’on soit passé de 1 millions à 1,5 millions d’étudiant dans les université… en réduisant leur budget et donc la place ?



<img data-src=" />