Les Jeux olympiques, beta-test de la surveillance algorithmique

Les Jeux olympiques, beta-test de la surveillance algorithmique

L’important, c’est que vous y participez

13

Les Jeux olympiques, beta-test de la surveillance algorithmique

Déposé pendant les fêtes, le projet de loi sur les Jeux olympiques, s’il ferme pour l’instant la porte à la reconnaissance faciale, va être l’occasion d’expérimenter l’association de la vidéosurveillance à l’intelligence artificielle. Et il contient d’autres dispositions sur la vidéo. Détails.

Présenté par la ministre des Sports le 22 décembre, le projet de loi relatif aux jeux Olympiques et Paralympiques de 2024 contient d’importantes dispositions sur les libertés publiques et la vidéosurveillance dans son chapitre III. Son étude promet d’être rapide : au Sénat dès le 24 janvier, le texte devrait être étudié à l’Assemblée dès fin février.

En plat de résistance, l’article 7 crée, à titre expérimental, un cadre juridique pour permettre le traitement par des systèmes d'intelligence artificielle des images de vidéosurveillance et des caméras installées sur des drones. Le dispositif est pour l’instant limité aux « manifestations sportives, récréatives ou culturelles, qui, par leur ampleur ou leurs circonstances, sont particulièrement exposées à des risques d’actes de terrorisme ou d’atteinte grave à la sécurité des personnes », leurs abords, ainsi que les moyens de transport les desservant.

Le Conseil d’État cite plusieurs possibilités d’usage : « apparition d’objets (armes, colis suspects, véhicule…), de personnes (dans une zone normalement interdite), mouvement de foule (concentration excessive, mouvements désordonnés ou à contre-courant…) ». Après signalement par l’IA, l’analyse humaine prendra le relais.

L’expérimentation est pour l’instant très encadrée : « aucun système d’identification biométrique ou donnée biométrique », « aucune technique de reconnaissance faciale », « aucun rapprochement, interconnexion ou mise en relation automatisée avec d’autres traitements de données à caractère personnel »…

Par ailleurs, il faudra respecter trois étapes : d’abord l’autorisation du traitement par décret, après avis de la CNIL. Ensuite, sur la base du décret, l’État assurera le développement de la solution ou son achat. Enfin, le préfet autorisera l’utilisation du traitement.

À chaque étape, il sera possible de saisir la justice administrative. La CNIL sera tenue au courant pendant l’expérimentation et six mois avant la fin (prévue en juin 2025), le gouvernement devra présenter une évaluation pluridisciplinaire.

Expérimenter pour autoriser

Mais même très encadrée, cette expérimentation permet de légaliser la technique. Comme l’a déjà tweeté la Quadrature du net dans son fil de présentation du texte : « Il ne faut pas se leurrer, derrière le prétexte d’"expérimentation" se cache le projet de légaliser ces technologies sur le long terme alors qu'elles sont tout aussi dangereuses que la reconnaissance faciale ».

Par ailleurs, la vidéosurveillance automatisée « analyse les corps pour repérer, classer, agir. Il s’agit donc de données biométriques rigoureusement protégées par la loi, ce que le gouvernement tente de minimiser. »

Comme le note le Conseil d’État, « l’utilisation de systèmes d’intelligence artificielle est, aujourd’hui, dépourvue de cadre légal propre, dans le droit national comme dans le droit de l’Union européenne ». Une proposition de Règlement européen sur les systèmes d’intelligence artificielle est en cours d’élaboration, mais le chemin sera encore long.

Mais absence de cadre ne signifie pas absence d’utilisation. Comme le reconnaît l’étude d’impact, la « SNCF dispose déjà de tels algorithmes qu’elle a expérimentés après avis favorable de la CNIL ». Nous l’avions déjà évoqué en 2019.

Vers une unification des règles sur la vidéo

Mais ce n’est pas le seul article à parler plus de vidéo que de JO. L’article 6 propose un dépoussiérage du cadre légal de la vidéosurveillance pour mettre pleinement en conformité le droit français avec la directive Police-Justice et le RGPD.

La CNIL comme le Conseil d’État avaient déjà demandé cette mise à jour. Cela permettra aux responsables de traitement de connaître l'état réel de leurs obligations (par exemple, la nécessité de réaliser une analyse d'impact relative à la protection des données).

Toutefois, le Conseil d’État note que cet article ne permet pas d’unifier en un seul régime l'ensemble des techniques de captation d'images dans l’espace public : vidéo de voie publique, drones, caméras embarquées, caméras piéton… Cette réforme a déjà été demandée plusieurs fois par le Conseil d’État, et avait même été annoncée par Gérald Darmanin au Sénat en octobre.

Ce sujet fait actuellement l’objet d’une mission d’information des députés Philippe Latombe (Modem) et Philippe Gosselin (LR), respectivement membre et ancien membre de la CNIL. Leur rapport sera rendu mi-mars, soit juste après le passage du texte à l’Assemblée. Mais il n’est pas impossible que les parlementaires profitent de ce texte pour faire cette unification. Next INpact reviendra sur cette question.

Temple de la consommation, scanners corporels illégaux et criblage

L'article 8 autorise les agents des services de sécurité de la SNCF et de la RATP à visualiser les images aux abords des transports publics. Cet article est en lien avec le centre de coordination opérationnelle de sécurité (CCOS) parisien qui, inauguré il y a moins d’un an, permet de regrouper les différentes forces de sécurité, et centralise les flux des 4 055 caméras déployées sur 1 475 sites parisiens, auxquelles s'ajouteront d'ici 2026 320 nouvelles caméras sur 64 sites, afin de « préparer l'arrivée les Jeux Olympiques ». 

Pour justifier cet article, l’étude d’impact du gouvernement évoque le cas « d’une manifestation revendicative passant à proximité d’une gare ». Si « des éléments radicaux et violents décidaient […] de se diriger en cortèges sauvages vers l’emprise de cette gare », ils pourraient la considérer, « en raison de la création d’un espace commercial important, comme un nouveau "temple de la consommation" »  et y commettre des exactions.

L'article 11 permet l'utilisation de scanners corporels à ondes millimétriques à l'entrée des enceintes accueillant plus de 300 personnes pour des manifestations sportives, culturelles ou récréatives.  Dans son avis, le Conseil d’État note perfidement « que d’autres portiques de ce type ont pu être installés par le passé sans faire l’objet de dispositions législatives en autorisant et en encadrant l’usage ». Le Conseil invite le « Gouvernement à mettre un terme à cet état de fait ».  

Enfin, l'article 10 permet de « cribler » l’ensemble des membres des délégations qui résideront au village olympique, les bénévoles ainsi que les prestataires techniques, non pas au moyen de caméras de vidéosurveillance, mais via des « enquêtes administratives » résultant de la consultation de fichiers de renseignement, et de leur interdire l’accès en cas d’incompatibilité.

L'étude d'impact précise que, bien que la liste des sites accueillant des « fan zones » ne soit pas « stabilisée », le service national des enquêtes administratives et de sécurité (SNEAS) devrait bénéficier de 30 à 40 nouveaux équivalents temps plein (ETP) afin de traiter le million d'enquêtes à effectuer. Il s’agit d’une nouvelle extension du criblage. Ce n’est pas la première, mais certainement pas la dernière.

Commentaires (13)


Ça sert à rien si la justice ne suis pas.


C’est pas le processus législatif réglementaire ? Expérimenter, conclure que ça ne marche pas, mal, ou qu’on ne sait pas, et sur la base de cette conclusion, légaliser ?


Le processus, c’est :




  • expérimenter

  • faire un rapport

  • ne pas le publier

  • faire une loi

  • la défendre en disant que ça marche

  • 49.3

  • retenir le rapport pendant des années

  • si jamais le rapport devient public : “oh, là, un voile”


AncalagonTotof

Le processus, c’est :




  • expérimenter

  • faire un rapport

  • ne pas le publier

  • faire une loi

  • la défendre en disant que ça marche

  • 49.3

  • retenir le rapport pendant des années

  • si jamais le rapport devient public : “oh, là, un voile”


En droit de la donnée, la LIL ne fait pas de distinction entre un traitement expérimental et un traitement final… De fait, un traitement comme celui là doit forcément être soumis à la garantie du conseil d’état puis à une délibération favorable de la CNIL. Au vu de la finalité du traitement les JO se justifient ensuite ce sera littéralement impossible de conserver le traitement en l’espèce. Il n’existe pas de 49.3 pour ça.


Polybe

En droit de la donnée, la LIL ne fait pas de distinction entre un traitement expérimental et un traitement final… De fait, un traitement comme celui là doit forcément être soumis à la garantie du conseil d’état puis à une délibération favorable de la CNIL. Au vu de la finalité du traitement les JO se justifient ensuite ce sera littéralement impossible de conserver le traitement en l’espèce. Il n’existe pas de 49.3 pour ça.


OK
Mais ça ne les empêche pas de “tricher” ni d’utiliser les pions mis en place à droite ou à gauche (on devrait dire “à droite et à l’extrême droite” de nos jours)
J’ai plus l’exemple précis en tête. Mais juste une histoire de contournement de truc “extra légaux” (MDR LOL …) passé ensuite par l’A.N.
Un peu vieux cette histoire.


AncalagonTotof

OK
Mais ça ne les empêche pas de “tricher” ni d’utiliser les pions mis en place à droite ou à gauche (on devrait dire “à droite et à l’extrême droite” de nos jours)
J’ai plus l’exemple précis en tête. Mais juste une histoire de contournement de truc “extra légaux” (MDR LOL …) passé ensuite par l’A.N.
Un peu vieux cette histoire.


Les activités “alégales” des Renseignements finalement légalisés dans la loi sur le renseignement (en 2008 de mémoire)?


Soriatane

Les activités “alégales” des Renseignements finalement légalisés dans la loi sur le renseignement (en 2008 de mémoire)?


Yep, ça doit être ça dont j’ai peu de souvenirs


AncalagonTotof

Yep, ça doit être ça dont j’ai peu de souvenirs


Désolé, je n’ai pas compris le sens de votre propos


C’est pour moi aussi une manière de renverser la charge de la preuve:



Si par exemple un ordinateur qualifie ton image de suspect avec 60% de probabilité, ça va être à toi de démontrer ton innocence et la raison de ta présence plutôt qu’à la police de déterminer ton éventuelle présomption de culpabilité.



Comme pour beaucoup de services public ces dernières années, l’objectif est à la fois de subventionner indirectement des boites privés (dont certaines serviront de réceptacles à fonctionnaires en pleine revolving-doors) et à la fois de dégraisser les plus basses catégories du service public (une des raisons étant la doctrine qui veux que le service public soit en concurrence avec le privé , donc que les gros salaires soient très gros et les nombreux bas salaires soient “ailleurs”.



On l’a vu avec l’ANTS , les impôts, les services d’aide à la personne ou aux précaires, mais aussi l’eau & l’élec, mais bon c’est ce pourquoi on vote élection après élection, donc bon.
Au moins on peux dire qu’on va toujours dans le même sens, contrairement au brésil qui avance et qui recule , et dont les habitants finissent tous enc….


Merci pour cette analyse intéressant, ça me fait réfléchir.


pour SNCF, l’expérimentation avait aussi eu lieu en 2016 pour l’Euro de Football. Avec des résultats mitigés, le souci venant surtout de la mise en place par des gens qui ne connaissaient pas les sites, un grand moment d’inutilité et d’argent gâchés …


C’est déprimant :craint:
Mais quand on voit le succès de la campagne de don de la Quadrature, je me dis qu’au final les gens sont d’accord avec tout ça. Ils seront “vidéo-protégés”.



Jarodd a dit:


C’est déprimant :craint: Mais quand on voit le succès de la campagne de don de la Quadrature, je me dis qu’au final les gens sont d’accord avec tout ça. Ils seront “vidéo-protégés”.




Je pense qu’il y a un coté culturel : L’EFF aux états-unis est forte parceque beaucoup de gens lui font des dons et que du coup elle peux engager des actions, peser sur la politique.
En France (en Europe ?) quand j’en discute avec diverses personnes, le sentiment que j’en retire c’est que globalement il y a une sorte de “confiance par défaut” dans le gouvernement et ses membres pour garder l’intérêt général en ligne de conduite malgré des différents perçu comme transitoires.
Là où aux US le gouvernement est vu comme un mal nécessaire qu’il faut garder à l’oeil (il me semble que c’est l’objet du 10ème amendement).



Du coup les associations de consomateurs, les associations qui ont pour objet la défense des individus sont vus comme superflus (quand ce n’est pas illégitime).


Fermer