« L’"expérimentation" de la vidéosurveillance algorithmique (VSA) dans le cadre fixé par la loi "Jeux Olympiques" adoptée l’an dernier n’en est pas une : elle n’est qu’une manœuvre hypocrite destinée à légaliser par petites touches une infrastructure policière déjà massivement déployée en France », explique l’association en guise d’introduction.
Au cours des dernières semaines, de nouvelles expérimentations ont été autorisées. Il y a eu le Festival de Cannes, un concert du groupe Black Eyed Peas à la Défense Arena et le match de football PSG-OL au parc des Princes.
- JOP : la préfecture de Paris autorise deux nouvelles expérimentations de vidéosurveillance algorithmique (VSA)
- JOP : le festival de Cannes expérimentera lui aussi la vidéosurveillance algorithmique (VSA)
La Quadrature du Net dénonce « l’hypocrisie ambiante » de ces expérimentations et « vient de déposer une plainte devant la CNIL contre un déploiement de la VSA totalement illégal et resté largement sous les radars : le projet Prevent PCP ».
« Associant la SNCF et la RATP avec un panel d’entreprises, dont le groupe Atos et ChapsVision (par ailleurs toutes deux prestataires des expérimentations liées à la loi JO), Prevent PCP prend formellement la forme d’un marché public subventionné par l’Union européenne. En pratique, les entreprises voient leurs systèmes de VSA déployés dans des grandes gares à travers l’Europe pour détecter des « bagages abandonnés », via une méthode reposant sur l’identification et le suivi des propriétaires des bagages. »
La Quadrature en profite pour mettre en ligne de nombreuses ressources pour « nourrir une opposition populaire à la VSA ». Il y a une brochure et une page de campagne dédiée. Pour l’association, le pire est à venir : « les projets de loi visant à pérenniser la VSA en recourant aux applications les plus sensibles […] sont pour certains déjà dans les cartons ».
Commentaires (18)
#1
#1.1
#1.3
https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000045757627
Mais j'avais trouvé un autre document je continue de chercher
#1.2
#2
#3
Dire que c'est une opportunité pour le secteur privé, c'est un peu enfoncer une porte ouverte. "Les systèmes de VSA utilisés sont, sans surprise, développés par des entreprises du secteur. Le ministère de l’Intérieur a acquis les solutions techniques auprès de prestataires privés après avoir lancé un marché public"
Le rôle du ministère de l'intérieur ou des opérateurs de transports etc, n'est pas de développer ce type d'outils. C'e n'est pas eux qui développent les firmware des caméra numériques, ni les VMS. L'argument est complètement hors sol.
Et dire que l'évaluation est joué d'avance est simplement faux. Si ça sert à rien, que le cas d'usage imaginé ne se concrétise pas, que ce n'est pas fiable ou autre, alors le système ne sera pas déployé. La quadrature est contre ces tests, on a compris. mais sans test, pas d'évaluation possible.
#3.1
Du coup les leaders du marché, que sont Thalès et Capgemini, font pas mal de lobby pour que la France remplace les US.
Et puis personnellement, quitte à mettre en place des systèmes risqués je préférerais que les systèmes soient développés par l'État, de préférence de manière auditable voire open-source, plutôt que délégué au secteur privé qui le fait payer bien plus cher et sort un système opaque.
#4
On filme des gens à leur insu afin d'avoir des preuves vidéos en cas d'un éventuel problème ?
Et en dehors de tout cadre légal ?
Donc c'est mal. Mais... heu...
Il y a plein de citoyens concernés qui font cela, avec en plus du postage sur les réseaux sociaux et du doxxing.
Et il parait que c'est bien.
Je suis perdu. Qu'en pense la Quadrature du Net ?
Historique des modifications :
Posté le 03/05/2024 à 14h36
Quoi ?!
On filmer des gens à leur insu afin d'avoir des preuves vidéos en cas d'un éventuel problème ?
Et en dehors de tout cadre légal ?
C'est mal ? Mais... heu...
Il y a plein de citoyens concernés qui font cela, avec en plus du postage sur les réseaux sociaux et du doxxing.
Et il parait que c'est bien.
Je suis perdu. Qu'en pense la Quadrature du Net ?
#4.1
#4.2
On est dans un monde où tout le monde peut dégainer son smartphone, filmer ce qu'il voit et le poster sur des plateformes. Et d'ici peu on pourra tous faire tourner des IA qui se feront un plaisir de reconnaitre/tagguer des situations.
La QdN se focalise sur l'état et la police (forcément fachiste) mais avant longtemps ces technos seront aussi dans les mains de citoyens concernés. Et là, j'entends pas trop la QdN.
#4.3
C'est juste interdit sans l'autorisation de la personne filmée. Et le traitement par une IA est tout aussi interdit.
Sinon, quand un État (ce n'est pas le cas ici puisqu'il s'agit de la SNCF) viole la loi, c'est pire que quand c'est un simple citoyen qui, lui, ne le sait pas forcément.
#4.4
La quadrature du net fait preuve de militantisme c'est évident. Mais je vais tenter une petite prédiction. Je suis sûr que l'utilisation de la vsa sera pérennisée à moyen terme après les JOP.
#4.6
Et il y a au moins un argument qui est irréfutable : la SNCF donne comme base légale "l’intérêt
légitime du responsable de traitement" ce qui est discutable, mais soit, admettons.
Dans ce cas le RGPD impose que l'on puisse s'opposer au traitement. Comment fait-on pour faire respecter cette opposition pour un tel système ? C'est impossible techniquement, le RGPD est donc bien violé au minimum sur ce point. Dès que j'ai lu, intérêt légitime avant de lire le reste de leur argumentation, j'ai pensé à ça avant que je lise qu'ils soulevaient aussi ce point.
Note : cette expérimentation de la SNCF est en dehors du cadre de l'autorisation pour les JOP par la loi.
Je fais hélas moi aussi la même prédiction que toi.
#4.5
Pour moi, l’hypocrisie serait de refuser à l'état ce qu'on va imposer aux plateformes.
C'est à dire empêcher les infractions de se produire via une surveillance proactive.
Même Next va passer à la modération par IA. C'est dire.
Historique des modifications :
Posté le 03/05/2024 à 17h03
Les interdictions légales, et donc les (potentielles) condamnations apostériori des infractions, ne sont plus suffisantes dés lors qu'on parle d'Internet. Trop de gens, trop de possibilités, trop de dégâts.
Pour moi, l’hypocrisie serait de refuser à l'état ce qu'on va imposer aux plateformes.
C'est à dire empêcher les infractions de se produire via une surveillance proactive.
Même Next va passer à la modération par IA. C'est dire.
#4.7
Il ne s’agit que d’éviter des grosses salissures sur les commentaires quand les modos font dodo.
#4.9
...le fait est que tout le monde a le même problème:
Il y a trop de flux de données par rapport au nombre d'humains en charge de les gérer.
Et que ce soit l'état, YouTube ou Next, la solution semble être la même pour tout le monde:
automatiser la détection/traitement (algorithmique) et gérer les faux positifs apostériori (humain).
C'est pour cela que je pense que la QdN se trompe de combat. Ce n'est pas la "surveillance algorithmique" qu'il faut combattre, car tout le monde va devoir mettre en oeuvre de la "surveillance algorithmique" pour gérer les flux de données.
Historique des modifications :
Posté le 04/05/2024 à 16h59
Que ce soit l'état avec la vidéo-surveillance, Youtube avec les vidéos ou Next avec les commentaires...
...le fait est que tout le monde a le même problème:
Il y a trop de flux par rapport au nombre d'humains en charge de les gérer.
Et que ce soit l'état, YouTube ou Next, la solution semble être la même pour tout le monde:
automatiser la détection/traitement (algorithmique) et gérer les faux positifs apostériori (humain).
C'est pour cela que je pense que la QdN se trompe de combat.Ce n'est pas la "surveillance algorithmique" qu'il faut combattre.
Posté le 04/05/2024 à 16h59
Que ce soit l'état avec la vidéo-surveillance, Youtube avec les vidéos ou Next avec les commentaires...
...le fait est que tout le monde a le même problème:
Il y a trop de flux de données par rapport au nombre d'humains en charge de les gérer.
Et que ce soit l'état, YouTube ou Next, la solution semble être la même pour tout le monde:
automatiser la détection/traitement (algorithmique) et gérer les faux positifs apostériori (humain).
C'est pour cela que je pense que la QdN se trompe de combat.Ce n'est pas la "surveillance algorithmique" qu'il faut combattre.
#4.8
la loi et l'état s'occupent des citoyens ordinaires, la quadrature de l'état
Historique des modifications :
Posté le 04/05/2024 à 10h12
tu fais du whataboutisme lá
#4.10
Il est donc raisonnable de se demander si la QdN est contre toute forme de VSA, ou seulement contre la VSA par les forces de l'ordre.
Quand on regarde la seconde affiche, j'ai tendance a comprendre que c'est "toute forme de VSA"...
Historique des modifications :
Posté le 04/05/2024 à 17h12
Pas vraiment. La QdN a déjà milité pour la création d'espaces controlés et modérés par des groupes de citoyens. (cf. "L’interopérabilité contre la haine", 12 juin 2019)
Il est donc raisonnable de se demander si la QdN est contre toute forme de VSA, ou seulement contre la VSA par les forces de l'ordre.
Posté le 04/05/2024 à 17h14
Pas vraiment. La QdN a déjà milité pour la création d'espaces controlés et modérés par des groupes de citoyens. (cf. "L’interopérabilité contre la haine", 12 juin 2019)
Il est donc raisonnable de se demander si la QdN est contre toute forme de VSA, ou seulement contre la VSA par les forces de l'ordre.
Quand on regarde la seconde affiche, j'ai tendance a comprendre que c'est "toute forme de VSA"...