Un logiciel de reconnaissance faciale utilisé illégalement par la police française

Un logiciel de reconnaissance faciale utilisé illégalement par la police française

« Il semble préférable de ne pas en parler »

Avatar de l'auteur
Martin Clavey

Publié dans

Droit

15/11/2023
30

Un logiciel de reconnaissance faciale utilisé illégalement par la police française

Le média d'investigation Disclose a révélé mardi 14 novembre que le ministère de l'Intérieur français a généralisé l'utilisation du logiciel de reconnaissance faciale  « Vidéo Synopsis » de l'entreprise Briefcam sur le territoire après l'avoir acquis dès 2015.

Briefcam déploie sa toile

L'année dernière, Next INpact vous expliquait déjà que la ville de Nice utilisait, entre autres, des logiciels de Briefcam dans son système de vidéosurveillance. En 2021, dans une brochure de l’AN2V (le lobby de la vidéosurveillance), on apprenait que Briefcam, équiperait pas moins de 34 villes en France, dont Roubaix, Vannes, Vitrolles, Nice, Vienne, La Baule, Vaulx-en-Velin, Deauville, Nîmes et Aix-les-Bains.

Selon des documents internes au ministère de l’Intérieur obtenus par Disclose, la direction départementale de sécurité publique (DDSP) de Seine-et-Marne avait été choisie il y a huit ans pour expérimenter le logiciel israélien. Deux ans plus tard, en 2017, l’application était « déployée plus largement » dans les services de police du Rhône, du Nord, des Alpes-Maritimes, et de Haute-Garonne, ainsi qu'au service interministériel d’assistance technique (SIAT), une unité de police en charge des infiltrations, de la mise sur écoute et de la surveillance de la grande criminalité : 

« Dans la foulée, ce sont les services de la police judiciaire, les préfectures de police de Paris et Marseille, la sûreté publique et la gendarmerie nationale qui vont être dotés du logiciel de Briefcam sur des ordinateurs dédiés. Une installation massive qui s’est faite en dehors du cadre légal prévu par une directive européenne et la loi française Informatique et Libertés. »

« Transformer la vidéosurveillance en intelligence active »

« Le logiciel en question, baptisé “Vidéo Synopsis”, permet de traquer une personne sur un réseau de caméras grâce, par exemple, à la couleur de son pull », expliquent nos confrères. 

Il peut également « suivre un véhicule à l’aide de sa plaque d’immatriculation ou examiner plusieurs heures de vidéos en quelques minutes ». Le slogan de Briefcam, rachetée par le géant de la photo Canon en 2018 : « Transformer la vidéosurveillance en intelligence active ».

Dans un courriel envoyé en novembre 2022, un haut-gradé de la police précisait que le logiciel possède aussi « des fonctionnalités plus « sensibles » » telles que la « distinction de genre, âge, adulte ou enfant, taille ».

BriefcamBriefcamBriefcam

La CNIL ne peut « infirmer ou confirmer »

Selon le média, la CNIL lui a déclaré qu'elle « ne dispose pas d’éléments permettant d’infirmer ou de confirmer que la police nationale utilise Briefcam ». Pourtant, cette utilisation d'un logiciel comme celui-ci aurait dû se faire après une analyse d'impact remise à l'autorité administrative.

Fin 2020, relève Disclose, un cadre de la police invitait ses collègues à la discrétion : « Certains services ont l’outil Briefcam, mais celui-ci n’étant pas déclaré à la CNIL, il semble préférable de ne pas en parler ». 

En mai 2023, un cadre de la direction nationale de la sécurité publique (DNSP) alertait sa hiérarchie : « Quel que soit le logiciel utilisé (Briefcam en particulier), il est interdit de recourir à un quelconque dispositif de rapprochement de visage ou de reconnaissance faciale », en dehors d’un cadre légal strict.

Pourtant, une source bien informée au sein de la police nationale assure à Disclose que la reconnaissance faciale de Briefcam serait « activement utilisée », sans contrôle ni réquisition judiciaire : « N’importe quel policier dont le service est équipé peut demander à recourir à Briefcam, en transmettant une vidéo ou photo ».

30

Écrit par Martin Clavey

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Briefcam déploie sa toile

« Transformer la vidéosurveillance en intelligence active »

La CNIL ne peut « infirmer ou confirmer »

Le brief de ce matin n'est pas encore là

Partez acheter vos croissants
Et faites chauffer votre bouilloire,
Le brief arrive dans un instant,
Tout frais du matin, gardez espoir.

Commentaires (30)


dylem29 Abonné
Le 15/11/2023 à 08h 27

“Certains services ont l’outil Briefcam, mais celui-ci n’étant pas déclaré à la CNIL, il semble préférable de ne pas en parler”



Nan mais celle-ci c’est la meilleure.
Donc ils sont bien au courant que c’est illégale, qu’ils continuent de l’utilier.



Qui sera viré? Personne, comme d’hab quand il s’agit de la police.


Jarodd Abonné
Le 15/11/2023 à 15h 55

Plutôt promu :8


pamputt Abonné
Le 15/11/2023 à 08h 36

Hmmm, je pense que l’IGPN va ouvrir une enquête pour trouver les délinquants à l’origine de cette affaire. Et comme d’habitude, elle risque de ne rien trouver… Une fois encore, la police qui agit illégalement ne sera pas inquiétée.


Le 15/11/2023 à 09h 38

Ayez confiance ….


Le 15/11/2023 à 09h 56

Oh, quelle surprise, l’administration française qui ne respecte pas la loi quand ça l’arrange, parce que l’État doit toujours avoir le dernier mot dans sa toute puissance, que l’usage de la violence et de la surveillance généralisée est légitime, parce que le sectarisme républicain prévaut… :roll:



Franchement, il y a vraiment des naïfs pour croire que les gens de pouvoir en France, s’embarrassent des lois, sinon pour faire bonne figure ? :craint:
Il suffit de voir le deux poids deux mesures lorsque que des cols blancs finissent devant la justice, et combien d’entre eux finissent au trou à délits égaux avec des gueux… :fou3:



Rien n’a jamais vraiment changé. Les pratiques qui existaient déjà entre 1900 et 1970 sont toujours là, qu’il s’agisse de mensonge, de propagande, de division, d’éléments de langage, de malhonnêteté intellectuelle, langue de bois, inversions accusatoires, de répétition de mensonges en boucle pour les maquiller en vérité, de détournement de l’attention, de mise en avant d’évènements histoire d’occuper les médias… Largement subventionnés. :fr:



N’importe qui ayant un minimum de bagage en matière d’autodéfense intellectuelle et d’esprit critique en a conscience.


RuMaRoCO Abonné
Le 15/11/2023 à 10h 35

Alors oui et non.
Certaines de vos prémices sont incorrectes.
Déjà “républicain” signifie simplement que vous pouvez choisir vos représentants (ceux qui exercent le pouvoir) ni plus ni moins.
A déduire que votre “sectarisme républicain” était pour synonyme “de droite (dur voir extrême) ?
Ensuite la violence n soit n’est pas le problème c’est la violence illégitime qui est à combattre.
Car justement dans un état de Droit, la police et l’armée disposent de la violence légitime, pour assurer leur mission régalienne.


SKN Abonné
Le 15/11/2023 à 10h 17

:vomi1:



Nan mais franchement rien que ça




Fin 2020, relève Disclose, un cadre de la police invitait ses collègues à la discrétion : « Certains services ont l’outil Briefcam, mais celui-ci n’étant pas déclaré à la CNIL, il semble préférable de ne pas en parler ».




Ca me debecte. Et après on s’étonne que beaucoup de gens aient une mauvaise image de la police. Leur devise devrait être “La fin Ton espoir de clore un dossier justifie les moyens, chie sur la loi si tu ressent le besoin”.


Le 15/11/2023 à 10h 56

Est-ce que ce système a prouvé une quelconque efficacité pour prévenir le terrorisme, ou d’autres genre de crimes, tels que des attaques à main armée, des viols, des… ?



Parce qu’à l’extrême limite, ils pourraient alors justifier cette utilisation illégale en présentant des résultats concrets en béton armé. :windu: Si ce n’est pas le cas… c’est que nous sommes gouvernés (depuis bien trop longtemps) par des psychopathes… :craint:


RuMaRoCO Abonné
Le 15/11/2023 à 12h 01

(reply:2165387:DantonQ-Robespierre)
Une surveillance n’a jamais empêché quoique que se soit. Elle sert simplement à (essayer de) pouvoir retrouver les agents délictuels.




Cependant dans le contexte d’usage il y a reconnaissance et reconnaissance.
Si ce logiciel permet de suivre un véhicule suspect dans des heures et des heures de vidéo de surveillance routière à la place d’un agent que le ferait manuellement ; Cela est pour moi différent de la reconnaissance systématique de TOUT les passants lors des mêmes vidéo.
il y a une différence je trouve.
(J’espère que je n’ai pas fait mon bon et mauvais chasseur style :-D )


Winderly Abonné
Le 15/11/2023 à 12h 13

“Fin 2020, relève Disclose, un cadre de la police invitait ses collègues à la discrétion : « Certains services ont l’outil Briefcam, mais celui-ci n’étant pas déclaré à la CNIL, il semble préférable de ne pas en parler ». ”
:bravo:


Le 15/11/2023 à 13h 19

(reply:2165403:RuMaRoCO) Merci pour ces précisions. Donc si je comprends bien, l’objectif est de retrouver les coupables. Mais le problème que je vois, c’est qu’avec la vidéo on est dans une zone grise…




Exemple : tu as deux mecs qui se ressemblent et qui ont les mêmes caractéristiques physiques apparentes. Qu’est-ce qui nous garantit que le système va sélectionner le “bon” :mdr: mec, et non pas un pékin moyen qui n’a rien fait ? Par la couleur du pull ? Mais est-ce que juridiquement, la couleur du pull est un élément à charge convaincant ?



En d’autres termes : est-ce que - en admettant que le gouvernement officialise (en votant une loi, ou par décret, ou par un 49-3 des chaumières) ce truc-vidéo-machin-chose - tu peux monter un dossier d’enquête convaincant, qui va vraiment faire condamner les vrais coupables, ou le Juge risque de rejeter en bloc toute la partie concernant cette techno, dans ce cas tout ça n’aura servi à fichtre rien, que de l’argent et du temps gaspillé ?


al_bebert Abonné
Le 15/11/2023 à 13h 43

(reply:2165429:DantonQ-Robespierre)




vu qu’ils n’ont pas le droit de l’utiliser je présume qu’il s’en servent pour essayer de dénicher les potentiels suspects, qui ensuite sont confondu par une enquête plus classique.



je vois mal comment devant un juge il pourraient présenté une preuve venue d’un outil illégal.



ou alors je suis encore trop naïf ?


RuMaRoCO Abonné
Le 15/11/2023 à 13h 46

(reply:2165429:DantonQ-Robespierre)
Dans mon cas de figure (le pistage), que soit se soit ou sans le logiciel l’erreur humaine est toujours possible et de toute manière, le mandat d’arrêt sera toujours émis par un juge d’instruction.




dans mon exemple, il y a un casse d’une bijouterie. Le type de véhicule avec lequel le ou les suspects sont partis a été fourni par les témoins.
L’enquêteur l’a repéré sur une première vidéo de surveillance de la voie publique.
Dans le cadre sans logiciel, l’enquêteur va recherche manuellement ledit véhicule dans les vidéo à sa disposition pour établir un itinéraire.



De ma compréhension, le logiciel permet de gagner du temps d’enquête, car il recherche le véhicule lui même dans les vidéos.



La où il y aurait un problème est si le logiciel est couplé à une base national (comme celle des CNI) et identifie tout les passant devant la bijouterie sans distinction…


carbier Abonné
Le 15/11/2023 à 14h 05

(quote:2165429:DantonQ-Robespierre)
Exemple : tu as deux mecs qui se ressemblent et qui ont les mêmes caractéristiques physiques apparentes. Qu’est-ce qui nous garantit que le système va sélectionner le “bon” :mdr: mec, et non pas un pékin moyen qui n’a rien fait ? Par la couleur du pull ? Mais est-ce que juridiquement, la couleur du pull est un élément à charge convaincant ?



En d’autres termes : est-ce que - en admettant que le gouvernement officialise (en votant une loi, ou par décret, ou par un 49-3 des chaumières) ce truc-vidéo-machin-chose - tu peux monter un dossier d’enquête convaincant, qui va vraiment faire condamner les vrais coupables, ou le Juge risque de rejeter en bloc toute la partie concernant cette techno, dans ce cas tout ça n’aura servi à fichtre rien, que de l’argent et du temps gaspillé ?




L’outil n’étant pas déclaré, ses résultats ne peuvent pas être produits devant un tribunal.
Il s’agit certainement d’une aide pour éplucher rapidement des heures de vidéos et faire avancer les enquêtes plus rapidement. Car in fine seule une enquête classique et les preuves issues de celles-ci pourront incriminer quelqu’un.



D’ailleurs l’article indique bien qu’il ne s’agit pas d’une utilisation en temps réel mais a posteriori.



Pour moi c’est le même principe que l’utilisation d’indics: on reste dans une zone grise, mais le but final reste de faire avancer les enquêtes.


Le 15/11/2023 à 14h 26

(reply:2165435:al_bebert) > (reply:2165440:carbier)




Je me basait sur une hypothétique “légalisation” :fume: du bouzin par le gouvernement. Donc supposons que, malgré toutes les oppositions possibles et imaginables, les gens au pouvoir décident malgré tout de l’approuver au grand jour, il leur faudrait encore convaincre les tribunaux, et là, je ne sais pas si c’est gagné…




(reply:2165436:RuMaRoCO) Donc de toute façon, il y a toujours des êtres humains dont c’est le métier dans le processus d’enquête et de constitution de dossier… pour le moment.




Mais imagine qu’un jour, un(e) blaireau quelconque au pouvoir décide que, par mesure d’économie, ce soit une AI qui fasse le boulot d’enquête à ta place… :stress:



…J’espère ne pas être vivant le jour où ça arrivera ! :eeek2:


RuMaRoCO Abonné
Le 15/11/2023 à 16h 06

(reply:2165449:DantonQ-Robespierre)
Il y a beaucoup de fantasme sur l’IA.
Indépendamment, IA et le reste n’est qu’un outil et comme n’importe quel outil, la moral s’applique à son usage et non à son état.




Un couteau n’est ni “bon ou “mauvais” il “est” un couteau. C’est son usage qui le rends celui qui l’utilise positif, ou négatif.


Typhlos Abonné
Le 16/11/2023 à 11h 08

Je suis toujours sceptique face à l’affirmation “La technologie est neutre, c’est l’usage qu’on en fait qui détermine si c’est bien ou pas” dans le sens où l’usage est fortement influencé par les concepteurs.



Par exemple, une arme à feu est faite pour blesser voire tuer un être vivant. Elle peut être utilisée pour assurer la protection de quelqu’un en décourageant de potentiels assaillants de passer à l’action mais cela passe par une menace de blessure physique voire de mort.



Pour prendre un exemple peut-être moins extrême, une caméra de vidéosurveillance a pour objectif de surveiller les gens. Et on peut se poser des questions sur cette capacité fondamentale de cette technologie à surveiller les gens, qu’elle soit utilisée pour les bonnes ou les mauvaises raisons.



Et enfin, les sciences, les processus scientifiques ont leurs propres biais dus parce que menés par des humains qui ont des biais. Par exemple, les protocoles de tests de médicaments et de thérapies sont censés, en théorie, être dépourvus de biais parce qu’on vérifie notamment avec une population de contrôle, on a des méthodes d’étude randomisée en double aveugle, etc. Mais il y a des biais qui sont dans les choix des populations étudiées qui sont souvent des hommes blancs. Cela conduit à des effets secondaires sur les femmes ou les populations racisées qui sont souvent mal connus et mal étudiés parce que les populations de tests ne les incluaient pas ou pas assez. Et ce malgré l’absence théorique de biais dans le processus scientifique.


RuMaRoCO Abonné
Le 16/11/2023 à 11h 33

Typhlos

Je suis toujours sceptique face à l’affirmation “La technologie est neutre, c’est l’usage qu’on en fait qui détermine si c’est bien ou pas” dans le sens où l’usage est fortement influencé par les concepteurs.



Par exemple, une arme à feu est faite pour blesser voire tuer un être vivant. Elle peut être utilisée pour assurer la protection de quelqu’un en décourageant de potentiels assaillants de passer à l’action mais cela passe par une menace de blessure physique voire de mort.



Pour prendre un exemple peut-être moins extrême, une caméra de vidéosurveillance a pour objectif de surveiller les gens. Et on peut se poser des questions sur cette capacité fondamentale de cette technologie à surveiller les gens, qu’elle soit utilisée pour les bonnes ou les mauvaises raisons.



Et enfin, les sciences, les processus scientifiques ont leurs propres biais dus parce que menés par des humains qui ont des biais. Par exemple, les protocoles de tests de médicaments et de thérapies sont censés, en théorie, être dépourvus de biais parce qu’on vérifie notamment avec une population de contrôle, on a des méthodes d’étude randomisée en double aveugle, etc. Mais il y a des biais qui sont dans les choix des populations étudiées qui sont souvent des hommes blancs. Cela conduit à des effets secondaires sur les femmes ou les populations racisées qui sont souvent mal connus et mal étudiés parce que les populations de tests ne les incluaient pas ou pas assez. Et ce malgré l’absence théorique de biais dans le processus scientifique.


En effet, cependant dans le processus scientifique, toutes conclusions se fait avec comme mention, jusqu’à preuve du contraire.


Le 15/11/2023 à 18h 54

Le seul point illégal dans l’utilisation de Briefcam est la reco faciale non déclarée. Vu dans la documentation du logiciel : la fonctionnalité de reconnaissance faciale est activable via une licence séparée. Suffit de lire. L’enquête de Disclose est passée à côté de ce point, et la QDN aussi apparemment. Je suis consterné.


Mihashi Abonné
Le 16/11/2023 à 00h 40

Bah si :




une source bien informée au sein de la police nationale assure à Disclose que la reconnaissance faciale de Briefcam serait « activement utilisée », sans contrôle ni réquisition judiciaire



B1gBr0ther Abonné
Le 16/11/2023 à 08h 44

Mihashi

Bah si :




une source bien informée au sein de la police nationale assure à Disclose que la reconnaissance faciale de Briefcam serait « activement utilisée », sans contrôle ni réquisition judiciaire



c’est super vague. ça peut être un système dans une ville uniquement, et la source être un des agents CSU ou VP. ça reste grave par contre, que ce soit utilisé à un endroit ou en masse, puisque c’est interdit et punit.


B1gBr0ther Abonné
Le 15/11/2023 à 21h 28

je suis assez dubitatif.
d’abord pour des questions d’échelle et de capacité à traiter les vidéos, le nombre de caméras est quand même très élevé et ça demande un minimum de puissance de calcul (et donc d’argent). ensuite pour des questions de disponibilité, parce que de ce que je vois la vidéo c’est le parent pauvre en termes de moyens humains. enfin sur la supposée discrétion du truc, je veux dire que ça se saurait “vraiment” (encore des questions d’échelle, de nombre de personnes au courant etc).
soit ça sert ou ça a servi à des services très particuliers qui déjà fonctionnent en local et qui déjà sont très souvent hors limites ; soit 5 mecs ont essayé et ont vu que c’est possible et ensuite vu les punitions/condamnations récentes sur la vidéo ont arrêté parce qu’ils ont flippé un peu.
enfin je rejoins mon VDD : vu la façon de fonctionner des ministères, ils n’ont certainement pas pris une licence inutilement coûteuse, et la société n’a certainement pas offert la reco faciale en relecture ou en direct.
c’est mon avis.


Le 16/11/2023 à 10h 11

B1gBr0ther a dit:


c’est super vague. ça peut être un système dans une ville uniquement, et la source être un des agents CSU ou VP. ça reste grave par contre, que ce soit utilisé à un endroit ou en masse, puisque c’est interdit et punit punissable.




:non:


refuznik Abonné
Le 16/11/2023 à 13h 25

Et epndant ce temps là, les industriels français se plaignent. Ils ont dénoncé mercredi l’attentisme des pouvoirs publics à passer commande d’équipements et technologies de sécurité pour les Jeux olympiques de 2024 à Paris, une occasion manquée selon eux de moderniser les forces de sécurité.



Je vous fais le copier/coller :
« Ce qui fait défaut actuellement, c’est la commande passée par la commande publique aux industriels pour fournir des technologies éprouvées », a affirmé Gérard Lacroix, délégué général adjoint du Groupement des industries françaises de défense et de sécurité terrestres et aéroterrestres (Gicat).



La filière s’était pourtant mise en ordre de bataille dès 2019 pour proposer des technologies nouvelles, destinées à assurer la sécurité des Jeux et « améliorer substantiellement les capacités technologiques des forces de sécurité françaises », selon Daniel Le Coguic, dirigeant d’Eviden et responsable au Gicat.



L’Etat a débloqué 14 millions d’euros au printemps 2022 pour financer 192 expérimentations dans le domaine du commandement, de la cybersécurité, de la gestion de foule ou des drones.


Le 17/11/2023 à 06h 45

ça fait théorie du complot tout ça. Pourquoi les fonctionnaires violeraient leurs propres règles ? C’est stupide.


Mihashi Abonné
Le 17/11/2023 à 08h 00

Propres règles ? Depuis quand les policiers (ou même d’autres fonctionnaires…) décident des lois ?


B1gBr0ther Abonné
Le 17/11/2023 à 14h 41

alors là par contre… pourquoi prévoir qu’un fonctionnaire de Police condamné jusqu’à 6 mois au pénal puisse être maintenu en exercice ?


Le 17/11/2023 à 06h 54

Et vous êtes certains tous autant que vous êtes à commenter qu’au MI, il y a vraiment les infras réseau en place pour supporter l’interconnexion d’une telle débauche technologique ?


B1gBr0ther Abonné
Le 17/11/2023 à 14h 40

jmc_plus a dit:


Et vous êtes certains tous autant que vous êtes à commenter qu’au MI, il y a vraiment les infras réseau en place pour supporter l’interconnexion d’une telle débauche technologique ?




c’est mon propos aussi, surtout si on regarde les dates évoquées, on parle de 2015 quand même.


Mindblast Abonné
Le 18/11/2023 à 09h 05

Disclose, bien malgré lui, va accélérer la légalisation de cette pratique.



Comme d’habitude avec la police : “bon les gars le truc c’est illégal, on s’est fait cramé, mais vu qu’on le fait, autant le rendre légal pour que les collègues ne soient pas embêtés.
Darmanin !!! Macron !!! Au pied!! Bon vous allez nous mettre un p’tit texte à voter par vos godillots, qui va bien pour que les collègues soient tranquille hein ! La justice ça nous les brise, alors comme on vous sauve vos fesses de poltrons, va falloir nous protéger en retour 😉…”



À bientôt à l’AN