À Détroit, la reconnaissance faciale n’est utilisée que sur les noirs, et se trompe dans 96% des cas

Le 01 juillet 2020 à 09h33

2 min

Droit

Le logiciel de reconnaissance faciale de la police de Detroit a été utilisé 70 fois depuis le début de l'année. Dans 68 de ces cas, précise Vice, la photo introduite dans le logiciel était une personne noire. Dans les deux autres cas, la « race » était répertoriée comme « U », ce qui signifie probablement non identifié. Ces photos ont été extraites en grande partie des médias sociaux (31 cas sur 70) ou d'une caméra de sécurité (18 cas sur 70).

Lors d'une réunion publique lundi, le chef de la police de Détroit, James Craig, a admis que la technologie, développée par une société appelée DataWorks Plus, ne permet presque jamais d'identifier quelqu'un. Quand il y parvient, c'est presque toujours à tort. « Si nous ne devions utiliser que la seule technologie, pour identifier quelqu'un, je dirais que 96% du temps, elle se tromperait ».

Craig et son collègue, le capitaine Ariq Tosqui, ont expliqué qu'ils voulaient quand même pouvoir continuer à s'en servir au motif que cela pourrait être un outil susceptible d'aider les enquêteurs, même si cela ne conduit pas souvent à une arrestation. Selon Tosqui, la technologie aurait été utilisée sur un total de 185 cas au fil des ans. « Dans la majorité des cas, le détective a rapporté que [le logiciel] n'avait pas été utile », a-t-il cela dit reconnu.

Sébastien Gavois

Le 01 juillet 2020 à 09h33

Commentaires (40)

secouss

Le 01/07/2020 à 08h48

Faudrait vraiment un gif “Oh bah ça alors” sur NxI ^^

CsXmmTNj

Le 01/07/2020 à 08h54

Pour info, puisque encore une fois un problème réel est analysé de manière raciale " />

“Parmi les villes de 100 000 habitants et plus, Detroit, Michigan a le plus grand poucentage de résidents noirs des États-Unis en 2010 avec 82%.”

Wikipedia

Le “racisme” est probablement l’argument le plus idiot face à l’utilisation de ces technologies liberticides de surveillance de masse (ils se plaignent du fait que les outils de surveillance ne fonctionnent pas sur leurs visages ? je serais content à leur place !).

Obidoub

Le 01/07/2020 à 09h05

Je découvre chaque jour à quel point les USA sont décomplexés sur le racisme.

dylem29 Abonné

Le 01/07/2020 à 09h08

Donc ça ne fonctionne pas, mais ils veulent continuer de l’utiliser. " />

 

aureus

Le 01/07/2020 à 09h08

Oui parce que quand tu fais 30H de cellule parce que le logiciel c’est trompé t’es content. Et encore plus quand tu sais que les policiers font plus confiance à l’outil qu’à leurs propres yeux.

 

Next INpact

 

Pour l’argument raciste, c’est parce que ce sont des outils développés et testés principalement sur des blancs pour contrôler une population qui ne l’est pas.

aureus

Le 01/07/2020 à 09h11

D’ailleurs j’espère que vous nous préparez un bon article sur les blueleak " />

tipaul Abonné

Le 01/07/2020 à 09h36

« Dans la majorité des cas, le détective a rapporté que [le logiciel] n’avait pas été utile »

=> je ne comprends pas que des pragmatiques comme les américains ne mettent pas fin au contrat, non pour des raisons raciales, mais pour des raisons économiques : “ce truc coûte cher, il ne marche pas, on arrête”.

tipaul Abonné

Le 01/07/2020 à 09h39

Donc en fait, le souci, ce n’est pas que ça ne soit utilisé que sur des noirs (vu que la ville est “noire”) mais que l’algorithme se plante complètement.

Ce qui est aussi un biais raciste, à n’en pas douter. Mais du coup, le titre NXI n’est pas tout à fait correct. Il laisse à penser que le problème c’est que c’est utilisé que sur les noirs. Ca devrait plutôt être “A détroit la reconnaissance faciale se trompe dans 96% des cas parce que l’algo est nul sur les noirs”

Jonathan Livingston Abonné

Le 01/07/2020 à 09h50

68 cas sur 70, ça fait du 97%. C’est quand même bien plus que 82%.

Mais comme dit plus haut, ce n’est effectivement pas le plus important.

anonyme_f3cfc6423586ba6bed42154d795b2b3f

Le 01/07/2020 à 09h54

En même temps ils se ressemblent beaucoup, honnêtement.

Peut-être que la reconnaissance faciale ne devrait donc être appliquée qu’aux blancs.

127.0.0.1

Le 01/07/2020 à 10h11

Les manifestants: Black Lives Matter.

La police: Black Faces Matter.

" />

Azerty38

Le 01/07/2020 à 10h12

tipaul a écrit :

« Dans la majorité des cas, le détective a rapporté que [le logiciel] n’avait pas été utile »

=> je ne comprends pas que des pragmatiques comme les américains ne mettent pas fin au contrat, non pour des raisons raciales, mais pour des raisons économiques : “ce truc coûte cher, il ne marche pas, on arrête”.

parce qu’il suffit que les 4% des cas ou c’est bon fasse gagner bcp de temps de recherche… pour que ça soit rentable….

ErGo_404

Le 01/07/2020 à 10h18

Mais 70 personnes ce n’est pas vraiment représentatif. Même si on considère qu’il y a autant de crimes commis par les blancs que par les noirs dans cette ville (ce qui n’est pas gagné puisque la population pauvre est majoritairement noire), il aurait suffit de ²⁄₃ personnes blanches pour équilibrer. Or si ça se trouve ils n’ont juste pas eu le besoin…

batoche

Le 01/07/2020 à 10h29

tipaul a écrit :

Donc en fait, le souci, ce n’est pas que ça ne soit utilisé que sur des noirs (vu que la ville est “noire”) mais que l’algorithme se plante complètement.

Ce qui est aussi un biais raciste, à n’en pas douter. Mais du coup, le titre NXI n’est pas tout à fait correct. Il laisse à penser que le problème c’est que c’est utilisé que sur les noirs. Ca devrait plutôt être “A détroit la reconnaissance faciale se trompe dans 96% des cas parce que l’algo est nul sur les noirs”

Peut être pas que … c’est peut être parce qu’il est nul tout court.

EDIT : d’ailleurs la citation ne dit rien d’autre :

Si nous ne devions utiliser que la seule technologie, pour identifier quelqu’un, je dirais que 96% du temps, elle se tromperait

js2082

Le 01/07/2020 à 10h42

tipaul a écrit :

« Dans la majorité des cas, le détective a rapporté que [le logiciel] n’avait pas été utile »

=> je ne comprends pas que des pragmatiques comme les américains ne mettent pas fin au contrat, non pour des raisons raciales, mais pour des raisons économiques : “ce truc coûte cher, il ne marche pas, on arrête”.

Je te rassure, ce n’est pas qu’eux qui raisonnent comme cela, c’est un biais cognitif humain très connu.

C’est le principe des couts irrécupérables: ils ont tellement investis dans leur outil (en temps/argent/formation) qu’ils préfèrent continuer à investir dedans et s’en servir plutôt que de perdre cet investissement et prendre un autre logiciel plus performant,  même si cette dernière solution est moins chère et plus logique.

A moins qu’une personne ne leur explique cela, la police de détroit ne changera pas de logiciel avant sa fin d’utilisation initialement prévue.

Wosgien Abonné

Le 01/07/2020 à 10h54

Witcher a écrit :

En même temps ils se ressemblent beaucoup, honnêtement.

Peut-être que la reconnaissance faciale ne devrait donc être appliquée qu’aux blancs.

En fait, on s’aperçoit que si on n’a pas l’habitude de certaines caractéristiques du visage, on ne distingue pas les gens entre eux. Je n’ai pas de problème avec les blancs, mais pour moi les asiatiques (et les noirs dans une certaine mesure) sont difficiles à distinguer.

Tout comme apprendre le Français à un grec est difficile car il a du mal à faire la différence entre les sons é,è,a, …

Donc si la reconnaissance est utilisée sur les noirs, c’est peut-être que les utilisateurs ne les fréquentent pas suffisamment pour les distinguer correctement. C’est plus un problème de communautarisme que de racisme?

v1nce

Le 01/07/2020 à 11h00

Jonathan Livingston a écrit :

68 cas sur 70, ça fait du 97%. C’est quand même bien plus que 82%.

Mais comme dit plus haut, ce n’est effectivement pas le plus important.

C’est important. Autrement, l’information est à la limite de la malhonnêteté, cela conforte la thèse du harcèlement de la population noire alors que c’est juste une conséquence de l’ethnicité des criminels.

J’ai pas trouvé pour Detroit mais pour New York tu vois une surreprésentation des Noirs dans les crimes (en tant que criminel ET victimes) https://www1.nyc.gov/assets/nypd/downloads/pdf/analysis_and_planning/year_end_2015_enforcement_report.pdfOn voit aussi une sous-représentation des Blancs dans les criminels.

Donc que la police cherche des majoritairement des individus noirs dans une population majoritairement noire ça me paraît juste être normal.

Après que l’IA retourne des faux positifs c’est un problème d’inadéquation du jeu de données (oserai-je dire avec l’ethnicité de la population criminelle ?) pas un problème de racisme de l’IA ou de ses concepteurs. Ce serait même plutôt l’inverse. 

Norde

Le 01/07/2020 à 11h03

CsXmmTNj a écrit :

Le “racisme” est probablement l’argument le plus idiot face à l’utilisation de ces technologies liberticides de surveillance de masse (ils se plaignent du fait que les outils de surveillance ne fonctionnent pas sur leurs visages ? je serais content à leur place !).

C’est un argument parmi d’autres.

Il ne s’agit que d’un outil qui est soumis aux même biais que l’humain. Donc si la police arrête prioritairement des personnes de couleur noire, le logiciel ne fera que renforcer le problème.

C’est donc un outil liberticide qui accentue la dérive raciste " />

Winderly

Le 01/07/2020 à 11h09

Ça fonctionne pas mais on veut pouvoir continuer à s’en servir car c’est susceptible de nous aider.

…

 

La logique est décédée.

aureus

Le 01/07/2020 à 11h25

Du coup acheter un logiciel qui ne fonctionne pas pour une partie de la population c’est quoi ?

Et pour le cas de détroit on parle d’une ville à 82% noire qui a pris un logiciel qui ne fonctionne pas à plus de 90% sur les personnes noires. Donc c’est soit du racisme soit une incompétence crasse de la part de la police et une escroquerie de la part du vendeur.

Ramaloke Abonné

Le 01/07/2020 à 11h28

Winderly a écrit :

Ça fonctionne pas mais on veut pouvoir continuer à s’en servir car c’est susceptible de nous aider.

…

 

La logique est décédée.

Tu sais, on installe des caméra de vidéosurveillance partout pour des millions d’euros alors que ça fait longtemps qu’on sait que ça ne sert à rien (l’aide à la résolution d’enquête est marginale, la criminalité ne baisse pas, au mieux elle est déplacée et il y a rarement du personnel devant donc ça ne “protège” rien puisque ça sert une fois le fait accompli)

Pourtant la “population” est contente quand son politique préféré en mets, parce que l’humain n’est pas un animal “logique”, et c’est aussi un biais cognitif connu " />

1pakchien

Le 01/07/2020 à 11h43

Si le système est d’abord testé sur les blancs,

c’est peut être justement par peur d’être accusé de racisme,

une sorte d’autocensure.

 Tout depuis quelques temps beaucoup d’hommes n’osent plus (au travail) se trouver seul avec une femmes mais font en sorte qu’il y ait toujours un témoin.

Tout ça a créé un climat de suspicion, et ça créé des effets pervers…

vaneck Abonné

Le 01/07/2020 à 11h44

La reconaissance se trompe 96% des fois? ca me semble pas si mauvais comme resultat.

Imaginons que j’ai une photo d’un americain. Le logiciel vas le comparer avec 300 millions de visage d’americain. Avec 25 essais, total des visages analysée 7.2 milliards, Il vas statisquement en sortir seulement 24 faux.

Autrement dit, le resultat du logiciel est vrais pour plus de 99,9999993% des photos analysées.

Du coup, c’est fiable !  (voirhttps://fr.wikipedia.org/wiki/Sophisme_du_procureur, ou pourquoi dans certain pays, on utilise plus les stats dans les proces).

 

 

skankhunt42

Le 01/07/2020 à 11h55

Witcher a écrit :

En même temps ils se ressemblent beaucoup, honnêtement.

Ils ont souvent la même couleur de cheveux, yeux et leur visage ne prend pas bien la lumière.

Jonathan Livingston Abonné

Le 01/07/2020 à 11h59

C’est l’argument d’Eric Zemmour pour justifier qu’en France les noirs et arabes subissent plus souvent des contrôles d’identité et représentent une plus grande proportion dans les prisons que dans la population…

Non.

Ils sont plus souvent contrôlés parce que les policiers sont majoritairement racistes (ils votent à plus de 50% pour le RN). J’ai 54 ans : dans toute ma vie je n’ai subi que trois contrôle d’identité, et à chaque fois il y avait une raison. Ma peau est blanche et mes yeux sont bleus. Correlation n’est pas causalité, mais là je pense que si.

Ils y a aussi le fait que les noirs (surtout aux USA) et arabes sont sur-représentés dans la population la plus pauvre, donc plus la susceptible de verser dans la petite délinquance, la plus facile à réprimer, contrairement à celle “en col blanc”. Et ils ont moins les moyens de se payer de bons avocats.

Dans tous les cas, c’est bien un problème de racisme.

33A20158-2813-4F0D-9D4A-FD05E2C42E48

Le 01/07/2020 à 12h05

v1nce a écrit :

Après que l’IA retourne des faux positifs c’est un problème d’inadéquation du jeu de données

Pas uniquement. Il y a aussi un problème de calibration des caméras… Un capteur numérique est calibré pour avoir un rendu “proche” de l’argentique. Le procédé argentique ayant été calibré à l’époque pour avoir un bon rendu sur ce que les clients d’alors photographiaient le plus : des visages de blancs…

v1nce

Le 01/07/2020 à 12h30

Jonathan Livingston a écrit :

C’est l’argument d’Eric Zemmour pour justifier qu’en France les noirs et arabes subissent plus souvent des contrôles d’identité et représentent une plus grande proportion dans les prisons que dans la population…

Non.

Ils sont plus souvent contrôlés parce que les policiers sont majoritairement racistes

Comme on ne veut pas de statistiques ethniques, on ne saura jamais s’il a raison ou pas.

Police de Detroit étant majoritairement “black” (56%)

Pour résumer des policiers noirs essayent de mettre en prison des criminels noirs qui font des victimes noires,

dans un contexte de pauvreté et avec un outil inadapté. 

 

Essaye encore. 

Jonathan Livingston Abonné

Le 01/07/2020 à 12h34

Alors j’essaie encore : 56% des policiers sont noirs dans une ville dont la population est à 82% noire…

Richmond

Le 01/07/2020 à 12h46

https://i.imgur.com/C5RXVrS.gif

Richmond

Le 01/07/2020 à 12h54

C’est pas ‘dredi encore " />

Richmond

Le 01/07/2020 à 13h30

Ou parce que les banques d’images sont majoritairement remplies de “caucasiens”. Ou que ça importait plus aux dirigeants que ces solutions de reconnaissance fonctionne mieux avec des blancs que d’autres ethnies. Ou par intérêt pécuniaire. Les raisons possibles à cette faiblesse ne manquent pas, donc avant d’essayer de les faire passer pour des saints par défaut ça serait bien de s’assurer de la raison réelle derrière cet état de fait.

De la même façon, ça me fait bien marrer le coup des hommes qui n’osent plus rester seuls avec des femmes : si quelqu’un a un comportement qui peut être mal interprété, c’est pas de la faute de la personne qui le subit. La perversion ne vient pas d’elle, ni du “climat”, mais bien du comportement déplacé de certains…

v1nce

Le 01/07/2020 à 13h31

Jonathan Livingston a écrit :

Alors j’essaie encore : 56% des policiers sont noirs dans une ville dont la population est à 82% noire…

Good point. Mais la police étant majoritairement noire je ne vois pas pourquoi elle s’acharnerait contre “elle-même” (pour ceux qui veulent absolument mettre les gens dans des cases) il me paraît plus logique qu’elle cherche à éliminer les délinquants.

Jonathan Livingston Abonné

Le 01/07/2020 à 13h40

Les flics en question sont peut-être dans les autres 44%.

DanLo

Le 01/07/2020 à 14h14

Detroit est probablement un des “meilleurs” élèves aux USA concernant le racisme des forces de l’ordre.

Etant une des polices avec le plus d’afro-américains, ça doit effectivement compenser (quelques chiffres ici).

Mais leur chef de police lui-même admet que c’est un problème, et qu’il se joue au niveau nationnal (petite lecture sympa ici sur Detroit).

Malgré une police à plus de 50% noire, force est de constater que la balance penche encore du mauvais côté, même là-bas (et même si c’est dans une mesure plus faible que d’autres Etats).

Mais ce n’est pas le sujet, juste justifier un “focus” sur les noirs sous prétexte qu’ils sont + coupables que les autres, n’est pas un argument (c’est juste du racisme de base en fait), quoi qu’on en dise. D’autant quand cette “tendance” est justement auto-réalisatrice, du fait des inégalités.

Quoi qu’il en soit, ce n’est pas vraiment le sujet ici. Le cœur du problème étant que les IA de reconnaissance faciale sont entraînées sur des banques d’images essentiellement de personnes type caucasiennes t sont donc complètement paumées quand en plus on se focalise pour tester des afro-américains dessus.

ProFesseur Onizuka

Le 01/07/2020 à 14h24

dylem29 a écrit :

Donc ça ne fonctionne pas, mais ils veulent continuer de l’utiliser. " />

Ben faut pas oublier qu’il y a des contrats derrière, des millions de dollars venant des impôts des fliqués, à se partager entre copains ripoux " />

deathscythe0666 Abonné

Le 01/07/2020 à 14h43

Tu oublies que dans une grande majorité des cas, ces saligauds ont en plus deux bras et deux jambes !

(au cas où, je précise que c’est du second degré)

Notice me Sempai

Le 01/07/2020 à 15h32

parce qu’on rince quelqu’un avec ce pognon la ?

tipaul Abonné

Le 02/07/2020 à 08h55

Je suis assez peu sensible à cette hypothèse là. Notamment à cause du rasoir de hanlon Wikipedia

v1nce

Le 02/07/2020 à 09h17

Jonathan Livingston a écrit :

Les flics en question sont peut-être dans les autres 44%.

Et donc il n’y aurait que les policiers “blancs” (ou latino ou indiens ou …) qui effectueraient des recherches ? 

Rogan

Le 02/07/2020 à 09h22

[edit] grillé par v1nce pendant la rédaction du message, mea culpa pour la répétition.

Et pourquoi pas aussi dans les 56% ? Tu te bases sur leur couleur de peau pour savoir s’ils sont racistes ou non ? 🤔

Ou alors que 44% de la police fait tout le travail de terrain et que les 56% restant se tournent les pouces ? C’est un peu gros comme biais.

Je trouve tes arguments vraiment tendancieux…

Catégories

Nous Suivre

À propos

À Détroit, la reconnaissance faciale n’est utilisée que sur les noirs, et se trompe dans 96% des cas

Commentaires (40)