Le logiciel de reconnaissance faciale de la police de Detroit a été utilisé 70 fois depuis le début de l'année. Dans 68 de ces cas, précise Vice, la photo introduite dans le logiciel était une personne noire. Dans les deux autres cas, la « race » était répertoriée comme « U », ce qui signifie probablement non identifié. Ces photos ont été extraites en grande partie des médias sociaux (31 cas sur 70) ou d'une caméra de sécurité (18 cas sur 70).
Lors d'une réunion publique lundi, le chef de la police de Détroit, James Craig, a admis que la technologie, développée par une société appelée DataWorks Plus, ne permet presque jamais d'identifier quelqu'un. Quand il y parvient, c'est presque toujours à tort. « Si nous ne devions utiliser que la seule technologie, pour identifier quelqu'un, je dirais que 96% du temps, elle se tromperait ».
Craig et son collègue, le capitaine Ariq Tosqui, ont expliqué qu'ils voulaient quand même pouvoir continuer à s'en servir au motif que cela pourrait être un outil susceptible d'aider les enquêteurs, même si cela ne conduit pas souvent à une arrestation. Selon Tosqui, la technologie aurait été utilisée sur un total de 185 cas au fil des ans. « Dans la majorité des cas, le détective a rapporté que [le logiciel] n'avait pas été utile », a-t-il cela dit reconnu.
Commentaires (40)
#1
Faudrait vraiment un gif “Oh bah ça alors” sur NxI ^^
#2
Pour info, puisque encore une fois un problème réel est analysé de manière raciale
" />
“Parmi les villes de 100 000 habitants et plus, Detroit, Michigan a le plus grand poucentage de résidents noirs des États-Unis en 2010 avec 82%.”
https://fr.wikipedia.org/wiki/D%C3%A9troit_(Michigan)
Le “racisme” est probablement l’argument le plus idiot face à l’utilisation de ces technologies liberticides de surveillance de masse (ils se plaignent du fait que les outils de surveillance ne fonctionnent pas sur leurs visages ? je serais content à leur place !).
#3
Je découvre chaque jour à quel point les USA sont décomplexés sur le racisme.
#4
Donc ça ne fonctionne pas, mais ils veulent continuer de l’utiliser.
" />
#5
Oui parce que quand tu fais 30H de cellule parce que le logiciel c’est trompé t’es content. Et encore plus quand tu sais que les policiers font plus confiance à l’outil qu’à leurs propres yeux.
https://www.nextinpact.com/brief/reconnaissance-faciale—un-afro-americain-arre…
Pour l’argument raciste, c’est parce que ce sont des outils développés et testés principalement sur des blancs pour contrôler une population qui ne l’est pas.
#6
D’ailleurs j’espère que vous nous préparez un bon article sur les blueleak
" />
#7
« Dans la majorité des cas, le détective a rapporté que [le logiciel] n’avait pas été utile »
=> je ne comprends pas que des pragmatiques comme les américains ne mettent pas fin au contrat, non pour des raisons raciales, mais pour des raisons économiques : “ce truc coûte cher, il ne marche pas, on arrête”.
#8
Donc en fait, le souci, ce n’est pas que ça ne soit utilisé que sur des noirs (vu que la ville est “noire”) mais que l’algorithme se plante complètement.
Ce qui est aussi un biais raciste, à n’en pas douter. Mais du coup, le titre NXI n’est pas tout à fait correct. Il laisse à penser que le problème c’est que c’est utilisé que sur les noirs. Ca devrait plutôt être “A détroit la reconnaissance faciale se trompe dans 96% des cas parce que l’algo est nul sur les noirs”
#9
68 cas sur 70, ça fait du 97%. C’est quand même bien plus que 82%.
Mais comme dit plus haut, ce n’est effectivement pas le plus important.
#10
En même temps ils se ressemblent beaucoup, honnêtement.
Peut-être que la reconnaissance faciale ne devrait donc être appliquée qu’aux blancs.
#11
Les manifestants: Black Lives Matter.
" />
La police: Black Faces Matter.
#12
#13
Mais 70 personnes ce n’est pas vraiment représentatif. Même si on considère qu’il y a autant de crimes commis par les blancs que par les noirs dans cette ville (ce qui n’est pas gagné puisque la population pauvre est majoritairement noire), il aurait suffit de 2⁄3 personnes blanches pour équilibrer. Or si ça se trouve ils n’ont juste pas eu le besoin…
#14
#15
#16
#17
#18
#19
Ça fonctionne pas mais on veut pouvoir continuer à s’en servir car c’est susceptible de nous aider.
…
La logique est décédée.
#20
Du coup acheter un logiciel qui ne fonctionne pas pour une partie de la population c’est quoi ?
Et pour le cas de détroit on parle d’une ville à 82% noire qui a pris un logiciel qui ne fonctionne pas à plus de 90% sur les personnes noires. Donc c’est soit du racisme soit une incompétence crasse de la part de la police et une escroquerie de la part du vendeur.
#21
#22
Si le système est d’abord testé sur les blancs,
c’est peut être justement par peur d’être accusé de racisme,
une sorte d’autocensure.
Tout depuis quelques temps beaucoup d’hommes n’osent plus (au travail) se trouver seul avec une femmes mais font en sorte qu’il y ait toujours un témoin.
Tout ça a créé un climat de suspicion, et ça créé des effets pervers…
#23
La reconaissance se trompe 96% des fois? ca me semble pas si mauvais comme resultat.
Imaginons que j’ai une photo d’un americain. Le logiciel vas le comparer avec 300 millions de visage d’americain. Avec 25 essais, total des visages analysée 7.2 milliards, Il vas statisquement en sortir seulement 24 faux.
Autrement dit, le resultat du logiciel est vrais pour plus de 99,9999993% des photos analysées.
Du coup, c’est fiable ! (voirhttps://fr.wikipedia.org/wiki/Sophisme_du_procureur, ou pourquoi dans certain pays, on utilise plus les stats dans les proces).
#24
#25
C’est l’argument d’Eric Zemmour pour justifier qu’en France les noirs et arabes subissent plus souvent des contrôles d’identité et représentent une plus grande proportion dans les prisons que dans la population…
Non.
Ils sont plus souvent contrôlés parce que les policiers sont majoritairement racistes (ils votent à plus de 50% pour le RN). J’ai 54 ans : dans toute ma vie je n’ai subi que trois contrôle d’identité, et à chaque fois il y avait une raison. Ma peau est blanche et mes yeux sont bleus. Correlation n’est pas causalité, mais là je pense que si.
Ils y a aussi le fait que les noirs (surtout aux USA) et arabes sont sur-représentés dans la population la plus pauvre, donc plus la susceptible de verser dans la petite délinquance, la plus facile à réprimer, contrairement à celle “en col blanc”. Et ils ont moins les moyens de se payer de bons avocats.
Dans tous les cas, c’est bien un problème de racisme.
#26
#27
#28
Alors j’essaie encore : 56% des policiers sont noirs dans une ville dont la population est à 82% noire…
#29
https://i.imgur.com/C5RXVrS.gif
#30
C’est pas ‘dredi encore
" />
#31
Ou parce que les banques d’images sont majoritairement remplies de “caucasiens”. Ou que ça importait plus aux dirigeants que ces solutions de reconnaissance fonctionne mieux avec des blancs que d’autres ethnies. Ou par intérêt pécuniaire. Les raisons possibles à cette faiblesse ne manquent pas, donc avant d’essayer de les faire passer pour des saints par défaut ça serait bien de s’assurer de la raison réelle derrière cet état de fait.
De la même façon, ça me fait bien marrer le coup des hommes qui n’osent plus rester seuls avec des femmes : si quelqu’un a un comportement qui peut être mal interprété, c’est pas de la faute de la personne qui le subit. La perversion ne vient pas d’elle, ni du “climat”, mais bien du comportement déplacé de certains…
#32
#33
Les flics en question sont peut-être dans les autres 44%.
#34
Detroit est probablement un des “meilleurs” élèves aux USA concernant le racisme des forces de l’ordre.
Etant une des polices avec le plus d’afro-américains, ça doit effectivement compenser (quelques chiffres ici).
Mais leur chef de police lui-même admet que c’est un problème, et qu’il se joue au niveau nationnal (petite lecture sympa ici sur Detroit).
Malgré une police à plus de 50% noire, force est de constater que la balance penche encore du mauvais côté, même là-bas (et même si c’est dans une mesure plus faible que d’autres Etats).
Mais ce n’est pas le sujet, juste justifier un “focus” sur les noirs sous prétexte qu’ils sont + coupables que les autres, n’est pas un argument (c’est juste du racisme de base en fait), quoi qu’on en dise. D’autant quand cette “tendance” est justement auto-réalisatrice, du fait des inégalités.
Quoi qu’il en soit, ce n’est pas vraiment le sujet ici. Le cœur du problème étant que les IA de reconnaissance faciale sont entraînées sur des banques d’images essentiellement de personnes type caucasiennes t sont donc complètement paumées quand en plus on se focalise pour tester des afro-américains dessus.
#35
#36
Tu oublies que dans une grande majorité des cas, ces saligauds ont en plus deux bras et deux jambes !
(au cas où, je précise que c’est du second degré)
#37
parce qu’on rince quelqu’un avec ce pognon la ?
#38
Je suis assez peu sensible à cette hypothèse là. Notamment à cause du rasoir de hanlonhttps://fr.wikipedia.org/wiki/Rasoir_de_Hanlon
#39
#40
[edit] grillé par v1nce pendant la rédaction du message, mea culpa pour la répétition.
Et pourquoi pas aussi dans les 56% ? Tu te bases sur leur couleur de peau pour savoir s’ils sont racistes ou non ? 🤔
Ou alors que 44% de la police fait tout le travail de terrain et que les 56% restant se tournent les pouces ? C’est un peu gros comme biais.
Je trouve tes arguments vraiment tendancieux…