Expérimenté depuis 2012 avec l’aide de la RAND Corporation et l’Institut de technologie de l’Illinois, le système de police prédictive de Chicago vient d’être abandonné, à mesure qu’il encourageait les discriminations, sans réduire la criminalité, explique Boing Boing.
Intitulé TRAP (Targeted Repeat-Offender Apprehension Program, qui signifie aussi piège, ou traquenard en anglais), le programme favorisait le profiling racial, la présomption de culpabilité, ne surveillait pas correctement qui y avait accès ni pourquoi, au point que des personnes extérieures à la police pouvaient même y accéder.
Commentaires (12)
#1
pendant ce temps à londres…
#2
Oui, enfin ce n’est pas le programme qui est de lui-même discriminant, ce sont les critères entrés dans l’algorithme…
#3
Ou bien si c’est du data learning, il a appris avec les mêmes biais que les policiers qui font les contrôles " />
#4
Spielberg avait aussi essayé, mais lui non plus n’a pas réussi " />
#5
Targeted Repeat-Offender Apprehension Program
Le problème est quand on regarde les stat US, c’est que les minorités ont plus de chances de subir un control “aléatoire” que les autres. Du coup le système n’étant qu’un reflet de la société qui l’a conçu il va faire pareil.
#6
Peut être mais ça montre le problème sous-jacent de ces systèmes, sans un paramétrage optimal (et impossible) ils ne peuvent pas bien fonctionner.
#7
C’est exactement ça, il est basé sur les même biais qui nous aveugle, soit grossièrement :
Du coup couleur de peau ≈ criminalité, mais sans réfléchir au problème de fond, yeah " />
#8
#9
Je ne suis pas certain que le biais sera attribué à la police ni que cela servira de leçon aux forces de police.
Tout est question d’électeurs
#10
#11
#12
Il y a 110ans naissait l’école de Chicago. Ce n’est certainement pas un hasard si profitant d’une confiance excessive en son histoire la ville a fait un virage à 180° sans toucher au frein à main. C’est un exemple supplémentaire de la dérive actuelle qui consiste à faire confiance aux sciences sociales pour en faire l’exact contraire une fois l’esprit passé et les œillères arrivées.