La technologie de reconnaissance faciale d'Amazon est au coeur d'une large polémique, depuis la révélation fin juin de sa vente aux forces de l'ordre. La police de la ville américaine d'Orlando a depuis cessé son expérimentation.

Fin juillet, l'association American Civil Liberty Union (ACLU) a testé Rekognition sur les membres du Congrès américain. Des images ont été comparés à 25 000 portraits de personnes arrêtées pour des crimes (mugshots).

28 personnes ont été confondus, dont « une proportion démesurée de personnes de couleur », assure l'organisation. S'ils comptent pour 20 % du Congrès, ils sont 39 % dans les fausses reconnaissances.

L'ACLU demande donc au Congrès de se joindre à son combat pour un moratoire sur l'utilisation de la reconnaissance faciale par les forces de l'ordre.

Dans un communiqué, repris par le New York Times, Amazon répond qu'en conditions réelles, le système ne prend jamais de décisions autonomes dans l'identification des personnes. La société souligne également que l'ACLU a utilisé le réglage par défaut, c'est-à-dire déclarer une correspondance avec une assurance de 80 %. La société recommanderait aux autorités un réglage à 95 %.