T’inquiètes niveau banque de donnée, ces sociétés ont des base de données à eux. En vrai, “l’algo” n’a surement pas grand chose d’innovant, ce qui fait la richesse des société en apprentissage automatique, c’est les bases de données. Le problème des peau sombre existe depuis assez longtemps pour qu’ils aient cherché à corriger ça dans leurs bases surtout quand tu vend ce genre de service.

Et oui, le matériel de prise de vue et souvent bien dégueulasse. Une caméra, même la plus pro qui existe, ont une plage dynamique assez limité. Une caméra n’est pas un œil qui se focus sur une chose, elle est réglé sur la scène générale. Il suffit que ce que tu lui foutes en face d’elle soit majoritairement clair (les sols et les murs sont rarement sombres.) pour que tout ce qui soit plus foncée soit bouché. Je me rappelle d’un reportage d’un photographe qui s’était justement spécialisé pour prendre des portraits de personnes à la peau sombre parce qu’il expliquait que c’est super difficile de faire une bonne photo, les reflets et les ombres sont très différentes.

Pour le balais, comme j’ai dit, un algo d’apprentissage automatique reconnait juste des concomitance, difficile de savoir dans la cas d’apprentissage profond ce qui lui a vraiment fait tilter pourquoi il a vu une arme à la place d’un balais, mais dit toi qu’il y a surement un motif qu’il a associé a une arme qu’il a retrouver dans le balais dans l’image qu’il avait à disposition. Après, ce que l’on a pas ici dans l’article, c’est que l’on a pas beaucoup de détail. A priori, le concierge a pu faire son boulot la plupart du temps, donc les balais ne sont pas systématiquement pris pour des armes. Il suffit cependant que certaine conditions soient réunis pour qu’un “objet allongé” soit statistiquement le plus probablement une arme.

Un algo d’apprentissage automatique n’a aucun concepts a priori, et surtout dans le cas de l’apprentissage profond, les motif et les concomitance ne sont pas forcément quelque chose ayant un relation avec un concept formulé ou formulable. Il est donc très difficile de vraiment comprendre ce qu’il fait dans la réalité. C’est capable de réagir à des micro variation dans les valeurs des pixels imperceptible à l’oeil. On est ainsi capable de faire des réseaux de neurones qui a appris à berner un autre réseau de neurone (adversarial attacks). Mais comme un réseau de neurone n’a aucune connaissance a priori, il a très rarement de “mémoire” (souvent la détection se fait image par image de manière indépendante, tu passes un vidéo ou des diapo, c’est la même chose), il n’a que ses “yeux” et ce qu’il a tiré de sa base de donnée. Nous, en tant qu’humain, on dirait oui, mais en faite non, ça ne peut pas être ça, c’est débile, ça ne colle pas.

Comme tu le dis, “yakafokons”.

Par exemple, : il semble y avoir une corrélation avec la couleur de peau, une corrélation ne veux pas forcément dire lien de causalité, mais surtout une corrélation n’implique pas un lien de causalité direct, Mais du coup, c’est quoi le problème ? pourquoi ça bloque ? Oui, on peut bourrer les images de visage de noir car on a identifié, avec nos biais, que cette caractéristique est lié à un problème d’identification.

Par exemple, il suffit que comme dit plus haut, les caméras soit réglées normalement pour que les visage noir soit souvent bouché niveau contraste.

Le biais peut aussi venir de la “liste noire” district de New York des personnes à identifier. C’est une autre possibilité.

Bon, dans la réalité, je pense qu’ils bourrent les visages noirs voir qu’ils entrainent un réseau rien que pour ces types de visage.

C’est assez ironique que pour éviter les biais racistes on en soit à catégoriser les personnes…