Dans une lettre ouverte envoyée au Congrès, le directeur général de la société (Arvind Krishna) affirme être opposé à l'utilisation de la technologie pour « la surveillance de masse, du profilage racial, la violation des droits et libertés humaines fondamentaux, ou tout autre objectif contraire à nos valeurs ». Il a donc décidé de stopper pour le moment la vente de logiciels de reconnaissance faciale à des fins générales.
Il enchaîne : « Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois ».
Selon Arvind Krishna, les outils de reconnaissance faciale peuvent « aider les forces de l'ordre à assurer la sécurité des citoyens », mais « fournisseurs et les utilisateurs ont la responsabilité partagée de s’assurer que l’IA a été testée contre les biais ».
Cette annonce d’IBM intervient alors que les États-Unis sont touchés par une forte vague de protestations contre le racisme et les violences policières, suite à la mort de George Floyd.
Commentaires (14)
#1
#2
Comme ils mignons! On va les croire sans hésiter!
En fait, c’est une annonce commerciale déguisée : ils abandonnent la version actuelle et vont proposer, avec discrétion, une version encore plus performante. Mais beaucoup plus chère.
#3
IBM a beaucoup changé. C’est bien.
" />
On parle bien de la boîte qui avait donné des instructions à ses employés pilotes d’épargner les usines IBM en Allemagne et qui à la fin de la seconde guerre mondiale a demandé (et obtenu) des indemnités pour ces bombardements.
On parle bien de la boite qui sous James Watson s’enthousiasmait des partenariats avec Hitler et des recensements raciaux de population par carte perforées IBM.
On parle bien de la boite qui début 2000 se pissait dessus de l’automatisation complète de smart cities où des ordinateurs prédiraient nos comportements via des données collectées en permanence pour notre bien (ou pas mais comme on pourra prédire quand nous ne sommes pas d’accord ce sera notre bien, de gré ou de force…).
Bravo à Arvind Krishna de rompre avec un siècle d’aveuglement sur les automatismes et d’arrivisme commercial systématique.
#4
IBM est connu pour respecter les lois (travail, droits de l’Homme…) et ne pas voler les impôts
" />
#5
On peut surement en déduire que IBM va créer une structure entièrement dédiée à ce genre d’activité lucrative, c’est à dire une nouvelle société avec un nom neutre contrôlée par un trust anonyme dont IBM sera actionnaire à 100%
#6
Déjà que l’utilisation de ce type d’outil (et l’acceptation passive des citoyens qui permet de les mettre en place) est inquiétante, se dire qu’une des boites les plus au fait de la technologie se fasse autant d’inquiétudes fait froid dans le dos.
#7
Les commentaires remplis de gens experts du sujet
" />
À tout hasard, l’entreprise n’a peut-être pas les moyens, technologiques et économiques, de rester sur ce marché, et en profite pour redorer son image de marque ?
#8
#9
Je ne pense pas qu’IBM ait d’inquiétudes sur le sujet.
Je pense plutôt qu’IBM :
Bref, il couvrent leurs arrières.
#10
Du coup, c’est en quelques sortes “l’arrêt Krishna” ?
" />
#11
Tu m’as pris de vitesse 😭.
#12
La reconnaissance faciale s’insinue partout!
" />
Des boîtes comme Quividiqui vendent de l’analytics pour les campagnes de pub sur écrans en espace public, avec s’il-vous-plaît, un adoubement de l’union européenne via un tampon ePrivacy Seal
#13
#14
Tu es possiblement trop jeune pour avoir connu les brimades fonction du look des gens et l’intrusivité de la boite dans la vie privée, les gens qui faisaient les heures pour lesquelles ils étaient payés virés en période d’essai parce que la culture maison c’était que tout le monde fait du bénévolat. (on parles des années 80 hein, relativement récent, la génération qui part en retraite a connu).
Là aussi ibm s’est potentiellement beaucoup améliorée.