Google, IA et éthique : « départ » de Timnit Gebru, Sundar Pichai s’exprime
Le 11 décembre 2020 à 09h51
2 min
Sciences et espace
Sciences
Depuis une semaine, le licenciement par Google de la chercheuse Timnit Gebru fait couler beaucoup d’encre. Elle était chargée des questions d’éthique sur l’intelligence artificielle et l'une des rares afro-américaines spécialistes du sujet.
L’imbroglio commence dès les premiers jours quand elle explique sur Twitter que sa hiérarchie avait accepté sa démission… qu’elle affirme n’avoir jamais donnée. Cette situation arrive après que la scientifique se soit plainte que Google « réduise au silence les voix marginalisées » et lui demande de rétracter un article.
Une pétition a rapidement été mise en ligne sur Medium afin de demander des explications à l’entreprise, notamment sur les raisons de la censure. Actuellement, elle a été signée par plus de 6 000 personnes, dont 2 351 « googlers ». Sundar Pichai est finalement sorti du bois pour évoquer cette situation et promettre une enquête :
« Nous devons accepter la responsabilité du fait qu'une éminente dirigeante noire, dotée d'un immense talent, a malheureusement quitté Google. »
Marchant sur des œufs, il ajoute : « Nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru ». Dans son courrier, il parle bien de « départ » (departure en anglais), et ne prononce pas le mot licenciement. Pour lui, cette situation « a semé le doute et conduit certains membres de notre communauté, qui remettent en question leur place chez Google […] Je veux dire à quel point je suis désolé pour cela et j'accepte la responsabilité de travailler pour retrouver votre confiance ».
Sur Twitter, Timnit Gebru n’est pas convaincue et s’explique : « Il ne dit pas "Je suis désolé pour ce que nous lui avons fait et c'était mal" […] Donc je vois ça comme "Je suis désolé pour la façon dont ça s'est passé, mais je ne suis pas désolé pour ce que nous lui avons fait." ».
Le 11 décembre 2020 à 09h51
Commentaires (29)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 11/12/2020 à 10h52
Il faut communiquer de façon à se faire passer pour une bonne entreprise, bien cool, bien gentille.
Mais seule la comm compte.
Le 11/12/2020 à 11h21
« Nous devons accepter la responsabilité du fait qu’une éminente dirigeante noire, dotée d’un immense talent, a malheureusement quitté Google. »
C’est fatiguant de voir que la couleur ou l’origine (le sexe) des gens est toujours aussi importante (De plus en pus importante ?) pour ces grosses boites / Les gouvernements…
Le 11/12/2020 à 14h07
D’autant plus ironique que Sundar Pichai lui-même n’est pas réellement de type WASP…
Le 11/12/2020 à 11h53
Quand tu as cédé une fois après c’est la dictature des minorités.
Le 11/12/2020 à 12h02
En l’occurence c’est ainsi qu’elle s’est désignée et qu’elle portait son combat. Donc difficile de focus Sundar pour le coup pour l’avoir exprimé ainsi.
Le 11/12/2020 à 12h30
NextInpact est devenu le nouveau Libération, chaque jour on a le droit à notre article bien-pensant.
, c’est forcément du racisme (car les personnes noires incompétentes ça n’existe pas).
Aujourd’hui, nous apprenons que si une entreprise se sépare d’un.e employé.e noir.e
Le 11/12/2020 à 13h20
Hein ? Ce que tu as cité n’est qu’une citation de l’intéressé, NextInpact ne prend pas parti ici.
(J’ai cru pendant un moment que tu trollais vu qu’on est vendredi, mais tes anciens commentaires m’évoquent le contraire)
Le 11/12/2020 à 13h20
Je dirais plutôt que Google perd une caution minoritaire .
Le 11/12/2020 à 12h39
Si ça se trouve, il y a une IA autonome dans un des serveurs de google, elle s’est sentie menacé par Gebru -> elle écrit la lettre de démission à sa place
Le 11/12/2020 à 12h48
ça pédale dans la semoule… ou de la tectonique des plaques eurasienne/africaine
Le 11/12/2020 à 13h18
Simple question : Il y a des diplômes, des compétences pré-requises ou des résultats a atteindre pour accéder et garder ce genre de poste ?
Parce qu’il est facile d’évoquer et de sous entendre n’importe quel motif pour un licenciement s’il n’y a aucun motif précis pour embauche.
Puis c’est quoi cette manie de démissionner les gens, ils ne savent plus les virer c’est ça ?
Le 11/12/2020 à 13h31
La lettre de réaction des employés de Google et des chercheurs n’est pas lié à sa couleur de peau, mais à la cause de son licenciement et de sa mission.
Elle est à la tête de la recherche de Google sur l’éthique des IA et on pense qu’elle s’est fait licencier, car ses recherches ne plaisait pas à Google ce qui signifie en gros que Google ne prend pas aux sérieux ce sujet et vu le poids des algorithmes de Google (car derrière cela impactes les recherches Google, les recommandations Youtube et la pub) c’est très inquiétant.
Le 11/12/2020 à 15h04
Mouais. Elle a soumis un papier à Jeff Dean (Tensorflow….) comme elle l’avait déjà fait auparavant. Sauf que cette fois-ci le papier est arrivé très tard par rapport au processus de relecture et il a été rejeté (temporairement) car jugé de qualité insuffisante.
Et là elle a fait un caca nerveux et demande à connaître le nom de toutes les personnes impliquées dans le processus de validation sinon elle quittera Google.
Le 11/12/2020 à 15h06
A priori ce n’est pas sa compétence qui est remise en cause mais plutôt son attitude. Voir mon message juste au-dessus.
Le 11/12/2020 à 17h08
Le sujet de l’identification/différenciation par la couleur est toujours compliqué et sensible, puisque cela devrait amener par définition au racisme.
Comme beaucoup, j’aimerai que ce sujet n’en soit plus un et qu’on arrête de mettre en avant sa couleur plutôt que sa valeur en tant que personne.
Mais… on voit ça de notre point de vue de culture française, où principalement l’école et notre histoire récente nous permet de mettre plus facilement tout le monde sur un pied d’égalité (en tout cas on essaie)
Cette info est à remettre dans le contexte américain, qui est très différent du notre sur le sujet des communautés et leur vécu encore récent.
Le 11/12/2020 à 19h42
Au contraire, les americains en font tres peu mention de la couleur de peau en milieu professionel. Tu peux te faire virer et avoir un bon gros proces au derriere pour ca. C’est tres faux-cul mais pas plus qu’ailleurs.
De mon point de vue, elle attaque plutot en jouant la carte raciale pour politiser la situation.
Qu’elle soit une des rares afro americaine dans le domaine ne lui garantira pas son boulot si elle fait de la merde derriere.
Le 11/12/2020 à 18h30
Surtout les Américains essayent de nous refourguer leur camelote.
Le 11/12/2020 à 20h49
rah les méchante minorités qui font la loi !
où lis tu ça dans la partie rédigée par NXI ?
tu as des sources là-dessus ?
Le 11/12/2020 à 21h28
Hélas. Et en plus on va se prendre la cancel culture dans les dents.
Le mail de Jeff Dean chez google
Timnit co-authored a paper with four fellow Googlers as well as some external collaborators that needed to go through our review process (as is the case with all externally submitted papers). We’ve approved dozens of papers that Timnit and/or the other Googlers have authored and then published, but as you know, papers often require changes during the internal review process (or are even deemed unsuitable for submission). Unfortunately, this particular paper was only shared with a day’s notice before its deadline — we require two weeks for this sort of review — and then instead of awaiting reviewer feedback, it was approved for submission and submitted.
A cross functional team then reviewed the paper as part of our regular process and the authors were informed that it didn’t meet our bar for publication and were given feedback about why. It ignored too much relevant research — for example, it talked about the environmental impact of large models, but disregarded subsequent research showing much greater efficiencies. Similarly, it raised concerns about bias in language models, but didn’t take into account recent research to mitigate these issues. We acknowledge that the authors were extremely disappointed with the decision that Megan and I ultimately made, especially as they’d already submitted the paper.
Timnit responded with an email requiring that a number of conditions be met in order for her to continue working at Google, including revealing the identities of every person who Megan and I had spoken to and consulted as part of the review of the paper and the exact feedback. Timnit wrote that if we didn’t meet these demands, she would leave Google and work on an end date. We accept and respect her decision to resign from Google.
Le 12/12/2020 à 10h29
Maintenant que tu as trouvé la version d’une des partie (Google), je t’invite a chercher celle de l’autre (Timnit).
Qu’elle soit noire, blanche, jaune, verte, les conclusions de ses recherches ne pouvait pas plaire a Google.
Un peu de lecture : https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/
Le 11/12/2020 à 23h10
On en parle du nombre de noirs à la rédaction de NXI ?
Le 12/12/2020 à 09h21
Un peu tôt pour l’apéro
Le 12/12/2020 à 09h44
immigre d’Ethiopie, etudie gratos aux US, offerte toutes les opportunites de travail grace a un projet etudiant bateau (un neural net qui “predit” si le quartier vote a droite ou a gauche suivant les voitures…incredible), obtient a un poste tres haut place dans l’une des trois entreprises les prestigieuse du monde. vraiment quel racisme !
Le 12/12/2020 à 14h48
Ouaip vivement le retour de la ségrégation aux Etats Unis…
L’Histoire d’un pays n’est pas la même: pour comprendre ce qui se passe aux US il faut savoir que tous les américains de plus de 60 ans ont connu la ségrégation.
Pour comprendre ce qui se passe aux US il faut aussi savoir que les amérindiens vivent dans des parcs.
Je te suggère de te renseigner.
Sinon tu restes droit dans ta rhétorique de droite dure avec un manque d’empathie frappant pour tous ceux qui ne te ressemblent pas.
Le 12/12/2020 à 15h14
Petit commentaire illustrant parfaitement le petit racisme ordinaire: ne jamais accepter les réussites des autres…
Le 15/12/2020 à 11h41
le commentaire typique du white knight qui defend quelqu’un pour sa couleur et non sur le sujet.
Le 12/12/2020 à 15h42
Attention breaking news : Entrainer une AI produit du CO2. Avec les métriques qui vont bien comparaison avec les avions et les voitures. On note au passage qu’elle a pas les chiffres de gpt3. Pour quelqu’un qui bosse chez Google ca la tout mal. Il me semblait que les data centers de chez Google étaient 100% renouvelables ? ok renouvelables ne veut pas dire absence de CO2 mais il me semble un peu plus facile de décarboner l’électricité d’un bâtiment que le carburant d’un véhicule. Sans compter que le service rendu à la collectivité est incomparable.
Ensuite elle se plaint que le corpus d’entraînement de l’AI est trop vaste et qu’il n’est pas en mesure de prendre en compte les subtilités des mouvements me too et blm. On croit rêver. Donc elle veut introduire des biais dans l’AI pour produire les résultats qu’elle souhaite ! Exactement le contraire de ce pour quoi elle est payée !
Allez dehors la militante.
Pourquoi pas embaucher que des profs d’histoire-géo de gauche pour présenter l’Urss sous un jour plus favorable aussi ?
Le 12/12/2020 à 15h52
Que chaque pays vive comme il l’entend.
L’import du multiculturalisme Us n’est absolument pas un facteur de concorde. Au contraire il en train de diviser la société française en clans dont on excite la jalousie ou la suspicion envers le clan adverse. On prépare la guerre civile.
Le 13/12/2020 à 22h48
Je ne sais pas ce que tu appelles le multiculturalisme. En tout cas, en France, on n’a pas connu la ségrégation raciale, c’est sûr.