Jeff Dean, responsable de la recherche en intelligence artificielle chez Google, a demandé à ses équipes de s'abstenir de partager leurs travaux avec le monde extérieur, selon le Washington Post.
Alors que pendant des années Google a eu une politique de publication de ses recherches se rapprochant fortement de la recherche académique, publiant dans des revues scientifiques et sur les serveurs de preprints comme arXiv, la sortie de ChatGPT par OpenAI aurait été le déclencheur d'une volonté de la direction de l'entreprise de ne plus partager ses connaissances.
Selon le journal, Jeff Dean aurait expliqué lors d'une réunion trimestrielle de la division recherche de l'entreprise qu'OpenAI aurait profité de la lecture de leurs articles scientifiques. Pour le responsable IA de Google, ces articles devront donc être publiés après que l'entreprise a transformé leurs travaux en produits.
Selon le Washington Post, ce changement s'inscrit dans une évolution plus large de Google qui « s'est mis en mode défensif, d'abord pour repousser une flotte de concurrents agiles dans le domaine de l'IA, et maintenant pour protéger son activité principale de recherche, le cours de ses actions et, potentiellement, son avenir, dont les dirigeants ont dit qu'il était lié à l'IA. »
« Ainsi, ils bénéficieront de la recherche d'institutions en difficulté sans y participer. » commente la chercheuse Timnit Gebru (licenciée par Google en 2021).
Commentaires (21)
#1
Quel scandale !
#2
Le fait qu’elle ait été licenciée ne change rien à la véracité de ses propos.
Car si Google ne partegera plus le fruit de ses recherches, ils continueront à utiliser les recherches publiées par les organismes publiques au financement desquels ils ne participent pas, faisant de “l’optimisation fiscale” partout sur la planète.
#2.1
Ce que la news oublie de mentionner, c’est que son licenciement est consécutif a son refus de retirer les noms de ses collègues dans une de ses publications dont Google n’aimait pas le contenu.
#3
Tout ça dans un contexte ou certain se barrent.
C’est pas faux que de voir un lapin courir en évitant les obstacles, passer dans la chatière, et faire boum dans la maison de test, peut faire prendre conscience que la recherche n’est pas toujours si propre que cela. La recherche dans le sens de “utilisation par des gens avec un chapelet de médailles sur la veste (qui font effet sapin de Noël)”.
Bon, il aura fallu du temps à certains pour comprendre. Plus près de nous l’IA sous forme de ChatBot ou de pilote de tank… heu de SUV peut aussi engendrer pas mal de dégâts en tout genre.
Alors le réflex c’est de contrôler l’information et cela passe aussi par les publications. On l’a déjà vu on le verra encore. Iz jusst Gud Buziness.
#4
Les publications, ça ne marche pas comme ça. Si un auteur n’assume pas être l’auteur d’un papier, il contacte directement l’éditeur pour être enlevé, point. Il n’attend pas qu’un de ses collègues le fasse à sa place.
#5
La question n’est pas tant sur l’auteur qui assume ou non, mais sur l’employeur de l’auteur. C’est l’employeur qui ne voulait pas que l’auteur apparaisse, pas l’auteur lui-même.
#6
Donc Google voulait bien que Timnit Gebru apparaisse comme auteur du papier mais pas ses collègues ? Ça n’a aucun sens.
#7
Le papier n’a pas été écrit avec des collègues, mais avec un confrère.
Le papier n’étant pas tendre avec des solutions basées sur l’IA (notamment, à cause de biais ethniques), Google ne voulait pas que son nom soit associé à cela. Les propos de XXC sont incorrects, car c’est bien son nom à elle qu’elle refusait de retirer.
#7.1
Je n’arrive plus a mettre la main sur les publications d’alors, mais si tu te base uniquement sur le papier, effectivement, ses collègues n’apparaissent pas (a la demande de Google).
#7.2
Ah ok. Ca pourrait effectivement expliqué ceci.
Toutefois, les articles que l’on trouve concernant son licenciement concerne bien le retrait de son nom à elle, et non celui d’éventuels collègues.
#8
Google: le gros coup de Bard.
#8.1
#9
Sur ce papier, son affiliation est Microsoft. Je ne vois pas à quel titre Google aurait le droit de réclamer quoi que ce soit dessus, ni en quoi ça constituerait un motif de licenciement chez Google.
Bref, tout le monde a tout mélangé.
#9.1
Google demandait à ce que le papier ne soit pas publié (il ne l’était pas encore) ou que les 5 (sur 6) co-auteurs travaillant chez Google (dont Timnit Gebru) en soit retiré. Gebru a demandé les raisons, et elle s’est fait démissionnée.
https://en.wikipedia.org/wiki/Timnit_Gebru#Exit_from_Google
#10
Peut être parce que je me suis trompé de lien
A priori, le bon, c’est celui ci : On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?.
Initialement, ils étaient 6. Ils ne sont plus que 4 coauteurs. Sur les 6, 5 travaillaient pour Google à l’époque des faits. Son chef lui a demandé, soit de rétracter le papier, soit de retirer son nom ainsi que celui de ses collègues. Elle a refusé de le faire sans avoir une véritable discussion avant. Discussion qui n’a jamais eu lieu.
#11
Et pourtant, au risque de me répéter : il aurait suffit que le chef contacte l’ACM et leur dise qu’il n’était pas auteur de ce papier qui porte son nom, et c’était plié.
#11.1
Un tiers peut faire enlever le nom d’une personne sur un papier ? Ça m’étonnerait.
(Sauf si tu parles du nom du chef, mais c’est pas de ce nom là dont on parle, c’est de celui de la chercheuse).
#11.2
On ne parle pas d’une tierce personne là, hein, mais de quelqu’un qui est listé comme auteur du papier. Et donc, au risque de vous surprendre, oui, l’auteur d’un papier a son mot à dire sur le contenu du papier. On pourrait même dire qu’il sert à ça.
En d’autres termes, si le chef n’a pas fait ça (le papier est toujours en ligne avec tous les noms), c’est que son objectif n’a jamais été d’enlever son nom ni de rétracter le papier, mais bel et bien de trouver un prétexte pour lourder Timnit Gebru.
#11.3
Il me semble qu’il y a méprise sur le déroulé de cette affaire. Selon la page wikipédia De Timnit Gebru (lien donné par Mihashi au commentaire #15), Elle a co-écrit un article avec 5 autres personnes. 5 de ces 6 personnes étaient salariées de Google.
Le contenu de l’article déplaisant à Google, le chef de Gebru lui a demandé de ne pas publier l’article ou à tout le moins, de retirer les noms des auteurs salariés de Google. Le chef n’est pas parmi les auteurs de l’article.
Son chef estimait que l’article ne prenait pas en compte les dernières avancées de Google qui répondaient selon lui aux critiques de l’article.
Elle a demandé à connaître les motifs de la décision et qui chez Google l’avait prise sauf peine de démission.
Comme Google n’a pas voulu lui répondre et elle a donc démissionné.
#12
Tu peux le répéter tant que tu veux, cela ne changera rien au fait que cela ne fonctionne pas ainsi. ACM aurait contacté l’auteur (ils ont les coordonnées). Ils lui auraient demandé son souhait (apparaitre ou non), et c’est sa réponse (et non celle du chef) qui aurait été prise en compte.
Encore heureux qu’il ne suffit pas d’une tierce personne “qui dit que”, vu la concurrence qu’il peut y avoir dans certains domaines (y compris au sein d’une même équipe).
#13
Justement, si. On parle bien d’une tierce personne. Le chef (pas auteur) de Gebru (auteur) a demandé à Gébru de retirer son nom (à elle) ainsi que celui de ses collègues également signataire.
Le chef n’a aucune légitimité pour faire retirer le papier ou modifier le nom des auteurs auprès d’ACM