Google laisse ou fait partir plusieurs de ses principaux responsables conformité et vie privée

Le PDG de Google avait annoncé, en janvier, des licenciements « pour simplifier l'exécution et accélérer la vitesse » du lancement de nouveaux produits liés à l'IA. Depuis, plusieurs des principaux responsables en charge du respect des réglementations ont quitté l'entreprise.

« Au moins six des principaux responsables de la protection de la vie privée et de la réglementation de Google ont quitté l'entreprise au cours des derniers mois, et une équipe de surveillance clé a été dissoute » révèle une enquête de POLITICO :

« Les dirigeants qui quittent l'entreprise sont le responsable de la protection de la vie privée, Keith Enright ; le directeur de la protection de la vie privée pour les produits et l'ingénierie, Lawrence You ; la fondatrice de l'équipe responsable des opérations d'IA et de la gouvernance, Jen Gennai ; le responsable mondial de la conformité, Spyro Karetsos ; la responsable de la conformité pour l'Amérique latine, Patricia Godoy Oliveira ; et le responsable de l'équité en matière de santé, le Dr Ivor Horn. »

Or, souligne POLITICO, les équipes de Google chargées de la confidentialité et de la conformité sont chargées de veiller à ce que les projets n'aillent pas à l'encontre de textes tels que le RGPD et autres règlements européens. Elles doivent aussi prendre en compte les préoccupations éthiques telles que les résultats biaisés découlant des résultats de l'intelligence artificielle.

• AI Act : le règlement européen est publié au Journal officiel, la CNIL propose une FAQ
• Google se sépare de ses responsables vie privée et concurrence, un tiers de sa Legal Team licencié

Trois équipes dissoutes ou affaiblies en quelques mois

L'équipe de Google responsable de la protection de la vie privée dans le domaine de l'apprentissage automatique (machine learning), avait en outre été dissoute en février. Seuls deux membres de l'équipe font encore partie de l'entreprise aujourd'hui.

L'équipe RESIN en charge de l' « Innovation Responsable » créée en 2018 et qui examinait les projets de l'entreprise pour s'assurer qu'ils étaient conformes à ses principes éthiques en matière d'IA, avait de son côté été scindée en deux, révélait WIRED en janvier.

10 % de ses 30 membres devaient rester en place, tandis que les 90 % restant devaient être transférés dans l'unité « confiance et sécurité » qui lutte contre les abus des services de Google. L'un de ses membres les plus influents, Sara Tangdall, était en outre partie pour devenir directrice de la gouvernance et de l'éthique en matière d'IA chez Salesforce.

Située au sein du Bureau de la conformité et de l'intégrité, dans la division des affaires internationales de l'entreprise, RESIN avait effectué plus de 500 examens l'année dernière, notamment pour le chatbot Bard, selon un rapport annuel (.pdf) sur les principes de l'IA de Google.

Le Washington Post avait de son côté rapporté, en juin, que Google avait licencié une dizaine de membres de l'équipe de soutien aux enquêtes juridiques, et annoncé à une dizaine d'autres personnes qu'elles devaient déménager ou quitter l'entreprise, ce qui les avait poussées à démissionner.

Or, cette équipe était chargée de s'assurer que les demandes gouvernementales concernant les informations privées de ses utilisateurs sont légitimes et légales. Leur départ « a suscité des inquiétudes parmi les travailleurs et les experts en matière de protection de la vie privée, qui craignent que l'entreprise n'affaiblisse sa capacité à protéger les données de ses clients qui répond aux demandes gouvernementales concernant les données des utilisateurs » soulignait le journal.

Dans tous les cas, le travail se poursuit

Un porte-parole de Google lui avait répondu que l'équipe comptait près de 150 personnes et que celles qui démissionneraient en raison de l'obligation de déménager seraient remplacées.

En réponse aux questions de POLITICO, Google rétorque ne pas avoir abaissé ses normes en matière de confidentialité et d'éthique de l'IA, et ne pas avoir non plus modifié la façon dont l'entreprise évaluait les risques pour la vie privée lors du lancement de ses nouveaux produits.

« Bien qu'un petit nombre d'employés de longue date partent, la plupart ont déjà été remplacés et, dans tous les cas, le travail se poursuit » se défend Google dans un communiqué. La société a indiqué à POLITICO que M. Karetsos et M. Horn avaient été remplacés, mais sans préciser par qui, et sans non plus donner les noms des remplaçants d'autres partants.

Un ingénieur et un ancien employé de Google ont, sous couvert d'anonymat, confié à POLITICO que, depuis cette salve de départs, les équipes chargées de la protection de la vie privée au sein de l'entreprise « se sont senties obligées d'approuver les projets sans un examen aussi minutieux qu'auparavant » :

« Les nouvelles recrues ne disposaient pas de l'expertise et des connaissances institutionnelles des anciens dirigeants, et qu'elles ne se sentaient peut-être pas libres de remettre en question les problèmes de confidentialité ou d'éthique qui se posent. »

Des garde-fous essentiels

Le PDG de Google, Sundar Pichai, avait pour sa part écrit dans un mémo interne en janvier que l'entreprise prévoyait des licenciements « pour simplifier l'exécution et accélérer la vitesse dans certains domaines » tels que le développement de l'IA.

Le sénateur démocrate de l'Oregon Ron Wyden, défenseur de la vie privée au Capitole, s'est de son côté inquiété du fait que ces départs pourraient constituer une violation de l'accord conclu entre l'entreprise et la Federal Trade Commission (Commission fédérale du commerce), souligne POLITICO.

Depuis 2011, Google est en effet tenu de mettre en place un programme complet de protection de la vie privée dans le cadre d'un accord avec la FTC, après que l'entreprise a prétendument incité les utilisateurs à rejoindre son réseau social Buzz, l'ancêtre de Google+. Wyden a demandé à l'agence d'enquêter sur les changements de personnel chez Google.

Dans le secteur des technologies, qui est peu réglementé par le gouvernement fédéral, les équipes de conformité internes « constituent des lignes de défense essentielles pour la protection de la vie privée et de l'équité des clients, ainsi que pour la réduction d'autres préjudices potentiels » rappelle POLITICO :

« Chez Google, les équipes chargées de la protection de la vie privée et de la conformité peuvent retarder ou arrêter des produits s'ils signalent des risques éthiques ou juridiques liés à la technologie, selon des employés actuels et anciens de l'entreprise. »

En décembre dernier, WIRED avait ainsi rapporté que les examens juridiques et de protection de la vie privée étaient « les seules étapes obligatoires pour les lancements de produits » et que ces équipes avaient jusqu'alors « exercé un poids significatif dans l'organisation » jusqu'à mettre un terme à des tentatives d'acquisition en raison des risques liés à la protection de la vie privée.

Alors que les défenseurs de la vie privée et les représentants du gouvernement « considèrent ces équipes comme des garde-fous essentiels » résume POLITICO, les entreprises technologiques peuvent à l'inverse les considérer en interne comme ralentissant le développement de nouveaux produits, et donc comme une source de friction dans le secteur hyper compétitif et en pleine ébullition qu'est l'IA.

« Lorsqu'une grande société de données, comme Google, est perçue comme sacrifiant les garanties de protection de la vie privée des consommateurs et la conformité au nom de l'innovation, il faut s'en inquiéter », a déclaré Tricia Enright, porte-parole de Maria Cantwell, présidente de la commission sénatoriale du commerce.