Connexion Premium

Meta veut regarder tout ce que font ses employés pour entraîner ses IA

Les moindres faits et gestes des employés de Meta sur leurs ordinateurs vont être surveillés de près. Pas pour leur refourguer de la pub ciblée (ni pour les espionner, assure le groupe), mais pour entraîner des modèles IA.

Les mouvements de curseur des souris, les clics et les frappes clavier vont être observés de très près chez Meta. Des mémos récupérés par Reuters confirment le lancement d’un nouvel outil, Model Capability Initiative (MCI), dans les ordinateurs des employés de l’entreprise. Il va non seulement enregistrer toutes les interactions avec les sites web et les applications utilisés par les employés, mais aussi réaliser des captures d’écran de temps en temps.

MCI ne sera pas utilisé pour fliquer les employés ou vérifier leur productivité, promet l’entreprise. Et des garde-fous auraient été mis en place pour protéger les « contenus sensibles », sans plus de précision. L’objet de cet outil est d’améliorer les modèles IA de Meta, là où ils montrent de sérieuses lacunes : ils peinent en effet à reproduire la manière dont les humains interagissent avec les ordinateurs. Sélection d’une option dans un menu déroulant, utilisation de raccourcis clavier… Tout cela peut être utile pour les agents qui prennent la main sur les ordinateurs de leurs utilisateurs.

« La vision que nous construisons est celle d’un environnement où nos agents réalisent l’essentiel du travail, et où notre rôle consiste à les diriger, les évaluer et les aider à s’améliorer », écrit Andrew Bosworth, le directeur technique de Meta. Ces agents IA doivent être en mesure « d’identifier automatiquement les moments où nous avons ressenti le besoin d’intervenir, afin de faire mieux la fois suivante ».

Les données collectées par MCI feront partie des sources utilisées pour améliorer ces agents. Reste que cette initiative risque bien de se casser le nez dans l’Union européenne, en vertu entre autres du RGPD et des réglementations locales. En Italie, la surveillance électronique de la productivité des employés est illégale. 

En France, le Code civil dispose que chacun a droit au respect de sa vie privée, y compris dans le cadre de l’entreprise sous la subordination de l’employeur. Ce dernier a cependant le droit d’accéder au matériel informatique mis à disposition des salariés, mais il doit non seulement informer les employés, mais consulter également le comité social et économique (CSE) en préalable de la mise en œuvre.

La CNIL a par ailleurs rappelé que les dispositifs de surveillance doivent être « strictement proportionnés à l’objectif suivi » et surtout, ils ne peuvent pas servir à des fins de surveillance permanente. Les keyloggers sont nommément cités comme des outils à ne pas utiliser.

Commentaires (8)

votre avatar
"Bonjour, on voudrait piétiner ta vie privée, être super intrusif dans ton travail, mais tkt, c'est juste pour pouvoir te virer et te remplacer par une I.A." - Mark Zuckerborg, double ia.
votre avatar
La dystopie continue...
Ces géants de la tech sont clairement toxiques pour l'humanité.
votre avatar
Ou comment booster l'IA avec un comportement humain pour passer les wall anti-bot
votre avatar
"promet l’entreprise"

Rapprocher "Meta" et "promesses", faut un budget VFX à 9 chiffres pour espérer rendre ça crédible.
votre avatar
Pwah quel enfer... Ça me mettrait tellement mal à l'aise de savoir qu'on épie mes moindres faits et gestes comme ça ^^'
votre avatar
Heureusement qu'on a un cadre règlement antiinnovationconnards de ce genre en Europe.
votre avatar
mais consulter également le comité d’entreprise et le comité social et économique en préalable de la mise en œuvre
Consulter. Aucune obligation d'en tenir compte. En d'autres termes, ils se contentent d'informer le CE/CSE.
votre avatar
Oui, mais ça se lit dans le PV du CSE, donc ça se voit.