Début décembre, quatre chercheurs et chercheuses affiliés à l’Université états-unienne de Stanford, dont la française Angèle Christin, publiaient une note issue de leur travail sur la manière dont l’éthique de l’intelligence artificielle se déploie sur le terrain, dans des entreprises technologiques.

Parmi leurs résultats, les scientifiques constatent que dans beaucoup de sociétés, s’il existe des discours bien formulés sur l’éthique de l’IA, ceux-ci ne se traduisent pas nécessairement en modifications réelles des pratiques de travail. L’équipe rapporte aussi que les sujets éthiques sont souvent poussés par des individus solitaires, qui reçoivent relativement peu de soutien des institutions dans lesquelles ils travaillent.

Cela signifie que les considérations éthiques sont rarement transformées en priorités dans le développement des produits, quand les indicateurs adoptés et les modifications fréquentes de l’organisation du travail ne découragent pas carrément les tentatives.

En cela, leur travail rejoint certaines des conclusions tirées par l’équipe française du projet international et multidisciplinaire Shaping AI. Ce dernier vise à comprendre l’évolution des discours autour de l’intelligence artificielle en France, en Allemagne, au Royaume-Uni et au Canada sur une décennie. En France, l’équipe du médialab de Sciences Po a mené son analyse en interrogeant une trentaine de « praticiens de l’IA ».

Parmi ses auteurs, la chercheuse Pauline Gourlet et la doctorante Maud Barret expliquent que « l’éthique de l’IA » n’est, pour commencer, pas abordée en ces termes par tous les membres de la chaîne de fabrication – déploiement – maintien des systèmes. Mais aussi que des thématiques chères à ce domaine, comme celui des biais, peuvent servir à empêcher toute autre forme de dialogue sur les évolutions en cours au sein d'un cadre de travail.

Dans leur restitution (voir aussi cette présentation), les expertes argumentent en faveur d’une « désexceptionalisation » de l’IA, au profit de logiques critiques plus traditionnelles, comme l’analyse (et notamment de la sociologie) des organisations.

Des grilles éthiques sans réflexion sur leurs applications ?

Le champ de l’éthique de l’IA s’est largement étendu dans les années récentes, notamment poussé par des scandales comme celui de Cambridge Analytica et la prise de conscience politique des pratiques des entreprises du numérique, note l’équipe de Stanford. En février, une interview avec le juriste Yannick Meneceur, qui a longuement étudié la production scientifique et politique relative à ce champ d’étude, montrait déjà les limites que ce domaine de recherche pouvait rencontrer.

À l’époque, l’ancien magistrat s’inquiétait, auprès de Next, de « l’énorme confusion » qui existait chez certains acteurs entre questions d’éthiques et problématiques de droits humains et de vie privée qui, elles, « relèvent directement du droit ».

Et d’indiquer que « des partenariats entre intérêts économiques, recherche et société civile permettent aux constructeurs d’arriver avec une grille éthique maison et de dire, en gros, "n’ayez pas peur de nos algorithmes" », quand bien même les bases scientifiques de certains projets d’applications d’IA, notamment celles liées à la détection du mensonge ou des émotions, ne tiennent pas.

• [Interview] Promesses et limites de l’éthique de l’intelligence artificielle

Des individus isolés au sein des entreprises

Sans même en arriver là, les scientifiques de l’université américaine ont interrogé 25 praticiens de l’éthique de l’IA, aussi bien des employés que des consultants ou des universitaires. À ces entretiens, elle a ajouté l’observation de groupes de travaux menés par l’industrie et de cursus de formation.

Et de constater qu’au sein des organisations, la question d’une éthique de l’AI est souvent promue par des personnes seules. Face au manque d'adhésion « de la part de la direction », celles-ci « prennent la responsabilité du changement des opérations en utilisant des stratégies de persuasion et des compétences diplomatiques pour convaincre les ingénieurs et les chefs de produit d'intégrer des considérations éthiques dans le développement » de leurs technologies.

Dans les plus grandes entreprises, il arrive aussi que « les équipes d’IA responsables soient isolées, ce qui empêche de transformer leur travail en tâches essentielles dans les organisations ». Quant à la hiérarchie des objectifs, elle ne joue pas en leur faveur : ceux relatifs à la production dépassent clairement les considérations de construction d’outils éthiques.

« Les chefs de produit perçoivent souvent les activités des équipes d’IA responsable comme un frein au développement du produit, voire un facteur de retard au lancement ou de mise en péril de certains revenus », relève par ailleurs l’équipe de Stanford. Au sein des entreprises, les équipes produits sont aussi « fréquemment réticentes aux évaluations éthiques », parce que ces dernières « ne sont souvent réalisées qu’au moment où le produit est prêt à être mis sur le marché, ce qui signifie que les équipes risques d’avoir à corriger le tir juste avant la date de lancement ».

Les autrices de Shaping AI, elles, ont aussi relevé dans leurs expérimentations le détournement de concepts tirés du champ de l’éthique de l’IA pour bloquer toute autre critique des évolutions au sein des organisations. Ainsi, certains employés rapportent que le seul sujet sur lequel ils aient réellement pu travailler avec leur direction concernait les « biais des algorithmes ». Les autres sujets de débats et de critiques, y compris liés à l'organisation du travail, étaient écartés.

• Peut-on corriger les biais des algorithmes ?

Réguler… les humains, plutôt que les technologies ?

Alors que l’Union européenne met la dernière main à son règlement sur l’intelligence artificielle, et que le gouvernement américain travaille à ses propres logiques d’encadrement du domaine, Sann J. Ali, Angèle Christin, Andrew Smart et Riitta Katila notent que les régulations gouvernementales « pourraient jouer un rôle crucial dans l’évolution et la formalisation du champ de l’éthique de l’IA en motivant les dirigeants à prioriser les problématiques éthiques et à protéger les employés » spécialisés dans le domaine (par exemple, en évitant de les licencier à la première occasion)

Dans la Law Society Gazette, l’avocat britannique Jacob Turner et le spécialiste des politiques de l’IA (actuellement employé par Meta) Tristan Goodman estiment de leur côté que le principal angle mort des discussions sur l’éthique de l’IA concerne les humains. « Lorsqu'un travail implique une expertise opaque et peut-être dangereux s'il est mal fait », la société « exige souvent que les praticiens soient réglementés », écrivent-ils.

Eux argumentent donc en faveur de la régulation des professions liées à l’IA, la création d’un code, ou de certifications. L’idée est proche de celle promue par les signataires du Serment d’Hippocrate du Data Scientist, proposé en 2018 par des experts français du domaine.

Plus largement, de la nécessité de « désexceptionaliser » l’IA mise en valeur dans le travail de Pauline Gourlet et Maud Barret ressort le besoin de s’intéresser à tous les profils qui participent de près ou de loin à la chaîne de fabrication, au déploiement puis au maintien des systèmes d’IA. Après tout, c’est aussi cette chaîne qui justifie le déploiement de ces technologies.