En Europe, plus de 75 % des entreprises ont du mal à recruter pour des postes qualifiés. Ce n’est pas faute de main d’œuvre : si l’on prend le cas de l’Allemagne, il manque au total 2 millions de travailleurs. En face, 2,5 millions de personnes sont en recherche d’emploi.

Le problème, selon différents experts, réside plutôt dans la difficulté de faire correspondre les demandeurs d’emploi avec les entreprises qui recrutent. Or, quand bien même un nombre croissant de sociétés recourent à des outils algorithmiques dans leur processus de recrutement, ces machines ne sont pas l’assurance de réussir à trouver les profils « cachés », moins connus, moins similaires aux personnes déjà employées dans la société.

Au contraire, selon un récent travail du projet Fairness and Intersectional Non-Discrimination in Human Recommandation (FINDHR, un programme européen dédié au développement de méthodes pour éviter les discriminations dans les systèmes de recrutements), l'usage croissant d’Applicant Tracking Systems (ATS, Outils de suivi des candidatures, OSC, en français) « crée de sérieuses inquiétudes sur la possibilité que des candidats soient éliminés en raison de caractéristiques liées à leur identité plutôt qu’aux besoins de l’emploi ».

De fait, constate le FINDHR dans son rapport intitulé « Assurer l’intelligence humaine dans les outils de recrutement par intelligence artificielle », ces machines tendent à ne pas faire correspondre les profils des travailleurs diplômés « cachés », notamment des femmes et des personnes immigrées, avec les offres disponibles. « Sans vérification, ces systèmes peuvent amplifier les biais et nettement réduire le bassin de travailleurs envisagé pour une liste toujours plus longue de postes à pourvoir. »

• • En Espagne, des algorithmes défectueux régissent la gestion des arrêts maladie

Une problématique sociale avant d’être technique

Comme souvent dans le cas de biais discriminants, le FINDHR relève que les problématiques techniques consistent en une reproduction et une exagération de problématiques préexistantes. Ainsi, sans même parler de l’expansion des OSC dans les processus de recrutement, le FINDHR relève que certains sous-groupes de population sont surreprésentés dans les secteurs présentant des surplus de force de travail, et sous-représentées dans celles en pénurie.

Si les femmes comptaient pour 46 % de l’ensemble des travailleurs dans l’Union européenne en 2021, elles n’étaient aussi que 34 % des plus de 38 millions de personnes employés dans les secteurs en tension, comme celui de l’ingénierie informatique, indique par exemple le FINDHR. En revanche, elles comptent pour 62 % des employés des secteurs les plus excédentaires, parmi lesquels celui des employés de bureau.

De même, les processus de recrutement sont très majoritairement conduits par des équipes issues des pays concernées, et tendent à chercher des profils qui correspondent aux effectifs déjà présents dans les entreprises. Ce faisant, ils « tendent à exclure, de fait, les femmes immigrées, que ce soit sur la foi d’un nom à consonance étrangère ou à cause de leurs expériences de travail à l’international ».

Outre ce déséquilibre initial, « les pratiques d’embauches les plus répandues, y compris celles recourant à des outils algorithmiques, éliminent de nombreux candidats qualifiés et restreignent artificiellement le vivier de personnes prises en compte par les entreprises, ce qui revient à “cacher” des travailleurs potentiels », indique le document.

Aux États-Unis, une étude de la Harvard Business School évalue à 27 millions le nombre de travailleurs cachés et estime qu’il en existe une proportion similaire au Royaume-Uni et en Allemagne.

• • Transparence, discriminations : les questions soulevées par l’algorithme de la CAF

Des systèmes algorithmiques qui « cachent » de potentiels candidats

Alors que les outils d’IA prennent de l’importance dans le paysage du recrutement, « une question critique apparaît, explique le FINDHR : ces outils contribuent-ils à élargir l’écart entre les postes ouvertes et les candidats qualifiés mais non-traditionnels ? »

Menée par Paksy Plackis-Cheng, l’équipe derrière le rapport s’est appuyée sur l’expertise de 110 personnes, dont 88 candidats, 16 experts en IA et six responsables de recrutement, pour tenter de répondre à cette question.

Pour creuser le sujet, elle a aussi mené deux expérimentations. La première a consisté à comparer les classifications de candidatures réalisées par des machines à d’autres, réalisées par les responsables – humains – d’une entreprise allemande. Résultat : de nombreuses candidatures considérées comme qualitatives par les recruteurs se prêtant au jeu ont reçu des scores plus faibles des évaluations automatisées.

Selon le FINDHR, la raison de ce déséquilibre est à chercher dans un endroit externe à la stricte correspondance entre les personnes en recherche d’emploi et les entités qui recrutent : elle se loge plutôt dans la capacité des machines à analyser les CV. Autrement dit, si le système ne parvient pas à lire et extraire correctement les informations pertinentes, il est possible qu’il assigne au document une note plus faible.

Au passage, les auteurs du rapport constatent aussi que les candidats n’ont pas toujours conscience d’avoir été soumis à un traitement automatisé. Et relèvent que, lorsqu’ils sont interrogés, quelle que soit leur origine, les demandeurs d’emploi peinent à comprendre comment agir sur ou avec ces machines.

Les femmes migrantes interrogées tendent par ailleurs « à davantage remarquer les biais et la discrimination dans les emplois dans la tech, où les expériences demandées sont plus simples à comparer ». L’une d’elles témoigne, par exemple, avoir reçu beaucoup plus de demandes d’entretien après avoir enlevé son lieu de naissance de son CV.

Le second test s’est plus spécifiquement centré sur les notations de candidatures telles que réalisées par plusieurs OSC utilisés en Europe (parmi lesquels ICIMS, Greenhouse, Ceipal ATS, Breezy HR, Jazz HR, Personio, Workable, Recruitee, FreshTeam et HierEZ). Ceux-ci étant très principalement propriétaires, le FINDHR a dû changer son fusil d’épaule et s’est rabattu sur le test d’un système britannique (Resume-matcher), disponible en open source.

À la suite de ses tests, le FINDHR constate que la machine considère systématiquement les CV locaux – britanniques dans le cas présent – meilleurs que ceux de personnes venues d’autres pays. Le fait de présenter des diplômes étrangers semble avoir le poids le plus négatif sur la note finale.

En s’appuyant sur les nationalités relevées dans les CV en question, les auteurs du rapport soulignent par ailleurs que les CV écrits par des personnes britanniques ou d’Inde sont ceux qui reçoivent les meilleures notes, tandis que ceux de personnes japonaises reçoivent les pires qualifications. « Cela suggère une potentielle préférence pour les groupes ethniques les plus représentés au Royaume-Uni. »

• • Comment les technologies s’insinuent dans le contrôle des personnes réfugiées et migrantes

Transparence et outils de soutien

Pour éviter aux entreprises de se priver de potentielles candidatures adaptées à leur recherche, le FINDHR formule des recommandations relativement classiques en matière d’IA : aux législateurs, elle demande d’obliger à la transparence et l’accessibilité de ces systèmes pour des audits extérieurs. Elle recommande aussi la généralisation d’audits réguliers pour limiter les risques de biais.

Pour les entreprises, elle recommande aussi bien la transparence sur l’usage de ce type de technologies dans le processus de recrutement que la fourniture d’outils pour les candidats. En pratique, il s’agit de proposer des outils pour aider ces derniers à formater leurs documents de manière à les rendre facilement lisibles, comme le proposent déjà des services comme Textio, Resume-Matcher et Resume-Ranker. Selon le FINDHR, « ces adaptations augmentent non seulement les chances de passer l’analyse par le OSC, mais assure aussi que les qualifications de la personne soient efficacement transmises au potentiel employeur ».

Vous utilisez ce type de machine au quotidien et vous constatez des dysfonctionnements, ou au contraire des progrès dans vos processus de recrutement ? Vous avez candidaté auprès d’entreprises qui recouraient à ce type de technologie ?

Racontez-nous, en commentaire ou à [email protected] !