Connexion
Abonnez-vous

Comment les systèmes de recrutement automatisés cachent des profils qualifiés

La machine ne sait pas lire et autres nouvelles

Comment les systèmes de recrutement automatisés cachent des profils qualifiés

User/Chimera – Clarote & AI4Media – Better Images of AI

Les systèmes de recrutement automatisés tendent à reproduire des discriminations et à « cacher » des profils qualifiés. Résultat : ils privent les entreprises qui cherchent à recruter des candidatures susceptibles de les intéresser, montre un rapport du FINDHR.

Le 06 mars à 10h41

En Europe, plus de 75 % des entreprises ont du mal à recruter pour des postes qualifiés. Ce n’est pas faute de main d’œuvre : si l’on prend le cas de l’Allemagne, il manque au total 2 millions de travailleurs. En face, 2,5 millions de personnes sont en recherche d’emploi.

Le problème, selon différents experts, réside plutôt dans la difficulté de faire correspondre les demandeurs d’emploi avec les entreprises qui recrutent. Or, quand bien même un nombre croissant de sociétés recourent à des outils algorithmiques dans leur processus de recrutement, ces machines ne sont pas l’assurance de réussir à trouver les profils « cachés », moins connus, moins similaires aux personnes déjà employées dans la société.

Au contraire, selon un récent travail du projet Fairness and Intersectional Non-Discrimination in Human Recommandation (FINDHR, un programme européen dédié au développement de méthodes pour éviter les discriminations dans les systèmes de recrutements), l'usage croissant d’Applicant Tracking Systems (ATS, Outils de suivi des candidatures, OSC, en français) « crée de sérieuses inquiétudes sur la possibilité que des candidats soient éliminés en raison de caractéristiques liées à leur identité plutôt qu’aux besoins de l’emploi ».

De fait, constate le FINDHR dans son rapport intitulé « Assurer l’intelligence humaine dans les outils de recrutement par intelligence artificielle », ces machines tendent à ne pas faire correspondre les profils des travailleurs diplômés « cachés », notamment des femmes et des personnes immigrées, avec les offres disponibles. « Sans vérification, ces systèmes peuvent amplifier les biais et nettement réduire le bassin de travailleurs envisagé pour une liste toujours plus longue de postes à pourvoir. »

Une problématique sociale avant d’être technique

Comme souvent dans le cas de biais discriminants, le FINDHR relève que les problématiques techniques consistent en une reproduction et une exagération de problématiques préexistantes. Ainsi, sans même parler de l’expansion des OSC dans les processus de recrutement, le FINDHR relève que certains sous-groupes de population sont surreprésentés dans les secteurs présentant des surplus de force de travail, et sous-représentées dans celles en pénurie.

Si les femmes comptaient pour 46 % de l’ensemble des travailleurs dans l’Union européenne en 2021, elles n’étaient aussi que 34 % des plus de 38 millions de personnes employés dans les secteurs en tension, comme celui de l’ingénierie informatique, indique par exemple le FINDHR. En revanche, elles comptent pour 62 % des employés des secteurs les plus excédentaires, parmi lesquels celui des employés de bureau.

De même, les processus de recrutement sont très majoritairement conduits par des équipes issues des pays concernées, et tendent à chercher des profils qui correspondent aux effectifs déjà présents dans les entreprises. Ce faisant, ils « tendent à exclure, de fait, les femmes immigrées, que ce soit sur la foi d’un nom à consonance étrangère ou à cause de leurs expériences de travail à l’international ».

Outre ce déséquilibre initial, « les pratiques d’embauches les plus répandues, y compris celles recourant à des outils algorithmiques, éliminent de nombreux candidats qualifiés et restreignent artificiellement le vivier de personnes prises en compte par les entreprises, ce qui revient à “cacher” des travailleurs potentiels », indique le document.

Aux États-Unis, une étude de la Harvard Business School évalue à 27 millions le nombre de travailleurs cachés et estime qu’il en existe une proportion similaire au Royaume-Uni et en Allemagne.

Des systèmes algorithmiques qui « cachent » de potentiels candidats

Alors que les outils d’IA prennent de l’importance dans le paysage du recrutement, « une question critique apparaît, explique le FINDHR : ces outils contribuent-ils à élargir l’écart entre les postes ouvertes et les candidats qualifiés mais non-traditionnels ? »

Menée par Paksy Plackis-Cheng, l’équipe derrière le rapport s’est appuyée sur l’expertise de 110 personnes, dont 88 candidats, 16 experts en IA et six responsables de recrutement, pour tenter de répondre à cette question.

Pour creuser le sujet, elle a aussi mené deux expérimentations. La première a consisté à comparer les classifications de candidatures réalisées par des machines à d’autres, réalisées par les responsables – humains – d’une entreprise allemande. Résultat : de nombreuses candidatures considérées comme qualitatives par les recruteurs se prêtant au jeu ont reçu des scores plus faibles des évaluations automatisées.

Selon le FINDHR, la raison de ce déséquilibre est à chercher dans un endroit externe à la stricte correspondance entre les personnes en recherche d’emploi et les entités qui recrutent : elle se loge plutôt dans la capacité des machines à analyser les CV. Autrement dit, si le système ne parvient pas à lire et extraire correctement les informations pertinentes, il est possible qu’il assigne au document une note plus faible.

Au passage, les auteurs du rapport constatent aussi que les candidats n’ont pas toujours conscience d’avoir été soumis à un traitement automatisé. Et relèvent que, lorsqu’ils sont interrogés, quelle que soit leur origine, les demandeurs d’emploi peinent à comprendre comment agir sur ou avec ces machines.

Les femmes migrantes interrogées tendent par ailleurs « à davantage remarquer les biais et la discrimination dans les emplois dans la tech, où les expériences demandées sont plus simples à comparer ». L’une d’elles témoigne, par exemple, avoir reçu beaucoup plus de demandes d’entretien après avoir enlevé son lieu de naissance de son CV.

Le second test s’est plus spécifiquement centré sur les notations de candidatures telles que réalisées par plusieurs OSC utilisés en Europe (parmi lesquels ICIMS, Greenhouse, Ceipal ATS, Breezy HR, Jazz HR, Personio, Workable, Recruitee, FreshTeam et HierEZ). Ceux-ci étant très principalement propriétaires, le FINDHR a dû changer son fusil d’épaule et s’est rabattu sur le test d’un système britannique (Resume-matcher), disponible en open source.

À la suite de ses tests, le FINDHR constate que la machine considère systématiquement les CV locaux – britanniques dans le cas présent – meilleurs que ceux de personnes venues d’autres pays. Le fait de présenter des diplômes étrangers semble avoir le poids le plus négatif sur la note finale.

En s’appuyant sur les nationalités relevées dans les CV en question, les auteurs du rapport soulignent par ailleurs que les CV écrits par des personnes britanniques ou d’Inde sont ceux qui reçoivent les meilleures notes, tandis que ceux de personnes japonaises reçoivent les pires qualifications. « Cela suggère une potentielle préférence pour les groupes ethniques les plus représentés au Royaume-Uni. »

Transparence et outils de soutien

Pour éviter aux entreprises de se priver de potentielles candidatures adaptées à leur recherche, le FINDHR formule des recommandations relativement classiques en matière d’IA : aux législateurs, elle demande d’obliger à la transparence et l’accessibilité de ces systèmes pour des audits extérieurs. Elle recommande aussi la généralisation d’audits réguliers pour limiter les risques de biais.

Pour les entreprises, elle recommande aussi bien la transparence sur l’usage de ce type de technologies dans le processus de recrutement que la fourniture d’outils pour les candidats. En pratique, il s’agit de proposer des outils pour aider ces derniers à formater leurs documents de manière à les rendre facilement lisibles, comme le proposent déjà des services comme Textio, Resume-Matcher et Resume-Ranker. Selon le FINDHR, « ces adaptations augmentent non seulement les chances de passer l’analyse par le OSC, mais assure aussi que les qualifications de la personne soient efficacement transmises au potentiel employeur ».

Vous utilisez ce type de machine au quotidien et vous constatez des dysfonctionnements, ou au contraire des progrès dans vos processus de recrutement ? Vous avez candidaté auprès d’entreprises qui recouraient à ce type de technologie ?

Racontez-nous, en commentaire ou à [email protected] !

Commentaires (9)

Vous devez être abonné pour pouvoir commenter.

Abonnez-vous
votre avatar
Il y avait eu il y a quelques années des papiers sur "pourquoi la recherche Linkedin est elle si mauvaise ?" et la réponse était assez clair, les recruteurs cherchent un mouton à 5 pattes(non négociable hein), le moteur de recherche ne trouvant pas va soit sélectionner de mauvais candidats au CV bidonné, soit une fourmi poilue qui a perdu une patte.

Et ce n'est pas que pour les systèmes automatisés. Il n'existe pas de formation pour être "RH" de nos jours, la plupart viennent d'écoles de commerce. Où on leur martèle que la compétence n'est rien si t'es pas en costard. Et ils reproduisent ça en entretien à défaut de formation, et on se retrouve (au lieu de corriger ça) à monter des bourses aux vêtements d'entretien d'embauche, on marche sur la tête.

Le défaut de formation transparait aussi dans les situations clichés que pourtant tlm a rencontré :
- Citez moi un défaut et là tu réponds "perfectionniste"
- Pourquoi avoir choisi notre entreprise ? alors que c'est eux qui t'ont démarché
- Vous êtes à combien actuellement ? bah c'est vous qui faites une offre, je suis pas avec mon manager à négocier une augmente, dites ce que vous proposez
- Où est-ce que vous vous voyez dans 5 ans ?
- Y'a pas de photo sur votre CV, pourquoi ?
- Racontez nous votre pire xp pro. et en fait faut pas répondre, c'est un piège
- Vous aimez voyager ? mais pas pour aller à la barbade ou acapulco, non, pour se tapper 3h de train de banlieue qui change chaque semaine en fonction du client
- Vous êtes à l'aise en anglais ? si tu réponds oui, l'entretien passe en anglais et si tu oses répondre non, ils savent pas quoi faire c'est pas dans le script
- J'ai vu que vous étiez expert Javascript. Euh non, expert Java.
-etc.

Alors forcément, vu comme le métier est très approximatif (même les cabinets de recrutement/chasseurs de tête ils sont passés en mode bouteille à la mer) la formalisation du besoin pour l'automatiser de manière informatisée a du être elle aussi très approximative.

Ajoutez à ça les biais d'apprentissage classique et Einstein qui te fait un CV hyper détaillé passe à la trappe parce que le mot clé "relativité générale" n'existe pas dans les critères de recherche et qu'il a oublié de mettre "physique newtonienne". Et c'est Jean-Eudes qui s'est fait conseiller pour rédiger son cv de prof d'education physique est sportive du collège newton de neuilly qui aura le poste. Et le temps qu'on s'aperçoive qu'il ne correspond pas, il se sera noyé dans la masse et gardera le job. Et surtout, JeanEudes il avait un brushing et une cravate alors que Einstein il avait les cheveux en pétard, rien que ça le disqualifie
votre avatar
"Il n'existe pas de formation pour être "RH" de nos jours, (...)"

Tiens, bisous :
https://iae.univ-nantes.fr/nos-formations/offre-de-formation/master-management-des-ressources-humaines
https://www.iae-paris.com/fr/master-rh-rse
https://www.iae-bordeaux.fr/programmes/etudiants-apprentis/masters-formation-initiale/master-gestion-des-ressources-humaines
https://iaelille.fr/formations/master-1-gestion-des-ressources-humaines/
https://www.iae-france.fr/formations/gestion-des-ressources-humaines-11/
votre avatar
Je découvre, merci.

Dans les faits, j'ai toujours rencontré des gens qui sortaient d'école de commerce ou de reconversions.

C'est bien si des formations existent pour ça.
votre avatar
OK, peut-être
Mais ça ne produit quand même que des gens :
- incapable de lire un CV plus grand qu'un timbre poste
- qui ne pige pas ce qu'ils lisent

Et on me sort que je ne sais pas me vendre. Bah ouais, j'ai pas fait d'école de commerce moi. Et pour un vrai CV qui voudrait dire quelque chose, il me faudrait plus de deux pages écrite en tout petit.
votre avatar
Et pour un vrai CV qui voudrait dire quelque chose, il me faudrait plus de deux pages écrite en tout petit.
Pas forcément.

J'avais fait un CV d'une page pour 30 ans d'expérience.

Il faut savoir ne garder que ce qui est nécessaire et synthétiser. C'est un vrai travail, mais il montre que tu es capable d'avoir du recul et de réfléchir à ce qui est important.
votre avatar
La machine sait pas lire
Les recruteurs humains ne le savent pas non plus.

En fait, il serait intéressant de savoir qui élimine le plus de candidats adaptés au poste.

Sinon, mettre son lieu de naissance sur un CV, ça se fait dans beaucoup de pays ?
votre avatar
Et en parlant par expérience pour rebondir sur l'article, les RH ne servent pas à grand-chose. Ils reçoivent la fiche de description de poste du manager ou du directeur, et font ensuite un tri sur les CV qui ont le taux le plus élevé de correspondances sans aucune imagination si un candidat un peu différent ne serait pas un bon candidat.

Et pour info, pour l'avoir lu et expérimenté:

Chance de décrocher un entretien: 1/20

Chance de décrocher le job après entretien: 1/10

Moi j'ai eu de la chance, je n'ai eu qu'à envoyer une petite centaine de CV.


Et le pire, c'est soit les boîtes qui sont obligées de publier le poste en externe à cause de certaines réglementations mais c'est déjà décidé en interne.

Ou les cabinets de recrutement qui laissent volontairement des offres déjà pourvues et s'en servent comme "Honey Pot" pour enrichir leurs databases.

A foutre des grosses paires de baffes quand on entend ça en entretien.
votre avatar
Merci Mathilde pour l'article de fond !

Cela dit, il y a plusieurs points qui sont d'une part nullement étonnants et d'autre part nullement choquants.

Ainsi...

"Si les femmes comptaient pour 46 % de l’ensemble des travailleurs dans l’Union européenne en 2021, elles n’étaient aussi que 34 % des plus de 38 millions de personnes employés dans les secteurs en tension, comme celui de l’ingénierie informatique, indique par exemple le FINDHR. En revanche, elles comptent pour 62 % des employés des secteurs les plus excédentaires, parmi lesquels celui des employés de bureau."

Bah oui, logique. Déjà dans les métiers en tension il n'y a pas que l'ingénierie, mais on ne précise pas lesquels autres. Pour peu qu'il y en ait pour lesquels les femmes ont souvent moins d'appétence pour x raison (ex boucherie -> refus de l'exploitation animale ou malaisance vis-à-vis de la viande, menuiserie ou maçonnerie -> métiers demandant un temps d'acclimatation sur le physique avec point de départ potentiellement plus "bas" en moyenne pour une femme) cela peut expliquer. À contrario "emploi de bureau" c'est tout et n'importe quoi.
Par ailleurs, les infléchissements de proportion homme/femme dans tel ou tel secteur ne se font pas en deux ans. Plutôt deux décennies, le temps qu'une vraie dynamique s'instaure au moment de la sélection du domaine d'études, puis que les gens se forment, puis qu'ils trouvent un travail stable.
Bref, je ne sais pas si le rapporteur voulait crier au loup mais ce n'est pas crédible.

"L’une d’elles témoigne, par exemple, avoir reçu beaucoup plus de demandes d’entretien après avoir enlevé son lieu de naissance de son CV."
Hors autre contexte difficile d'en tirer une vraie conclusion.
- Avait-elle mis son lieu de résidence actuel ? Sinon il était facile de faire une fausse supposition sur le fait qu'elle était toujours loin du taff envisagé.
- Avait-elle précisé que le français était sa langue natale, ou donné un "niveau" dans son CV ? Autrement à nouveau il y aura naturellement et légitimement un biais négatif : toutes choses égales par ailleurs, entre X qui parle nativement et Y pour lequel il y aurait des efforts à faire, un recruteur va toujours privilégier le moindre investissement. Or si un lieu de résidence est étranger, la réaction faussement logique mais intuitive est de déduire la langue natale du lieu de naissance, parce que cette déduction est valide dans >80% des cas.

"la machine considère systématiquement les CV locaux – britanniques dans le cas présent – meilleurs que ceux de personnes venues d’autres pays. Le fait de présenter des diplômes étrangers semble avoir le poids le plus négatif sur la note finale."
Oh bah ça alors quelle surprise, qui aurait pu s'y attendre...
Un recruteur a un cerveau : il est capable de "saisir" la dynamique de la personne et aller pousser, au besoin en cherchant par lui-même des infos sur tel ou tel cursus si vraiment le profil lui semble intéressant.
La machine se contente de mettre des évaluations uniquement sur les données fournies, par rapport aux grilles d'évaluation. Et ces grilles vont être alimentées en priorité sur les diplômes les plus susceptibles d'être présentés, et ensuite les autres par "cercles concentriques vers l'extérieur", en fonction des moyens.
Or l'étude indique s'être appuyée sur un système open source (quasi synonyme de manque de moyens hélas xd) et britannique. Il est donc fort probable que très peu de diplômes non britanniques soient référencés avec une note "réelle", et plutôt ignorés ou pondérés à une valeur arbitraire par défaut.

Pour illustrer le fait que la (mé)connaissance des cursus étrangers est un souci largement antérieur à l'arrivée des algorithmes, qui ne font que l'amplifier, notons que en France sortir de l'X est à peu près synonyme de clé universelle, tandis qu'aux USA beaucoup d'entreprises voient juste "Ecole" et pas "Université" et considèrent donc que c'est un truc mineur. xd

"En s’appuyant sur les nationalités relevées dans les CV en question, les auteurs du rapport soulignent par ailleurs que les CV écrits par des personnes britanniques ou d’Inde sont ceux qui reçoivent les meilleures notes, tandis que ceux de personnes japonaises reçoivent les pires qualifications."
Là encore, pas de quoi s'indigner sans autre contexte. Un des premiers trucs qu'on apprend aux étudiants (enfin les bons profs xd) est d'adapter le format du cv selon le pays et le stade de sa carrière, car les attendus ne sont pas du tout les mêmes selon les cultures. Le contenu également peut changer. Compte aussi la qualité linguistique (les japonais sont pire que les français sur les langues).
À moins que l'étude n'indique que les CVs ont tous été soumis en suivant le même formalisme et la même langue avec moulinette de correction préalable, le constat ne permet d'emporter aucune conclusion sérieuse...

Bref, la seule conclusion saine qu'on peut tirer de l'étude est...
"La machine est et sera toujours stupide, le recrutement requiert de l'intelligence".
votre avatar
Je ne sais pas comment est la situation dans les autres pays mais j'ai constaté un gros problème sur la rédaction des fiches de poste dans plusieurs entreprises industrielles. Ces fiches sont parfois un fourre tout de tout que ce sont susceptibles de faire tous les membres d'un service entier.

Travail bâclé pour faire taire des syndicats qui les ont réclamé parfois des années.

Avec de tels torchons, les RH ne peuvent pas faire grand chose.

Comment les systèmes de recrutement automatisés cachent des profils qualifiés

  • Une problématique sociale avant d’être technique

  • Des systèmes algorithmiques qui « cachent » de potentiels candidats

  • Transparence et outils de soutien

Fermer