Comment les systèmes de recrutement automatisés cachent des profils qualifiés
La machine ne sait pas lire et autres nouvelles
Les systèmes de recrutement automatisés tendent à reproduire des discriminations et à « cacher » des profils qualifiés. Résultat : ils privent les entreprises qui cherchent à recruter des candidatures susceptibles de les intéresser, montre un rapport du FINDHR.
Le 06 mars à 10h41
8 min
Société numérique
Société
En Europe, plus de 75 % des entreprises ont du mal à recruter pour des postes qualifiés. Ce n’est pas faute de main d’œuvre : si l’on prend le cas de l’Allemagne, il manque au total 2 millions de travailleurs. En face, 2,5 millions de personnes sont en recherche d’emploi.
Le problème, selon différents experts, réside plutôt dans la difficulté de faire correspondre les demandeurs d’emploi avec les entreprises qui recrutent. Or, quand bien même un nombre croissant de sociétés recourent à des outils algorithmiques dans leur processus de recrutement, ces machines ne sont pas l’assurance de réussir à trouver les profils « cachés », moins connus, moins similaires aux personnes déjà employées dans la société.
Au contraire, selon un récent travail du projet Fairness and Intersectional Non-Discrimination in Human Recommandation (FINDHR, un programme européen dédié au développement de méthodes pour éviter les discriminations dans les systèmes de recrutements), l'usage croissant d’Applicant Tracking Systems (ATS, Outils de suivi des candidatures, OSC, en français) « crée de sérieuses inquiétudes sur la possibilité que des candidats soient éliminés en raison de caractéristiques liées à leur identité plutôt qu’aux besoins de l’emploi ».
De fait, constate le FINDHR dans son rapport intitulé « Assurer l’intelligence humaine dans les outils de recrutement par intelligence artificielle », ces machines tendent à ne pas faire correspondre les profils des travailleurs diplômés « cachés », notamment des femmes et des personnes immigrées, avec les offres disponibles. « Sans vérification, ces systèmes peuvent amplifier les biais et nettement réduire le bassin de travailleurs envisagé pour une liste toujours plus longue de postes à pourvoir. »
Une problématique sociale avant d’être technique
Comme souvent dans le cas de biais discriminants, le FINDHR relève que les problématiques techniques consistent en une reproduction et une exagération de problématiques préexistantes. Ainsi, sans même parler de l’expansion des OSC dans les processus de recrutement, le FINDHR relève que certains sous-groupes de population sont surreprésentés dans les secteurs présentant des surplus de force de travail, et sous-représentées dans celles en pénurie.
Si les femmes comptaient pour 46 % de l’ensemble des travailleurs dans l’Union européenne en 2021, elles n’étaient aussi que 34 % des plus de 38 millions de personnes employés dans les secteurs en tension, comme celui de l’ingénierie informatique, indique par exemple le FINDHR. En revanche, elles comptent pour 62 % des employés des secteurs les plus excédentaires, parmi lesquels celui des employés de bureau.
De même, les processus de recrutement sont très majoritairement conduits par des équipes issues des pays concernées, et tendent à chercher des profils qui correspondent aux effectifs déjà présents dans les entreprises. Ce faisant, ils « tendent à exclure, de fait, les femmes immigrées, que ce soit sur la foi d’un nom à consonance étrangère ou à cause de leurs expériences de travail à l’international ».
Outre ce déséquilibre initial, « les pratiques d’embauches les plus répandues, y compris celles recourant à des outils algorithmiques, éliminent de nombreux candidats qualifiés et restreignent artificiellement le vivier de personnes prises en compte par les entreprises, ce qui revient à “cacher” des travailleurs potentiels », indique le document.
Aux États-Unis, une étude de la Harvard Business School évalue à 27 millions le nombre de travailleurs cachés et estime qu’il en existe une proportion similaire au Royaume-Uni et en Allemagne.
Des systèmes algorithmiques qui « cachent » de potentiels candidats
Alors que les outils d’IA prennent de l’importance dans le paysage du recrutement, « une question critique apparaît, explique le FINDHR : ces outils contribuent-ils à élargir l’écart entre les postes ouvertes et les candidats qualifiés mais non-traditionnels ? »
Menée par Paksy Plackis-Cheng, l’équipe derrière le rapport s’est appuyée sur l’expertise de 110 personnes, dont 88 candidats, 16 experts en IA et six responsables de recrutement, pour tenter de répondre à cette question.
Pour creuser le sujet, elle a aussi mené deux expérimentations. La première a consisté à comparer les classifications de candidatures réalisées par des machines à d’autres, réalisées par les responsables – humains – d’une entreprise allemande. Résultat : de nombreuses candidatures considérées comme qualitatives par les recruteurs se prêtant au jeu ont reçu des scores plus faibles des évaluations automatisées.
Selon le FINDHR, la raison de ce déséquilibre est à chercher dans un endroit externe à la stricte correspondance entre les personnes en recherche d’emploi et les entités qui recrutent : elle se loge plutôt dans la capacité des machines à analyser les CV. Autrement dit, si le système ne parvient pas à lire et extraire correctement les informations pertinentes, il est possible qu’il assigne au document une note plus faible.
Au passage, les auteurs du rapport constatent aussi que les candidats n’ont pas toujours conscience d’avoir été soumis à un traitement automatisé. Et relèvent que, lorsqu’ils sont interrogés, quelle que soit leur origine, les demandeurs d’emploi peinent à comprendre comment agir sur ou avec ces machines.
Les femmes migrantes interrogées tendent par ailleurs « à davantage remarquer les biais et la discrimination dans les emplois dans la tech, où les expériences demandées sont plus simples à comparer ». L’une d’elles témoigne, par exemple, avoir reçu beaucoup plus de demandes d’entretien après avoir enlevé son lieu de naissance de son CV.
Le second test s’est plus spécifiquement centré sur les notations de candidatures telles que réalisées par plusieurs OSC utilisés en Europe (parmi lesquels ICIMS, Greenhouse, Ceipal ATS, Breezy HR, Jazz HR, Personio, Workable, Recruitee, FreshTeam et HierEZ). Ceux-ci étant très principalement propriétaires, le FINDHR a dû changer son fusil d’épaule et s’est rabattu sur le test d’un système britannique (Resume-matcher), disponible en open source.
À la suite de ses tests, le FINDHR constate que la machine considère systématiquement les CV locaux – britanniques dans le cas présent – meilleurs que ceux de personnes venues d’autres pays. Le fait de présenter des diplômes étrangers semble avoir le poids le plus négatif sur la note finale.
En s’appuyant sur les nationalités relevées dans les CV en question, les auteurs du rapport soulignent par ailleurs que les CV écrits par des personnes britanniques ou d’Inde sont ceux qui reçoivent les meilleures notes, tandis que ceux de personnes japonaises reçoivent les pires qualifications. « Cela suggère une potentielle préférence pour les groupes ethniques les plus représentés au Royaume-Uni. »
Transparence et outils de soutien
Pour éviter aux entreprises de se priver de potentielles candidatures adaptées à leur recherche, le FINDHR formule des recommandations relativement classiques en matière d’IA : aux législateurs, elle demande d’obliger à la transparence et l’accessibilité de ces systèmes pour des audits extérieurs. Elle recommande aussi la généralisation d’audits réguliers pour limiter les risques de biais.
Pour les entreprises, elle recommande aussi bien la transparence sur l’usage de ce type de technologies dans le processus de recrutement que la fourniture d’outils pour les candidats. En pratique, il s’agit de proposer des outils pour aider ces derniers à formater leurs documents de manière à les rendre facilement lisibles, comme le proposent déjà des services comme Textio, Resume-Matcher et Resume-Ranker. Selon le FINDHR, « ces adaptations augmentent non seulement les chances de passer l’analyse par le OSC, mais assure aussi que les qualifications de la personne soient efficacement transmises au potentiel employeur ».
Vous utilisez ce type de machine au quotidien et vous constatez des dysfonctionnements, ou au contraire des progrès dans vos processus de recrutement ? Vous avez candidaté auprès d’entreprises qui recouraient à ce type de technologie ?
Racontez-nous, en commentaire ou à [email protected] !
Comment les systèmes de recrutement automatisés cachent des profils qualifiés
-
Une problématique sociale avant d’être technique
-
Des systèmes algorithmiques qui « cachent » de potentiels candidats
-
Transparence et outils de soutien
Commentaires (9)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 06/03/2024 à 10h59
Et ce n'est pas que pour les systèmes automatisés. Il n'existe pas de formation pour être "RH" de nos jours, la plupart viennent d'écoles de commerce. Où on leur martèle que la compétence n'est rien si t'es pas en costard. Et ils reproduisent ça en entretien à défaut de formation, et on se retrouve (au lieu de corriger ça) à monter des bourses aux vêtements d'entretien d'embauche, on marche sur la tête.
Le défaut de formation transparait aussi dans les situations clichés que pourtant tlm a rencontré :
- Citez moi un défaut et là tu réponds "perfectionniste"
- Pourquoi avoir choisi notre entreprise ? alors que c'est eux qui t'ont démarché
- Vous êtes à combien actuellement ? bah c'est vous qui faites une offre, je suis pas avec mon manager à négocier une augmente, dites ce que vous proposez
- Où est-ce que vous vous voyez dans 5 ans ?
- Y'a pas de photo sur votre CV, pourquoi ?
- Racontez nous votre pire xp pro. et en fait faut pas répondre, c'est un piège
- Vous aimez voyager ? mais pas pour aller à la barbade ou acapulco, non, pour se tapper 3h de train de banlieue qui change chaque semaine en fonction du client
- Vous êtes à l'aise en anglais ? si tu réponds oui, l'entretien passe en anglais et si tu oses répondre non, ils savent pas quoi faire c'est pas dans le script
- J'ai vu que vous étiez expert Javascript. Euh non, expert Java.
-etc.
Alors forcément, vu comme le métier est très approximatif (même les cabinets de recrutement/chasseurs de tête ils sont passés en mode bouteille à la mer) la formalisation du besoin pour l'automatiser de manière informatisée a du être elle aussi très approximative.
Ajoutez à ça les biais d'apprentissage classique et Einstein qui te fait un CV hyper détaillé passe à la trappe parce que le mot clé "relativité générale" n'existe pas dans les critères de recherche et qu'il a oublié de mettre "physique newtonienne". Et c'est Jean-Eudes qui s'est fait conseiller pour rédiger son cv de prof d'education physique est sportive du collège newton de neuilly qui aura le poste. Et le temps qu'on s'aperçoive qu'il ne correspond pas, il se sera noyé dans la masse et gardera le job. Et surtout, JeanEudes il avait un brushing et une cravate alors que Einstein il avait les cheveux en pétard, rien que ça le disqualifie
Le 06/03/2024 à 11h12
Tiens, bisous :
https://iae.univ-nantes.fr/nos-formations/offre-de-formation/master-management-des-ressources-humaines
https://www.iae-paris.com/fr/master-rh-rse
https://www.iae-bordeaux.fr/programmes/etudiants-apprentis/masters-formation-initiale/master-gestion-des-ressources-humaines
https://iaelille.fr/formations/master-1-gestion-des-ressources-humaines/
https://www.iae-france.fr/formations/gestion-des-ressources-humaines-11/
Le 06/03/2024 à 11h15
Dans les faits, j'ai toujours rencontré des gens qui sortaient d'école de commerce ou de reconversions.
C'est bien si des formations existent pour ça.
Le 06/03/2024 à 11h22
Mais ça ne produit quand même que des gens :
- incapable de lire un CV plus grand qu'un timbre poste
- qui ne pige pas ce qu'ils lisent
Et on me sort que je ne sais pas me vendre. Bah ouais, j'ai pas fait d'école de commerce moi. Et pour un vrai CV qui voudrait dire quelque chose, il me faudrait plus de deux pages écrite en tout petit.
Le 06/03/2024 à 11h50
J'avais fait un CV d'une page pour 30 ans d'expérience.
Il faut savoir ne garder que ce qui est nécessaire et synthétiser. C'est un vrai travail, mais il montre que tu es capable d'avoir du recul et de réfléchir à ce qui est important.
Le 06/03/2024 à 11h34
En fait, il serait intéressant de savoir qui élimine le plus de candidats adaptés au poste.
Sinon, mettre son lieu de naissance sur un CV, ça se fait dans beaucoup de pays ?
Le 06/03/2024 à 11h50
Et pour info, pour l'avoir lu et expérimenté:
Chance de décrocher un entretien: 1/20
Chance de décrocher le job après entretien: 1/10
Moi j'ai eu de la chance, je n'ai eu qu'à envoyer une petite centaine de CV.
Et le pire, c'est soit les boîtes qui sont obligées de publier le poste en externe à cause de certaines réglementations mais c'est déjà décidé en interne.
Ou les cabinets de recrutement qui laissent volontairement des offres déjà pourvues et s'en servent comme "Honey Pot" pour enrichir leurs databases.
A foutre des grosses paires de baffes quand on entend ça en entretien.
Modifié le 06/03/2024 à 14h33
Cela dit, il y a plusieurs points qui sont d'une part nullement étonnants et d'autre part nullement choquants.
Ainsi...
"Si les femmes comptaient pour 46 % de l’ensemble des travailleurs dans l’Union européenne en 2021, elles n’étaient aussi que 34 % des plus de 38 millions de personnes employés dans les secteurs en tension, comme celui de l’ingénierie informatique, indique par exemple le FINDHR. En revanche, elles comptent pour 62 % des employés des secteurs les plus excédentaires, parmi lesquels celui des employés de bureau."
Bah oui, logique. Déjà dans les métiers en tension il n'y a pas que l'ingénierie, mais on ne précise pas lesquels autres. Pour peu qu'il y en ait pour lesquels les femmes ont souvent moins d'appétence pour x raison (ex boucherie -> refus de l'exploitation animale ou malaisance vis-à-vis de la viande, menuiserie ou maçonnerie -> métiers demandant un temps d'acclimatation sur le physique avec point de départ potentiellement plus "bas" en moyenne pour une femme) cela peut expliquer. À contrario "emploi de bureau" c'est tout et n'importe quoi.
Par ailleurs, les infléchissements de proportion homme/femme dans tel ou tel secteur ne se font pas en deux ans. Plutôt deux décennies, le temps qu'une vraie dynamique s'instaure au moment de la sélection du domaine d'études, puis que les gens se forment, puis qu'ils trouvent un travail stable.
Bref, je ne sais pas si le rapporteur voulait crier au loup mais ce n'est pas crédible.
"L’une d’elles témoigne, par exemple, avoir reçu beaucoup plus de demandes d’entretien après avoir enlevé son lieu de naissance de son CV."
Hors autre contexte difficile d'en tirer une vraie conclusion.
- Avait-elle mis son lieu de résidence actuel ? Sinon il était facile de faire une fausse supposition sur le fait qu'elle était toujours loin du taff envisagé.
- Avait-elle précisé que le français était sa langue natale, ou donné un "niveau" dans son CV ? Autrement à nouveau il y aura naturellement et légitimement un biais négatif : toutes choses égales par ailleurs, entre X qui parle nativement et Y pour lequel il y aurait des efforts à faire, un recruteur va toujours privilégier le moindre investissement. Or si un lieu de résidence est étranger, la réaction faussement logique mais intuitive est de déduire la langue natale du lieu de naissance, parce que cette déduction est valide dans >80% des cas.
"la machine considère systématiquement les CV locaux – britanniques dans le cas présent – meilleurs que ceux de personnes venues d’autres pays. Le fait de présenter des diplômes étrangers semble avoir le poids le plus négatif sur la note finale."
Oh bah ça alors quelle surprise, qui aurait pu s'y attendre...
Un recruteur a un cerveau : il est capable de "saisir" la dynamique de la personne et aller pousser, au besoin en cherchant par lui-même des infos sur tel ou tel cursus si vraiment le profil lui semble intéressant.
La machine se contente de mettre des évaluations uniquement sur les données fournies, par rapport aux grilles d'évaluation. Et ces grilles vont être alimentées en priorité sur les diplômes les plus susceptibles d'être présentés, et ensuite les autres par "cercles concentriques vers l'extérieur", en fonction des moyens.
Or l'étude indique s'être appuyée sur un système open source (quasi synonyme de manque de moyens hélas xd) et britannique. Il est donc fort probable que très peu de diplômes non britanniques soient référencés avec une note "réelle", et plutôt ignorés ou pondérés à une valeur arbitraire par défaut.
Pour illustrer le fait que la (mé)connaissance des cursus étrangers est un souci largement antérieur à l'arrivée des algorithmes, qui ne font que l'amplifier, notons que en France sortir de l'X est à peu près synonyme de clé universelle, tandis qu'aux USA beaucoup d'entreprises voient juste "Ecole" et pas "Université" et considèrent donc que c'est un truc mineur. xd
"En s’appuyant sur les nationalités relevées dans les CV en question, les auteurs du rapport soulignent par ailleurs que les CV écrits par des personnes britanniques ou d’Inde sont ceux qui reçoivent les meilleures notes, tandis que ceux de personnes japonaises reçoivent les pires qualifications."
Là encore, pas de quoi s'indigner sans autre contexte. Un des premiers trucs qu'on apprend aux étudiants (enfin les bons profs xd) est d'adapter le format du cv selon le pays et le stade de sa carrière, car les attendus ne sont pas du tout les mêmes selon les cultures. Le contenu également peut changer. Compte aussi la qualité linguistique (les japonais sont pire que les français sur les langues).
À moins que l'étude n'indique que les CVs ont tous été soumis en suivant le même formalisme et la même langue avec moulinette de correction préalable, le constat ne permet d'emporter aucune conclusion sérieuse...
Bref, la seule conclusion saine qu'on peut tirer de l'étude est...
"La machine est et sera toujours stupide, le recrutement requiert de l'intelligence".
Le 06/03/2024 à 18h09
Travail bâclé pour faire taire des syndicats qui les ont réclamé parfois des années.
Avec de tels torchons, les RH ne peuvent pas faire grand chose.