Début 2024, en s'appuyant sur le modèle GPT-4 d'OpenAI, le ministère du Travail autrichien a lancé un agent conversationnel censé orienter les étudiants et demandeurs d’emploi, le « Berufsinfomat » (que le chatbot traduit par « informateur professionnel », en français).

Problème, révèle Der Standard : non seulement le produit fini présente des défauts techniques « flagrants », mais il produit des préjugés « à tout-va ».

À CV égal, la machine propose par exemple aux candidats masculins de postuler dans l’informatique, mais redirigent les candidates vers les études de genre ou la restauration. Une problématique étudiée depuis longtemps dans le domaine de l’intelligence artificielle, donc potentiellement prévisible par l’organisme.

Sa version anglaise propose aussi des traductions probablement réalisées de manière automatique et non vérifiée : elle propose par exemple le choix entre les options de salutations « She/You » (« Elle/tu »), ce qui n'a pas de sens, sauf si l’on considère qu’en allemand, on utilise « Sie » pour dire vous (sachant que selon le contexte, ce pronom peut aussi signifier « elle ») et « Du » pour le tutoiement.

Quant au programme derrière le robot, « on dirait que le code a été écrit par GPT-4 » se moque le développeur Mario Zechner, qui en détaille le contenu sur X (ex-Twitter).

Auprès du Standard, Mario Zechner qualifie le produit de « poudre de perlimpinpin » refourguée au pôle emploi autrichien pour une somme tournant officiellement autour de 300 000 euros. Auprès du média, l’agence estime en revanche la dépense justifiée.

• Peut-on corriger les biais des algorithmes ?
• Les modèles d’IA génératifs renforcent les biais humains