![[Algorithmique 2/6] Biaisé comme l’IA](https://next.ink/wp-content/uploads/2024/10/Algorithmique-ep2rectangle-300x146.webp "[Algorithmique 2/6] Biaisé comme l’IA")
![[Algorithmique 2/6] Biaisé comme l’IA](https://next.ink/wp-content/uploads/2024/10/Algorithmique-ep2rectangle-1024x498.webp "[Algorithmique 2/6] Biaisé comme l’IA")
Dans le deuxième épisode d'Algorithmique, Next reçoit l'informaticienne et spécialiste des sciences de l'éducation Isabelle Collet et la chercheuse en intelligence artificielle Raziye Buse Çetin.
Biais sexistes et racistes de ChatGPT, impossibilité, pour Midjourney ou Stable Diffusion, de représenter la diversité du monde, biais dans la promotion d'offres d'emploi sur les réseaux sociaux... Aussi performants qu'ils soient présentés, les systèmes algorithmiques commettent des erreurs, les modèles d'IA générative produisent des résultats biaisés, et cela crée chaque fois d'intenses débats sur ce que devraient être les bonnes représentations (si tant est qu'il existe des réponses fixes à ces questions).
Si elles sont rendues particulièrement évidentes par les errements de machines statistiques, ces questions de diversité des représentations sont loin d'être neuves dans le milieu informatique.
Pour en parler, Next a appelé Isabelle Collet, informaticienne, enseignante-chercheuse en sciences de l'éducation à l'Université de Genève et autrice de L'informatique a-t-elle un sexe ? Hackers, mythes et réalité (L'Harmattan, 2006) et Les oubliées du numérique (Le Passeur, 2019), et Raziye Buse Çetin, chercheuse indépendante en intelligence artificielle, notamment collaboratrice d'AI Forensics.
Pour écouter "Biaisé comme l'IA", vous avez plusieurs options : le player en bas de cet article, ou sur toutes les bonnes applications de podcast (parmi lesquelles Deezer, Podcast Addict, Spotify et Apple Podcast).
Pour ne manquer aucun futur épisode d'Algorithmique et nous aider à atteindre un large public, abonnez-vous et abonnez vos proches dès aujourd’hui au fil audio de Next.
Ressources :
- Peut-on corriger les biais des algorithmes ?
- Pourquoi dédier une journée à l’inclusion des femmes dans le numérique ?
- En Suisse comme en France, l’enjeu d’attirer et maintenir les femmes dans la tech
- Carrières en sciences : les stéréotypes de genre sont « une réalité alarmante »
- Un ingénieur alerte contre des pratiques sexistes, Meta cherche à le faire démissionner
- Electronic Tales, un projet pour combler le gap technique et culturel des développeurs en reconversion
- IA : la majorité du travail du clic « à la française » externalisée à Madagascar
- Le remplacement des travailleurs par l’IA, un récit peu nuancé
- En Espagne, des algorithmes défectueux régissent la gestion des arrêts maladie
- Comment les systèmes de recrutement automatisés cachent des profils qualifiés
- Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »
Crédits :
Algorithmique est un podcast de Mathilde Saliou produit par Next. Réalisation et mixage : Clarice Horn. Identité graphique : Flock. Rédaction en chef : Sébastien Gavois. Direction de la rédaction : Alexandre Laurent.
Musique : Oh the City - Computerized Synthesis of Happiness - Courtesy of Epidemic Sound / Ben Elson - 1983 - Courtesy of Epidemic Sound / Airae - All parts equal - Courtesy of Epidemic Sound / By Lotus - and Yos - Courtesy of Epidemic Sound / 369 - Dancing Pink Orbs - Courtesy of Epidemic Sound / Blue Saga - Silent Phrase - Courtesy of Epidemic Sound / 369 - Sweet Dreams, Sunray - Courtesy of Epidemic Sound / ELFL - The Flux Beneath it All - Courtesy of Epidemic Sound
[Algorithmique 2/6] Biaisé comme l’IA
Le podcast pour comprendre l'intelligence artificielle – par Next.ink
Pourquoi y a-t-il des biais dans les modèles d'IA ? Quels sont leurs effets ? Pour en parler, Next reçoit l'informaticienne et spécialiste des sciences de l'éducation Isabelle Collet et la chercheuse en intelligence artificielle Raziye Buse Çetin.
Durée : 00:41:36
Publié le 09 octobre à 17h14
Commentaires (4)
#1
J'ai écouté ce podcast intéressant, même si je trouve qu'il manque un point : le goût...
Je suis un homme, donc mon argument va peut être juger de machisme, mais dans ma promo (2000) d'école d'ingénieur en informatique sur 60 il y avait 3 filles..́
Je ne pense pas qu'il y a eu des dossiers rejeté juste par ce que c'était des filles, mais simplement qu'il n'y avait pas de candidates.
A l'inverse on s'était lié à une école de orthophoniste qui avait une proportion de 80 à 90% de filles...
Bref peut être que l'esprit féminin était moins intéressé par ses sujets ?
#1.1
Le "goût" est le résultat du biais systémique de la société.
#1.2
Sur la question du goût pour l'informatique (et les STEM en général), il y a beaucoup d'arguments en faveur de l'acquis : le fait qu'explique Isabelle Collet, sur la plus forte proportion de femmes dans les filières informatiques dans les pays où informaticien/ne est vu comme "un métier de femme" en est un.
En France / dans les pays occidentaux, les réflexions négatives dont témoignent certaines professionnelles, comme dans cet article, en sont un autre (en gros, si on aime l'informatique mais qu'on s'entend dire qu'on est nulle... on finit par ne plus aimer)
Cette large étude, qui a suscité beaucoup de commentaires, le montre bien aussi : Carrières en sciences : les stéréotypes de genre sont « une réalité alarmante »
Le dernier rapport du HCE donne aussi pas mal de billes sur la question. À l'époque, la co-rapporteure Catherine Ladousse expliquait qu'à cause de l'accueil qui leur est fait, en France, quand elles sont intéressées et qu’elles se lancent, les femmes et les filles « ont le sentiment de transgresser une norme de genre »,
L'article complet est là
Mais pour creuser le sujet, je vous recommande de lire Isabelle Collet, soit cet ancien article, soit son livre, plus récent et très accessible.
P.S. :
À l'inverse (et c'est là aussi bien expliqué dans Les oubliées du numérique, ou visible dans l'étude ci-dessus sur les carrières en science), que ce soit par leurs parents, leurs profs, ou la culture en général, les garçons sont beaucoup plus poussés vers les activités, les études, puis les carrières en science, technique, ingénierie, mathématiques. C'est visible jusque dans les jeux qu'on leur propose (cf, pour un exemple un peu caricatural tiré des 90's, le marketing de la ... game boy ;) )
Historique des modifications :
Posté le 10/10/2024 à 10h12
Sans parler de machisme, je crois que votre question en soulève une autre : le goût est-il inné ou acquis ?
Sur la question du goût pour l'informatique (et les STEM en général), il y a beaucoup d'arguments en faveur de l'acquis : le fait qu'explique Isabelle Collet, sur la plus forte proportion de femmes dans les filières informatiques dans les pays où informaticien/ne est vu comme "un métier de femme" en est un.
En France / dans les pays occidentaux, les réflexions négatives dont témoignent certaines professionnelles, comme dans cet article, en sont un autre (en gros, si on aime l'informatique mais qu'on s'entend dire qu'on est nulle... on finit par ne plus aimer)
Cette large étude, qui a suscité beaucoup de commentaires, le montre bien aussi : Carrières en sciences : les stéréotypes de genre sont « une réalité alarmante »
Le dernier rapport du HCE donne aussi pas mal de billes sur la question. À l'époque, la co-rapporteure Catherine Ladousse expliquait qu'à cause de l'accueil qui leur est fait, en France, quand elles sont intéressées et qu’elles se lancent, les femmes et les filles « ont le sentiment de transgresser une norme de genre »,
L'article complet est là
Mais pour creuser le sujet, je vous recommande de lire Isabelle Collet, soit cet ancien article, soit son livre, plus récent et très accessible.
Posté le 10/10/2024 à 10h27
Sans parler de machisme, je crois que votre question en soulève une autre : le goût est-il inné ou acquis ?
Sur la question du goût pour l'informatique (et les STEM en général), il y a beaucoup d'arguments en faveur de l'acquis : le fait qu'explique Isabelle Collet, sur la plus forte proportion de femmes dans les filières informatiques dans les pays où informaticien/ne est vu comme "un métier de femme" en est un.
En France / dans les pays occidentaux, les réflexions négatives dont témoignent certaines professionnelles, comme dans cet article, en sont un autre (en gros, si on aime l'informatique mais qu'on s'entend dire qu'on est nulle... on finit par ne plus aimer)
Cette large étude, qui a suscité beaucoup de commentaires, le montre bien aussi : Carrières en sciences : les stéréotypes de genre sont « une réalité alarmante »
Le dernier rapport du HCE donne aussi pas mal de billes sur la question. À l'époque, la co-rapporteure Catherine Ladousse expliquait qu'à cause de l'accueil qui leur est fait, en France, quand elles sont intéressées et qu’elles se lancent, les femmes et les filles « ont le sentiment de transgresser une norme de genre »,
L'article complet est là
Mais pour creuser le sujet, je vous recommande de lire Isabelle Collet, soit cet ancien article, soit son livre, plus récent et très accessible.
P.S. :
À l'inverse (et c'est là aussi bien expliqué dans Les oubliées du numérique, ou visible dans l'étude ci-dessus sur les carrières en science), que ce soit par leurs parents, leurs profs, ou la culture en général, les garçons sont beaucoup plus poussés vers les activités, les études, puis les carrières en science, technique, ingénierie, mathématiques. C'est visible jusque dans les jeux qu'on leur propose (cf, pour un exemple un peu caricatural tiré des 90's, le marketing de la ... game boy ;) )
#2
• Le CV anonyme n'a pas dit son dernier mot – cadremploi.fr (17-01-2014)
• Polémique autour d’une étude sur le CV anonyme – infos-discriminations.fr (24/04/2017)