Futur de l’IA : les femmes manquent dangereusement à l’appel
Le 05 décembre 2023 à 07h22
3 min
IA et algorithmes
IA
Les aléas chez OpenAI ont braqué le projecteur sur un des déséquilibres bien connus du monde des technologies : les femmes manquent à la discussion autour de ce qu’est l’intelligence artificielle (IA) et du futur que cette technologie réservera à l’humanité.
Après que Sam Altman a été viré d’OpenAI, déjà, des voix s’élevaient, comme celle de Margaret Mitchell, pour souligner un problème de plus en plus flagrant : où étaient les femmes dans la frénésie ambiante ?
Sam Altman est revenu, le conseil d’administration d’OpenAI a été recomposé, et il ne comporte désormais plus que des hommes blancs. La chercheuse en sécurité de l’IA Helen Toner et l’ingénieure en robotique Tasha McCauley sont parties, remplacées « par des hommes douteux », selon les mots de Futurism : l’un d’eux est Larry Summers, qui était l’ami du trafiquant sexuel et financier Jeffrey Espstein, selon le Washington Post.
Dans le Guardian, la chercheuse Luba Kassova aligne d’autres chiffres : parmi les gens qui ont signé l’appel à réintégrer Altman, 75 % étaient des hommes, un rapport équivalent à celui constaté par McKinsey dans son étude « The State of AI » en 2022.
Le problème ? Un tel manque de diversité a des effets déjà largement documentés (pour n’en citer qu’un seul, signalons l’ouvrage L’intelligence artificielle, pas sans elles !, publié en 2019 par Aude Bernheim et Flora Vincent) sur les stratégies adoptées, les technologies construites, et, à terme, sur la société.
Selon le Pew Research Center, les femmes américaines sont entre 8 et 16 % plus nombreuses que leurs compatriotes à se déclarer inquiètes au sujet d’une variété de cas d’usages de l’IA.
Outre une question d’industrie, tout cela est – aussi – un problème médiatique : selon le GDELT Project, les hommes ont près de quatre fois plus de chance d’être cités dans les articles de langue anglaise liés à l’IA.
Elles existent, pourtant – nous en interviewons régulièrement.
Dans un phénomène probablement pas dû au hasard, les plus audibles d’entre elles font même figures de proue de l’éthique de l’IA et des réflexions critiques du développement de l’écosystème.
Parmi elles, Timnit Gerbu, Sasha Luccioni et Meredith Whittaker ont expliqué à Wired que si on leur demandait, elles ne rejoindraient pas le conseil d’OpenAI. Principale raison avancée : la crainte de ne servir qu’à éteindre les critiques, sans avoir de pouvoir réel face aux alliés d’Altman.
- OpenAI : récit d’une semaine de folie
- Dangers des grands modèles de langage : des chercheuses avaient prévenu
- Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »
- Assises de la féminisation du numérique : « l’urgence » de diversifier l’industrie de la tech
Le 05 décembre 2023 à 07h22
Commentaires (23)
Vous devez être abonné pour pouvoir commenter.
Déjà abonné ? Se connecter
Abonnez-vousLe 05/12/2023 à 08h15
Pour répondre à la critique et aux risques de l'éthique, n'auraient-elles pas tout intérêt à construire leur propre structure et promouvoir cette vision ?
Le 05/12/2023 à 15h04
Pourquoi construire leur propre structure ? Tu te sens incapable de collaborer avec des femmes ?
Modifié le 05/12/2023 à 15h56
Je ne travaille pas pour OpenAI, quelle est le sens de cette question ? Quel est le sous-entendu ?
Le 05/12/2023 à 16h43
Le 05/12/2023 à 17h02
Un organisme de lobbying pour porter les valeurs éthiques autour du développement de l'IA est parfaitement réaliste et il en existe déjà. Je ne vois donc pas en quoi cette proposition serait irréaliste.
Tout comme des organismes de développement de l'IA centrés autour d'un usage plus éthique existent déjà aussi.
Modifié le 05/12/2023 à 17h20
J'ai cru comprendre que les femmes citées dans l'article sont déjà engagées dans des petites structures dont tu parles. C'est déjà grâce à ça qu'elles s'expriment sur l'IA. Est-ce suffisant ? Surtout que certains ont l'air de vouloir qu'elles se taisent ? Le dommage collatéral de cet état de fait est que "femmes" = "militantes" = "éthique". Alors que les femmes sont (devraient être) des décideurs comme les autres.
Le 05/12/2023 à 18h06
Lorsque je disais "construire leur propre structure et promouvoir cette vision", j'avais en tête l'exemple de Stability AI qui affiche certaines valeurs dans le développement de ses produits : ouverture, réduction de la consommation de ressources, transparence, etc. Soit un peu l'opposé complet d'OpenAI qui vend des boîtes noires propriétaires. Stable Diffusion est un produit open source, ses modèles sont librement utilisables, et ils peuvent tourner sur du GPU grand public.
Bien que leur discours soit entaché par l'opacité du dataset d'entraînement fourni par LAION pour développer Stable Diffusion cela dit (et qui a suscité quelques controverses).
De ce fait, j'estime que construire une structure de développement autour d'un modèle d'IA intégrant les diverses valeurs évoquées dans l'article reste possible (via un regroupement des diverses structures existantes par exemple). Dire que ça ne peut pas concurrencer OpenAI/Microsoft/Google/etc n'a aucune pertinence à mes yeux car c'est se contenter de pleurer au lieu d'agir. C'est le même genre de discours pessimiste que celui tenu par les personnes disant qu'on a aucun concurrent aux Cloud providers américains en Europe. Ce qui est faux.
Et pour donner un exemple personnel de ma vision : j'ai déjà émis plusieurs fois ici que je n'étais pas spécialement fan du traitement du sujet IA par Next. Et c'est pour ça que j'ai préféré proposer à Seb Gavois une contribution.
Le 05/12/2023 à 09h36
Le 05/12/2023 à 10h50
Blague à part, c'est dommage ce désintérêt (ou cette mise à l'écart?) car c'est donner du grain à moudre à toutes les féministes wokes a qui on donne beaucoup de visibilité en ce moment (grâce à Hollywood ou Netflix ?).
Le 05/12/2023 à 11h59
Le 05/12/2023 à 12h50
Où sont les hommes dans les professions de justice ?
https://www.radiofrance.fr/franceculture/podcasts/esprit-de-justice/femmes-dans-les-professions-judiciaires-entre-augmentation-et-discriminations-5516085
Le 05/12/2023 à 13h09
C'est ce qu'on a constaté avec l'essor des systèmes de télécommunications : les femmes étaient majoritaires dans les postes de standardistes, d'opératrices du téléphone alors que les hommes étaient directeurs. Dans les administrations, c'est encore le cas : les femmes sont majoritaires mais seulement dans les métiers opérationnels. Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.
Modifié le 05/12/2023 à 13h53
Dans la divison française d'un gros groupe WW où je suis, en moyenne, il faut 20 ans pour passer manager; soit dit autrement, les candidats envisageables sont entrés il y a environ 20 ans sur le marché du travail.
Modifié le 05/12/2023 à 16h40
Le 05/12/2023 à 13h54
Aucune raison ne peut justifier qu'on doit avoir 50/50 d'homme et de femme à chaque poste. Malheur au manager qui à un nombre impair de collaborateurs de nos jours !!! On ne peut pas forcer les gens; Hommes comme Femmes à rentrer dans ce moule. Y'a déjà bien trop à faire avec les autres moules (marinières?).
Cet article est fallacieux car il s'agit ici d'une situation bien spécifique et politique dans UNE seule société. Le titre prépare le lecteur dans une approche globale et l'idée colle à la peau durant la lecture. La conclusion arrive avant la démonstration... Et de faire d'une généralité un cas unique il n'y a qu'un pas.
Les justifications sont au mieux malhonnêtes. Exemple depuis le lien Guardian :
"for example, of the 702 (out of 750) employees who signed the letter demanding Altman’s reinstatement more than 75% were men,".
On nous dit que +75% de ceux qui ont demandé le retour d'Altman sont des hommes. Donc qu'il y a 25% de femmes dans le lot. Ou alors dans ce 25% c'est tous des transgenres, Wokiste, UltraVegan combiné.
Il ne peut pas être exclu que ce genre de choix n'est pas le fait du sexe mais tout simplement de la situation sociale de chacun. Les gens vont "voter" pour leurs propres intérêts. Hommes comme Femmes. Rien à voir avec leur sexe.
Bon et puis McKinsey... c'est sujet à vérification, c'est pas comme se c'était une blanche colombe.
Je veux bien qu'on fasse de la récup de l'AFP quand la situation est difficile ou qu'il y ait un changement de cap, mais bon faut filtrer le BS un peu.
Le 05/12/2023 à 14h02
Le 05/12/2023 à 15h02
Le tout avec toujours les mêmes éléments de langage proche des réacs.
Surtout ne changez rien...
Modifié le 05/12/2023 à 17h30
Et aussi les groupes ethniques.
Dans l'ordre des priorités, je suis quasiment certain que les femmes ca passe après.
Ou pas. Je ne sais plus. Qui a la liste des priorités déjà ?
Le 05/12/2023 à 17h58
Vu que celles-ci doivent être classées par couleur de peaux, genre voire religion.
La seule chose qui est remarqué ici c'est que les femmes représentent autour 50% de la population mondiale et que donc on pourrait s'attendre à ce que leur représentation dans certains secteurs ne soit pas proche de 0%.
Mais après quand on gratte un peu les commentaires des réacs, on s'aperçoit que leur conception de la place des femmes n'est pas si différente du 18e siècle.
Le 06/12/2023 à 11h22
Les asiatiques représentent autour 60% de la population mondiale.
Et US+Europe seulement 14% de la population mondiale.
La représentativité multi-critère idéale impliquera de selectionner des individus pour remplir les quotas, et on retombera dans les critiques habituelles sur les quotas: "je ne veux pas servir de caution", "compétence vs quota", ...
Modifié le 06/12/2023 à 22h07
Le 05/12/2023 à 18h38
Non, rien à dire.
Le titre est parfait.
Il n'y a aucune statistique biaisée. Merci de nous informer.
Les 75 pourcents d'hommes représentent exactement la proportion d'hommes chez OpenAI. Les autres ont donc voté pour le retour comme les hommes. Source : https://www.lesnumeriques.com/vie-du-net/qui-est-openai-l-entreprise-derriere-dall-e-chatgpt-et-le-developpement-tous-azimuts-de-l-intelligence-artificielle-a201033.html
Alors,oui, il y a beaucoup d'hommes chez eux, mais ça n'a rien de spécifique à eux, ni même à l'IA, c'est général à la tech. Ils ont peut-être moins d'hommes que d'autres boîtes de la tech en fait.
Quant à la stat sur l'inquiétude des femmes américaines sur l'IA, elle l'air d'avoir des causes diverses dont la moins bonne connaissance du sujet, à partir de là, ce n'est pas un argument pertinent pour la présence de femmes au board d'OpenAI, mais pas non plus de leur absence. C'est juste hors sujet. Et ce même si moi aussi je suis contre l'IA dans les voitures autonomes : je préfère du déterminisme plutôt que des statistiques quand il s'agit de la vie des gens.
Le 06/12/2023 à 22h05