Publié dans IA et algorithmesSociété numérique

23

Futur de l’IA : les femmes manquent dangereusement à l’appel

Debout, une femme en pull bleu montre à une autre, assise, quelque chose à son écran d'ordinateur.

Les aléas chez OpenAI ont braqué le projecteur sur un des déséquilibres bien connus du monde des technologies : les femmes manquent à la discussion autour de ce qu’est l’intelligence artificielle (IA) et du futur que cette technologie réservera à l’humanité.

Après que Sam Altman a été viré d’OpenAI, déjà, des voix s’élevaient, comme celle de Margaret Mitchell, pour souligner un problème de plus en plus flagrant : où étaient les femmes dans la frénésie ambiante ?

Sam Altman est revenu, le conseil d’administration d’OpenAI a été recomposé, et il ne comporte désormais plus que des hommes blancs. La chercheuse en sécurité de l’IA Helen Toner et l’ingénieure en robotique Tasha McCauley sont parties, remplacées « par des hommes douteux », selon les mots de Futurism : l’un d’eux est Larry Summers, qui était l’ami du trafiquant sexuel et financier Jeffrey Espstein, selon le Washington Post.

Dans le Guardian, la chercheuse Luba Kassova aligne d’autres chiffres : parmi les gens qui ont signé l’appel à réintégrer Altman, 75 % étaient des hommes, un rapport équivalent à celui constaté par McKinsey dans son étude « The State of AI » en 2022.

Le problème ? Un tel manque de diversité a des effets déjà largement documentés (pour n’en citer qu’un seul, signalons l’ouvrage L’intelligence artificielle, pas sans elles !, publié en 2019 par Aude Bernheim et Flora Vincent) sur les stratégies adoptées, les technologies construites, et, à terme, sur la société.

Selon le Pew Research Center, les femmes américaines sont entre 8 et 16 % plus nombreuses que leurs compatriotes à se déclarer inquiètes au sujet d’une variété de cas d’usages de l’IA.

Outre une question d’industrie, tout cela est – aussi – un problème médiatique : selon le GDELT Project, les hommes ont près de quatre fois plus de chance d’être cités dans les articles de langue anglaise liés à l’IA.

Elles existent, pourtant – nous en interviewons régulièrement.

Dans un phénomène probablement pas dû au hasard, les plus audibles d’entre elles font même figures de proue de l’éthique de l’IA et des réflexions critiques du développement de l’écosystème.

Parmi elles, Timnit Gerbu, Sasha Luccioni et Meredith Whittaker ont expliqué à Wired que si on leur demandait, elles ne rejoindraient pas le conseil d’OpenAI. Principale raison avancée : la crainte de ne servir qu’à éteindre les critiques, sans avoir de pouvoir réel face aux alliés d’Altman.

23

Tiens, en parlant de ça :

La Section 702 de la loi sur la surveillance du renseignement étranger (Foreign Intelligence Surveillance Act – FISA)

Aux USA, la surveillance des communications d’étrangers sans mandat (FISA) fait débat

Aller FISSA au Sénat

15:40 DroitSécu 2
logo apple en devanture de boutique

Apple autorise puis supprime un émulateur Game Boy sur iOS

Quel est ce phoque ?

14:09 Soft 15
Logo d'Android 14

Android 15 bêta : Wallet par défaut, sécurité des réseaux mobiles et Wi-Fi, bugs sur le NFC

Ce n’est PAS une révolution

11:15 Soft 6
23

Fermer

Commentaires (23)


où étaient les femmes dans la frénésie ambiante ?

Parmi elles, Timnit Gerbu, Sasha Luccioni et Meredith Whittaker ont expliqué à Wired que si on leur demandait, elles ne rejoindraient pas le conseil d’OpenAI. Principale raison avancée : la crainte de ne servir qu’à éteindre les critiques, sans avoir de pouvoir réel face aux alliés d’Altman.


Au final vous répondez à la question de départ. Pourquoi les femmes sont-elles absentes du board OpenAI ? Car visiblement elles ne veulent pas le rejoindre.

Pour répondre à la critique et aux risques de l'éthique, n'auraient-elles pas tout intérêt à construire leur propre structure et promouvoir cette vision ?
Elles veulent simplement ne par servir de potiches sans pouvoir décisionnel.

Pourquoi construire leur propre structure ? Tu te sens incapable de collaborer avec des femmes ?

carbier

Elles veulent simplement ne par servir de potiches sans pouvoir décisionnel.

Pourquoi construire leur propre structure ? Tu te sens incapable de collaborer avec des femmes ?
Pourquoi construire leur propre structure ?


Parce qu'il n'y en aurait visiblement pas qui serait en phase avec leurs valeurs. C'est donc un choix qui me paraît logique pour promouvoir celles-ci.
Tu te sens incapable de collaborer avec des femmes ?


Je ne travaille pas pour OpenAI, quelle est le sens de cette question ? Quel est le sous-entendu ?
Modifié le 05/12/2023 à 15h56

SebGF

Pourquoi construire leur propre structure ?


Parce qu'il n'y en aurait visiblement pas qui serait en phase avec leurs valeurs. C'est donc un choix qui me paraît logique pour promouvoir celles-ci.
Tu te sens incapable de collaborer avec des femmes ?


Je ne travaille pas pour OpenAI, quelle est le sens de cette question ? Quel est le sous-entendu ?
Aucun des Gafam n'a eu l'idée que tu suggères, en tout cas. C'est un choix de la structure, j'ai envie de dire.

consommateurnumérique

Aucun des Gafam n'a eu l'idée que tu suggères, en tout cas. C'est un choix de la structure, j'ai envie de dire.
Je n'ai pas compris le propos ni ce qu'est "la structure". Si tu parles d'OpenAI, ils n'ont pas le monopole sur le développement dans le domaine. C'est juste un bruyant acteur parmi d'autres.

Un organisme de lobbying pour porter les valeurs éthiques autour du développement de l'IA est parfaitement réaliste et il en existe déjà. Je ne vois donc pas en quoi cette proposition serait irréaliste.

Tout comme des organismes de développement de l'IA centrés autour d'un usage plus éthique existent déjà aussi.

SebGF

Je n'ai pas compris le propos ni ce qu'est "la structure". Si tu parles d'OpenAI, ils n'ont pas le monopole sur le développement dans le domaine. C'est juste un bruyant acteur parmi d'autres.

Un organisme de lobbying pour porter les valeurs éthiques autour du développement de l'IA est parfaitement réaliste et il en existe déjà. Je ne vois donc pas en quoi cette proposition serait irréaliste.

Tout comme des organismes de développement de l'IA centrés autour d'un usage plus éthique existent déjà aussi.
S'il faut compter sur Mozilla (et autres petits acteurs) pour contrer à la fois Google, Microsoft/OpenAI, Meta, je ne vois pas très bien où sera la place des femmes dans la conception de l'IA, surtout que la place des femmes est un problème qui n'est pas spécifique à la tech, et encore moins à l'IA.

J'ai cru comprendre que les femmes citées dans l'article sont déjà engagées dans des petites structures dont tu parles. C'est déjà grâce à ça qu'elles s'expriment sur l'IA. Est-ce suffisant ? Surtout que certains ont l'air de vouloir qu'elles se taisent ? Le dommage collatéral de cet état de fait est que "femmes" = "militantes" = "éthique". Alors que les femmes sont (devraient être) des décideurs comme les autres.
Modifié le 05/12/2023 à 17h20

consommateurnumérique

S'il faut compter sur Mozilla (et autres petits acteurs) pour contrer à la fois Google, Microsoft/OpenAI, Meta, je ne vois pas très bien où sera la place des femmes dans la conception de l'IA, surtout que la place des femmes est un problème qui n'est pas spécifique à la tech, et encore moins à l'IA.

J'ai cru comprendre que les femmes citées dans l'article sont déjà engagées dans des petites structures dont tu parles. C'est déjà grâce à ça qu'elles s'expriment sur l'IA. Est-ce suffisant ? Surtout que certains ont l'air de vouloir qu'elles se taisent ? Le dommage collatéral de cet état de fait est que "femmes" = "militantes" = "éthique". Alors que les femmes sont (devraient être) des décideurs comme les autres.
Je ne comprends vraiment pas la direction du propos en fait qui me semble affreusement défaitiste.

Lorsque je disais "construire leur propre structure et promouvoir cette vision", j'avais en tête l'exemple de Stability AI qui affiche certaines valeurs dans le développement de ses produits : ouverture, réduction de la consommation de ressources, transparence, etc. Soit un peu l'opposé complet d'OpenAI qui vend des boîtes noires propriétaires. Stable Diffusion est un produit open source, ses modèles sont librement utilisables, et ils peuvent tourner sur du GPU grand public.

Bien que leur discours soit entaché par l'opacité du dataset d'entraînement fourni par LAION pour développer Stable Diffusion cela dit (et qui a suscité quelques controverses).

De ce fait, j'estime que construire une structure de développement autour d'un modèle d'IA intégrant les diverses valeurs évoquées dans l'article reste possible (via un regroupement des diverses structures existantes par exemple). Dire que ça ne peut pas concurrencer OpenAI/Microsoft/Google/etc n'a aucune pertinence à mes yeux car c'est se contenter de pleurer au lieu d'agir. C'est le même genre de discours pessimiste que celui tenu par les personnes disant qu'on a aucun concurrent aux Cloud providers américains en Europe. Ce qui est faux.

Et pour donner un exemple personnel de ma vision : j'ai déjà émis plusieurs fois ici que je n'étais pas spécialement fan du traitement du sujet IA par Next. Et c'est pour ça que j'ai préféré proposer à Seb Gavois une contribution.
Si elles manquent à la pelle, c'est qu'elles savent pas creuser
Si c'est pour interdire les features facilitant les deep fake de nudes, c'est pas intéressant!
Blague à part, c'est dommage ce désintérêt (ou cette mise à l'écart?) car c'est donner du grain à moudre à toutes les féministes wokes a qui on donne beaucoup de visibilité en ce moment (grâce à Hollywood ou Netflix ?).
Open science by Gafam
Et inversement :

Où sont les hommes dans les professions de justice ?

https://www.radiofrance.fr/franceculture/podcasts/esprit-de-justice/femmes-dans-les-professions-judiciaires-entre-augmentation-et-discriminations-5516085
J'ai écouté 7 minutes de l'émission et j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.

C'est ce qu'on a constaté avec l'essor des systèmes de télécommunications : les femmes étaient majoritaires dans les postes de standardistes, d'opératrices du téléphone alors que les hommes étaient directeurs. Dans les administrations, c'est encore le cas : les femmes sont majoritaires mais seulement dans les métiers opérationnels. Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.

consommateurnumérique

J'ai écouté 7 minutes de l'émission et j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.

C'est ce qu'on a constaté avec l'essor des systèmes de télécommunications : les femmes étaient majoritaires dans les postes de standardistes, d'opératrices du téléphone alors que les hommes étaient directeurs. Dans les administrations, c'est encore le cas : les femmes sont majoritaires mais seulement dans les métiers opérationnels. Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.
j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.
Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.


Parce que c'est bien connu qu'en sortant d'école, tu accèdes instantanément à un poste à responsabilités.

Dans la divison française d'un gros groupe WW où je suis, en moyenne, il faut 20 ans pour passer manager; soit dit autrement, les candidats envisageables sont entrés il y a environ 20 ans sur le marché du travail.
Modifié le 05/12/2023 à 13h53

Myifee

j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.
Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.


Parce que c'est bien connu qu'en sortant d'école, tu accèdes instantanément à un poste à responsabilités.

Dans la divison française d'un gros groupe WW où je suis, en moyenne, il faut 20 ans pour passer manager; soit dit autrement, les candidats envisageables sont entrés il y a environ 20 ans sur le marché du travail.
Il n'y avait pas de femmes ingé, il y a 20 ans ? C'est ce que tu veux dire ? Moi, je peux te parler du syndrome de la Schtroumpfette, le syndrome de l'imposteur qui touchent surtout les femmes, les préjugés systémiques sur le manque d'autorité supposé des femmes (dont parle l'une des intervenantes dans le podcast cité par croustx), etc. Je sais que ces sujets n'intéressent pas beaucoup d'hommes qui s'imaginent trimer déjà bien assez professionnellement.
Modifié le 05/12/2023 à 16h40
Insupportable! C'est toujours le même délire. C'est un disque rayé.

Aucune raison ne peut justifier qu'on doit avoir 50/50 d'homme et de femme à chaque poste. Malheur au manager qui à un nombre impair de collaborateurs de nos jours !!! On ne peut pas forcer les gens; Hommes comme Femmes à rentrer dans ce moule. Y'a déjà bien trop à faire avec les autres moules (marinières?).

Cet article est fallacieux car il s'agit ici d'une situation bien spécifique et politique dans UNE seule société. Le titre prépare le lecteur dans une approche globale et l'idée colle à la peau durant la lecture. La conclusion arrive avant la démonstration... Et de faire d'une généralité un cas unique il n'y a qu'un pas.

Les justifications sont au mieux malhonnêtes. Exemple depuis le lien Guardian :
"for example, of the 702 (out of 750) employees who signed the letter demanding Altman’s reinstatement more than 75% were men,".

On nous dit que +75% de ceux qui ont demandé le retour d'Altman sont des hommes. Donc qu'il y a 25% de femmes dans le lot. Ou alors dans ce 25% c'est tous des transgenres, Wokiste, UltraVegan combiné.

Il ne peut pas être exclu que ce genre de choix n'est pas le fait du sexe mais tout simplement de la situation sociale de chacun. Les gens vont "voter" pour leurs propres intérêts. Hommes comme Femmes. Rien à voir avec leur sexe.

Bon et puis McKinsey... c'est sujet à vérification, c'est pas comme se c'était une blanche colombe.


Je veux bien qu'on fasse de la récup de l'AFP quand la situation est difficile ou qu'il y ait un changement de cap, mais bon faut filtrer le BS un peu.

Sam Altman est revenu, le conseil d’administration d’OpenAI a été recomposé, et il ne comporte désormais plus que des hommes blancs.


ça va, on ne vous gêne pas trop ?
Un sujet sur les femmes dans la tech et on voit toujours le même disque rayé dans les commentaires de la part de geeks dont on comprend à travers les lignes que leur principal problème c'est la place des femmes dans la société.
Le tout avec toujours les mêmes éléments de langage proche des réacs.

Surtout ne changez rien...
les femmes manquent à la discussion autour de ce qu’est l’intelligence artificielle (IA) et du futur que cette technologie réservera à l’humanité.


La question importantr c'est de savoir si la commu LGBT a été consultée.
Et aussi les groupes ethniques.
Dans l'ordre des priorités, je suis quasiment certain que les femmes ca passe après.

Ou pas. Je ne sais plus. Qui a la liste des priorités déjà ?
Modifié le 05/12/2023 à 17h30
Il semble que le simple fait de travailler en commun soit un concept étranger à certaines personnes.
Vu que celles-ci doivent être classées par couleur de peaux, genre voire religion.

La seule chose qui est remarqué ici c'est que les femmes représentent autour 50% de la population mondiale et que donc on pourrait s'attendre à ce que leur représentation dans certains secteurs ne soit pas proche de 0%.

Mais après quand on gratte un peu les commentaires des réacs, on s'aperçoit que leur conception de la place des femmes n'est pas si différente du 18e siècle.

carbier

Il semble que le simple fait de travailler en commun soit un concept étranger à certaines personnes.
Vu que celles-ci doivent être classées par couleur de peaux, genre voire religion.

La seule chose qui est remarqué ici c'est que les femmes représentent autour 50% de la population mondiale et que donc on pourrait s'attendre à ce que leur représentation dans certains secteurs ne soit pas proche de 0%.

Mais après quand on gratte un peu les commentaires des réacs, on s'aperçoit que leur conception de la place des femmes n'est pas si différente du 18e siècle.
Les femmes représentent autour 50% de la population mondiale. Certes.

Les asiatiques représentent autour 60% de la population mondiale.
Et US+Europe seulement 14% de la population mondiale.

La représentativité multi-critère idéale impliquera de selectionner des individus pour remplir les quotas, et on retombera dans les critiques habituelles sur les quotas: "je ne veux pas servir de caution", "compétence vs quota", ...

carbier

Il semble que le simple fait de travailler en commun soit un concept étranger à certaines personnes.
Vu que celles-ci doivent être classées par couleur de peaux, genre voire religion.

La seule chose qui est remarqué ici c'est que les femmes représentent autour 50% de la population mondiale et que donc on pourrait s'attendre à ce que leur représentation dans certains secteurs ne soit pas proche de 0%.

Mais après quand on gratte un peu les commentaires des réacs, on s'aperçoit que leur conception de la place des femmes n'est pas si différente du 18e siècle.
Ce que tu peux être bête.
Modifié le 06/12/2023 à 22h07
Quelque chose à dire ?
Non, rien à dire.
Le titre est parfait.
Il n'y a aucune statistique biaisée. Merci de nous informer.

Les 75 pourcents d'hommes représentent exactement la proportion d'hommes chez OpenAI. Les autres ont donc voté pour le retour comme les hommes. Source : https://www.lesnumeriques.com/vie-du-net/qui-est-openai-l-entreprise-derriere-dall-e-chatgpt-et-le-developpement-tous-azimuts-de-l-intelligence-artificielle-a201033.html
Alors,oui, il y a beaucoup d'hommes chez eux, mais ça n'a rien de spécifique à eux, ni même à l'IA, c'est général à la tech. Ils ont peut-être moins d'hommes que d'autres boîtes de la tech en fait.
Quant à la stat sur l'inquiétude des femmes américaines sur l'IA, elle l'air d'avoir des causes diverses dont la moins bonne connaissance du sujet, à partir de là, ce n'est pas un argument pertinent pour la présence de femmes au board d'OpenAI, mais pas non plus de leur absence. C'est juste hors sujet. Et ce même si moi aussi je suis contre l'IA dans les voitures autonomes : je préfère du déterminisme plutôt que des statistiques quand il s'agit de la vie des gens.
On s'en fout mais d'une force...