Publié dans IA et algorithmesSociété numérique

23

Futur de l’IA : les femmes manquent dangereusement à l’appel

Debout, une femme en pull bleu montre à une autre, assise, quelque chose à son écran d'ordinateur.

Les aléas chez OpenAI ont braqué le projecteur sur un des déséquilibres bien connus du monde des technologies : les femmes manquent à la discussion autour de ce qu’est l’intelligence artificielle (IA) et du futur que cette technologie réservera à l’humanité.

Après que Sam Altman a été viré d’OpenAI, déjà, des voix s’élevaient, comme celle de Margaret Mitchell, pour souligner un problème de plus en plus flagrant : où étaient les femmes dans la frénésie ambiante ?

Sam Altman est revenu, le conseil d’administration d’OpenAI a été recomposé, et il ne comporte désormais plus que des hommes blancs. La chercheuse en sécurité de l’IA Helen Toner et l’ingénieure en robotique Tasha McCauley sont parties, remplacées « par des hommes douteux », selon les mots de Futurism : l’un d’eux est Larry Summers, qui était l’ami du trafiquant sexuel et financier Jeffrey Espstein, selon le Washington Post.

Dans le Guardian, la chercheuse Luba Kassova aligne d’autres chiffres : parmi les gens qui ont signé l’appel à réintégrer Altman, 75 % étaient des hommes, un rapport équivalent à celui constaté par McKinsey dans son étude « The State of AI » en 2022.

Le problème ? Un tel manque de diversité a des effets déjà largement documentés (pour n’en citer qu’un seul, signalons l’ouvrage L’intelligence artificielle, pas sans elles !, publié en 2019 par Aude Bernheim et Flora Vincent) sur les stratégies adoptées, les technologies construites, et, à terme, sur la société.

Selon le Pew Research Center, les femmes américaines sont entre 8 et 16 % plus nombreuses que leurs compatriotes à se déclarer inquiètes au sujet d’une variété de cas d’usages de l’IA.

Outre une question d’industrie, tout cela est – aussi – un problème médiatique : selon le GDELT Project, les hommes ont près de quatre fois plus de chance d’être cités dans les articles de langue anglaise liés à l’IA.

Elles existent, pourtant – nous en interviewons régulièrement.

Dans un phénomène probablement pas dû au hasard, les plus audibles d’entre elles font même figures de proue de l’éthique de l’IA et des réflexions critiques du développement de l’écosystème.

Parmi elles, Timnit Gerbu, Sasha Luccioni et Meredith Whittaker ont expliqué à Wired que si on leur demandait, elles ne rejoindraient pas le conseil d’OpenAI. Principale raison avancée : la crainte de ne servir qu’à éteindre les critiques, sans avoir de pouvoir réel face aux alliés d’Altman.

23

Tiens, en parlant de ça :

Spécialiste des signalements, Point de Contact s’apprête à déposer le bilan

Silence éloquent

17:49 SocialsSociété 4
Façade du bâtiment du New York Times

OpenAI contre-attaque et accuse le New York Times d’avoir « hacké » ses produits

16:27 DroitIA 3
Photo de la Maison-Blanche

Chine, Russie… Joe Biden veut interdire l’envoi de données sensibles américaines à six pays

Fort de roquefort

15:30 DroitSécu 2
Le brief de ce matin n'est pas encore là

Partez acheter vos croissants
Et faites chauffer votre bouilloire,
Le brief arrive dans un instant,
Tout frais du matin, gardez espoir.

23

Commentaires (23)


SebGF Abonné
Le 05/12/2023 à 08h 15
> où étaient les femmes dans la frénésie ambiante ?

> Parmi elles, Timnit Gerbu, Sasha Luccioni et Meredith Whittaker ont expliqué à Wired que si on leur demandait, elles ne rejoindraient pas le conseil d’OpenAI. Principale raison avancée : la crainte de ne servir qu’à éteindre les critiques, sans avoir de pouvoir réel face aux alliés d’Altman.

Au final vous répondez à la question de départ. Pourquoi les femmes sont-elles absentes du board OpenAI ? Car visiblement elles ne veulent pas le rejoindre.

Pour répondre à la critique et aux risques de l'éthique, n'auraient-elles pas tout intérêt à construire leur propre structure et promouvoir cette vision ?
carbier Abonné
Le 05/12/2023 à 15h 04
Elles veulent simplement ne par servir de potiches sans pouvoir décisionnel.

Pourquoi construire leur propre structure ? Tu te sens incapable de collaborer avec des femmes ?
SebGF Abonné
Le 05/12/2023 à 15h 55

carbier

Elles veulent simplement ne par servir de potiches sans pouvoir décisionnel.

Pourquoi construire leur propre structure ? Tu te sens incapable de collaborer avec des femmes ?
> Pourquoi construire leur propre structure ?

Parce qu'il n'y en aurait visiblement pas qui serait en phase avec leurs valeurs. C'est donc un choix qui me paraît logique pour promouvoir celles-ci.

> Tu te sens incapable de collaborer avec des femmes ?

Je ne travaille pas pour OpenAI, quelle est le sens de cette question ? Quel est le sous-entendu ?
Modifié le 05/12/2023 à 15h56
Le 05/12/2023 à 16h 43

SebGF

> Pourquoi construire leur propre structure ?

Parce qu'il n'y en aurait visiblement pas qui serait en phase avec leurs valeurs. C'est donc un choix qui me paraît logique pour promouvoir celles-ci.

> Tu te sens incapable de collaborer avec des femmes ?

Je ne travaille pas pour OpenAI, quelle est le sens de cette question ? Quel est le sous-entendu ?
Aucun des Gafam n'a eu l'idée que tu suggères, en tout cas. C'est un choix de la structure, j'ai envie de dire.
SebGF Abonné
Le 05/12/2023 à 17h 02

consommateurnumérique

Aucun des Gafam n'a eu l'idée que tu suggères, en tout cas. C'est un choix de la structure, j'ai envie de dire.
Je n'ai pas compris le propos ni ce qu'est "la structure". Si tu parles d'OpenAI, ils n'ont pas le monopole sur le développement dans le domaine. C'est juste un bruyant acteur parmi d'autres.

Un organisme de lobbying pour porter les valeurs éthiques autour du développement de l'IA est parfaitement réaliste et il en existe déjà. Je ne vois donc pas en quoi cette proposition serait irréaliste.

Tout comme des organismes de développement de l'IA centrés autour d'un usage plus éthique existent déjà aussi.
Le 05/12/2023 à 17h 16

SebGF

Je n'ai pas compris le propos ni ce qu'est "la structure". Si tu parles d'OpenAI, ils n'ont pas le monopole sur le développement dans le domaine. C'est juste un bruyant acteur parmi d'autres.

Un organisme de lobbying pour porter les valeurs éthiques autour du développement de l'IA est parfaitement réaliste et il en existe déjà. Je ne vois donc pas en quoi cette proposition serait irréaliste.

Tout comme des organismes de développement de l'IA centrés autour d'un usage plus éthique existent déjà aussi.
S'il faut compter sur Mozilla (et autres petits acteurs) pour contrer à la fois Google, Microsoft/OpenAI, Meta, je ne vois pas très bien où sera la place des femmes dans la conception de l'IA, surtout que la place des femmes est un problème qui n'est pas spécifique à la tech, et encore moins à l'IA.

J'ai cru comprendre que les femmes citées dans l'article sont déjà engagées dans des petites structures dont tu parles. C'est déjà grâce à ça qu'elles s'expriment sur l'IA. Est-ce suffisant ? Surtout que certains ont l'air de vouloir qu'elles se taisent ? Le dommage collatéral de cet état de fait est que "femmes" = "militantes" = "éthique". Alors que les femmes sont (devraient être) des décideurs comme les autres.
Modifié le 05/12/2023 à 17h20
SebGF Abonné
Le 05/12/2023 à 18h 06

consommateurnumérique

S'il faut compter sur Mozilla (et autres petits acteurs) pour contrer à la fois Google, Microsoft/OpenAI, Meta, je ne vois pas très bien où sera la place des femmes dans la conception de l'IA, surtout que la place des femmes est un problème qui n'est pas spécifique à la tech, et encore moins à l'IA.

J'ai cru comprendre que les femmes citées dans l'article sont déjà engagées dans des petites structures dont tu parles. C'est déjà grâce à ça qu'elles s'expriment sur l'IA. Est-ce suffisant ? Surtout que certains ont l'air de vouloir qu'elles se taisent ? Le dommage collatéral de cet état de fait est que "femmes" = "militantes" = "éthique". Alors que les femmes sont (devraient être) des décideurs comme les autres.
Je ne comprends vraiment pas la direction du propos en fait qui me semble affreusement défaitiste.

Lorsque je disais "construire leur propre structure et promouvoir cette vision", j'avais en tête l'exemple de Stability AI qui affiche certaines valeurs dans le développement de ses produits : ouverture, réduction de la consommation de ressources, transparence, etc. Soit un peu l'opposé complet d'OpenAI qui vend des boîtes noires propriétaires. Stable Diffusion est un produit open source, ses modèles sont librement utilisables, et ils peuvent tourner sur du GPU grand public.

Bien que leur discours soit entaché par l'opacité du dataset d'entraînement fourni par LAION pour développer Stable Diffusion cela dit (et qui a suscité quelques controverses).

De ce fait, j'estime que construire une structure de développement autour d'un modèle d'IA intégrant les diverses valeurs évoquées dans l'article reste possible (via un regroupement des diverses structures existantes par exemple). Dire que ça ne peut pas concurrencer OpenAI/Microsoft/Google/etc n'a aucune pertinence à mes yeux car c'est se contenter de pleurer au lieu d'agir. C'est le même genre de discours pessimiste que celui tenu par les personnes disant qu'on a aucun concurrent aux Cloud providers américains en Europe. Ce qui est faux.

Et pour donner un exemple personnel de ma vision : j'ai déjà émis plusieurs fois ici que je n'étais pas spécialement fan du traitement du sujet IA par Next. Et c'est pour ça que j'ai préféré proposer à Seb Gavois une contribution.
Le 05/12/2023 à 09h 36
Si elles manquent à la pelle, c'est qu'elles savent pas creuser
Le 05/12/2023 à 10h 50
Si c'est pour interdire les features facilitant les deep fake de nudes, c'est pas intéressant!
Blague à part, c'est dommage ce désintérêt (ou cette mise à l'écart?) car c'est donner du grain à moudre à toutes les féministes wokes a qui on donne beaucoup de visibilité en ce moment (grâce à Hollywood ou Netflix ?).
Le 05/12/2023 à 11h 59
Open science by Gafam
Le 05/12/2023 à 12h 50
Et inversement :

Où sont les hommes dans les professions de justice ?

https://www.radiofrance.fr/franceculture/podcasts/esprit-de-justice/femmes-dans-les-professions-judiciaires-entre-augmentation-et-discriminations-5516085
Le 05/12/2023 à 13h 09
J'ai écouté 7 minutes de l'émission et j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.

C'est ce qu'on a constaté avec l'essor des systèmes de télécommunications : les femmes étaient majoritaires dans les postes de standardistes, d'opératrices du téléphone alors que les hommes étaient directeurs. Dans les administrations, c'est encore le cas : les femmes sont majoritaires mais seulement dans les métiers opérationnels. Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.
Myifee Abonné
Le 05/12/2023 à 13h 53

consommateurnumérique

J'ai écouté 7 minutes de l'émission et j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.

C'est ce qu'on a constaté avec l'essor des systèmes de télécommunications : les femmes étaient majoritaires dans les postes de standardistes, d'opératrices du téléphone alors que les hommes étaient directeurs. Dans les administrations, c'est encore le cas : les femmes sont majoritaires mais seulement dans les métiers opérationnels. Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.
> j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.
> Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.

Parce que c'est bien connu qu'en sortant d'école, tu accèdes instantanément à un poste à responsabilités.

Dans la divison française d'un gros groupe WW où je suis, en moyenne, il faut 20 ans pour passer manager; soit dit autrement, les candidats envisageables sont entrés il y a environ 20 ans sur le marché du travail.
Modifié le 05/12/2023 à 13h53
Le 05/12/2023 à 16h 37

Myifee

> j'ai l'impression, au contraire, qu'il y a le même problème d'accès des femmes aux postes à responsabilité : les hommes monopolisent les postes de pouvoir et il y a une incapacité des femmes à accéder au sommet des organigrammes.
> Pourtant, les femmes ingénieures, juristes, etc, sont de plus en plus nombreuses de nos jours.

Parce que c'est bien connu qu'en sortant d'école, tu accèdes instantanément à un poste à responsabilités.

Dans la divison française d'un gros groupe WW où je suis, en moyenne, il faut 20 ans pour passer manager; soit dit autrement, les candidats envisageables sont entrés il y a environ 20 ans sur le marché du travail.
Il n'y avait pas de femmes ingé, il y a 20 ans ? C'est ce que tu veux dire ? Moi, je peux te parler du syndrome de la Schtroumpfette, le syndrome de l'imposteur qui touchent surtout les femmes, les préjugés systémiques sur le manque d'autorité supposé des femmes (dont parle l'une des intervenantes dans le podcast cité par croustx), etc. Je sais que ces sujets n'intéressent pas beaucoup d'hommes qui s'imaginent trimer déjà bien assez professionnellement.
Modifié le 05/12/2023 à 16h40
Le 05/12/2023 à 13h 54
Insupportable! C'est toujours le même délire. C'est un disque rayé.

Aucune raison ne peut justifier qu'on doit avoir 50/50 d'homme et de femme à chaque poste. Malheur au manager qui à un nombre impair de collaborateurs de nos jours !!! On ne peut pas forcer les gens; Hommes comme Femmes à rentrer dans ce moule. Y'a déjà bien trop à faire avec les autres moules (marinières?).

Cet article est fallacieux car il s'agit ici d'une situation bien spécifique et politique dans UNE seule société. Le titre prépare le lecteur dans une approche globale et l'idée colle à la peau durant la lecture. La conclusion arrive avant la démonstration... Et de faire d'une généralité un cas unique il n'y a qu'un pas.

Les justifications sont au mieux malhonnêtes. Exemple depuis le lien Guardian :
"for example, of the 702 (out of 750) employees who signed the letter demanding Altman’s reinstatement more than 75% were men,".

On nous dit que +75% de ceux qui ont demandé le retour d'Altman sont des hommes. Donc qu'il y a 25% de femmes dans le lot. Ou alors dans ce 25% c'est tous des transgenres, Wokiste, UltraVegan combiné.

Il ne peut pas être exclu que ce genre de choix n'est pas le fait du sexe mais tout simplement de la situation sociale de chacun. Les gens vont "voter" pour leurs propres intérêts. Hommes comme Femmes. Rien à voir avec leur sexe.

Bon et puis McKinsey... c'est sujet à vérification, c'est pas comme se c'était une blanche colombe.


Je veux bien qu'on fasse de la récup de l'AFP quand la situation est difficile ou qu'il y ait un changement de cap, mais bon faut filtrer le BS un peu.

Myifee Abonné
Le 05/12/2023 à 14h 02
> Sam Altman est revenu, le conseil d’administration d’OpenAI a été recomposé, et il ne comporte désormais plus que des hommes blancs.

ça va, on ne vous gêne pas trop ?
carbier Abonné
Le 05/12/2023 à 15h 02
Un sujet sur les femmes dans la tech et on voit toujours le même disque rayé dans les commentaires de la part de geeks dont on comprend à travers les lignes que leur principal problème c'est la place des femmes dans la société.
Le tout avec toujours les mêmes éléments de langage proche des réacs.

Surtout ne changez rien...
Le 05/12/2023 à 17h 29
> les femmes manquent à la discussion autour de ce qu’est l’intelligence artificielle (IA) et du futur que cette technologie réservera à l’humanité.

La question importantr c'est de savoir si la commu LGBT a été consultée.
Et aussi les groupes ethniques.
Dans l'ordre des priorités, je suis quasiment certain que les femmes ca passe après.

Ou pas. Je ne sais plus. Qui a la liste des priorités déjà ?
Modifié le 05/12/2023 à 17h30
carbier Abonné
Le 05/12/2023 à 17h 58
Il semble que le simple fait de travailler en commun soit un concept étranger à certaines personnes.
Vu que celles-ci doivent être classées par couleur de peaux, genre voire religion.

La seule chose qui est remarqué ici c'est que les femmes représentent autour 50% de la population mondiale et que donc on pourrait s'attendre à ce que leur représentation dans certains secteurs ne soit pas proche de 0%.

Mais après quand on gratte un peu les commentaires des réacs, on s'aperçoit que leur conception de la place des femmes n'est pas si différente du 18e siècle.
Le 06/12/2023 à 11h 22

carbier

Il semble que le simple fait de travailler en commun soit un concept étranger à certaines personnes.
Vu que celles-ci doivent être classées par couleur de peaux, genre voire religion.

La seule chose qui est remarqué ici c'est que les femmes représentent autour 50% de la population mondiale et que donc on pourrait s'attendre à ce que leur représentation dans certains secteurs ne soit pas proche de 0%.

Mais après quand on gratte un peu les commentaires des réacs, on s'aperçoit que leur conception de la place des femmes n'est pas si différente du 18e siècle.
Les femmes représentent autour 50% de la population mondiale. Certes.

Les asiatiques représentent autour 60% de la population mondiale.
Et US+Europe seulement 14% de la population mondiale.

La représentativité multi-critère idéale impliquera de selectionner des individus pour remplir les quotas, et on retombera dans les critiques habituelles sur les quotas: "je ne veux pas servir de caution", "compétence vs quota", ...
Le 06/12/2023 à 22h 07

carbier

Il semble que le simple fait de travailler en commun soit un concept étranger à certaines personnes.
Vu que celles-ci doivent être classées par couleur de peaux, genre voire religion.

La seule chose qui est remarqué ici c'est que les femmes représentent autour 50% de la population mondiale et que donc on pourrait s'attendre à ce que leur représentation dans certains secteurs ne soit pas proche de 0%.

Mais après quand on gratte un peu les commentaires des réacs, on s'aperçoit que leur conception de la place des femmes n'est pas si différente du 18e siècle.
Ce que tu peux être bête.
Modifié le 06/12/2023 à 22h07
fred42 Abonné
Le 05/12/2023 à 18h 38
Quelque chose à dire ?
Non, rien à dire.
Le titre est parfait.
Il n'y a aucune statistique biaisée. Merci de nous informer.

Les 75 pourcents d'hommes représentent exactement la proportion d'hommes chez OpenAI. Les autres ont donc voté pour le retour comme les hommes. Source : https://www.lesnumeriques.com/vie-du-net/qui-est-openai-l-entreprise-derriere-dall-e-chatgpt-et-le-developpement-tous-azimuts-de-l-intelligence-artificielle-a201033.html
Alors,oui, il y a beaucoup d'hommes chez eux, mais ça n'a rien de spécifique à eux, ni même à l'IA, c'est général à la tech. Ils ont peut-être moins d'hommes que d'autres boîtes de la tech en fait.
Quant à la stat sur l'inquiétude des femmes américaines sur l'IA, elle l'air d'avoir des causes diverses dont la moins bonne connaissance du sujet, à partir de là, ce n'est pas un argument pertinent pour la présence de femmes au board d'OpenAI, mais pas non plus de leur absence. C'est juste hors sujet. Et ce même si moi aussi je suis contre l'IA dans les voitures autonomes : je préfère du déterminisme plutôt que des statistiques quand il s'agit de la vie des gens.
Le 06/12/2023 à 22h 05
On s'en fout mais d'une force...