Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »

Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »

Les femmes, "canaris dans la mine" des violences numériques

Avatar de l'auteur

Mathilde Saliou

Publié dansIA et algorithmesSociété numérique

14/11/2023
7
Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »

Ancienne directrice de l'éthique chez Twitter, Rumman Chowdhury a réalisé pour l'UNESCO un rapport sur les violences de genre facilitées par la technologie à l’ère de l’IA générative. Elle alerte sur l'importance de développer des outils et des mécanismes de protections en même temps que les outils d'IA génératives sont rendus accessibles.

L’intelligence artificielle (IA) générative « révolutionne » les manières d’accéder, de produire, de recevoir et d’interagir avec du contenu, mais elle crée aussi de nouveaux risques qui menacent les droits humains, en particulier ceux des femmes et des filles.

Dans cet esprit, la data scientist et fondatrice Rumman Chowdhury, ancienne directrice pour l’éthique, la transparence et la responsabilité du machine learning chez Twitter, a produit pour l’UNESCO un rapport sur les violences de genre facilitées par la technologie à l’ère de l’IA générative avec l'aide de l’ingénieure Dhanya Lakshmi.

Le 13 novembre, les deux expertes présentaient publiquement cette étude, qui vient s’inscrire dans les travaux que l’UNESCO mène au long cours sur la transformation numérique et celle de l’IA. Et Rumman Chowdhury de planter directement le décor : « la plupart des violences et des abus constatés en ligne sont d’abord appliqués contre les communautés les plus désavantagées ». Malgré leur importance numérique, les femmes et les filles font partie de ces catégories minorisées, explique-t-elle.

« Dans le rapport, on écrit que les femmes sont les canaris au fond de la mine, car dans énormément de cas de violence numérique, les abus ont d’abord été testés contre elles avant d’être étendus à l’ensemble de la population. » L’expression désigne ces canaris, que les mineurs emmenaient autrefois au fond des mines de charbon. Si l’oiseau s’évanouissait ou mourrait, cela les alertait de la présence de gaz toxiques et de la nécessité de remonter à l’air libre.

Avant même l’ouverture de l’accès aux modèles d’IA génératrice au grand public, pointe Rumman Chowdhury, une étude de 2020 pointait que 58 % des jeunes femmes de la planète avaient déjà été exposées à une forme de violence de genre sur les réseaux sociaux. Outre la dimension de genre, c’est plus du quart des jeunes de 15 à 25 ans, proportion qui explique que l’UNESCO travaille aussi sur ces questions au long cours.

Dans le cas de l’IA générative, plusieurs types de violences sont déjà constatés contre les femmes et les filles. À court terme, l’accès à des outils comme ChatGPT, Stable Diffusion ou autres modèles de générations de textes et d’image permet notamment l’aggravation de campagnes de harcèlement – via l’usage de deepfakes pornographiques, par exemple –, leur massification, et l’apparition « d'abus involontaires ou indésirables » (unintended harms), liste Rumman Chowdhury.

Les femmes et les minorités, des canaris dans la mine

La suite est réservée à nos abonnés.

Déjà abonné ? Se connecter

Abonnez-vous
7
Avatar de l'auteur

Écrit par Mathilde Saliou

Tiens, en parlant de ça :

Nouveautés pour Messenger

Meta lance (enfin) le chiffrement de bout en bout de Messenger, entre autres

ME2EEssenger

08:43 Socials 0

Windows en 2024 : beaucoup d’IA, mais pas forcément un « 12 »

Technique contre marketing

17:36 Soft 8
Einstein avec des qubits en arrière plan

Informatique quantique, qubits : avez-vous les bases ?

Q-Doliprane sur demande

16:10 HardScience 8

Sommaire de l'article

Introduction

Les femmes et les minorités, des canaris dans la mine

Nouveautés pour Messenger

Meta lance (enfin) le chiffrement de bout en bout de Messenger, entre autres

Socials 0

#LeBrief : cloud européen, OSIRIS-REx a frôlée la catastrophe, CPU AMD Ryzen 8040

Windows en 2024 : beaucoup d’IA, mais pas forcément un « 12 »

Soft 8
Einstein avec des qubits en arrière plan

Informatique quantique, qubits : avez-vous les bases ?

HardScience 8
Notifications iPhone

Surveillance des notifications : un sénateur américain demande la fin du secret

DroitSécu 13

En ligne, les promos foireuses restent d’actualité

DroitWeb 17

#LeBrief : modalité des amendes RGPD, cyberattaque agricole, hallucinations d’Amazon Q, 25 ans d’ISS

Logo Twitch

Citant des « coûts prohibitifs », Twitch quitte la Corée du Sud

ÉcoWeb 28
Formation aux cryptomonnaies par Binance à Pôle Emploi

Binance fait son marketing pendant des formations sur la blockchain destinées aux chômeurs

Éco 9
Consommation électrique du CERN

L’empreinte écologique CERN en 2022 : 1 215 GWh, 184 173 teqCO₂, 3 234 Ml…

Science 6
station électrique pour voitures

Voitures électriques : dans la jungle, terrible jungle, des bornes de recharge publiques

Société 73

#LeBrief : intelligence artificielle à tous les étages, fichier biométrique EURODAC

KDE Plasma 6

KDE Plasma 6 a sa première bêta, le tour des nouveautés

Soft 13
Un homme noir regarde la caméra. Sur son visage, des traits blancs suggèrent un traitement algorithmique.

AI Act et reconnaissance faciale : la France interpelée par 45 eurodéputés

DroitSociété 4
Api

La CNIL préconise l’utilisation des API pour le partage de données personnelles entre organismes

SécuSociété 3
Fouet de l’Arcep avec de la fibre

Orange sanctionnée sur la fibre : l’argumentaire de l’opérateur démonté par l’Arcep

DroitWeb 22
Bombes

Israël – Hamas : comment l’IA intensifie les attaques contre Gaza

IA 22

#LeBrief : bande-annonce GTA VI, guerre électronique, Spotify licencie massivement

Poing Dev

Le poing Dev – Round 7

Next 100
Logo de Gaia-X sour la forme d’un arbre, avec la légende : infrastructure de données en forme de réseau

Gaia-X « vit toujours » et « arrive à des étapes très concrètes »

WebSécu 6

Trois consoles portables en quelques semaines

Hard 37
Une tasse estampillée "Keep calm and carry on teaching"

Cyberrésilience : les compromis (provisoires) du trilogue européen

DroitSécu 3

#LeBrief : fuite de tests ADN 23andMe, le milliard pour Android Messages, il y a 30 ans Hubble voyait clair

#Flock a sa propre vision de l’inclusion

Flock 25
Un Sébastien transformé en lapin par Flock pour imiter le Quoi de neuf Docteur des Looney Tunes

Quoi de neuf à la rédac’ #10 : nous contacter et résumé de la semaine

44
Fairphone 5 démonté par iFixit

Sans surprise, le Fairphone 5 obtient 10/10 chez iFixit

Hard 0

WhatsApp vocaux à vue/écoute unique

WhatsApp permet d’envoyer des vocaux à écoute unique

Soft 6

Logo de Google sur un ordinateur portable

Google propose un correctif aux disparitions mystérieuses sur Drive

Soft 0

Puce AMD Instinct

IA : AMD annonce la disponibilité des accélérateurs Instinct MI300A et MI300X

Hard 0

Un œil symbolisant l'Union européenne, et les dissensions et problèmes afférents

Cloud : 1,2 milliard d’euros pour un Projet important d’intérêt européen commun

Web 6

Sonde OSIRIS-REx de la NASA lors du retour de la capsule des échantillons sur Terre

Échantillons d’OSIRIS-REx : la NASA a frôlé la catastrophe

Science 9

CPU AMD Ryzen avec NPU pour l’IA

Ryzen 8040 : AMD lance de nouveaux CPU mobiles (Zen 4, RDNA 3, NPU)

Hard 0

Commentaires (7)


RuMaRoCO Abonné
Hier à 16h27

J’ai du mal à appréhender avec cette expression “violences de genre”, ou plutôt ce à que ça sous-entend.
Ce que je veux dire, si on ne précise pas, cela vient à dire “violence fait un tout les genres” et dans ce cas là la précision ne sert plus.


Mathilde_S Abonné
Hier à 07h52

ah, bonne question. L’expression complète est “violence basée sur le genre”, que l’Unesco garde dans la version anglaise de son titre (gendered-based violence) mais qu’il raccourcit en français.
Même si les femmes et les filles sont statistiquement plus souvent visées, l’expression est précisément construite parce qu’elle peut s’appliquer à tous les genres, comme l’indique aussi le site de l’ONU femmes : https://www.unwomen.org/fr/what-we-do/ending-violence-against-women/faqs/types-of-violence
(Pour info, les féministes disent souvent que leur combat doit servir à tout le monde, hommes comme femmes, puisqu’il s’agit notamment de faire cesser toute injonction liées au genre.)



Par ailleurs, il me semble que préciser violence de genre reste utile, parce qu’elle sert à indiquer le motif de l’agression : dans les cas évoqués ici, c’est parce qu’il s’agit de femmes ou de filles que des internautes décident de les agresser.


RuMaRoCO Abonné
Hier à 08h52

Mathilde_S

ah, bonne question. L’expression complète est “violence basée sur le genre”, que l’Unesco garde dans la version anglaise de son titre (gendered-based violence) mais qu’il raccourcit en français. Même si les femmes et les filles sont statistiquement plus souvent visées, l’expression est précisément construite parce qu’elle peut s’appliquer à tous les genres, comme l’indique aussi le site de l’ONU femmes : https://www.unwomen.org/fr/what-we-do/ending-violence-against-women/faqs/types-of-violence (Pour info, les féministes disent souvent que leur combat doit servir à tout le monde, hommes comme femmes, puisqu’il s’agit notamment de faire cesser toute injonction liées au genre.)

Par ailleurs, il me semble que préciser violence de genre reste utile, parce qu’elle sert à indiquer le motif de l’agression : dans les cas évoqués ici, c’est parce qu’il s’agit de femmes ou de filles que des internautes décident de les agresser.

Possiblement, Je pense également, que ça permet d’inclure les violences de types homophobes et transgenre.



Cependant je pense que l’on se trompe de combat, car le propre d’une insulte c’est de “taper” sur ce que la personne considère comme une faiblesse une “honte”.
(Exemple : Je suis gros et j’en honte ; on me traite de gros forcement ça m’affecte.
Je suis brun, et on me traire de brun, ça n’a pas d’impacte sur moi car ce n’est pas une quelconque honte pour moi).



Rien à voir (ou un peu :D) Ce serait marrant un article un peu plus léger sur les “insultes” et leurs origines (Je pense que l’on remarquerait que la très grandes majorités sont liés au s.xe voir plus précisément à la femme (et à sa supposé (à tord) faiblesse, ou à un animal considéré comme nuisible et/ou souillé. )


darkjack Abonné
Hier à 16h48

Merci pour ces liens!


RuMaRoCO Abonné
Hier à 09h36

Désolé, l’idée a déjà été exploité à ce que je vois :-)


consommateurnumérique Abonné
Hier à 20h38

Dans le sud-ouest de l’Espagne, vingt jeunes filles mineures ont vu des photos d’elles nues circuler sur les réseaux sociaux. Ces photos au réalisme troublant ont été générées avec l’intelligence artificielle par leurs camarades de classe.



En Espagne, des photos de jeunes filles nues générées par l’IA font scandale - RTS.ch 18/11/2023