Les réseaux sociaux sont parfois accusés de discrimination algorithmique, notamment envers les femmes. En juin 2023, la Fondation des Femmes, l’association Femmes Ingénieures et l’ONG Global Witness ont, par exemple, saisi la CNIL et la défenseure des droits pour des discriminations sexistes opérées par les algorithmes publicitaires de Facebook. De son côté, Meta explique que son système de recommandation propose des contenus qui intéressent ses utilisateurs. Mais que propose-t-il si l'utilisateur ne fait rien ?

Une expérience avec des comptes les plus neutres possible

L'équipe australienne du Guardian explique avoir voulu observer comment Instagram et Facebook orientent, par défaut, les flux qu'ils présentent à leurs jeunes utilisateurs masculins.

Elle a donc, en avril dernier, créé plusieurs profils utilisateurs de jeunes hommes australiens de 24 ans sur les deux réseaux sociaux pour scruter ce qu'Instagram et Facebook proposent à ce genre de profils. Pour que l'expérience soit la moins biaisée possible, le test a été effectué sur des smartphones complètement neufs et les comptes ont été créés avec adresses e-mails jamais utilisées auparavant.

Josh Taylor, journaliste australien du Guardian, précise que Facebook a récupéré quelques informations comme le type de smartphone utilisé ou sa localisation (à Melbourne) mais les tests ont été faits en n'autorisant pas Meta à faire du tracking publicitaire.

Sur Facebook, ils ont laissé les comptes tests vides en ne faisant aucune action : aucun like, aucun commentaire, aucun ajout d'amis. Comme Instagram oblige, à l'inscription, à suivre au moins cinq personnes, ils ont choisi parmi les comptes populaires recommandés par le réseau social, dont le Premier ministre australien Anthony Albanese et la star australienne Rebecca Judd.

Puis, ils sont régulièrement allés scroller sans interagir, pendant trois mois, pour voir ce que Facebook et Instagram proposaient à ces comptes.

Facebook, de blagues à un déferlement de contenus sexistes et misogynes

Du côté de Facebook, les journalistes australiens du Guardian décrivent un glissement éditorial du flux proposé par le réseau social.

Les posts proposés au départ sont des blagues et memes tirés de The Office et autres séries via des comptes de médias « clickbait » comme 7 News, le Daily Mail ou Ladbible. Le jour d'après, le fil Facebook des comptes montrent des memes de Star Wars, des contenus de gym et des contenus stéréotypés pour les hommes.

Mais au troisième jour, les blagues montrées par Facebook deviennent plus sexistes et des memes de types « traditionalistes catholiques » font leur apparition. Trois mois après, si les mêmes styles de memes qu'au début sont visibles, des images très sexistes et misogynes sont présentées aux utilisateurs, comme, par exemple, ce post :

L'onglet explore d'Instagram rempli de femmes dénudées

Pour Instagram, le flux est beaucoup plus « inoffensif » expliquent-ils. Il montre notamment des contenus sur Melbourne et d'influenceurs « cuisine ». Par contre, l'onglet « explore » est rempli de photos de femmes dénudées :

Les journalistes ont interrogé Meta, mais l'entreprise ne leur a pas répondu officiellement. Face au Parlement fédéral australien, Meta avait expliqué utiliser « une gamme d'algorithmes différents ». Elle rajoutait que « Notre système de classement personnalise le contenu pour plus d'un milliard de personnes et vise à montrer à chacune d'entre elles le contenu que nous espérons le plus précieux et le plus significatif, chaque fois qu'elles viennent sur Facebook ou Instagram ».

Une tendance générale à renvoyer vers des contenus problématiques

Cette expérience rappelle plusieurs autres menées sur Instagram, YouTube ou TikTok. En mai dernier, le New York Times a vérifié que la publication d'une publicité montrant un modèle d'un jeune enfant a tendance à attirer une très grande proportion d'hommes mais aussi « des DM [messages directs, ndlr] de dizaines d'utilisateurs d'Instagram, notamment des appels téléphoniques de deux délinquants sexuels présumés, des offres pour payer l'enfant pour des actes sexuels et des déclarations d'amour ».

Une étude scientifique australienne de 2022 sur 10 comptes YouTube créés aussi pour l'occasion montrait que des contenus contre les femmes et les féministes étaient proposés. En suivant ces recommandations, la plateforme de vidéos montrait des contenus de plus en plus ouvertement misogynes. En avril dernier, une autre étude irlandaise similaire arrivait à de mêmes résultats pour des shorts de YouTube et sur TikTok.

• Le HCE veut que les réseaux sociaux rendent des comptes sur le sexisme de leurs algorithmes