Qu’ils servent à classifier des images, à aider à la décision, à générer du texte ou à autre chose encore, les modèles algorithmiques sont construits par des humains. Ils embarquent donc une série de biais – statistiques, sociaux, économiques… – qui viennent influer sur leurs résultats.

Or les outils de modération développés par certaines des plus grosses entreprises tech (Microsoft, Google, Amazon) et utilisés pour contrôler les images postées sur les plus gros réseaux sociaux (LinkedIn ou Instagram, notamment) présentent un biais disqualifiant envers les images de femmes.

En effet, une longue enquête menée par le Guardian et l’AI Accountability Network du centre Pulitzer démontre que par défaut, la plupart de ces modèles algorithmiques donnent aux images présentant un corps de femmes un score de « suggestivité sexuelle » plus élevé.

Les images de femmes dans des activités quotidiennes risquent beaucoup plus d’être qualifiées de « suggestives » que celles d’hommes dans des situations similaires. Les journalistes démontrent aussi que les taux de « suggestivité » rapportés par les machines explosent si les images montrent des ventres de femmes enceinte, un ou des tétons, ou encore si les femmes en question sont en train de faire du sport.

Ces scores n’ont rien à voir avec la suggestivité réelle que les humains pourraient donner aux images en question : ils sont plutôt atteints par détection d’éléments suggérant la féminité des personnes représentées. L’un des co-auteurs de l’enquête a fait le test face à l’algorithme de Microsoft : lorsqu’il est torse nu, la machine ne donne à son image qu’un score de 22 % de « suggestivité », mais dès qu’il a un soutien-gorge à la main ou sur lui, le score bondit à 99 %.

La sexualisation (ou la présence d’ « attraction physique ou sexuelle », pour le cas de LinkedIn) et la nudité (cf la politique de Meta) étant motifs de modération, ce biais sous-entend que les publications contenant des images de femmes ont plus de risques d’être modérées que ceux comportant des photos similaires représentant des hommes.

Autre possibilité : que ces contenus soient « shadowbanned », c’est-à-dire que leur portée soit limitée par le réseau social sans que l’internaute qui a posté n’en soit averti. Le risque, pointé depuis plusieurs années par des artistes et des créatrices qui s’estiment modérées sans raison, est que les publications représentant des femmes aient moins de portée que les autres.

Le vaisseau Soyouz MS-23 lancé sans humain à bord vendredi par l'agence spatiale russe Roscosmos depuis le cosmodrome de Baïkonour, est arrivé à la station spatiale internationale dans la nuit de samedi à dimanche, selon l'AFP.

Ce vaisseau aurait dû être lancé en mars pour amener à bord de l'ISS les cosmonautes russes Sergey Prokopyev et Dmitri Petelin et l'astronaute américain Frank Rubio. Mais, suite à une fuite à bord du Soyouz MS-22, l’agence a renvoyé à vide le vaisseau. Ce dernier devrait être désamarré puis renvoyé vers la terre à la fin du mois de mars.

Roscosmos a décidé en janvier dernier d'envoyer MS-23 à la place.

La mission de Prokopyev, Petelin et Rubio a été prolongée jusqu'à septembre 2023. Ils repartiront à bord de MS-23 après avoir passé près d'un an à bord de l'ISS.

Quels challenges ChatGPT crée-t-il pour les législateurs européens, qui travaillent depuis plusieurs mois à un règlement sur l’intelligence artificielle ?

Dans un article de l’Internet Policy Review, Natali Helberger, chercheuse à l’université d’Amsterdam, et Nicholas Diakopoulos, de la Northwestern University, expliquent que ChatGPT diffère au moins en deux points des modèles « traditionnels » d’intelligence artificielle à partir desquels les premiers jets de textes légaux ont été rédigés.

Les modèles génératifs sont dynamiques (ils ne sont pas construits pour un contexte spécifique) et leur design les rend utilisables à des échelles sans précédent. Cela rend quasiment impossible d’envisager les risques futurs qui découleront des applications inventées au fil du temps par les usagers.

Pour Helberger et Diakopoulos, ces deux aspects remettent en question la possibilité d’approcher les systèmes d’intelligence artificielle selon des catégories de risque (haut, moyen, sans risque), comme le fait, en substance, la directive européenne.

Plutôt que des catégories fixes, les deux chercheurs proposent notamment d’envisager la question de manière plus dynamique, en s’inspirant des logiques de surveillance des risques systémiques encadrées par le DSA (Digital Services Act).

L’article a été publié une semaine à peine après que le parlement européen a ajouté les systèmes génératifs dans les catégories à risque, en particulier quand ceux-ci produisent du contenu difficilement différentiable d’une production humaine.

• Les CNIL européennes rendent leur avis sur le projet de règlement sur l’IA
• Les Français veulent des explications claires sur les modèles algorithmiques