Les modèles d’IA génératives « entraînés grâce à des pratiques illégales de web scraping » sont « incompatibles avec le droit à la vie privée » tel que défini, notamment, par le Pacte international relatif aux droits civils et politique (PIDCP) adopté en 1966 par les membres de l’ONU. Derrière l’apparence « d’efficacité, de sophistication et de complexité » de l’intelligence artificielle générative se cache « une réalité faite de principes de conception qui bafouent les droits humains, et qui s’apparentent à ceux que l’on retrouve dans bon nombre des outils d’IA les plus problématiques antérieurs à l’IA générative ».

Amnesty International ne mâche pas ses mots dans le rapport qu’elle vient de publier sur les « coûts de l’IA générative en termes de droits humains ». Pour l’établir, l’ONG a adopté une approche par la chaîne de production pour analyser les enjeux de droits humains que posent les systèmes d’IA. Elle analyse la manière dont chacune et chacun participent à la construction des modèles, des constructeurs de puces GPU à la constitution de jeux de données « immenses ». Ces derniers sont souvent constitués « sans la connaissance ni le consentement des personnes à l’origine des données, dont les utilisateurs de réseaux sociaux ou les artistes », et jusqu’à la génération de textes, images et autres contenus multimédia que ces machines produisent, « mimant ou singeant les données sur lesquelles elles ont été entraînées ».

• Droit

  Entrainement des IA sur les données des européens : noyb menace Meta de class action

  Droit

  Jeudi 15 mai 2025 à 17h10 15/05/2025 17h10

  23

Dans le cas présent, l’organisation se focalise sur les produits développés et promus sur la seule et spécifique base de leur capacité à générer de l’image, de la vidéo, de l’audio ou du texte – dont les principaux outils grand public que sont ChatGPT, Dall-E, Gemini, Midjourney, LLaMa, Stable Diffusion et DeepSeek. Elle ne s’intéresse donc pas à l’IA générative en tant que fonctionnalité déployée dans des outils plus larges. Et sa principale conclusion est claire : le « scraping à grande échelle et l’entraînement nécessaire à la construction de nombreux modèles d’IA générative » créent des problématiques de droits humains en amont et en aval de leur chaîne de fabrication.

À ce titre, l’association appelle à interdire les systèmes d’IA génératifs construits sur ces pratiques, dans la mesure où le scraping non consenti et à grande échelle est « fondamentalement incompatible avec le droit international relatif aux droits humains ».

Domination culturelle et linguistique anglophone

Parmi elles : « l’expansion des coûts environnementaux de l’IA générative » provoquée par l’augmentation de leur taille et du nombre de données nécessaires à leur entraînement « a des effets négatifs qui touche les pays de la majorité globale de manière disproportionnée ».

Il reste 72% de l'article à découvrir.

Déjà abonné ou lecteur  ? Se connecter

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Abonnez-vous