« IA : l’autorégulation des modèles de fondation mettrait en danger les droits humains », s’alarment un collectif d’acteurs de la société civile dans une tribune.

En cause : la position française, qui s’est opposée il y a quelques semaines à une régulation des modèles d’intelligence artificielle (IA) dits « de fondation », argumentant en faveur d’une autorégulation par les entreprises constructrices de ces modèles plutôt que d’une régulation externe.

Parmi les signataires : les dirigeants et présidents d’entités comme le collectif #Jesuisla, l’Irish Council for Civil Liberties, AI Forensics, SOS Racisme, la Ligue des Droits de l’Homme et de multiples associations de défense des victimes de violences numériques, comme #StopFisha ou Féministes contre le cyberharcèlement.

Alors que l’intelligence artificielle générative facilite la désinformation, les agressions par deepfakes, et que les effets discriminatoires d’algorithmes comme celui de lutte contre la fraude utilisé par la CAF sont de mieux en mieux connus, écrivent-ils, la position de la France est « extrêmement préoccupante ».

Et de s’inquiéter de l’impact du lobbying de la start-up Mistral, par l’intermédiaire de l’ancien secrétaire d’État au numérique, Cédric O, sur le gouvernement français.

« Une réglementation assortie de garde-fous solides et d'un contrôle externe est essentielle », écrivent les signataires de la tribune, argumentant que cela permettra aussi aux entreprises en aval de la chaîne de production et de déploiement des modèles algorithmiques de s’emparer de ces nouveaux outils sans crainte d’avoir à supporter de trop importants coûts de mise en conformité

• Deepfakes pornographiques : quand l’intelligence artificielle sert à humilier
• Transparence, discriminations : les questions soulevées par l’algorithme de la CAF
• ChatGPT, Bard et les autres, agents de désinformation massive ?
• Tracking exposed, AI Forensics : tenir les constructeurs d’algorithmes responsables
• AI Act : la France, l’Allemagne et l’Italie ne veulent pas réguler les modèles « de fondation »
• AI Act et reconnaissance faciale : la France interpelée par 45 eurodéputés