« IA : l’autorégulation des modèles de fondation mettrait en danger les droits humains », s’alarment un collectif d’acteurs de la société civile dans une tribune.

En cause : la position française, qui s’est opposée il y a quelques semaines à une régulation des modèles d’intelligence artificielle (IA) dits « de fondation », argumentant en faveur d’une autorégulation par les entreprises constructrices de ces modèles plutôt que d’une régulation externe.

Parmi les signataires : les dirigeants et présidents d’entités comme le collectif #Jesuisla, l’Irish Council for Civil Liberties, AI Forensics, SOS Racisme, la Ligue des Droits de l’Homme et de multiples associations de défense des victimes de violences numériques, comme #StopFisha ou Féministes contre le cyberharcèlement.

Alors que l’intelligence artificielle générative facilite la désinformation, les agressions par deepfakes, et que les effets discriminatoires d’algorithmes comme celui de lutte contre la fraude utilisé par la CAF sont de mieux en mieux connus, écrivent-ils, la position de la France est « extrêmement préoccupante ».

Et de s’inquiéter de l’impact du lobbying de la start-up Mistral, par l’intermédiaire de l’ancien secrétaire d’État au numérique, Cédric O, sur le gouvernement français.

« Une réglementation assortie de garde-fous solides et d'un contrôle externe est essentielle », écrivent les signataires de la tribune, argumentant que cela permettra aussi aux entreprises en aval de la chaîne de production et de déploiement des modèles algorithmiques de s’emparer de ces nouveaux outils sans crainte d’avoir à supporter de trop importants coûts de mise en conformité

• Deepfakes pornographiques : quand l’intelligence artificielle sert à humilier
• Transparence, discriminations : les questions soulevées par l’algorithme de la CAF
• ChatGPT, Bard et les autres, agents de désinformation massive ?
• Tracking exposed, AI Forensics : tenir les constructeurs d’algorithmes responsables
• AI Act : la France, l’Allemagne et l’Italie ne veulent pas réguler les modèles « de fondation »
• AI Act et reconnaissance faciale : la France interpelée par 45 eurodéputés

Une centaine d'ONG (dont Access Now, AlgorithmWatch, Bits of Freedom, le Chaos Computer Club, EDRi, la LDH, Privacy International, Statewatch) réclament la « fin de l'expansion » d'EURODAC (pour « European Dactyloscopy Database »). Il s’agit du « système informatique à grande échelle qui aide à la gestion des demandes d'asile européennes depuis 2003, en stockant et en traitant les empreintes digitales numérisées des demandeurs d'asile et des migrants irréguliers entrés dans un pays européen ».

Elles estiment que « les frontières (numériques) de l'Europe doivent tomber ». Elles déplorent que ce fichier paneuropéen, qui dénombre les empreintes digitales de plus de 6,5 millions de personnes (vs 2,7 millions en 2014 d'après la CNIL, qui n'a pas mis à jour sa fiche relative à son sujet depuis 2016) « est en train de se transformer en un outil de surveillance étendu et violent qui traitera les personnes en quête de protection comme des suspects de crime, y compris des enfants de six ans dont les empreintes digitales et les images faciales seront intégrées dans la base de données ».

Les ONG regrettent que, « concrètement, EURODAC collecterait un grand nombre de données personnelles (photographies, copies de documents de voyage et d’identité, etc.) sur un éventail plus large de personnes : celles qui sont réinstallées, relocalisées, débarquées à la suite d’opérations de recherche et de sauvetage et arrêtées aux frontières ou à l’intérieur des territoires nationaux ».

Elles dénoncent en outre que la refonte d’EURODAC « facilitera également sa connexion à d’autres bases de données européennes existantes sur les migrations et celles de la police, dans le cadre de l’initiative dite d'”interopérabilité” […], ce qui entraînera une augmentation du profilage racial ».

Elles s’attendent en outre à ce qu’EURODAC facilite « les refoulements illégaux et le contrôle excessif de l’aide humanitaire », et qualifient cette réforme de « violation flagrante du droit de demander une protection internationale, un amalgame effrayant entre migration et criminalité et un instrument de surveillance incontrôlable ».

Elles estiment que cette réforme « est incompatible avec les droits fondamentaux et sapera les cadres de protection et les droits des personnes en déplacement », et s'inquiètent également du fait que l’ « extrême droite anticipe déjà la prochaine étape, en demandant la collecte d’ADN ».

Il y a quelques jours, Google envoyait une lettre à l’autorité anglaise de la concurrence (CMA) pour « prendre des mesures contre Microsoft, affirmant que ses pratiques commerciales avaient désavantagé ses rivaux », indiquait alors Reuters.

Le géant de la recherche a été rejoint depuis par celui du cloud : Amazon a également envoyé un courrier à la Competition and Markets Authority. Les pratiques de Microsoft y sont fustigées, notamment les conditions qui empêchent les clients de passer d’un service à un autre, les frais cachés et ainsi de suite.

« Par exemple, Microsoft a modifié ses conditions de licence en 2019 et à nouveau en 2022 pour rendre plus difficile l'exécution par les clients de certaines de ses offres logicielles populaires sur Google Cloud, AWS et Alibaba. Pour utiliser de nombreux logiciels Microsoft avec ces autres fournisseurs de services cloud, un client doit acheter une licence distincte, même s'il possède déjà le logiciel. De ce fait, il n'est souvent pas financièrement viable pour un client de choisir un fournisseur autre que Microsoft », indique le courrier.

La situation ne manque pas de sel, puisque la même CMA enquête à la fois sur Google, Microsoft et Amazon pour le même type de comportement, suite à une enquête de l’Ofcom. Le régulateur britannique des télécoms pointait ainsi qu’à eux trois, ces acteurs représentaient 81 % du marché du cloud au Royaume-Uni, estimé actuellement à 15 milliards de livres.

En France, l’Autorité de la concurrence s’est auto-saisie du dossier en 2022. Elle pointait déjà, fin juin dernier, des problèmes clairement identifiés de distorsion de la concurrence, dont l’épineuse question des frais cachés, les fameux egress fees.