Nourrie des travaux de son groupe de travail sur l’IA et des auditions de trente personnalités issues du monde économique (Alliance française des industries du numérique, Meta France, Numeum, OVHcloud, Scaleway/Iliad), de la recherche, et des administrations françaises (CNIL, ministères de l’Économie et de la transformation de la fonction publique) et européennes (DG Connect de la Commission européenne), la Commission supérieure du Numérique et des postes (CSNP) vient de publier un nouvel avis sur l’encadrement de l’usage de l’intelligence artificielle (IA).

Le document formule trente recommandations pour un développement de l’IA au service de l’intérêt général, de la souveraineté, de la sécurité et de la sobriété.

En tête de celles-ci, la CSNP, qui n'a interrogé aucun représentant de la société civile, invite à étudier l’IA sous l’angle social et sociétal. En pratique, elle traduit cela par deux axes : « anticiper les impacts sociaux du développement de l’IA en demandant aux acteurs économiques et sociaux et aux pouvoirs publics de planifier des plans de formation continue et de reconversion », et « intégrer les conséquences du développement des services d’IA dans les politiques éducatives en veillant à continuer à intégrer les fondamentaux tels que les mathématiques et l’orthographe ».

Quel que soit l’âge, la question de la formation est l’un des sujets récurrents du document de la Commission, qui appelle aussi à la création d'un référent IA dans les administrations. En revanche, les risques qu'encourraient les utilisateurs en cas de déploiement de modèles inefficaces ou biaisés – comme peuvent le laisser craindre le cas de l'algorithme de la CAF ou divers autres exemples européens – sont à peine mentionnés, au détour de ses recommandations sur l'usage de l'IA dans le service public.

• Transparence, discriminations : les questions soulevées par l’algorithme de la CAF

Et alors que les travaux européens sur le règlement sur l’intelligence artificielle sont en train d’aboutir – non sans débats, notamment sur la non-interdiction des pratiques de surveillance biométrique-, la CSNP appelle à « élaborer une définition juridiquement robuste de l’IA », à mettre en place « une régulation équilibrée qui offre transparence et protection, mais qui n’entrave pas la recherche, l’innovation et le développement entrepreneurial », ainsi qu’à « peser au niveau international (…) pour élaborer un traité international de l’IA » sur le modèle du droit de la mer ou de l’espace aérien – traité sur lequel travaille déjà le conseil de l’Europe.

• Les États-Unis obtiennent l’exclusion des ONG de la rédaction du traité sur l’intelligence artificielle
• Convention européenne sur l’IA : les associations s’adressent au Conseil de l’Europe

Un point d’étape

En 2020, déjà, la CSNP avait préconisé « des investissements massifs », l’adoption « d’une régulation appropriée préservant les libertés fondamentales du citoyen et du consommateur européen, sans que cet encadrement freine ou pénalise les initiatives publiques et privées », et la création d’un « écosystème d’excellence » autour de l’IA et de son développement dans les sphères publiques et privées.

Trois ans plus tard, la commission parlementaire constate que la première phase de la stratégie française « a donné de premiers résultats » et que les débats autour de ce que doit être le règlement européen sur le sujet « se clivent entre les partisans d’une régulation ultra-protectrice des droits individuels et les partisans d’une réglementation minimum qui n’entraverait pas l’innovation et la recherche ». Clivage encore accentué, décrit-elle, par la mise sur le marché de modèles génératifs accessibles au grand public.

Sur les plans de la régulation et de la gouvernance des services d’IA, elle revient donc sur beaucoup des sujets abordés à l’échelle européenne, et demande d’œuvrer en faveur d’un traité international de l’IA. Au niveau national, elle demande avant tout d’intégrer le Ministère de la Culture dans les administrations concernées par la coordination nationale pour l’IA, en raison des bouleversements que l’IA générative pourrait créer en matière de gestion de la propriété intellectuelle.

• • [MàJ] Midjourney recrache des images Pixar et d’œuvres protégées, parfois sans qu’on le lui demande
  • Midjourney génère aussi des images de sac Hermès et des logos Vuitton et Gucci

En termes de recherche, la CSNP regrette le peu de progrès réalisés depuis le rapport publié par Cédric Villani en 2018 en matière d’accès aux données et appelle à développer la recherche en revalorisant les salaires des chercheurs français et les financements européens dédiés au sujet.

En matière de données, elle relève la persistance des problématiques de silotage des données entre chaque administration et organisation, mais aussi les « pratiques très conservatrices des propriétaires de données ou de leurs services juridiques », qui peuvent forcer des chercheurs à attendre dix mois avant d’obtenir l’accès à des données de santé. Elle promeut notamment l’approche d’apprentissage fédéré, dont elle recommande la massification et le développement de politiques publiques spécifiques, potentiellement sous l’autorité de l’INRIA.

• • Apprentissage fédéré et usage des mégadonnées : ce que l’IA peut pour la santé

Pour une frugalité de l’IA

La CSNP relève la croissance de la problématique environnementale dans les débats autour de l’IA. Elle alerte sur le fait que « la course à l’innovation » du secteur peut susciter « des pratiques dites de « techno-blanchiment », où les progrès technologiques sont utilisés comme prétexte pour dissimuler les véritables répercussions écologiques de certaines activités ».

Elle demande donc l’amélioration de la documentation des coûts environnementaux des technologies déployées, et recommande la création d’un « consortium dédié à l’IA frugale », précisant que besoin de créer un référentiel commun au niveau international « pour ne pas faire peser les contraintes environnementales sur les seuls services d’IA français et européens ».

Référentiel IA et formation élargie

Dans les services publics, la CSNP cite l'expérimentation de chatbot menée par la Direction interministérielle de la Transformation publique qui avait mené à 70 % de « ressenti positif » de la part des 1 000 agents volontaires, et 74 % de retours positifs de la part des usagers interrogés. Cet exemple l'incite à se déclarer « favorables à l’utilisation de l’intelligence artificielle au sein des services publics à condition que la décision administrative soit toujours placée sous le contrôle ou la supervision d’un agent et que les utilisateurs soient informés, en toute transparence, qu’une IA a été utilisée dans le cadre de la prise de décision administrative dont ils ont fait l’objet ».

Comme d’autres, elle appelle « naturellement à une vigilance particulière sur l'absence et/ou la correction de biais dans les services d'IA employés par les services publics » et indique que les utilisateurs devraient pouvoir contester les décisions qu’ils « jugeraient injustement défavorables », mais aucun de ces deux éléments ne fait l'objet de recommandation précise. En revanche, chaque ministère est incité à « travailler sur un ou deux projets emblématiques pour améliorer les démarches administratives des usagers ».

Dans les administrations comme les formations, la commission appelle à la création d’un référent IA sur le modèle des référents cybersécurité. Elle met par ailleurs l’accent sur la formation des futurs cadres de l’administration publique que de ceux qui y travaillent déjà pour faciliter l’adoption de ce type de technologies.

Outre dans ces espaces, la CSNP appelle d’ailleurs à améliorer la formation à tous les niveaux, que ce soit en renforçant la maîtrise du langage et des mathématiques chez les élèves ou en créant des programmes supplémentaires, notamment pour les bac+2 et bac + 3.

La CSNP appelle par ailleurs à « promouvoir la féminisation dans le secteur de l’IA », à l’aide d’initiatives spécifiques, et à « la création d’un réseau européen de formation de l’IA », pour favoriser les échanges.

• • Le datamining, cache-misère contre la fraude fiscale
  • Pourquoi dédier une journée à l’inclusion des femmes dans le numérique ?