PANAME, pour Privacy Auditing of AI Models. C'est le nom d'un nouveau projet visant à développer un outil pour auditer la confidentialité des modèles d’IA.

Lancée par la CNIL en partenariat avec l'ANSSI, mais aussi le Pôle d'expertise de la régulation numérique (PEReN) et le projet Ipop, l'idée est de fournir une bibliothèque logicielle « disponible toute ou partie en source ouverte, destinée à unifier la façon dont la confidentialité des modèles est testée », explique leur communiqué.

Rappelons que le comité européen de la protection des données (CEPD) a publié en décembre 2024 un avis [PDF] sur le RGPD et les modèles d'IA. Dans celui-ci, il précise que les développeurs de modèles doivent mettre en place des procédures pour « empêcher ou limiter la collecte des données à caractère personnel utilisées pour l'entrainement, pour réduire leur identifiabilité, pour empêcher leur extraction ou pour donner l'assurance que l'état de l'art résiste aux attaques ».

PANAME devrait donc être une réserve d'outils à ces fins.

Les rôles des quatre partenaires se répartissent ainsi :

• le PEReN sera principalement en charge du développement de la bibliothèque ;
• l’ANSSI apportera son expertise cyber, notamment sur les contextes d’attaques sur les systèmes informatiques ;
• Le Projet IPoP assurera la direction scientifique du projet ;
• La CNIL assurera le pilotage du projet ainsi que le cadrage juridique.