La CNIL annonce un nouveau service dédié à l'intelligence artificielle

La CNIL annonce un nouveau service dédié à l’intelligence artificielle

I'm gonna swing

Avatar de l'auteur
Vincent Hermann

Publié dans

Droit

24/01/2023 7 minutes
3

La CNIL annonce un nouveau service dédié à l'intelligence artificielle

La CNIL vient d’annoncer la création du SIA, pour service de l’intelligence artificielle. Composé de cinq personnes, il aura plusieurs missions, dont la consolidation de l’expertise de la CNIL sur le sujet et la préparation de l’entrée en application du règlement européen sur l’IA.

Comme le montre l’actualité particulièrement intense dans ce domaine depuis quelques semaines, et dans le sillage de ChatGPT, l’intelligence artificielle est un sujet foisonnant, appelé à prendre une ampleur toujours croissante dans les années à venir. Certaines entreprises ne s’y trompent d’ailleurs pas, à l’instar de Microsoft, qui investit lourdement dans ce domaine, comme Google et d’autres.

En France, on se prépare à l’arrivée du règlement européen sur l’intelligence artificielle, que nous avons déjà abordé à plusieurs reprises, notamment sous l’angle de la responsabilité. L’Europe compte être particulièrement offensive sur le sujet, notamment avec la notion de « présomption de causalité » dans les systèmes IA, l’établissement d’une chaine claire de responsabilité et une souveraineté humaine à préserver.

Cette préparation va faire partie du nouveau service de l’intelligence artificielle annoncé par la CNIL. Ce petit groupe aura un rôle transversal au sein de la Commission, en lien avec toutes ses directions.

Les attributs du nouveau service

Le service de l’intelligence artificielle aura quatre missions, ainsi décrites par la Commission :

  • faciliter au sein de la CNIL la compréhension du fonctionnement des systèmes d’IA, ainsi que pour les professionnels et les particuliers ;
  • consolider l’expertise de la CNIL dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes ;
  • préparer l’entrée en application du règlement européen sur l’IA ;
  • développer les relations avec les acteurs de l’écosystème.

On est donc pleinement dans un rôle de coordination.

Le groupe sera constitué de cinq personnes et composé exclusivement d’ingénieurs spécialisés et de juristes. Il sera rattaché à la direction des technologies et de l’innovation de la CNIL, et donc sous la houlette de Bertrand Pailhes, auparavant coordinateur national pour la stratégie d’intelligence artificielle au sein de la DINSIC (Direction interministérielle du numérique et du SI de l'État).

Le SIA sera en collaboration « étroite » avec la direction en charge de l’accompagnement juridique, dirigée par Thomas Dautieu. Il pourra participer à la production de « droit souple » (référentiels, recommandations, etc.) ou encore à l’instruction des demandes d’avis adressées par le gouvernement. La direction pourra également envoyer le SIA conseiller certains acteurs publics et privés, mais uniquement quand la mise en place d’un système d’intelligence artificielle sera d’une « complexité particulière ».

Ce rôle coordinateur s’étendra, comme dit, à toutes les directions. Le SIA pourra être sollicité par chacune selon les besoins. Autant dire que ce groupe de cinq personnes risque fort de ne pas s’ennuyer, d’autant qu’il sera consultable à tout moment pour expertise, devra fournir un support dans l’instruction des plaintes et « adoption de mesures correctrices en cas de manquements liés à l’utilisation d’un système d’IA ».

Son cœur d’activité sera bien sûr l’expertise technique des dossiers relatifs à l’intelligence artificielle. En tant que tel, il contribuera au Comité européen de la protection des données (CEPD). En outre, il mènera certains projets d’expérimentation, en lien avec le laboratoire d'innovation numérique de la CNIL (LINC).

Une évolution rapide

On note une accélération franche de la manière dont est considérée l’intelligence artificielle, avec une reconnaissance du rôle qu’elle est amenée à jouer dans le futur immédiat.

La formation de ce groupe est ainsi une conséquence directe du rapport publié par le Conseil d’État fin septembre. Il n’aura fallu que quelques mois pour que la CNIL suive les recommandations du Conseil, dont le renforcement de ses équipes, tant son rôle et sa masse de travail vont croitre. 

La CNIL en profite d’ailleurs pour rappeler que ce même rapport reconnaissait son importance à jouer un « rôle d’autorité de coordination et de supervision » en fonction des dispositions du règlement européen. De plus, la même CNIL devra « assurer le maillage d’un vaste réseau d’institutions publiques allant des autorités de surveillance de marché aux régulateurs sectoriels ». Un message pleinement adressé au gouvernement, plus spécialement aux personnes validant le budget de la Commission.

La constitution de ce groupe est une manière d’affirmer que la CNIL n’attend pas. « Dès à présent et sans attendre l’évolution du cadre juridique, la création de ce service vient répondre à un enjeu de société dont l’importance augmente chaque jour et s’inscrit dans la continuité de travaux relatifs à l’intelligence artificielle initiés de longue date par la CNIL », indique la Commission.

Un tremplin à encadrer

Pour la CNIL, il n’est pas question de méfiance : « L’intelligence artificielle connaît des avancées technologiques spectaculaires, permettant d'assister l’humain dans de très nombreuses tâches. Dans le secteur privé, elle est vue comme un facteur d’optimisation des performances et de la rentabilité, tandis que son utilisation dans les administrations pourrait permettre d’améliorer la qualité du service public rendu à l’usager ».

Cependant, c’est son ubiquité qui la rend sensible, entraînant la nécessité d’un encadrement permettant à l’ensemble des acteurs de jouer avec les mêmes règles. « L’usage de cette technologie concerne ainsi tous les acteurs, quels que soient leurs domaines d’activité ou leur taille. Par ricochet, toute personne y est forcément directement ou indirectement confrontée à un moment ou un autre, par exemple, à l’occasion de l’utilisation d’un assistant vocal, d’un processus de sélection des candidatures à un emploi ou en matière de lutte contre la fraude fiscale », appuie la CNIL.

C’est justement cette omniprésence qui entraîne le traitement d’une vaste quantité de données, « très souvent personnelles ». Il y a donc des risques pour la vie privée, expliquant pourquoi la CNIL s’empare plus intensément du sujet.

La Commission appuie bien sûr sur les « enjeux d’information », tant pour les usagers qui y voient souvent une « boite noire », que pour les responsables des traitements et les régulateurs. Sur ce point, la CNIL rappelle qu’elle travaille depuis 2017 sur le sujet, de trois manières : identifier les enjeux éthiques et juridiques, l’instruction de dossiers liés à l’IA et la production d’outils et ressources pour en faciliter la compréhension, ainsi que la maîtrise des risques associés. Dans ce contexte, la création du SIA prend tout son sens, selon la CNIL.

Écrit par Vincent Hermann

Tiens, en parlant de ça :

Sommaire de l'article

Introduction

Les attributs du nouveau service

Une évolution rapide

Un tremplin à encadrer

Fermer

Commentaires (3)


Très bonne initiative !


Ce matin Marie-Laure Denis, la présidente de la CNIL, était invitée par FranceInfo au sujet des caméras dites “intelligentes” pour les JO. J’étais un poil mitigé à l’écoute de cette interview, on ressent bien le fait que les décisions de la CNIL ne sont pas assez contraignantes sur le processus législatif.



Et malgré toutes les promesses et bonnes paroles, l’interview rappelle bien que la volonté d’introduire la reconnaissance faciale a été plusieurs fois remise sur le tapis, et aujourd’hui encore elle l’était il me semble. Autant j’ai une certaine confiance dans le travail de la CNIL, autant sur le législateur je n’en ai aucune.


Merci beaucoup pour la vidéo !