Alors que le projet de loi sur la sécurité publique et contre le terrorisme débute sa phase d’examen à l’Assemblée nationale, le Conseil national du numérique publie un long plaidoyer contre la justice du soupçon. Il profite de la fenêtre pour rappeler l’importance du chiffrement.

« Prédictions, chiffrement et libertés ». Voilà les trois thèmes dessinés par le CNNum dans son avis, révélé le jour même où le projet de loi anti-terroriste est examiné en commission par les députés.

Cette impression de « spirale infernale », alimentée par ce nouveau texte sécuritaire, le quinzième depuis 2012, suscite une série de commentaires de la part de cette instance consultative. Deux foyers incendiaires : d’une part, Internet qui apparaît dans le discours politique « comme un coupable idéal » ou un « terrain d’expérimentation pour le déploiement dans le droit commun des instruments sécuritaires ». De l’autre, le recul de l’intervention de l’autorité judiciaire.

Le projet de loi, premier texte sécuritaire d’Emmanuel Macron, ne manque pas de respecter cette jeune tradition, en basculant entre les mains de l’autorité administrative nombre de prérogatives qu’on pensait réservées au juge.

Le recul du juge face à l'autorité administrative

« Malgré l’urgence et la complexité technique inhérentes aux affaires antiterroristes, le Conseil tient à réaffirmer son attachement au principe d’une intervention judiciaire lorsque sont mises en cause les libertés individuelles » soutient l’avis, sans détour. « Si le passage par le juge ne constitue pas une garantie absolue, il s’apparente à une garantie nécessaire : contrairement à l’administration ou aux services de sécurité, régis par un pouvoir hiérarchique, le juge est indépendant ».

Et pour cause, avec l’actuel projet de loi, déjà voté par les sénateurs, l’intervention du juge est ou bien accessoire ou bien a posteriori : périmètre de protection, mesures individuelles de contrôle administratif, visites et saisies administratives, fichier des voyageurs, surveillances hertziennes…

Une logique du soupçon

Un autre mouvement se dessine, outre le recul du judiciaire : cette logique du soupçon qui imprègne les récentes législations. À chaque fois, « la notion de comportement tend à se substituer à celle d’activité : au nom d’une conception prédictive de la lutte antiterroriste, des individus pourraient être contraints non parce qu’ils prépareraient des crimes ou des délits, mais bien parce qu’ils seraient susceptibles d’en commettre ».

Les exemples symptomatiques ne manquent pas. Il y a celui dénoncé par le Conseil constitutionnel, relatif à la surveillance des proches d’une personne susceptible d’être en lien avec une menace terroriste. Autre cas, évidemment, celui des boites noires, elles aussi issues de la loi sur le renseignement et déjà déployées à l’échelle internationale.

Ces pratiques de surveillance qui « deviennent permanentes et générales », dopées par « l’augmentation des capacités de calcul, les progrès de l’intelligence artificielle et du deep learning associés » surfent sur la vague des modèles prédictifs. « L’intention est louable et semble frappée au coin du bon sens. Elle soulève néanmoins des considérations bien spécifiques ».

Il y a avant tout un risque de faux positifs d’où découlent des atteintes pourtant directes à la vie privée des internautes. « Malgré les progrès spectaculaires de l’intelligence artificielle, ces algorithmes de traitement de données n’en sont pas moins exempts de biais, notamment sociologiques » ajoute l’avis.

Des risques de biais

Ces biais « peuvent contribuer à renforcer les discriminations dont sont victimes certains groupes d’individus au sein d’une population. Ces dangers, qui commencent à être bien documentés, ont récemment fait irruption dans le débat public autour des questions de police prédictive ».

Pour le CNNum, il n’y a pas mille solutions : « Un chantier doit être ouvert en matière d’explicabilité de ces algorithmes de traitement de données : le contrôleur doit être en mesure d’ouvrir ces boîtes noires, afin de s’assurer de leur équité, pour organiser une voie de retour démocratique et l’effectivité du droit au recours des individus ».

On notera que la Commission nationale de contrôle des techniques du renseignement a déjà le pouvoir d’émettre « un avis » sur la demande d'autorisation visant ces boites noires, ainsi que sur les paramètres de détection retenus.

« Elle dispose d'un accès permanent, complet et direct à ces traitements ainsi qu'aux informations et données recueillies. Elle est informée de toute modification apportée aux traitements et paramètres et peut émettre des recommandations » indique l’article L851-3 du Code de la sécurité intérieure. Mais visiblement ce simple avis n’est pas assez robuste aux yeux du CNNum.

Menace sur le chiffrement

Un autre sujet risque d’être relancé lors des débats à l’Assemblée nationale concerne le chiffrement. Il faut se souvenir du plan présenté par Emmanuel Macron et Theresa May qui rêve de « permettre l’accès au contenu chiffré », prévoyant que « lorsque les technologies de chiffrement sont utilisées par des groupes criminels, voire terroristes, il doit exister une possibilité d’accès au contenu des communications ».

« Cette déclaration peut laisser songeur : comment accéder à des contenus chiffrés dont on n’a pas la clef ? » s’interroge toujours le Conseil qui refuse, comme la CNIL, l’idée de voir implanter des portes dérobées sur ces dispositifs. « Celles-ci auraient pourtant des conséquences dramatiques pour l’ensemble des utilisateurs. Les cyberattaques récentes et massives ne cessent de démontrer le risque que peut faire courir le maintien volontaire de failles de sécurités, par des agences de renseignement à des fins offensives, pour la sécurité des utilisateurs »

En réponse à ce plan May-Macron, l’avis met les points sur les i : « il n’existe pas de technique d’affaiblissement systémique du chiffrement qui ne permettrait de viser que les activités criminelles. Limiter le chiffrement pour le grand public reviendrait alors à en accorder le monopole aux organisations qui sauront en abuser ».

• Télécharger l'avis du Conseil national du numérique