Comment s’articule la lutte contre le cyberdjihadisme entre autorités publiques et acteurs privés ? Lors d’un atelier au Forum international contre la cybercriminalité à Lille, plusieurs d’entre eux ont évoqué la question, dont la directrice des affaires publiques de Twitter France, Audrey Herblin-Stoop, ou encore François-Xavier Masson, le chef de l’OCLCTIC. 

La question de la lutte contre le cyberdjihadisme s’est invitée lors d’un échange au FIC de Lille où intervenait la directrice des affaires publiques de Twitter France. Une présence rare, alors que le réseau social est régulièrement mis en cause chaque fois que les autorités dénoncent Internet et ses canaux de diffusions.

Avant son intervention, Laurence Bindner, qui fut directrice du développement du Centre d’analyse du terrorisme (CAT), a remis en perspective la trame historique.

Les véhicules traditionnels ont d’abord été les K7 audio ou VHS, et même des feuillets passés de main en main. Ensuite, dans les années 2000, l’émergence des sites Web a pris le relais, et dans leur sillage, les forums en langue arabe puis anglaise, et même multilingues pour faciliter encore et toujours ces propagations.

C’est au moment de l’insurrection syrienne, et l’arrivée de jeunes venus d’Europe, que l’intérêt s’est concentré sur les plateformes comme Twitter ou Facebook. Désormais, néanmoins, suite à des nettoyages plus actifs sur les réseaux sociaux, ces messages se sont déportés sur les messageries comme Telegram. Un certain retour à la clandestinité, qui n’empêche pas des actions ponctuelles plus bruyantes.

Un double dilemme

Évidemment, Laurence Bindner a rappelé les dilemmes qui surgissent dès lors qu’on manipule la paire de ciseaux. Dans une dimension opérationnelle, éradiquer de tels messages pousse naturellement leurs auteurs à plonger dans le « dark ou le deep », et donc à rendre plus délicates les enquêtes. D’un point de vue éthique, une autre question revient: à qui revient la légitimité de qualifier ces contenus ? À l’État ou aux personnes privées ?

Sur ce point, le chef de l’OCLCTIC a évoqué le cas des prêches interminables. Celui qui gère la plateforme de signalement Pharos, et ses 25 vigies, ne se pose pas beaucoup de questions « si on voit un petit drapeau noir flotter » dans le coin d’une vidéo. Quentin Austin, responsable du projet à Point de contact, une plateforme de signalement privée, gérée par une association, a rapporté une série de chiffres qui témoignent cependant de la délicate question de la qualification. 

Des traitements automatisés couplés à une analyse humaine

Par exemple, durant cette funeste année 2015, Point de Contact a reçu 2 500 URL qualifiées par les internautes comme étant en lien avec le terrorisme. Après analyse, seules 210 sont restées collées avec cette étiquette puis transmises au ministère de l’Intérieur.

L’année suivante, les deux chiffres ont été respectivement de 330 et 32. En 2017, enfin, le nombre d’URL a grimpé à 3 500 pour 1 500 finalement retenues. Au passage, sur la localisation, 51 contenus « terro » ont été pointés sur des serveurs français, contre 650 aux États-Unis.  

Dans ce travail de sélection, l’association reconnaît qu’aujourd’hui l’intelligence artificielle et les traitements automatisés sont devenus des éléments très importants au quotidien. L’enjeu ? Faire face à une volumétrie de signalements qui s’échouent par vague sur ses écrans, où des contenus ne sont pas toujours manifestement illicites.

Des techniques de hachage permettent d’affûter les traitements pour disposer par exemple d’avertisseurs si une vidéo est signalée plusieurs fois. Toutefois, impossible de se passer d’une intervention humaine puisque le lieu de publication et le contexte même d’une diffusion peuvent entraîner une qualification différente. « L’humain est indispensable au même titre que l’automatisation ».

Chez Twitter, le tournant Charlie Hebdo

De l’avis d’Audrey Herblin-Stoop, arrivée chez Twitter le 7 janvier 2015 (soit le jour même des attentats de Charlie Hebdo), ce drame a marqué un tournant. Avant 2015, Twitter, fort de plus de 300 millions d’utilisateurs, admet avoir été une plateforme de choix dans la propagande islamique et le recrutement. Un sujet sur lequel l’hébergeur - créé pourtant en mars 2006 - dit ne pas s’être assez soucié faute d’avoir bien mesuré « la portée » de son propre succès.

Depuis 2015, le changement s'opère avec une réactivité à plusieurs niveaux : des CGU censées être mieux adaptées, des outils de signalement développés à partir des solutions anti-spams…. Si bien qu’entre août 2015 et septembre 2017, 1,143 millions de comptes considérés comme terroristes (apologie, etc.) ont été supprimés par ses soins, dont 93 % par les technologies maison, et même 75 % avant leur premier tweet.

Entre janvier et juillet 2017, 574 070 comptes ont subi le même traitement. En comparaison, sur la même période, seules 338 demandes de retrait ont été reçues des forces de l’ordre, tous États confondus.

Au printemps 2015, a également été mis en place le « protocole Cazeneuve », où Apple, Microsoft, Google, Facebook et Twitter se sont retrouvés au tour d’une table. « On travaillait peu ensemble, il y avait de la défiance d’avoir des rapports trop proches avec l’État » admet la responsable des affaires publiques.  

Désormais, un groupe de contact permanent permet à ces concurrents de se réunir tous les deux mois pour entretenir la coopération. Une grande base de données a été éditée pour mettre en commun les « hashs » des contenus terroristes, où chacun peut puiser des éléments à des fins d’éradication.

Le psychodrame de l’étau

Pour le réseau social, l’enjeu est bien entendu de relativiser les accusations dans la dissémination des contenus terroristes. Néanmoins, tous les hébergeurs connaissent le psychodrame de l’étau : leur passivité rendrait à coup sûr ces accusations fondées dans l’opinion publique. Trop actifs, les voilà flirtant avec l’atteinte à la liberté d’expression et suscitant d’autres revendications, avec les ayants droit aux aguets.

Une certitude, questionnée sur une éventuelle collaboration avec les autorités sur la mise en place des boîtes noires censées détecter des menaces terroristes, la directrice des affaires publiques de Twitter nous répond : « On a une règle : on ne souhaite pas que nos services soient utilisés à des fins de renseignement. »