Avec les travaux sur la loi Sécuriser et réguler le numérique (SREN), les émeutes qui ont suivi la mort de Nahel (17 ans), tué par un policier en début d’été, et leurs répercussions en ligne, ont participé à motiver l’organisation de cet événement.

• « Sécuriser et réguler » le numérique : ce que contient le projet de loi
• Pharos a reçu 2 700 signalements de vidéos des émeutes, entraînant 32 arrestations
• Couper les réseaux sociaux n’est pas un projet du gouvernement

S’y ajoute désormais le pan numérique du conflit Israël - Hamas, qui illustre à sa manière les problématiques posées par la désinformation et la violence ambiante. Sans parler d’autres problématiques de fonds, comme la tendance de certains réseaux à emmener leurs utilisateurs vers des contenus susceptibles d’encourager les réflexions dépressives ou le suicide, comme l’illustrait encore un rapport d’Amnesty International sur TikTok au début du mois.

• Israël – Hamas : sur le front numérique aussi, le conflit fait rage
• Fausses informations, DSA et guerre Israël/Hamas : Thierry Breton envoie une « lettre urgente » à Elon Musk

Parmi les préoccupations principales des débats, donc : la désinformation, la violence ambiante de la société, notamment en ligne, mais aussi et surtout la viralité des éléments pré-cités. Une fausse information, après tout, circule six fois plus vite qu’une vraie, selon le travail d’une équipe du MIT. Et parmi les vecteurs de cette viralité, l’émotivité, notamment négative, joue un large rôle.

Réseaux sociaux, boucs émissaires ?

Sur la question des discussions qui ont suivi les émeutes, le député de Vendée Philippe Latombe (Renaissance) se déclare « assez surpris » par le tour anti-réseaux sociaux qu’elles ont pu prendre. Au centre d’une polémique sur ce sujet et celui des VPN cet été, le député de Loire-Atlantique Mounir Belhamiti (Renaissance) répondra plus tard qu’il n’a jamais été question de couper les réseaux sociaux.

Le principal problème, pointera-t-il avec M. Latombe, n’était pas tant les réseaux dans leur ensemble que certaines fonctionnalités spécifiques de réseaux comme Snapchat (dont la carte permet de géolocaliser précisément des événements en direct) ou Instagram.

« Ces réseaux sont rapidement hybrides, rappelle Philippe Latombe : ils dévient facilement vers des conversations, que celles-ci aient lieu dans des boucles ou en privé, en one-to-one ». Légalement, cela pose d’épineuses questions de régulation, si bien qu’« on a posé la question à l’Union Européenne : faut-il considérer des boucles de discussion sur Telegram ou WhatsApp comme relevant des réseaux sociaux, ou de la conversation ? »

• • Pour la Commission européenne, la France prend trop de libertés avec son projet de loi SREN

Dans le premier cas, il serait possible de réguler les plateformes concernées avec la directives sur les services numériques (DSA), dans le second, « on tombe dans le secret de la correspondance, ça revient dans le giron du législateur national, et ça soulève des contraintes institutionnelles ».

« Les réseaux sociaux sont super utiles, c’est une évidence » estime le maire du Creusot et président de la communauté urbaine Creusot-Montceau, David Marti qui détaille le double aspect de ces outils. Ils lui permettent de toucher « cinq, six, sept fois plus de gens que ce qu’on pouvait faire » avant leur apparition. Cela sert non seulement l’information des concitoyens, mais aussi leur participation à la vie politique locale : « il est beaucoup plus simple de consulter la population ».

« Le problème, ce n’est pas les réseaux sociaux en tant que tel, c’est la société qui est devenue violente », estime-t-il. De ce point de vue, les outils numériques servent surtout « à propager ».

Pour l’avocat Grimaux Valat, pour réguler, il faut se mettre d’accord sur la manière de traiter le contenu diffusé. « Quand on parle de réseaux sociaux comme bouc émissaire, je trouve ça intéressant. Parce qu’il est vrai que ces réseaux ne sont que des outils. Cela dit, intrisèquement, il existe des manière de le construire qui sont de nature à rendre plus ou moins simple le contenu illicite. »

Sur ce point, il note que le DSA essaie globalement de suivre l’idée que « ce qui est illicite hors ligne doit aussi l’être en ligne ». Il alerte, en revanche, contre la tentation d’une loi spécifique sur les publications numériques. Certains contenus, pointe-t-il, « sont illicites par nature, comme la pédopornographie » ou les publications terroristes.

D’autres, en revanche, ne le sont qu’en fonction du contexte : « un film n’est pas illicite en soi, mais le partager de manière illégale, sous forme de contrefaçon, l’est ». La qualification de contenus en diffamation, injure ou incitation à la haine dépend aussi, souvent, du contexte.

À grands pouvoirs… responsabilités plutôt légères jusqu’ici

Une fois qu’on définit ce qui est illicite ou pas, se posent les interrogations suivantes : « Comment on identifie, puis on traite le contenu illicite, qui s’occupe de l’identification, comment on poursuit l’auteur… Ce sont des questions auxquelles le DSA a en parti répondu ».

Député des Côtes d’Armor, Eric Bothorel (Renaissance) note tout de même qu’ « à l’heure où les choses sont dans une immédiateté totale, il faut que les réponses soient dans la même immédiaté. Évidemment il n’est pas question de passer outre la justice, mais PHAROS est en droit d’intervenir en cas de péril imminent, et tout le monde en convient. »

Pour les contenus violents diffusés par l’auteur de l’acte, comme dans le cas de la tuerie de Christchurch, « pour moi on doit les retirer rapidement car ils ont vocation à terroriser la population, ça fait partie du "package du terroriste", si je puis dire. » Pour autant convient-il, trancher sur la question de la durée avant laquelle modérer (dans l'heure, dans le cas des contenus terroristes) reste complexe vu la variété des publications véhiculées via les réseaux sociaux.

Et là, une bonne partie de l’assistance tombe d’accord : le travail législatif a franchement manqué le coche. David Marti parle d’une « faillite collective ». La sénatrice de Seine-Maritimes Catherine Morin-Desailly (Union Centriste) ironise sur le fait que « pendant vingt-trois ans on ne s’est pas demandé comment la loi devait prendre en compte » l’évolution profonde provoquée par les réseaux sociaux et les entreprises qui les construisent.

• • Numérique : nos élus sont-ils si nuls ?

« Il a fallu qu’elles abusent fiscalement, qu’elles abusent de leur position économique, Snowden n’a même pas suffit… Il a fallu attendre Cambridge Analytica pour se rendre compte que les plateformes étaient complices d’intérêts étrangers qui attaquaient nos démocraties. »

Réseaux sociaux, réseaux de conversation, médias ?

« Un réseau social, moi, j’appelle ça un média, lance alors Bertrand Serp, vice-président de Toulouse Métropole en charge de la transformation numérique. Donc on doit le réguler comme les médias ». Il est rejoint par Grimaud Valat, pour qui l'une des solutions passe par la certification de compte : « J’entends qu’il y ait une envie de préserver une forme d’anonymat en ligne, précise-t-il, même s’il est plus ou moins inexistant, en réalité. Mais la certification permettrait d’apporter la notion de responsabilisation qu’il manque actuellement ».

Et de citer le cas de juges pour enfants, qui, face à des mineurs auteurs de harcèlement, peinent à trouver la bonne sanction. « On ne va pas donner une amende, pas aller jusqu’à une peine pénale… La solution ce serait donc une peine éducative, du type : cet outil avec lequel tu as commis l’infraction, tu n’y as plus accès pendant un certain temps. » Pour l’avocat, la certification permettrait ainsi de responsabiliser les internautes tout en préservant la qualité de média des réseaux sociaux.

Mounir Belhamiti nuance : « si les réseaux sociaux sont des médias, alors il faut pouvoir identifier les directeurs de publication que chacun de nous sommes ». Au-delà de la responsabilisation à posteriori, cela pose la question de l’identification des auteurs. Or, « pour les affaires de droit commun, on a toutes les difficultés du monde à le faire. Pourtant, dans les médias traditionnels, un directeur de publication a une responsabilité pénale. » Si les réseaux sociaux en sont, conclue-t-il, ce devrait être la même chose pour ceux qui postent.

« Ça fait quinze ans qu’on se pose la question, on voit bien que les réseaux sociaux ne sont pas que des hébergeurs », admet Eric Bothorel, pour autant, ce ne sont « pas des médias ». Il y a encore besoin d’une profession et d’une industrie qui « joue son rôle en terme de passeurs de connaissance, de recontextualisation, de recul », estime-t-il, et ces activités sont différentes de celle des plateformes.

Là où les deux se rejoignent peut-être, pointe Grimaud Valat, c’est sur la « puissance de diffusion ».

Comment, et à quel niveau réguler ?

Si certains dans l’assistance regrettent que la France ait délégué une partie de son pouvoir de régulation à l’Europe, d’autres répondent que l’Union est la seule manière de peser face aux géants du numérique. Sur le sujet connexe des modèles algorithmiques, Philippe Latombe prend le cas de ChatGPT, que la CNIL italienne a interdit pendant six jours. « À ce moment-là, les italiens ont tous pris des VPN » pour aller consulter ChatGPT ailleurs en Europe.

« Seul le niveau européen permet d’atteindre la masse critique qui fait que l’on peut réguler les réseaux sociaux. » Les textes sont ensuite déclinés au niveau national, et dans un cas comme celui des émeutes après la mort de Nahel, « peut-être qu’on peut passer par des régulations judiciaires pour éviter des géolocalisations trop précises, peut-être qu’on peut donner à la police nationale la possibilité de faire des enquêtes en ligne sous pseudonymat… C’est peut-être là que réside notre latitude d’agir. »

La philosophe Laurence Vanin argumente en faveur de la promotion de l’esprit critique et d’une éthique collective des usages numériques, qui se pense et se partage « par l’éducation ». Comparant les technologies aux médicaments - ici plane l’ombre des débats autour de l’AI Act - Catherine Morin-Desailly estime qu’il faudrait « un systèmes de safety by design, des batteries de tests » avant que les produits ne soient « mis sur le marché européen ».

Face aux intervenants pessimistes sur l’efficacité du DSA, ou de la loi SREN qui doit l’appliquer, Eric Bothorel s’affirme plutôt confiant. Dans la balance entre liberté et sécurité, il explique « je ne suis pas pour une société où on garantisse à 100 % la sécurité- ce serait impossible, et ce serait à un prix énorme en termes de libertés. » Par ailleurs, note-t-il, hors ligne, « plein de crimes et délits ne sont pas élucidés. 10 % des cambriolages le sont, par exemple, et on s’en satisfait » (pas sûre que ce soit le cas de la Cour des Comptes).

Une vision à laquelle s’opposent Mounir Belhamiti et Bertrand Serp. En tant qu’élu local, ce dernier insiste : « c’est un sujet super politique. Quand vous êtes dans les villes, dans les campagnes, la sécurité, c’est un sujet majeur, même à Toulouse qui est une ville de gauche ». Et de citer des parents de jeunes victimes de harcèlement en ligne, des adultes aussi victimes de ce type de violence - le député avancera plus tard le chiffre d'un suicide d'adolescent « tous les quinze jours » en France à cause du harcèlement, notamment en ligne.

• • Une plainte déposée contre TikTok pour provocation au suicide

« Si on ne prend pas ces préoccupations au sérieux, le risque, c’est de faire monter les extrêmes », alerte Bertand Serp.

• • Harcèlement en ligne : les climatologues particulièrement ciblés

• • Cyberviolence : les annonces de Pap Ndiaye ne convainquent pas

• • Des victimes de violences conjugales racontent leur cyberharcèlement

• • Désinformation, violence : les licenciements chez les Big Tech affectent-ils les discours en ligne ?

Une société 100 % sécurisée, avec 100 % d’élucidation des problèmes, « c’est impossible » agrée Grimaud Valat. « Mais quand on a des outils à notre disposition, de telle puissance, en général, on les régule. » Et de citer, à nouveau, la question de l’identification, en comparant avec ce qui existe du côté des abonnements téléphoniques et internet, du secteur bancaire, ou encore, sur la route, de la plaque d’immatriculation.

Après un ultime débat sur la question de l’identité numérique, c’est le rapporteur du projet de loi SREN Paul Midy qui conclut les échanges. Parmi ses messages : oui, faire des réseaux sociaux les boucs émissaires est une erreur. « Si l’on compare à quelque chose qui a réussi, la sécurité routière, heureusement qu’on ne s’est pas dit qu’il fallait seulement taper sur les constructeurs de voiture ». L’information, l’éducation, la contrainte (comme le permis), des règles (comme le code de la route… « En termes de politique, il faut utiliser tous les leviers ».

Sur la régulation, le député « pense qu’on a sous-exploité nos pouvoirs de police régaliens », rejoignant ceux qui regrettaient plus tôt que dans les espaces numériques, ces pouvoirs n’aient été délégués aux entreprises. Quant à l’identité numérique, « c’est une condition de la civilité ». L’idée du projet SREN, martèle-t-il, c’est de dire « non au droit à l’anonymat face à l’autorité quand on est en démocratie et qu’on est en train de commettre quelque chose d’illégal ».

Ce droit n'existe pas hors ligne, continue-t-il. Pourquoi serait-ce différent en ligne ?