Après une nette diminution des contenus retirés observée en 2022 par rapport à l’année 2021, « tous les chiffres de retrait et de blocage sont en forte hausse en 2023 par rapport à l’année 2022 », relève le rapport d'activité 2023 de la personnalité qualifiée de l'Arcom « chargée du contrôle des dispositifs administratifs de lutte contre la diffusion de contenus terroristes et pédopornographiques » :

« + 40 % s’agissant des demandes de retrait de contenus pédopornographiques, et + 50 % s’agissant des demandes de retrait de contenus d’apologie du terrorisme. »

• Une explosion de demandes de retrait de contenus exploitant sexuellement des enfants
• La personnalité qualifiée a examiné 83 000 demandes de retrait, contre 133 000 l’an passé

Des chiffres qu'il revient de recontextualiser. Le nombre de demandes de contrôle des mesures administratives de retrait, blocage ou déréférencement de contenus en ligne était en effet passé de 11 757 en 2019 à 50 448 en 2020 (+ 329 %), 133 295 en 2021 (+ 264 %), avant de retomber à 82 754 en 2022 (- 38 %), et 118 160 en 2023 (+ 143 %).

Les contenus à caractère pédopornographique demeurent largement majoritaires par rapport aux contenus à caractère terroriste, puisqu’ils représentent « environ 80 % » des demandes contrôlées par la personnalité qualifiée en 2023.

Celui des demandes de retrait de contenus relevant de la « pédopornographie » était ainsi passé de 7 425 en 2019 à 46 803 en 2020 (+ 530 %), 118 407 en 2021 (+ 153 %), 67 577 en 2022 (- 43 %), et 95 236 en 2024 (+ 41 %).

Le nombre de demandes de retrait de contenus faisant l'apologie du terrorisme était quant à lui respectivement passé de 4 332 à 3 645 (- 16 %), 14 888 (+ 308 %), 15 177 (+ 2 %) et 22 924 en 2023 (+ 51 %), « un chiffre jamais atteint jusqu’à présent », exception faite, comme l'indique le graphique de l'Arcom, de l'année 2017, qui avait enregistré 32 739 demandes de retrait de contenus à caractère terroriste.

Daesh et à Al-Qaïda recyclent les attaques terroristes du Hamas

Le rapport n'explique pas ce qui aurait présidé à cette augmentation des contenus pédosexuels. Par contre, il note que l'année 2023 « a été marquée par les attaques terroristes du Hamas le 7 octobre 2023 en Israël et le conflit armé qui s’est ensuivi, ainsi que par des attaques terroristes islamistes meurtrières sur le territoire national » :

« Ces crises ont induit une forte mobilisation des services administratifs en charge de la lutte contre la dissémination des contenus apologétiques ou provocant au terrorisme. Elles expliquent en
grande partie la hausse du nombre de demandes de retraits. »

La multiplication de contenus liés aux organismes de propagande du Hamas, du Jihad islamique palestinien et du Hezbollah s'est accompagnée d’une « diminution parallèle » de la prévalence des contenus de propagande liés à l’État islamique et à Al-Qaïda, dont les médias affiliés fournissaient jusque-là la majorité des contenus faisant l'apologie du terrorisme islamiste :

« La personnalité qualifiée a cependant constaté un effet rebond dans un second temps, dans la mesure où les organismes de propagande de ces deux groupes ont cherché à capitaliser sur les attaques terroristes d’octobre 2023, ainsi que sur l’aggravation du conflit israélo-palestinien et les interventions armées d’Israël à Gaza qui s’en sont suivies, en les intégrant dans leur propre dispositif de communication à destination de leurs sympathisants. »

De plus, « beaucoup de demandes de retraits concernaient des appels au meurtre et des propos apologétiques tenus par des individus lambda, ce qui était assez inédit », explique Laurence Pécaut-Rivolier à Télérama.

La personnalité qualifiée relève par ailleurs une « augmentation relative » des contenus émanant du terrorisme d’extrême-droite, mais sans en fournir de chiffres consolidés ni de statistiques.

Elle relève en particulier la prévalence de rediffusions d’images ou de montages de l’attentat de Christchurch ayant eu lieu en mars 2019 en Nouvelle-Zélande, ainsi que le caractère récurrent de la diffusion, via de multiples sources, du manifeste de 74 pages intitulé « Le Grand Remplacement » rédigé par Brenton Tarrant dans lequel il déplore l'expansion de l'islam et un « génocide blanc ».

• • Les mineurs exposés à de la glorification de tueurs de masse en ligne

• • Terrorgram, la fabrique de terroristes d’extrême-droite, à coups de mèmes et de shitposts

A contrario, les deux attentats terroristes islamistes meurtriers commis sur le territoire français en octobre et décembre 2023, qui avaient fait l’objet d’une déclaration d’allégeance à l’État islamique par leurs auteurs, « n’ont pas donné lieu à une recrudescence observable de demandes de retrait en lien avec ces actes terroristes ».

Trois heures pour examiner environ 5 000 demandes

Le rapport relève que si la désignation d’une personnalité qualifiée suppléante « a permis de soulager notablement le travail de contrôle, la charge demeure lourde, notamment au regard des délais très contraints qui assortissent désormais les procédures d’injonctions européennes ».

M. Denis Rapone, conseiller d’État, a en effet été désigné le 22 février 2023 pour exercer la fonction de suppléant à la personnalité qualifiée, exercée par Laurence Pécaut-Rivolier, magistrate de l’ordre judiciaire, conseillère à la Cour de cassation, depuis 2022.

La personnalité qualifiée mène ainsi « en règle générale » trois séances de visionnage par mois, contre une pour son suppléant, pour un total de 47 séances, à raison d’une séance d’une à trois heures par semaine.

Le rapport souligne que compte tenu de la spécificité des contenus que les agents sont amenés à examiner, seuls sont admis à assister la personnalité qualifiée les collaborateurs de l’Autorité se déclarant volontaires « et ayant fait l’objet d’une décision d’aptitude préalable par la médecine du travail, à la suite d’un entretien d’évaluation psychologique par des psychologues cliniciens ».

Une assistance psychologique est mise à leur disposition, « à tout moment et de manière confidentielle ». Des séances collectives organisées à un rythme bimestriel permettent en outre à l’équipe d’ « échanger sur les bonnes pratiques et sur la mission en elle-même », et il leur est loisible de mettre fin « à tout moment » à leur participation à la mission.

En 2023, le nombre de volontaires a accusé une baisse, « notamment en raison de mouvements professionnels », avant de se stabiliser à douze volontaires, « ce qui autorise une rotation optimale des agents mobilisés pour les séances ».

Les volontaires participent en moyenne à deux séances de visionnage par trimestre. Chaque séance de contrôle mobilise deux volontaires, dure « au maximum trois heures, pour minimiser l’exposition des agents », ce qui permet d’examiner, en moyenne, « environ 5 000 demandes adressées par l’OFAC ». L’Office anti-cybercriminalité gère la plateforme Pharos (harmonisation, analyse, recoupement et orientation des signalements) et a remplacé, le 1er décembre 2023, l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication (OCLCTIC).

• • Le nouvel Office anti-cybercriminalité (OFAC) devrait doubler ses effectifs d’ici 2027

• • Guéguerre des polices dans le cyber (OFAC et ComCyberMi)

La personnalité qualifiée déplore par ailleurs qu’un même contenu à caractère pédopornographique « peut être reproduit, diffusé sur de nombreux sites et faire l’objet de demandes de retrait à chaque occurrence », ce qui contraint en pratique à contrôler régulièrement des contenus déjà connus et contrôlés :

« À cet égard, il serait plus opérationnel pour la personnalité qualifiée de disposer d’outils techniques permettant de repérer utilement si un contenu a déjà été vérifié. »

« Avec l’aide de l’intelligence artificielle, nous pourrions probablement nous éviter un tiers de visionnage », estime Laurence Pécaut-Rivolier auprès de Télérama.

89 % des demandes émanent de l'OFAC

Le rapport rappelle que la France « est le seul pays européen à avoir dès 2014 édicté une législation » permettant à une autorité de police gendarmerie spécialisée de demander le retrait, et à défaut le blocage ou le déréférencement des contenus d’apologie du terrorisme ou de pédopornographie, sous le contrôle d’une personnalité qualifiée.

Elle précise que si une partie des contenus dont le retrait est demandé par l’OFAC sont identifiés « grâce à des signalements d’associations ou de particuliers », et qu'elle qualifie de « particulièrement utiles », l’essentiel est détecté « grâce au travail de veille effectué spontanément par l’OFAC (environ 88 % s’agissant des contenus pédopornographiques et 95 % en matière terroriste, soit 89 % de l’ensemble des demandes de retrait) ».

Dans le cadre de ce qu'elle qualifie de « dialogue régulier » avec l’OFAC, la personnalité qualifiée, qui précise que sa mission « vise à limiter les retraits injustifiés de contenus », « demande régulièrement des compléments d’information » à la cellule en charge des mesures administratives à la suite d’une séance de contrôle :

« Il est arrivé à deux reprises qu’à la suite d’une telle demande, l’OFAC procède à la réévaluation de la demande initiale et mette fin de lui-même à la mesure administrative de retrait visant le contenu litigieux, sans demander par la suite le blocage ou le déréférencement du contenu. »

L'une de ces deux recommandations de remise en ligne, « a finalement été abandonnée à la suite des explications données par l’Ofac », explique Laurence Pécaut-Rivolier à Télérama :

« Il s’agissait d’une vidéo qui dénonçait – non pas qui approuvait – les actes de l’État islamique. J’avais donc demandé une remise en ligne. Mais le retrait concernait en fait seulement un commentaire situé juste en dessous de la vidéo, qui, lui, faisait l’apologie du terrorisme. »

La seconde recommandation concernait un site de vente en ligne commercialisant une série de vêtements et de biens courants (t-shirts, hoodies, casquettes, tasses…) portant le slogan ACTION DIRECTE (accompagnée d’une étoile noire), « couramment associé au groupement de fait du même nom, inactif depuis 1982 », précise le rapport.

La personnalité qualifiée a considéré que la demande de retrait « portait une atteinte disproportionnée à la liberté d’expression qui n’était pas justifiée par un trouble à l’ordre public d’une gravité telle que le recours aux pouvoirs d’exception conférés à l’OFAC s’imposerait de manière irréfutable ».

« Action directe n’a plus commis d’action violente depuis un certain nombre d’années. J’ai donc recommandé la remise en ligne de ces contenus », précise Laurence Pécaut-Rivolier à Télérama.

Le rapport précise que suite à l’inexécution par le ministère de l’Intérieur de sa recommandation tendant à ce qu’il retire cette demande, la personnalité qualifiée a saisi le tribunal administratif compétent d’une requête en annulation de ladite demande, le 6 février 2024.

« Ces décisions de justice sont rares, et donc particulièrement scrutées », souligne Télérama, qui précise que la dernière en date concernait des images des attentats de Nice, « diffusées sans aucun commentaire ». Le tribunal avait alors estimé qu'elles ne relevaient pas, « dans ce cas précis », d’apologie du terrorisme.