Facebook, Microsoft, Twitter et YouTube ont annoncé cette nuit une union pour lutter contre les contenus terroristes. Sont principalement visées les images (fixes ou vidéo) visant au recrutement. La base de données sera commune, mais chacun agira selon ses conditions d’utilisation.

L’année dernière, les quatre mêmes partenaires avaient déjà annoncé ce type de rapprochement pour les contenus pédopornographiques. L’idée était déjà alors de créer une base de données contenant les « hash » (condensats) des images impliquées, via une technologie provenant de l'Internet Watch Foundation. Chaque éditeur agissait ensuite selon ses propres règles pour remédier à la situation. Pour rappel, Gmail procédait déjà en 2014 à une analyse de toutes les boites email pour y détecter ce type de contenu, ce qui avait notamment conduit à l’arrestation d’un homme.

Une base de données commune pour les images et vidéos

C’est la même recette qui est appliquée désormais pour les contenus liés au terrorisme : une base de données centralisée dans laquelle les quatre cavaliers déversent les « hash » des contenus repérés. Les images et vidéos peuvent faire l’apologie du terrorisme, de manière violente ou détournée, ou encore être utilisée de manière plus subtile pour recruter de nouvelles personnes.

Chaque fois qu’un nouveau « hash » est ajouté dans la base par un des participants, les autres peuvent l’utiliser pour lancer une analyse de leurs propres contenus hébergés pour en chercher des copies. Chaque entreprise confronte alors le contenu à son propre règlement pour prendre les mesures jugées les plus adaptées, mais il s’agira dans la vaste majorité des cas d’une suppression.

Aucune information personnelle n'est officiellement récoltée

Plusieurs points sont cependant à préciser. La suppression elle-même n’est pas automatisée. Il y aura bien examen de chaque contenu et validation « humaine » du retrait. D’autre part, le communiqué commun assure qu’aucune information personnelle n’est aspirée dans la procédure et que la base ne contient bien que les images et vidéos elles-mêmes. Il n’y a pas non plus de signalement des individus qui seraient éventuellement détectés.

Rien dans le communiqué ne permet d’affirmer que les quatre éditeurs laisseront la base de données ouverte aux autorités. Ce serait même d’ailleurs le contraire, puisque chaque entreprise continuera de gérer séparément les requêtes émanant des forces de l’ordre, contre lesquelles certaines se battent d’ailleurs, à l’instar de Microsoft.

Il ne s’agit donc pas d’une initiative présentée comme accompagnant les efforts des différents services de police autour de cette thématique, mais d’un projet privé : « Nous espérons que cette collaboration conduira à une meilleure efficacité en poursuivant le renforcement de nos règles » contre la thématique globale du terrorisme, que les quatre sociétés jugent « urgente ».

Un dialogue avec les « parties intéressées »

Même s’il ne s’agit que de « hash » des images et vidéos et qu’aucune information personnelle n’est a priori récupérée, certains risquent cependant de s’inquiéter de ce qui reste une initiative privée et une grande concentration de contenus. Facebook, Microsoft, Twitter et YouTube précisent à ce sujet qu’ils cherchent à engager un dialogue « transparent, posé et responsable » avec l’ensemble des « parties intéressées ».