L'unité de recherche et développement Jigsaw de Google développe avec Tech Against Terrorism, une initiative soutenue par les Nations unies qui aide les entreprises technologiques à lutter contre le terrorisme en ligne, « un outil gratuit de modération du terrorisme pour les petits sites web », rapporte le Financial Times.

« De nombreux sites web n'ont tout simplement pas les moyens de faire appliquer la loi. L'élaboration des algorithmes est une tâche très exigeante en termes de main-d'œuvre, et il faut ensuite faire appel à des réviseurs humains », explique Yasmin Green, directrice générale de Jigsaw.

Cette annonce intervient alors que le Digital Services Act (DSA) oblige les plateformes Internet à retirer les contenus extrémistes de leurs plateformes sous peine d'amendes et d'autres sanctions, et qu'un projet de loi sur la sécurité en ligne devrait être adopté cette année au Royaume-Uni.

Or, un rapport du Global Internet Forum to Counter Terrorism (GIFCT), une organisation non gouvernementale fondée par Facebook, Microsoft, Twitter et YouTube et qui « dispose d'une base de données sur les contenus terroristes partagés par ses membres » estime qu'en 2021, « sur 10 000 publications sur Facebook, six contiendraient des contenus terroristes ou extrémistes. Sur les plateformes plus petites, ce chiffre pourrait atteindre 5 000, soit 50 % du contenu ».

Le FT relève également que Meta, propriétaire de Facebook et d'Instagram, a lancé le 13 décembre dernier un logiciel libre que d'autres plateformes « peuvent déployer pour faire correspondre les contenus terroristes aux images ou vidéos existantes dans la base de données et les mettre en évidence pour un examen humain urgent ».

« D'après notre expérience, nous constatons que les terroristes cherchent à exploiter les petites plateformes où la modération du contenu est difficile en raison des ressources limitées », a déclaré Adam Hadley, directeur de Tech Against Terrorism.