Revenge porn, deepfakes : Microsoft intensifie sa lutte en rejoignant StopNCII

Microsoft a publié hier soir dans un billet une annonce importante dans la lutte contre les images pornographiques non-consensuelles, incluant le revenge porn et les deepfakes.

La société y indique qu’elle va travailler avec StopNCII, « NCII » signifiant ici « non consensual intimate image » (image intime non consensuelle). L’outil a été développé à l’initiative de l’ONG SWGfL, avec la participation de Meta, qui l’utilise sur Facebook, Instagram et Threads. TikTok, Bumble, Reddit, Snap, Niantic, OnlyFans, PornHub, Playhouse et Redgifs l’utilisent également.

La technologie est basée sur les empreintes numériques (hachage). Quand une personne ouvre un dossier sur StopNCII (ou via un service l’utilisant), l’empreinte de l’image visée est calculée et envoyée à toutes les entreprises se servant de l’outil. L’image est alors supprimée et déréférencée.

Microsoft indique que StopNCII va notamment être utilisé sur Bing, afin que le moteur n’affiche plus les images incriminées dans ses résultats. La société ajoute avoir participé à l’effort en offrant sa technologie PhotoDNA, dont StopNCII a annoncé l’intégration le 13 mars dernier. Depuis, Microsoft était en période de test avec StopNCII et indique avoir bloqué 268 899 images sur Bing. En plus de l’outil de signalement intégré à ce dernier, Microsoft dispose d’une page dédiée.

Comme le signale Engadget, Google ne fait pas partie du réseau. L’entreprise a ses propres outils de détection, de déréférencement et de suppression. C’est malheureusement au détriment des victimes, qui doivent refaire la manipulation plusieurs fois, une pour chaque outil de lutte contre ces images.