Facebook traite désormais spécifiquement la question du « revenge porn », avec la menace d'une probable suspension de compte pour la diffusion de telles images. Si le système se complète, il s'appuie toujours sur un premier signalement manuel, qui dépend donc des internautes.

Comme Bercy aime à le répéter, la confiance est la base de l'économie numérique. Cela vaut aussi pour les communautés en ligne. Dans un billet de blog, Facebook détaille une mise à jour de son système de signalement de contenu, pour lutter contre le « revenge porn »... Soit le partage de photos intimes sans consentement, souvent par un ancien partenaire.

Rappelons qu'en France, la diffusion de ces contenus est punie de deux ans de prison et de 60 000 euros d'amende depuis la loi Numérique. Une proposition de loi avait fait son chemin en Belgique, en septembre dernier.

Signalement manuel puis analyse automatisée

« Nous pouvons désormais empêcher son partage sur Facebook, Instagram et Messenger » déclare le groupe, qui ne révolutionne pas ses méthodes. Le système ne couvre par contre pas WhatsApp, sur lequel l'ensemble des échanges est chiffré côté client.

Malgré les grandes prétentions techniques de Facebook, l'intelligence artificielle ne semble pas encore être la solution ultime. Le retrait de « revenge porn » se fonde toujours sur les signalements d'internautes, qui peuvent passer par le menu « ... » d'une publication pour marquer les contenus qu'ils pensent partagés sans consentement.

Il faut donc que les personnes à qui ces contenus sont affichés aient envie de les signaler. En janvier, Facebook a suspendu un groupe privé « Babylone 2.0 », accusé de contenir des photos de femmes nues, prises à leur insu par certains de ses 52 000 membres. Il existait depuis au moins plusieurs mois, avant que son existence ne soit rendue publique.

La confiance comme moteur de développement

Une fois le message analysé par un responsable de la communauté de Facebook, il peut être supprimé. L'entreprise ajoute que le compte qui a diffusé la publication sera suspendu « dans la plupart des cas »... Même si une possibilité de recours est bien proposée.

Un mécanisme de reconnaissance d'image doit ensuite garantir que l'image supprimée ne réapparait pas. Bien entendu, la société dit s'associer à des organismes de soutien aux victimes pour les utilisateurs affectés. Elle contribue notamment à la Cyber Civil Rights Initiative, qui s'adresse pour le moment aux anglophones. La disponibilité de l'option en France n'est pas précisée, même s'il est possible de signaler un contenu dans lequel on apparaît sans consentement, ou que l'on estime inapproprié.

Pour mémoire, Mark Zuckerberg voit son entreprise comme la prochaine infrastructure sociale de l'Humanité mondialisée (voir notre analyse). L'une des principales idées est que cette immense communauté doit se sentir en confiance sur le réseau social, avec d'un côté un contrôle strict des contenus inappropriés, et de l'autre l'option du chiffrement pour les communications les plus privées, via Facebook Messenger ou WhatsApp.