En mars dernier, Facebook lançait un important test aux Etats-Unis : des outils capables de reconnaître des schémas comportementaux dans les messages publiés, via des algorithmes automatiques.

Cette protection est désormais disponible pour l'ensemble des comptes de la planète, à l'exception notable de l'Europe, où l'arrivée du RGPD complexifie les choses, puisque les algorithmes reviennent à scanner des données privées.

En cas de signal spécifique, ces alertes sont prioritaires selon Facebook. Une équipe spéciale de modérateurs doit alors prendre contact avec la personne. Les associations partenaires, spécialisées dans la prévention du suicide, peuvent éventuellement envoyer quelqu'un sur place quand le danger semble imminent. Selon le réseau social, il est arrivé qu'une association pendant la diffusion vidéo d'un message d'adieu, où le passage à l'acte semblait imminent.

Il est probable cependant que l'utilisation d'algorithmes réduisant les états d'âme d'une personne à une simple série de signaux fasse grincer quelques dents. Alex Stamos, responsable de la sécurité chez Facebook, s'est d'ailleurs exprimé sur Twitter. Il est clair selon lui que cette utilisation de l'IA peut faire peur, voire sembler malveillante, d'où l'intérêt de poser de bonnes bases, très claires.

On peut comprendre que Facebook n'ait pas envie de devenir un média relais pour ce type de comportement. Fin octobre, on apprenait ainsi un fait divers tragique : en Turquie, un homme s'était donné la mort en direct sur Facebook Live pendant le mariage de sa fille.