Frances Haugen a été auditionnée plus d’une heure et demie par la Commission des lois et la Commission des affaires économiques. La lanceuse d’alerte, à l’origine des « Facebook files » a redit tout le mal qu’elle pense de la mécanique actuelle du réseau social, reprenant des pans de son discours devant le Sénat américain le 5 octobre dernier.

« Facebook a toujours fait primer ses intérêts financiers sur la sécurité » soutient-elle devant les députés, l’index pointé sur l’entreprise commerciale. Le système même de ce réseau social serait taillé pour « attiser les divisions, les extrêmes, la polarisation ».

Les systèmes algorithmiques accentueraient davantage de haine, notamment auprès des populations les plus vulnérables. Et Facebook, récemment devenu Meta, au fil de ses multiples excuses dégainées à chaque scandale, nous aurait « maintes et maintes fois trompés » en étant « tout à fait informée de l’aspect nuisible de ses activités ».

Pour la lanceuse d’alerte, pas de doute : l’Union européenne pourrait profiter d’un potentiel « énorme » avec la législation en cours d’adoption, le futur règlement sur les services numériques (Digital Services Act). Frances Haugen considère que les réseaux sociaux d’importance doivent désormais rendre des comptes.

« Facebook ne peut être juge, jury et procureur ». De là, elle plaide en faveur d’une obligation de transparence sur l’utilisation des données. Pour régler ces difficultés, elle vante pour une approche en trois étapes : obligation de rendre comptes des risques, en s’assurant que l’évaluation dépeint un tableau général de la situation, même s’agissant des contrées éloignées de la Californie.

Deuxième étape, un accès aux données afin de « s’assurer que des choses sont faites ». Sans cet accès, Facebook pourra toujours jurer travailler aux problèmes soulevés, main sur le cœur, l’autre sur le portefeuille. « Les plateformes doivent rendre des comptes sur les risques qu’elles engendrent. Elles ne peuvent se limiter à amasser des profits ». Et ces mesures appellent enfin une réaction des États à l’aide de textes spécialement taillés. « Sans action ferme du législateur, rien ne changera ».

Facebook, sans filtre 

Elle a repris l’exemple donné au Sénat américain, où les fabricants assuraient que les cigarettes avec filtre étaient finalement meilleures pour la santé. Affirmations démontées par des scientifiques. « Aujourd’hui, on ne peut mener une telle analyse avec Facebook. On ne peut que croire le réseau social quand l’entreprise assure de sa bonne foi ».

D’ailleurs, comment se contenter de croire Facebook, sans visibilité sur le fonctionnement interne de cette machine à clics, like et fric ? « Des tragédies vont arriver si Facebook continue à agir dans le noir ».

Quand en 2018 Facebook a tenté de maximiser le nombre d’interactions sur sa plateforme, le résultat a surtout permis d’amplifier les contenus colériques, assure la lanceuse d’alerte américaine. « Aujourd’hui, il faut poster des contenus polarisants, sinon, on n’est pas entendus. C’est inacceptable, fondons nos démocraties sur ce que veulent les gens, pas sur ce que veulent les algorithmes ».

Aux députés qui l’interrogeaient sur le sujet, elle explique n’être pas persuadée que l’interopérabilité puisse résoudre ces maux, déjà parce que les personnes veulent atteindre le plus de personnes possibles avec leurs posts, et surtout parce que le retrait des contenus ne serait pas si simple. En attendant, les pays qui voilà trois ans encore disposaient d’alternatives à Facebook, n’ont plus que le « F » cher à Mark Zuckerberg face à eux.

« Facebook est dominant sur le marché des réseaux sociaux personnels dans tous les pays du monde. Il est devenu comme une entreprise de service public. Il faut de la régulation », « Facebook ne peut être le seul arbitre », répète-t-elle en boucle. Elle estime nécessaire de faire intervenir un tiers afin d’appréhender tous les problèmes provoqués par ce géant numérique.

Elle salue pour le coup les audits du DSA. L’article 28 du Digital Services Act impose en effet la réalisation d’études extérieures, aux frais des plateformes, où seront jaugés aussi les engagements pris par chacune d’elles.

• Le Digital Services Act expliqué ligne par ligne

Au fil des échanges, la question des enfants est revenue plusieurs fois sur la scène des deux commissions parlementaires. Des contenus peuvent nuire à la santé mentale des enfants, des contenus légaux, mais aussi toxiques. Un choix qui serait assumé par l’ogre Facebook, toujours en quête de profits.

Pour elle encore, le secret des affaires sur les algorithmes devrait être éliminé et les données devraient être partagées avec le monde de la recherche afin d’en jauger la nocivité.

« Très souvent j’ai entendu parler de frustration, que nous serions impuissants. Je veux que vous sortiez de cette salle avec de l’espoir. Facebook est informé des réformes qu’il pourrait faire. Le problème, c’est le système choisi ». Ce système où les idées les plus extrêmes permettent de toucher le plus grand monde. La colère impliquerait le plus de clics, mais Facebook n’entendrait pas sacrifier de profit dans cette lutte.

Autre point soulevé : la diversité linguistique. Si Facebook a beaucoup investi dans l’écosystème anglais, elle assure que les langues plus rares sont peu soutenues. « L’IA n’est pas intelligente, elle ne saisit pas les nuances de ces langues » explique-t-elle, « les zones les plus fragiles dans le monde ont une grande diversité linguistique et ne sont pas prises en compte ».

Temps de cerveau e-disponible

Seule une portion résiduelle des discours haineux seraient enlevés. Contrairement aux échanges entre amis et familles proches, aujourd’hui, l’hyperamplification verse dans la polarisation. L’exemple type ? Les groupes Facebook, où le réseau multiplie d’astuces pour inciter les utilisateurs à rester le plus longtemps possible.

Le fameux temps de cerveau disponible que connaissent bien les chaînes financées par la publicité. Par ailleurs, « Facebook sait que les personnes déprimées sont à risque. Si vous avez récemment divorcé, vous avez perdu un proche, vous êtes parmi les plus vulnérables, car vous allez vous autoapaiser en ligne pour chercher des contenus. Et la manière pour Facebook de vous inciter à rester, c’est de rejoindre ces groupes », où là encore la colère provoquera le plus de réactions. Plus le commentaire sera négatif, plus on aura de clics et plus cela génèrera d’argent. « Vous arrivez ainsi à une situation où chaque personne qui fait partie d’un groupe participe finalement à cette viralité. »

Sans surprise, elle voit d’un œil inquiet l’arrivée du métavers. « Sa vision d’être au sein de l’environnement de travail est très préoccupante ». Si l’employeur décide que son entreprise doit être sur ce Facebook 2.0, la lanceuse d’alerte anticipe une multiplication de capteurs et autres micros installés au domicile personnel de l’employé...

La VRP du DSA ?

Les Facebook Files et les multiples manifestations publiques de Frances Haugen pourraient peser pour les débats autour du Digital Services Act, texte qui vient imposer une série d’obligations de moyens sur les épaules des grandes plateformes. Toutes proportions gardées, elle pourrait ainsi être au DSA, ce que furent les révélations Snowden sur les débats relatifs au RGPD.

Selon la Commission européenne, qui s’exprimait lors de la présentation du projet de règlement sur les services numériques le 15 décembre 2020, « certains très grands acteurs sont devenus des espaces quasi publics de partage d'informations et de commerce en ligne. Ils ont acquis un caractère systémique et présentent des risques particuliers pour les droits des utilisateurs, les flux d'information et la participation du public ».

Les Très Grandes Plateformes (ou TGP) devront ainsi analyser régulièrement les risques systémiques découlant de l’utilisation de leurs services dans l’Union. Elles devront déterminer en quoi leur système de sélection des publicités, leur modération et leur système de recommandations influent sur ces risques, notamment dans la diffusion large et rapide des contenus illégaux ou contraires à leurs CGU.

En attendant, les députés ont semblé particulièrement inquiets et convaincus par le tableau dépeint par la lanceuse d’alerte. Oubliant un peu vite que, quelques mois plus tôt, à l’occasion des débats sur la proposition de loi contre la haine en ligne portée par Laetitia Avia, ils avaient majoritairement adopté une obligation de retrait en 24 heures des contenus illicites d’apparence.

Une obligation qui devait consubstantiellement basculer vers des outils automatisés de suppression à tour de bras des contenus, même non manifestement illicites. Si l’univers Facebook amplifie les contenus polarisants, la proposition de loi enfantait une machine à supprimer tout et n’importe quoi. Un excès inverse qui a été stoppé net par le Conseil constitutionnel à l'occasion d’une censure magistrale.