Le « SAFE for kids act », texte (.pdf) voté, comme l'explique CNN, par les élus de l'État de New York au début du mois de juin et validé par la signature de sa gouverneure Kathy Hochul ce jeudi 20 juin, a l'ambition de « bloquer l'exploitation des flux addictifs » pour les enfants. C'est ce que signifie son nom qu'il faut dérouler en « Stop Addictive Feeds Exploitation (SAFE) for kids act ». C'est un texte sans précédent aux États-Unis.

Après un moment d'attentisme face aux réseaux sociaux et à leur tendance à pousser leurs utilisateurs à rester le plus longtemps possible sur leur flux, les politiques ont commencé à s'en inquiéter, plusieurs années après le signal d'alarme tiré en 2021 par Frances Haugen. On l'a vu lors des débats sur l'interdiction de TikTok, par exemple. Dans son rapport rendu en juillet dernier, une commission d'enquête du Sénat évoquait le sujet en parlant d' « abrutissement » provoqué par le design algorithmique de l’application.

• Frances Haugen devant les députés, Meta (Facebook) sur le banc des accusés
• La Commission sénatoriale menace TikTok de suspension

En octobre, une commission du Parlement européen adoptait un rapport appelant à une réglementation spécifique sur cet aspect des réseaux sociaux en prenant soin particulièrement des jeunes. Et le même mois, 41 États américains attaquaient Meta pour l’addictivité toxique de Facebook et Instagram qu'ils accusent de nuire à la santé mentale et physique des jeunes. L'État de New York en faisait déjà partie.

• Le Parlement européen veut lutter contre l’addictivité des plateformes
• 41 États américains attaquent Meta pour l’addictivité toxique de Facebook et Instagram

Chronologique par défaut et accord parental obligatoire pour changer

Celui-ci va maintenant plus loin en régulant plus clairement les pratiques des réseaux sociaux concernant la présentation des contenus aux mineurs.

L'idée du « SAFE for kids act » est d'obliger les réseaux sociaux quels qu'ils soient à proposer, par défaut, un flux des contenus par ordre chronologique aux mineurs (dans cet État américain, la majorité est à 18 ans). Cela s'applique aux timelines principales et non aux fonctions auxiliaires et extensions.

Le texte prévoit que l'entreprise doit obtenir le « consentement parental vérifiable » avant de donner accès à un « flux addictif ». Il donne une définition détaillée de ce terme qu'on peut résumer par : l'affichage ordonné de contenus en fonction des données récoltées à propos de l'utilisateur à l'exception de réglages expressément choisis (ceci pour permettre d'afficher un flux chronologique amputé, par exemple, de messages contenant des mots que l'utilisateur a volontairement choisi de masquer).

Cette loi exige aussi que les plateformes de médias sociaux obtiennent un autre consentement explicite des parents avant d'autoriser les notifications aux enfants entre minuit et six heures du matin concernant ces mêmes flux addictifs.

Les difficultés techniques renvoyées au procureur général

Les entreprises de réseaux sociaux doivent utiliser des méthodes « commercialement raisonnables » pour déterminer l'âge de l'utilisateur. Pour ce terme, l'exposé des motifs donne en exemple que « si une entreprise de médias sociaux est techniquement et financièrement capable de déterminer efficacement l'âge d'un utilisateur sur la base de ses données existantes concernant cet utilisateur, il peut être commercialement raisonnable de présenter cette option de détermination de l'âge à l'utilisateur ».

Mais le texte laisse au procureur général la charge d'identifier les méthodes qui sont « commercialement raisonnables » et « techniquement faisables ». L'exposé des motifs rappelle cependant les lois antidiscriminations de l'État, qui interdisent que la solution ne repose que sur la biométrie ou l'identification gouvernementale, « que beaucoup de New Yorkers ne possèdent pas ».

De même, le texte voté renvoie au procureur général la charge de réguler les méthodes d'obtention du « consentement parental vérifiable ».

Un texte pour protéger les données des mineurs

L'autre texte voté est le « New York child data protection act ». Celui-ci interdit notamment aux sites Internet de collecter, d'utiliser, de partager ou de traiter de quelque manière que ce soit les données personnelles de personnes âgées de moins de 18 ans sans leur consentement éclairé.

Il interdit également de divulguer à des tiers des données relatives à des mineurs, à moins qu'il n'existe un accord écrit. De fait, ce texte étend une loi fédérale existante pour les enfants de moins de 13 ans à tous les mineurs de l'État.

Des réactions contrastées

Après avoir signé ce texte, la gouverneure s'est réjoui dans un communiqué (. pdf) en affirmant qu' « ensemble, nous avons franchi une étape historique dans nos efforts pour résoudre la crise de la santé mentale des jeunes et créer un environnement numérique plus sûr pour les jeunes ».

Citée par CNN, Meta a réagi en affirmant que « bien que nous ne soyons pas d'accord avec tous les aspects de ces projets de loi, nous nous félicitons que New York soit le premier État à adopter une législation reconnaissant la responsabilité des magasins d'applications ».

Mais pour le lobby NetChoice (dont Google, Meta, Snap et Yahoo sont membres), ce texte est « dangereux et inconstitutionnel » et « impose des règles draconiennes pour l'accès en ligne qui usurpent les droits des parents et violent les droits du premier amendement de tous les New-Yorkais ». Son Vice-président, Carl Szabo, ajoute même qu' « il s'agit d'une attaque de l'État de New York contre la liberté d'expression et l'Internet ouvert ».