TikTok Lite (Save Data) accusé d’être beaucoup trop lite sur la modération et la labellisation

La fondation Mozilla et l'ONG AI Forensics ont analysé les différences entre la version principale de l'application TikTok et l'application « Lite - Save Data » utilisée dans les pays émergents où la bande passante est plus faible et dans lesquels les internautes utilisent généralement des smartphones moins puissants. Elles ont observé l'absence de messages de protection des utilisateurs dans la version légère et de certains paramètres de protection.

Dans un rapport publié vendredi dernier, la fondation Mozilla et l'ONG AI Forensics pointent l'absence de certains outils d'avertissements dans l'application « TikTok Lite - Save Data » de ByteDance.

Deux applications Lite différentes, une encore dans les Store

Cette version « légère » de l'application du réseau social de ByteDance a été conçue pour être utilisée dans des contextes de faible bande passante et de smartphones moins puissants. Elle cible donc des marchés émergents d'Amérique du Sud, d'Asie et d'Afrique notamment. Elle n'est d'ailleurs pas téléchargeable partout dans le monde. La carte ci-dessous créée par les auteurs du rapport montre dans quels pays l'appli en question est disponible dans le Google Play Store :

Précisons que ce n'est pas la même version de l'app qui a été suspendue par l'entreprise chinoise après des préoccupations de la Commission européenne à propos d'un système de récompense, même si les deux applications sont désignées par le terme « Lite ». Google propose pour rappel une version allégée de son système et des applications du même acabit sous la dénomination « Go ».

Le rapport explique que certaines fonctionnalités de protection des utilisateurs se trouvent bien dans les deux applications : le signalement de contenus malveillants, les messages d'information dans la barre de recherche lorsque des sujets sensibles sont recherchés, le blocage de certains termes dans le moteur de recherche.

Mais la fondation Mozilla et AI Forensics ont beaucoup de choses à reprocher à celle encore accessible dans de nombreux pays sur le Play Store de Google sous le nom de « TikTok Lite - Save Data » et qui a déjà été téléchargée plus d'un milliard de fois.

Une labellisation manquante

Le principe d'une application légère est de supprimer des fonctionnalités ou de proposer des médias en qualité moins élevée. Mais sur la version lite de TikTok, certaines fonctionnalités qui paraissent de plus en plus nécessaires pour la gestion d'un réseau social ont été supprimées.

La labellisation des contenus violents, dangereux, de désinformation ou de précaution face à des contenus générés par IA permet aux utilisateurs de l'application principale de TikTok d'avoir des repères sur ce qu'ils regardent.

Mais la fondation Mozilla et AI Forensics ont montré que des avertissements affichés par l'application principale ne le sont pas dans la version Lite.

Par exemple, lorsqu'une vidéo montre une « action dangereuse » repérée comme telle par TikTok, dans la version principale, les phrases « les actions de cette vidéo sont effectuées ou supervisées par des professionnels. Ne pas tenter » sont présentes. Mais elles ne le sont pas dans la version Lite :

Pour les contenus iconographiques (images/vidéos) qui peuvent choquer, TikTok prévoit un écran d' « opt-in » dans ses lignes directives. Mais les chercheurs de la fondation Mozilla et d'AI Forensics ont constaté que ce n'était pas le cas dans la version Lite contrairement à l'application principale.

De même, alors que TikTok a reconnu qu'il était important de labelliser les vidéos de désinformation, notamment lors d'élections ou de pandémies, l'application Lite ne le fait pas.

Les contenus générés par IA ne sont pas affichés non plus comme tels dans l'application légère :

Filtre de commentaires et contrôle du temps d'écran inexistants

Le rapport explique aussi que les options de filtre de commentaires, contre les spams et les messages agressifs ainsi que par mots clés sont absents de l'application Lite.

De même, alors que le « doom scrolling » peut pousser à la surexposition des utilisateurs au réseau social, ByteDance a mis en place un système permettant de gérer le temps d'utilisation. Mais s'il est disponible dans la version principale de l'application, sa version Lite n'y donne pas accès. « Cet écart souligne une disparité potentielle dans la protection des utilisateurs entre l'application principale de TikTok et son homologue Lite, ce qui mérite l'attention et éventuellement des mesures supplémentaires de la part des utilisateurs et des développeurs de la plateforme », expliquent la Fondation Mozilla et AI Forensics.

Les deux organisations soulignent que « la plupart des personnes qui achètent un téléphone pour la première fois lorsqu'elles sont adolescentes dans les pays de la majorité mondiale n'achèteront pas d'iPhone ou d'Android à la pointe du marché. Il est plus probable qu'ils achètent plutôt des smartphones sur lesquels TikTok Lite est plus adapté, car ils sont bon marché, disposent de peu d'espace de stockage et d'une durée de vie de batterie plus longue ». Elles demandent ce que signifie le fait que les avertissements sur les actions dangereuses et les contenus iconographiques pouvant choquer soient exclus pour ce segment d'utilisateurs.

Selon Le Monde, TikTok a réagi en assurant que le rapport « met en avant des éléments inexacts qui dénaturent fondamentalement notre approche de la sécurité ». L'entreprise explique que l'absence d'affichage des avertissements est liée à un bug en cours de correction et que « le contenu qui enfreint nos règles est supprimé de TikTok Lite et de la même manière qu’il l’est de notre application principale ».