Dans une nouvelle étude, Newsguard constate que 14 % des contenus diffusés sur TikTok et relatifs à diverses marques de consommation contiennent de fausses informations. Par ailleurs, le moteur de recherche de TikTok participe à diffuser la désinformation

Comment les adeptes de TikTok décrivent-ils les marques ? La désinformation s’infiltre-t-elle jusque dans les contenus les plus directement liés à la consommation ? La réponse est un oui clair et net, selon le dernier rapport du spécialiste de la désinformation Newsguard. 

Dans une étude menée du 7 au 13 juillet, l’entreprise s’est penchée sur les résultats de recherche menée sur le réseau social à propos de neuf grandes marques de consommation américaine, parmi lesquelles Heineken (bière), Target (grande distribution), Barilla (alimentation) ou Balenciaga (mode). 

Sur 520 vidéos analysées, Newsguard constate que 14 % (73 vidéos) contenaient de fausses affirmations à propos des marques citées. Ces publications avaient engrangé un total de 57 millions de visionnages. Newsguard ayant lancé une veille spécifique sur la désinformation assistée par intelligence artificielle, elle constate que près de la moitié contenaient du contenu généré ou altéré à l’aide d’intelligence artificielle.

• Newsguard crée un cadre pour repérer les sites d’information non-fiable générée par IA
• ChatGPT, Bard et les autres, agents de désinformation massive ?

TikTok, outil de recherche d’information pour les plus jeunes

Un nombre croissant de travaux démontre que les jeunes se tournent de plus en plus vers TikTok pour accéder à leur information. En 2022, le Digital News Report du Reuters Institute démontrait par exemple que 39 % des 18 - 24 ans passaient par les réseaux sociaux pour s’informer, propension qui dépassait alors les 34 % s’informant à partir de sites ou d’applications d’actualité.

Dans le lot, l’usage de TikTok, l’application la plus récente (créée en 2016), s’est multipliée par cinq en trois ans : en 2019, 3 % des 18 - 24 ans des 46 pays étudiés par le Reuters Institute déclaraient l’utiliser pour s’informer, contre 15 % en 2022.

• TikTok s’efforce de calmer les inquiétudes de la Commission européenne
• TikTok tricard à la Commission européenne, au gouvernement Canadien et dans les agences fédérales américaines
• La Commission sénatoriale menace TikTok de suspension

Le rapport 2023 du Reuters Institute démontrait de son côté que les audiences de TikTok (comme celles d'Instagram et de Snapchat) prêtent plus attention « aux célébrités, aux influenceurs et aux personnalités des réseaux sociaux qu'aux journalistes », à l'inverse de Facebook et Twitter(X) pour lesquels les médias et leurs employés « restent centraux dans la conversation ».

D’une polémique politique au détournement pur et simple

Parmi les contenus problématiques relevés par Newsguard, plusieurs éléments relèvent de « polémiques publiques autour des actions de grandes entreprises » qui ont tendance, au bout de quelques publications, à « devenir toxiques et propager des informations erronées au sujet de ces marques ». 

Si, en mai 2023, des politiciens conservateurs ont appelé aux boycotts de Target à cause de sa collection de vêtements « Pride », qui comprenait des vêtements pour enfants liés aux questions LGBTQ+, nulle trace de maillots de bains censés permettre aux enfants LGBTQ+ de dissimuler plus facilement leurs parties génitales. C'est pourtant ce qu’affirme une femme (qui estime par ailleurs que Target vend des marchandises « inspirées par les satanistes ») dont la vidéo a été vue plus de 225 000 fois. Celle-ci n’est que l’une des trois relevées par Newsguard sur le même sujet. 

Autre modalité de désinformation : Newsguard relève la présence d’au moins deux vidéos intégrant des images générées par IA pour affirmer que Target vend des vêtements « sataniques ». « King-Joshua », un influenceur qui se décrit comme chrétien, a ainsi dépassé le million de vues avec une vidéo appelant au boycott de la marque de grande distribution sur la base d’un contenu manipulé.  

Des règles d’utilisation non respectées

Si les consignes communautaires de TikTok indiquent que l’application interdit les « contenus inexacts, trompeurs ou faux (…) susceptibles d’entraîner un préjudice important aux personnes ou à la société », ces consignes n’incluent « pas le préjudice commercial et les atteintes à la réputation ». Interrogée par Newsguard, une porte-parole de la société chinoise a déclaré que cela correspondait aux standards de l’industrie.

• Haine en ligne : l’Arcom publie son rapport sur les actions des plateformes

Autre manquement flagrant : les consignes de TikTok indiquent que « les médias synthétiques [médias créés par IA, ndlr] ou manipulés exposant les scènes réalistes doivent être manifestement dénoncés. » Aucune des vidéos tombant dans cette catégorie ne contenait les éléments suggérés par la plateforme, qui écrit pourtant : « Pour cela, vous pouvez utiliser un sticker ou une légende, notamment « synthétique », « faux », « irréel » ou « modifié ». »

L'algorithme de TikTok renforce le problème

Outre les problématiques relatives au contenu lui-même, Newsguard relève que les suggestions formulées par le moteur de recherche de TikTok participent à diffuser les éléments de désinformation étudiés auprès du grand public. En septembre 2022, déjà, la société indiquait le rôle de cette fonctionnalité dans la diffusion de désinformation politique. 

Selon son enquête, le public l’utilisant avait un accès facilité à des vidéos présentant les élections américaines de 2020 comme volées ou à d’autres suggérant que les Ukrainiens avaient mis en scène le massacre de la ville de Boutcha. Constatant à l'époque que 20 % des contenus partagés étaient faux, Newsguard déclarait que « la toxicité de TikTok constitue désormais un danger ».

Du côté des marques, l’entreprise démontre cette fois-ci que le simple fait de taper « Heineken » dans la barre de recherche fait apparaître les suggestions « Heineken complot », « Heineken bill gates » et « Heineken androchrome » (une erreur relative à l’adrénochrome, molécule au centre de toutes sortes de thèses farfelues, notamment véhiculées par les adeptes de QAnon. Heineken a été accusé à tort d’en glisser dans ses bières.). 

Ces termes ont permis aux analystes de tomber sur dix vidéos véhiculant des théories complotistes mêlant Bill Gates, le brasseur de bière et de supposées « injections de substances » cachées au public. Du côté de Barilla, taper le nom de la marque dans la barre de recherche fait très vite remonter la suggestion « Barilla insectes », au minimum en italien, référence à l’idée fausse selon laquelle l’entreprise fabriquerait ses pâtes à base de farine d’insectes. 

Selon Newsguard, TikTok a supprimé certaines des vidéos qui lui ont été signalées, mais pas la majorité.

Ce n’est pas la première fois que Newsguard se penche sur la manière dont la désinformation et la mésinformation peuvent nuire aux entreprises. Dans un travail précédent, l'entreprise pointait que de la publicité pour de nombreuses marques, probablement non informées de l’affaire, était diffusée sur des sites totalement construits à partir de modèles d’IA générative.