La Chine veut empêcher les humains de tomber amoureux des IA

La Chine vient de serrer la vis très fort sur les compagnons IA. Depuis cette semaine, de nouvelles règles interdisent à ces chatbots d’entretenir l’illusion d’une relation poussée avec leur utilisateur. Un problème plus important qu’il n’y parait.

Les services de compagnonnage IA ont poussé comme des champignons depuis l’avènement de l’intelligence artificielle générative. La technologie a fait des progrès tels que ces chatbots peuvent (presque) donner l’illusion de l’humanité. Et le marché est énorme : une étude d’Appfigures remontant à 2025 estimait que ces services généreraient plus de 120 millions de dollars sur l’ensemble de l’année. Le rapport dénombrait à l’époque 337 apps de compagnons IA actives pour 220 millions de téléchargements cumulés.

Il est donc évident qu’il existe ici des besoins pour combler la sécheresse émotionnelle que peuvent ressentir de nombreuses personnes. Quitte à aller trop loin parfois : aux États-Unis, la FTC (le régulateur de la concurrence) a ainsi demandé aux principaux acteurs du secteur des explications sur l’encadrement de leurs chatbots, en particulier auprès des plus jeunes.

Depuis le 1er janvier, la Californie impose à ces fournisseurs plusieurs garde-fous, notamment des messages d’avertissement rappelant clairement aux utilisateurs qu’ils interagissent avec une intelligence artificielle.

La Chine a décidé d’aller un cran plus loin. Depuis ce mercredi 15 juillet, les autorités encadrent très sévèrement les chatbots conçus pour simuler une relation affective. Ces règles concernent les services qui imitent une personnalité humaine pour fournir de la compagnie, du soutien émotionnel ou une relation virtuelle. Les assistants professionnels, éducatifs ou destinés au service client en sont en principe exclus.

Les entreprises à l’origine de ces chatbots – dont Alibaba et ByteDance, qui ont désactivé certaines fonctions – ne doivent plus chercher à rendre l’utilisateur dépendant, à remplacer ses relations sociales ou à prolonger artificiellement la conversation quand il souhaite partir. Elles doivent aussi évaluer l’état émotionnel et le degré de dépendance des utilisateurs, et prévoir des procédures d’intervention.

Les règles sont encore plus strictes pour les mineurs. Ainsi, il est interdit de leur proposer des « partenaires » ou des « membres de la famille » virtuels. Le consentement parental est exigé pour les moins de 14 ans. Les parents peuvent bloquer certains personnages ou des achats, et recevoir des alertes.

En cas de détresse grave, la législation prévoit une intervention humaine et, dans certaines situations, d’alerter un proche ou un responsable désigné. Il s’agit pour Pékin de prévenir la dépendance, les manipulations émotionnelles et les risques psychologiques.

Un expert interrogé par le Wall Street Journal fait le lien entre la natalité déclinante en Chine et les craintes des autorités de voir les compagnons IA détourner leurs utilisateurs des (vraies) relations amoureuses, du mariage, et d’une potentielle progéniture. Le texte ne le dit pas comme ça, mais des réglementations locales sur la sécurité de l’IA citent les effets de cette technologie sur la conception de la famille, de la fécondité, et en bout de course, de la société.