L’IA pourrait rajouter une « économie de l’intention » à l’« économie de l’attention »
MAInority Report
Deux chercheurs avancent que l'explosion de l'IA générative et notre familiarité croissante avec leurs chatbots ouvrent la voie à un nouveau marché de collecte et d'analyse de nos « intentions ». Ils redoutent que cela puisse influencer et biaiser l'accès à l'information, la concurrence libre et non faussée, et jusqu'aux élections.
Les avancées de l'IA pourraient nous faire passer de l'« économie de l'attention », dédiée à la captation et rétention de nos actions (voir notre article associé : « Si c’est gratuit, c’est vous le produit »), à une « économie de l'intention » reposant sur la prédiction et la manipulation de ce que l'on pourrait décider de faire.
Deux chercheurs du Leverhulme Centre for the Future of Intelligence (LCFI, qui explore la nature, l'éthique et l'impact de l'intelligence artificielle) de l'université de Cambridge estiment que nous sommes à l'aube d'un nouveau marché de la « persuasion automatisée ». Reposant sur la captation et l'analyse des signaux et marqueurs numériques de nos intentions, il ouvre des perspectives aussi lucratives que sociologiquement et politiquement abyssales.
Cette « marchandisation de l'intentionnalité humaine » aurait d'ores et déjà été identifiée par des chercheurs et marchands de l'IA comme une « extension viable » de l'économie de l'attention qui régit une bonne partie d'Internet depuis les années 1990, avancent les chercheurs.
Elle reposerait sur le développement et la commercialisation de « technologies persuasives » visant à identifier et influencer nos actions, avant même que nous ayons pris ou formulé de décisions, et qu'ils qualifient d' « économie de l'intention ».
Des potentialités de manipulation sociale « à l'échelle industrielle »
Yaqub Chaudhary est chercheur en histoire de l'IA, Jonnie Penn historien des technologies. Dans un article publié dans la Harvard Data Science Review, « Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models », ils écrivent que dans une économie de l'intention, les grands modèles de langage (LLM) pourraient être utilisés pour cibler, à faible coût, le vocabulaire, l'âge, le sexe, l'historique en ligne et les préférences des internautes :
« D'une certaine manière, l'économie de l'intention est l'économie de l'attention représentée dans le temps ; elle cherche à tracer l'arc de l'attention des utilisateurs – comment elle change, se calcifie et se connecte à des modèles archétypaux de comportement – à travers différentes échelles de temps. Si certaines intentions sont fugaces, d'autres persistent, ce qui rend leur captation lucrative pour les annonceurs. »
Commentaires (6)
Le 22/01/2025 à 10h20
Le ciblage publicitaire actuel ressemble à du pipi de chat en comparaison.
Le 22/01/2025 à 11h16
La prédiction de l'intention peut être bien pratique dans certains cas ponctuels mais imaginer ça appliqué à grande échelle et vendu au plus offrant, pour on ne sait quelle finalité...
Ça va pas arranger nos jardins clos virtuels.
Le 22/01/2025 à 12h14
En relisant, je me dit que ça fait un peu conspirationniste, mais là, j'avoue que ça ressemble quand même à une réalité future...
Le 22/01/2025 à 11h36
Le 22/01/2025 à 16h23
Ou alors il va se transformer pour non plus répondre à un besoin, mais uniquement créer un besoin.
Modifié le 24/01/2025 à 11h55
Et avec la façon dont les US sont maintenant gouvernés (essentiellement par des vieux qui pensent comme des squelettes) :
Une économie de la domination, économie ultra-simplifiée où il n'y a en fait que des ennemis extérieurs à combattre et à écraser ; c'est "nous contre le monde" épicétout !
Et enfin : une économie de l'accélération, où tout le monde se précipite en avant dans le "toujours plus" sans réfléchir ni regarder le mur contre lequel ils risquent fort de s'écraser dans quelques années, et nous avec évidemment... mais pas de problèmes !
Nos enfants, petits-enfants, arrière-arrière-etc..., après en avoir pris plein la figure à cause de nos erreurs, se relèveront (de la tombe ?) et s'en occuperont... Ou pas...