MAInority Report
Deux chercheurs avancent que l’explosion de l’IA générative et notre familiarité croissante avec leurs chatbots ouvrent la voie à un nouveau marché de collecte et d’analyse de nos « intentions ». Ils redoutent que cela puisse influencer et biaiser l’accès à l’information, la concurrence libre et non faussée, et jusqu’aux élections.
Les avancées de l’IA pourraient nous faire passer de l’« économie de l’attention », dédiée à la captation et rétention de nos actions (voir notre article associé : « Si c’est gratuit, c’est vous le produit »), à une « économie de l’intention » reposant sur la prédiction et la manipulation de ce que l’on pourrait décider de faire.
Deux chercheurs du Leverhulme Centre for the Future of Intelligence (LCFI, qui explore la nature, l’éthique et l’impact de l’intelligence artificielle) de l’université de Cambridge estiment que nous sommes à l’aube d’un nouveau marché de la « persuasion automatisée ». Reposant sur la captation et l’analyse des signaux et marqueurs numériques de nos intentions, il ouvre des perspectives aussi lucratives que sociologiquement et politiquement abyssales.
Cette « marchandisation de l’intentionnalité humaine » aurait d’ores et déjà été identifiée par des chercheurs et marchands de l’IA comme une « extension viable » de l’économie de l’attention qui régit une bonne partie d’Internet depuis les années 1990, avancent les chercheurs.
Elle reposerait sur le développement et la commercialisation de « technologies persuasives » visant à identifier et influencer nos actions, avant même que nous ayons pris ou formulé de décisions, et qu’ils qualifient d’ « économie de l’intention ».
Des potentialités de manipulation sociale « à l’échelle industrielle »
Yaqub Chaudhary est chercheur en histoire de l’IA, Jonnie Penn historien des technologies. Dans un article publié dans la Harvard Data Science Review, « Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models », ils écrivent que dans une économie de l’intention, les grands modèles de langage (LLM) pourraient être utilisés pour cibler, à faible coût, le vocabulaire, l’âge, le sexe, l’historique en ligne et les préférences des internautes :
« D’une certaine manière, l’économie de l’intention est l’économie de l’attention représentée dans le temps ; elle cherche à tracer l’arc de l’attention des utilisateurs – comment elle change, se calcifie et se connecte à des modèles archétypaux de comportement – à travers différentes échelles de temps. Si certaines intentions sont fugaces, d’autres persistent, ce qui rend leur captation lucrative pour les annonceurs. »