L’IA va bientôt manipuler toutes vos décisions : l’alerte de ces scientifiques de Cambridge

Une étude stupéfiante vient d’être publiée sur le sujet.

0 𝕏

© Black Salmon / Shutterstock 𝕏

« Les LLM (Large Language Models tels que ChatGPT Ndlr) détermineront quelle est votre intention, quel est votre désir, ce que vous essayez de faire, compte tenu du contexte, et vous présenteront les informations de la meilleure façon possible ».

Cette déclaration de Jensen Huang, le CEO de Nvidia en dit long sur les attentes des géants de la Tech sur cette technologie. L’économie d’Internet pourrait être radicalement transformée tandis que nos démocraties risquent aussi d’en faire les frais. Retour sur une étude passionnante réalisée par des scientifiques de l’Université de Cambridge.

De l’économie de l’attention à l’économie de l’intention

Pour résumer la thèse des auteurs, il nous faut définir ce qu’est l’économie de l’attention qui régit Internet depuis maintenant de nombreuses années. Concrètement, les géants du web et notamment les réseaux sociaux font tout pour vous maintenir le plus longtemps possible sur leurs plateformes pour capter votre attention. Autrement dit, mieux vous connaître et vous faire visionner des publicités basées sur vos centres d’intérêt. C’est assez basique, mais cela leur permet de récupérer des sommes astronomiques chaque année.

200% Deposit Bonus up to €3,000 180% First Deposit Bonus up to $20,000

L’économie de l’intention s’appuie quant à elle sur les nouveaux modèles d’IA qui comprennent et prévoient nos intentions et pourraient vendre ces informations à des entreprises qui en tireraient à leur tour profit.

Jonnie Penn, un des auteurs, souligne ainsi : « Si elle n’est pas réglementée, l’économie de l’intention traitera vos motivations comme la nouvelle monnaie d’échange. Ce sera une ruée vers l’or pour ceux qui ciblent, orientent et vendent les intentions humaines. »

Il ajoute : « Nous devrions commencer à réfléchir à l’impact probable qu’un tel marché aurait sur les aspirations humaines, notamment des élections libres et équitables, une presse libre et une concurrence équitable sur le marché, avant de devenir victimes de ses conséquences imprévues. »

Un futur assez effrayant

Dans leur étude, les chercheurs notent que des modèles de langage tels que ChatGPT pourraient être utilisés pour « anticiper et orienter » les utilisateurs en fonction de « données intentionnelles, comportementales et psychologiques ».

Ils citent l’exemple d’une IA qui tenterait de capter l’attention d’un internaute en temps réel en lui demandant s’il a pensé à visionner un film ou une série en particulier. Ils citent l’exemple d’un dialogue où le chatbot propose : « Vous avez mentionné que vous vous sentiez surmené, dois-je vous réserver ce billet de cinéma dont nous avons parlé ? »

Enfin, les auteurs imaginent un futur où de grandes sociétés technologiques, telles que Meta vendraient aux annonceurs les intentions d’un utilisateur de réserver un restaurant, un vol ou un hôtel. Et une IA avec qui vous interagissez à longueur de journée sera d’autant plus à même d’anticiper vos aspirations.

[ ]