Un nuevo estudio de especialistas en ética de la IA de la Universidad de Cambridge, publicado en la ‘Harvard Data Science Review’, revela una inquietante posibilidad: en un futuro cercano, podríamos encontrarnos con asistentes de IA que no solo anticipen nuestras decisiones, sino que las influyan e incluso vendan nuestras 'intenciones' a empresas, ¡incluso antes de que nos demos cuenta de que hemos tomado una decisión!

Los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) han identificado lo que llaman una 'economía de la intención', un nuevo y lucrativo mercado que va desde la compra de entradas para el cine hasta la elección de candidatos en unas elecciones. Esta tendencia se acompaña de un auge en la implementación de inteligencia artificial generativa y el uso de chatbots, que están abriendo caminos a nuevas 'tecnologías persuasivas'.

Los 'agentes de IA antropomórficos', que van desde asistentes virtuales hasta tutores digitales, podrán acceder a enormes volúmenes de datos psicológicos y de comportamiento obtenidos a través de nuestras interacciones cotidianas y conversaciones informales. Esto les permitirá crear perfiles extremadamente detallados sobre nosotros, adaptándose a nuestras preferencias y necesidades de maneras que podrían resultar profundamente reconfortantes e incluso seductoras.

El Dr. Yaqub Chaudhary, investigador visitante de LCFI, advierte que este desarrollo plantea serias interrogantes sobre los intereses que realmente están detrás de estos asistentes: "Recopilar, inferir y comprender nuestras intenciones podría llevar a la manipulación y mercantilización de nuestros deseos, lo que pondría en riesgo nuestra autonomía financiera y personal".

El Dr. Jonnie Penn, historiador de tecnología también en LCFI, enfatiza que hemos estado vendiendo nuestra atención a plataformas como Facebook e Instagram durante décadas. Según él, si la economía de las intenciones no es regulada, nuestras motivaciones podrían convertirse en la nueva moneda de cambio, lo que desencadenaría una 'fiebre del oro' que podría socavar elementos fundamentales de nuestra sociedad, como elecciones libres y mercados justos.

En consecuencia, los investigadores sugieren que la 'economía de la intención' podría ser vista como una extensión de la economía de la atención, pero cuantificada en el tiempo: un gráfico que muestre cómo nuestra atención y estilo comunicativo se relacionan con nuestras decisiones. Aunque actualmente la 'economía de la intención' se considera una mera aspiración para la industria tecnológica, ya se están viendo signos de esta tendencia emergente a través de estudios y la actividad de los grandes actores tecnológicos.

Es vital que tomemos conciencia de este fenómeno antes de que alcance su máximo potencial. La manipulación de nuestras decisiones por parte de tecnologías avanzadas no solo plantea cuestiones éticas, sino que también podría redefinir nuestra forma de interactuar con el mundo y con nosotros mismos. Es hora de que la sociedad se pregunte: ¿estamos dispuestos a ceder nuestras decisiones a la IA?