Ferramentas de inteligência artificial (IA) conversacionais podem em breve influenciar de maneira oculta as decisões dos usuários, em um novo campo comercial denominado "economia da intenção". Pesquisadores da Universidade de Cambridge emitiram este alerta em um estudo publicado recentemente na Harvard Data Science Review.
A pesquisa aponta para um mercado potencialmente "lucrativo e preocupante" que está se formando para os "sinais digitais de intenção". Em um futuro próximo, esta dinâmica poderá influenciar desde a compra de ingressos de cinema até a escolha de candidatos em eleições políticas.
A crescente familiaridade com chatbots, tutores digitais e outros agentes de IA "antropomórficos" está impulsionando o surgimento dessa nova gama de "tecnologias persuasivas", afirmam os autores. Segundo o estudo, a IA combinará o conhecimento dos nossos hábitos online com uma capacidade cada vez maior de nos conhecer e antecipar nossos desejos, construindo "novos níveis de confiança e compreensão".
Entretanto, essa evolução, se não for monitorada, pode levar a uma "manipulação social em escala industrial", advertem os pesquisadores do Leverhulme Centre for the Future of Intelligence (LCFI) da Universidade de Cambridge, no artigo científico publicado na *Harvard Data Science Review*.
Como funcionará a “economia da intenção”?
Este setor emergente irá criar perfis de atenção e estilos de comunicação dos usuários, conectando-os a padrões de comportamento e escolhas que eles fazem. De acordo com Yaqub Chaudhary, coautor do estudo, "ferramentas de IA já estão sendo desenvolvidas para obter, inferir, coletar, registrar, entender, prever e, por fim, manipular e comercializar planos e propósitos humanos".
A nova IA utilizará os chamados Modelos de Linguagem Amplos (LLMs) para identificar a cadência, posicionamento político, vocabulário, idade, gênero, histórico online e até preferências por elogios e bajulação do usuário. Essas informações serão combinadas com outras tecnologias de IA que buscam atingir objetivos específicos, como vender uma viagem ao cinema ou direcionar conversas para determinadas plataformas, anunciantes, empresas e até mesmo organizações políticas.
Jonnie Penn, também coautor do estudo, alerta que, "a menos que seja regulamentada, a economia da intenção tratará suas motivações como a nova moeda". Ele acrescenta que haverá uma verdadeira "corrida do ouro para aqueles que miram, direcionam e vendem as intenções humanas".
Impacto na sociedade
Os pesquisadores enfatizam a necessidade de se começar a considerar o impacto que esse mercado terá sobre as aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma concorrência de mercado leal. Jonnie Penn conclui que a conscientização pública sobre esta questão é fundamental para garantir que a sociedade não siga por um caminho errado. Ele salienta que os riscos incluem a manipulação de decisões, afetando a liberdade de escolha e a autonomia dos indivíduos.
Ações urgentes necessárias:
É crucial que haja um debate público e regulamentação sobre o uso da IA na "economia da intenção", com o objetivo de proteger a privacidade, a autonomia e os direitos dos cidadãos.
O estudo deixa claro que é preciso agir de forma preventiva para evitar que a tecnologia, que tem o potencial de ser muito útil, seja utilizada para fins manipuladores. A análise dos especialistas da Universidade de Cambridge mostra que a "economia da intenção" representa uma nova era de desafios para a sociedade, em que as decisões humanas podem estar sob forte influência da inteligência artificial.
Quer receber as principais notícias do Portal N10 no seu WhatsApp? Clique aqui e entre no nosso canal oficial.
