Qual é o potencial de manipulação dos consumidores pela inteligência artificial?

Para o professor Ali Makhdoumi, empresas podem estar aptas a explorar uma crescente vantagem informacional sobre consumidores

O crescimento da inteligência artificial (IA) está aprimorando a capacidade das plataformas online de prever as preferências dos consumidores. Os resultados têm o potencial de beneficiar os usuários, que podem tirar proveito da publicidade personalizada e de recomendações direcionadas de produtos.

Contudo, de acordo com o professor Ali Makhdoumi da Duke Fuqua School of Business, as novas ferramentas da IA também estão possibilitando melhorias na maneira como as empresas compreendem as vulnerabilidades de seus clientes. Dessa forma, ela pode criar brechas para a manipulação do comportamento dos usuários de maneira a beneficiar apenas as empresas.

“As plataformas possuem uma vantagem informacional”, disse Makhdoumi durante uma conversa ao vivo na página da Duke Fuqua no LinkedIn. “A questão é se isso será benéfico ou ruim para os consumidores.”

A vantagem informacional das empresas

Segundo Makhdoumi, as plataformas impulsionadas por IA possuem mais informações sobre as preferências do consumidor do que eles próprios.

Na visão do professor, os consumidores aprendem sobre produtos à medida que os utilizam, mas leva tempo para que compreendam se a atratividade do produto tem alguma relação com sua qualidade real.

Ele explicou que as plataformas coletam dados sobre os fatores de atração dos produtos sobre os consumidores, independentemente de qualquer consideração sobre sua qualidade intrínseca – e isso possibilita uma compreensão maior sobre seu “brilho”, ou o grau de apelo para o consumidor.

“Conhecemos, por exemplo, quais são os mecanismos por trás das compras por impulso”, diz Makhdoumi. “As plataformas podem prever essas forças e podem usá-las para obter vantagens.”

Um modelo de manipulação comportamental

Em um artigo compartilhado pelo Departamento Nacional de Pesquisas Econômicas, Makhdoumi e seus coautores Daron Acemoglu e Asu Ozdaglar, do MIT, e Azarakhsh Malekian, da Universidade de Toronto, construíram um modelo que permite prever as condições em que as plataformas podem considerar lucrativo manipular o comportamento dos consumidores usando técnicas para aumentar o “brilho” (atratividade) dos produtos. Essas estratégias incluem embalagens aprimoradas, custos ocultos e benefícios exagerados.

Os pesquisadores descobriram que a situação ideal para as empresas é quando é possível manipular a percepção do consumidor – e direcioná-lo para produtos inferiores

– quando o “efeito brilho” é persistente, mas não quando os clientes podem descobrir rapidamente sobre a qualidade dos produtos.

“Se a plataforma puder enganar os consumidores por um longo período, ela se envolverá em manipulação comportamental”, disse Makhdoumi.

Segundo ele, isso significa que as empresas podem usar o desequilíbrio de informações para orientar os consumidores para produtos que apenas as beneficiariam e que poderiam até mesmo ser “prejudiciais” para os clientes, mencionando possibilidades que envolvem vigilância e discriminação de preços.