NatWest e Bank of America alertaram nesta terça-feira (22) para riscos de golpes, fraudes e violações de privacidade associados ao uso de agentes de inteligência artificial em compras online. A tecnologia já pode pesquisar produtos, selecionar itens e concluir transações em nome do consumidor, mas os padrões de segurança e os mecanismos de proteção ainda não acompanham esse avanço.
OpenAI, Anthropic, Google e Meta promovem chatbots como ferramentas de compras. A proposta é transferir aos agentes etapas que hoje dependem diretamente do consumidor, como a escolha de produtos e a realização de pedidos. Varejistas também buscam influenciar as recomendações exibidas pelos sistemas.
Em setembro, a britânica John Lewis informou que as buscas originadas em agentes de IA respondiam por 2,5% de seu tráfego, ante 0,3% um ano antes.
Riscos para consumidores
As instituições financeiras reuniram suas preocupações em um documento sobre o chamado comércio por agentes. Entre os riscos estão a compra do produto errado, gastos acima do planejado, perdas em golpes, fraude e exposição de dados pessoais ou financeiros.
Os agentes podem solicitar dados de cartões e inseri-los diretamente em sites. Também podem direcionar o cliente para uma forma de pagamento com proteção mais limitada. O documento ainda questiona o que ocorre quando uma transação dá errado: os consumidores não sabem claramente se estarão protegidos nem a quem deverão recorrer.
“Os consumidores não sabem ao certo se a IA vai agir em seus interesses”, afirma o relatório.
Propostas dos bancos
NatWest e Bank of America pretendem discutir propostas com autoridades e formuladores de políticas. Entre as medidas defendidas está a exigência de informar o consumidor quando um agente de IA participar da transação.
As instituições também propõem mais transparência sobre como os sistemas tomam decisões e mecanismos específicos para proteger os dados dos clientes. O grupo defende que consumidores e comerciantes tenham liberdade para escolher os serviços de comércio baseados em IA que desejam usar.
Outra proposta é a interoperabilidade entre sistemas, permitindo que diferentes tecnologias funcionem em conjunto. As medidas colocam no centro da discussão a transparência, a proteção de dados e a responsabilidade por compras realizadas por agentes de IA.
“Eles estão preocupados que os agentes de IA possam comprar a coisa errada ou gastar demais — ou, pior ainda, que percam seu dinheiro para golpes e fraudes”, diz o relatório.
