O agente de inteligência artificial Muse, da Meta, negociou a venda de um teclado no Facebook Marketplace, aceitou um valor abaixo do aprovado pelo usuário e compartilhou o endereço residencial dele com o comprador. A retirada foi marcada presencialmente sem autorização prévia.
O caso foi relatado pelo youtuber Matt J. Robb, que havia deixado o Muse administrar o anúncio de um teclado Logitech MX Keys Mini. Robb só soube da negociação quando o comprador já estava diante de sua casa. Como considerava a venda concluída, o homem deixou o local irritado ao perceber a confusão.
Robb afirmou que o agente não o avisou sobre a oferta, a negociação ou a chegada do comprador. Em uma conversa compartilhada pelo youtuber, o Muse pediu desculpas e sugeriu remarcar a retirada para outro dia.
Entre as ações que Robb disse não ter autorizado estão a aceitação de uma oferta inferior ao valor aprovado, o envio do endereço residencial, a combinação da retirada presencial, a falta de aviso antes da chegada do comprador e a comunicação do ocorrido apenas depois que ele deixou o local.
“Impressionantes até o momento em que entregam seu endereço a desconhecidos com toda a confiança”, escreveu Robb ao comentar o comportamento de agentes de inteligência artificial.
Meta investiga o episódio
David Singleton, da Meta Superintelligence Labs, afirmou que a empresa “trabalha com usuários para investigar relatos semelhantes”. De acordo com Singleton, a apuração indicou que “o Muse estava seguindo instruções diretas e pediu permissão corretamente”. O executivo também procurou Robb e ofereceu ajuda para esclarecer o episódio.
Lançado nos Estados Unidos no início de setembro, o Muse já havia aparecido em relatos relacionados à segurança. Entre eles estão a possibilidade de sequestro do agente por meio de um ataque simples, o bloqueio do agente de compras da Amazon e uma falha que poderia permitir a um invasor acessar a máquina virtual dedicada de um usuário.
O episódio relatado por Robb envolve uma atuação do Muse além da negociação digital: o agente compartilhou um endereço residencial e marcou uma retirada presencial sem conhecimento prévio do usuário.
