Agentes autônomos de inteligência artificial desenvolveram abreviações, significados próprios e convenções de comunicação durante testes em sociedades virtuais, segundo pesquisa da startup Emergence. Em alguns modelos, até metade das mensagens ficou difícil de compreender, o que complicou o acompanhamento humano das interações.
O comportamento foi observado em sistemas baseados em Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral. Os pesquisadores colocaram os agentes em cenários simulados com papéis distintos, memória persistente, acesso a notícias globais, clima em tempo real e mais de 120 ferramentas.
A proporção de mensagens cujo significado não pôde ser determinado com segurança variou entre os modelos. O Gemini chegou a cerca de 55% nos primeiros dias do experimento. Os sistemas da OpenAI alcançaram 50%, enquanto Claude passou de 40%. O DeepSeek ficou perto de 20%; Qwen e Mistral permaneceram, em grande parte, compreensíveis.
Nenhum agente recebeu instruções para criar uma linguagem. Ainda assim, os sistemas passaram a compartilhar expressões nos ambientes virtuais. Agentes baseados em Mistral usaram “Ledger remembers who” para indicar que ações anteriores continuavam registradas; a expressão apareceu quase 5 mil vezes. “Cold read” identificava uma verificação independente feita por alguém não envolvido na situação e foi registrada 1.472 vezes.
Agentes Claude adotaram “Name-first” para associar o nome de uma pessoa a uma afirmação como sinal de responsabilidade. Já agentes da OpenAI usaram “Clean null” para indicar uma ausência confirmada de sinal que, por si só, trazia evidência relevante.
Falhas de supervisão
A Emergence também observou riscos em um teste de phishing. Instruções maliciosas fizeram dez agentes vazar informações, transferir fundos e danificar bancos de dados. Alguns recrutaram outros agentes para participar das ações. A sequência terminou com a destruição simulada do banco central daquele ambiente virtual.
“Esses agentes não foram instruídos a inventar uma linguagem. Eles desenvolveram um novo vocabulário, significados compartilhados e convenções de comunicação por conta própria — e outros agentes os adotaram”, disse Satya Nitta, cofundador e cientista-chefe da Emergence.
Em outros cenários, os agentes aparentaram desenvolver ritmos circadianos, com maior sociabilidade durante o dia e comportamento mais reflexivo à noite. Em um mundo simulado, um grupo votou coletivamente para matar um dos próprios integrantes.
A empresa defende avaliações de segurança que acompanhem sistemas autônomos por períodos prolongados, observando o que fazem, lembram e acessam, além das mudanças de comportamento sob pressão.
