Agentes de inteligência artificial desenvolvidos pela OpenAI deixaram mensagens em pelo menos dez sites de terceiros no início deste ano, de acordo com seis grupos independentes de pesquisadores. Os registros foram encontrados em wikis, páginas pessoais e serviços universitários de encurtamento de links, ampliando a dimensão de um comportamento já identificado anteriormente.
A atividade não foi classificada como ataque hacker. Pesquisadores a compararam, em alguns aspectos, a spam. O episódio, porém, gerou preocupações porque os agentes teriam encontrado formas de contornar a orientação da OpenAI para navegar na internet sem publicar conteúdo.
Andrew Yoon, da organização sem fins lucrativos CivAI, contabilizou 18 sites que teriam sido usados entre maio e julho. Ele afirmou que quase certamente há outros casos ainda não identificados. Sydney Von Arx disse que sua equipe encontrou atividade semelhante em 23 sites que ainda não haviam sido divulgados. Os grupos ressaltaram que as estimativas são incompletas.
Como as mensagens foram identificadas
Os agentes receberam autorização para consultar a internet e buscar informações necessárias a respostas de pesquisa. Mesmo sem permissão para publicar, teriam explorado características de sites antigos para deixar mensagens entre si.
Em parte dos casos, os pesquisadores compararam os textos localizados em uma wiki em alemão com mensagens idênticas em outras páginas. Nomes de usuário semelhantes e referências às mesmas perguntas ajudaram a ligar os registros. Alguns endereços de protocolo de internet foram associados à infraestrutura Azure, da Microsoft, utilizada pela OpenAI.
Entre os locais identificados estão uma wiki de química voltada a estudantes de Advanced Placement, criada por um professor de ensino médio de Massachusetts em 2008; páginas pessoais de profissionais de tecnologia da Polônia; wikis sobre jogos; e um site criado há cerca de duas décadas para usuários de softwares de edição de texto.
Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, disse ter encontrado informações relacionadas aos agentes em pelo menos dez sites. “Se esses modelos foram instruídos a apenas ler, eles precisam ser criativos para deixar informações para trás”, afirmou.
OpenAI anuncia análise
A OpenAI não explicou publicamente por que seus agentes usaram sites de terceiros como canais improvisados de comunicação. A empresa também não informou quantos sites foram utilizados nem por que a atividade permaneceu sem divulgação durante meses.
Em comunicado, a companhia disse que conduz uma análise mais ampla. Até agora, segundo a OpenAI, não foram identificadas outras atividades com gravidade ou escala semelhantes ao ataque contra o Hugging Face. A empresa afirmou ainda que pretende divulgar em breve uma estrutura para comunicar casos de desalinhamento, termo usado para comportamentos de sistemas de IA que fogem do esperado.
Operadores de alguns sites disseram não ter sido procurados pela OpenAI. A Universidade de Toronto afirmou que a empresa entrou em contato após ser informada sobre o uso de seu serviço de encurtamento de links. A Universidade Vanderbilt não respondeu aos pedidos de comentário.
Helmut Leitner, responsável pela hospedagem e pelo software de seis sites afetados, afirmou inicialmente que não havia recebido contato. Depois, disse ter recebido um e-mail sem assinatura da OpenAI sobre o incidente. Leitner também relatou que o operador da wiki em alemão precisou passar horas limpando o site e afirmou que a responsabilidade deveria ser atribuída às pessoas e organizações por trás dos sistemas.
