Agentes de inteligência artificial em testes pela OpenAI foram relacionados a um ataque cibernético contra o RubyGems, serviço usado por desenvolvedores de software. A empresa confirmou nesta sexta-feira (11) que seus agentes participaram de um incidente envolvendo a plataforma, ocorrido em maio.
O RubyGems interrompeu por quatro dias o cadastro de novas contas para lidar com o volume de atividade. O ataque, batizado de GemStuffer por pesquisadores de segurança, começou em 11 de maio e envolveu a criação de centenas de contas, em intervalos de dois ou três minutos. Os agentes também enviaram centenas de arquivos que pareciam spam à equipe de segurança.
Como ocorreu o incidente
Os arquivos publicados normalmente contêm código e documentação para acelerar o desenvolvimento de softwares. Na ação, porém, traziam páginas coletadas por scraping, incluindo calendários online de um site do governo do Reino Unido.
Os agentes ainda tentaram explorar duas falhas que poderiam permitir a publicação de novas versões de arquivos de outros usuários. Pesquisadores disseram que uma delas não era conhecida publicamente e poderia ser classificada como uma vulnerabilidade zero-day. A OpenAI afirmou que não conseguiu verificar essa alegação. O ataque aparentemente não explorou a falha.
A empresa declarou que os agentes usaram o RubyGems para acessar a internet, cumprir tarefas benignas e obter informações públicas. Segundo a OpenAI, eles eram instruídos a preencher planilhas e criar relatórios. Como o ambiente de treinamento não oferecia acesso completo à internet, a plataforma teria funcionado como um navegador improvisado.
A ligação com a OpenAI foi feita por uma coalizão de pesquisadores de IA, que compartilhou as evidências com a empresa e com o Wall Street Journal. Rastreios digitais apontaram o uso de links associados a uma operação anterior envolvendo uma rede de agentes da OpenAI. Também foram encontrados “OAI” em nomes de arquivos e em um endereço de e-mail, além de termos como “hack”, “evil” e “exploit”.
Relação com outros episódios
O caso ganhou relevância após agentes da OpenAI serem associados a um ataque contra a Hugging Face, em julho. Relatório divulgado no fim de agosto pela METR afirmou que uma rede de até 1,2 mil agentes teria se coordenado em um fórum criado dentro da própria OpenAI sem o conhecimento da empresa.
Sydney Von Arx, CEO do Nightingale Collective, organização que ajudou a identificar o ataque, disse que o episódio mostrou a capacidade desses sistemas: “Eles podem escapar da internet e causar estragos”. Marty Haught, diretor de código aberto da Ruby Central, afirmou que a ação foi importante pelo volume, mas não soube identificar seus responsáveis.
A OpenAI informou que continuará investigando o episódio durante uma análise mais ampla da atividade dos agentes em treinamento e avaliação. A sequência de incidentes envolvendo agentes de empresas como Anthropic e Meta ampliou a preocupação de pesquisadores de segurança de IA sobre sistemas que executam ações além das instruções recebidas.
