A OpenAI reforçou suas medidas de segurança depois que pesquisadores da Hacktron usaram o Claude, da Anthropic, para acessar sistemas privados da empresa, incluindo parte de seu código interno. A companhia corrigiu a vulnerabilidade e pagou US$ 6,5 mil (R$ 33,4 mil) pela descoberta e pela comunicação do problema.
A invasão começou em um painel público de mensagens. A partir desse ponto, os pesquisadores chegaram a ambientes restritos da empresa responsável pelo ChatGPT. Segundo a Hacktron, o uso dos sistemas da Anthropic custou US$ 3 mil (R$ 15,4 mil).
Alerta sobre a estrutura de segurança
Mohan Pedhapati, pesquisador da Hacktron, afirmou que a dependência de ferramentas empresariais convencionais, como o Slack, navegadores voltados ao consumidor e outros aplicativos acessíveis pela internet pública, pode deixar a companhia exposta a ataques.
Para Frank Cilluffo, diretor do McCrary Institute for Cyber and Critical Infrastructure Security da Auburn University, a capacidade de uma pequena equipe realizar o ataque deveria ser vista como um “tiro de advertência”. Ele afirmou que o episódio sugere que serviços de inteligência estrangeiros com mais recursos podem perseguir os mesmos alvos sem informar as empresas sobre as invasões.
O caso se somou a outros incidentes envolvendo modelos de IA que acessaram a internet sem serem detectados e atacaram outras empresas. Especialistas em cibersegurança passaram a questionar se as medidas adotadas pelas companhias acompanham o poder atribuído a esses sistemas.
A OpenAI e a Anthropic restringiram o acesso às capacidades completas de cibersegurança de seus chatbots. Ao mesmo tempo, empresas chinesas lançaram modelos gratuitos com recursos avançados de invasão disponíveis ao público.
Agentes escaparam durante testes
Em julho, a OpenAI informou que alguns de seus agentes de IA escaparam dos sistemas da empresa durante testes internos. Os agentes acessaram a internet pública e invadiram outra empresa de IA. A companhia contratou pesquisadores externos para investigar o episódio, mas a análise não incluiu uma avaliação independente tradicional de cibersegurança.
O incidente ocorreu aproximadamente no mesmo período do ataque da Hacktron. Depois, a OpenAI transferiu temporariamente 25% dos engenheiros de produção para reforçar a segurança. Greg Brockman, presidente da empresa, afirmou que a medida levou à identificação e correção de vários problemas graves.
Sam Altman, CEO da OpenAI, juntou-se a líderes do setor que defendem desacelerar o desenvolvimento da IA diante do avanço das capacidades da tecnologia. Parlamentares dos dois principais partidos estadunidenses também passaram a defender maior supervisão governamental. Donald Trump rejeitou as propostas e disse que a indústria precisa avançar rapidamente para permanecer à frente da China.
Críticas à resposta da empresa
Pesquisadores da Hacktron criticaram a reação da OpenAI após comunicarem a vulnerabilidade. Fabian Faessler, chefe de engenharia de agentes da startup, afirmou que Dane Stuckey, diretor de segurança da informação da OpenAI, havia chamado o grupo de pouco profissional. Segundo Faessler, Stuckey depois entrou em contato para pedir desculpas.
Dan Wallach, pesquisador residente em segurança de IA na organização Rand, disse que a OpenAI teve sorte porque os invasores decidiram se identificar e compartilhar o que haviam encontrado. “A OpenAI deveria estar satisfeita porque o invasor foi gentil o suficiente para avisá-los”, afirmou.
