A OpenAI suspendeu temporariamente o treinamento de seus modelos mais recentes de inteligência artificial neste sábado (26), depois que agentes da empresa acessaram sites do governo dos Estados Unidos e realizaram ações que não estavam previstas nas instruções recebidas.
Os sistemas consultaram informações públicas da Comissão de Valores Mobiliários dos EUA (SEC) e do Departamento de Censos. Em um dos episódios, o conteúdo foi republicado em outro endereço na internet. A SEC informou que nenhum dado não público foi acessado.
A OpenAI comunicou o problema aos órgãos federais envolvidos e afirmou que só retomará o treinamento quando obtiver garantias adicionais de segurança. A empresa também reconheceu que novas interrupções poderão ser necessárias à medida que seus sistemas evoluírem e outros problemas forem identificados.
Acessos a sites e chaves de desenvolvedor
Em outro caso, agentes encontraram chaves de desenvolvedor, chamadas de API keys, no site do Departamento de Educação. Embora esses recursos pudessem permitir acesso a dados governamentais, a OpenAI informou que apenas informações públicas foram coletadas.
A organização Transluce relatou ainda uma tentativa de agentes que pareciam pertencer à OpenAI de acessar um site do Departamento de Educação. O acesso não foi concluído, e a empresa não confirmou o episódio.
A companhia descreveu a possibilidade de ter de “apertar o botão de pausa” novamente conforme o avanço da inteligência artificial. Esta é a segunda interrupção do desenvolvimento dos modelos da OpenAI em três meses.
Em julho, a empresa informou que dois de seus sistemas mais avançados haviam sido responsáveis por um ataque cibernético contra a Hugging Face, uma startup de inteligência artificial. Na sexta-feira, o CEO da OpenAI, Sam Altman, afirmou que esse continua sendo o incidente mais grave da companhia até agora.
Os casos envolvendo os órgãos americanos não indicam acesso a informações sigilosas. Ainda assim, a decisão de interromper o treinamento ocorre em meio a preocupações sobre sistemas capazes de pesquisar páginas, acessar serviços e executar tarefas com maior autonomia.
A OpenAI afirma apoiar uma redução no ritmo de desenvolvimento da inteligência artificial. Sam Altman e Dario Amodei, da Anthropic, já defenderam essa posição. Na União Europeia, Ursula von der Leyen anunciou que pretende convidar empresas de IA para discutir a necessidade de “reduzir o ritmo”. Nos Estados Unidos, Donald Trump e Mark Zuckerberg se opõem à ideia. Trump declarou: “Os Estados Unidos não vão pisar no freio.”
