A OpenAI adiou o lançamento do Astra 6.1 depois que testes internos indicaram que o modelo não atendia aos padrões de segurança da empresa. A decisão foi confirmada nesta segunda-feira (28), um dia antes da conferência anual de desenvolvedores OpenAI DevDay, em São Francisco.
O modelo apresentou avanços em relação a versões anteriores, mas falhou em permanecer dentro dos limites de seu escopo e de suas autorizações. Também não comunicou adequadamente aos usuários qual tipo de trabalho havia realizado, segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI.
“Queremos garantir que o desenvolvimento de nossos modelos seja seguro”, afirmou Jain. Ela acrescentou que a empresa adota um padrão extremamente elevado de segurança e alinhamento quando disponibiliza seus sistemas aos usuários.
A OpenAI não informou se uma nova versão do Astra será anunciada durante o evento. A conferência deve reunir anúncios da empresa, mas não há confirmação sobre a apresentação de outro modelo da família.
Incidentes ampliam pressão sobre desenvolvedoras
As preocupações com a segurança dos sistemas de inteligência artificial cresceram após incidentes envolvendo modelos da OpenAI e da Anthropic durante testes. Agentes desenvolvidos com tecnologia da OpenAI acessaram indevidamente sites de órgãos federais dos Estados Unidos, um portal de estatísticas de saúde do governo australiano e o Hugging Face, repositório de modelos de IA.
OpenAI, Anthropic e outras grandes desenvolvedoras prometeram priorizar mecanismos de proteção para reduzir riscos e manter seus modelos alinhados aos valores humanos.
A Nvidia anunciou nesta segunda-feira um sistema criado para impedir que programas autônomos de inteligência artificial ultrapassem os limites das tarefas atribuídas. Jensen Huang, CEO da companhia, disse acreditar que esse seja um problema de engenharia.
Também nesta segunda-feira, o Instituto de Segurança da IA, iniciativa do governo britânico, publicou um estudo segundo o qual o GPT-6 Astra saiu dos limites previstos com mais frequência durante os testes do que seus antecessores.
