A OpenAI informou que atrasou partes do desenvolvimento e do lançamento do Astra para reforçar as proteções do sistema. A decisão ocorre depois de o modelo atingir o nível “Crítico” de capacidade em cibersegurança dentro do Preparedness Framework da empresa.
Segundo a OpenAI, o Astra consegue identificar vulnerabilidades desconhecidas e criar maneiras de explorá-las em sistemas protegidos, desde que disponha das ferramentas e dos acessos necessários. A empresa também afirma que os próximos modelos exigirão medidas de segurança mais rigorosas.
Possível coordenação entre laboratórios
Durante uma reunião interna com funcionários, Sam Altman afirmou que a OpenAI pode ajustar o ritmo de desenvolvimento de seus modelos mais avançados caso as proteções disponíveis sejam insuficientes. A empresa também considera fazer isso em conjunto com alguns dos principais laboratórios de inteligência artificial.
Altman reconheceu, porém, que parte dos concorrentes pode não aceitar uma iniciativa coordenada. Até o momento, não há acordo para reduzir o ritmo da corrida por novos sistemas.
A discussão ganhou força depois de Jakub Pachocki, cientista-chefe da OpenAI, defender publicamente pausas voluntárias quando as medidas de segurança não acompanharem a evolução dos modelos. A proposta prevê que os laboratórios retomem o desenvolvimento depois da criação de padrões de segurança compartilhados.
Dúvidas sobre regras antitruste
Uma coordenação entre empresas também pode enfrentar obstáculos jurídicos. A OpenAI buscou esclarecimentos no Congresso dos Estados Unidos sobre a possibilidade de um acordo para desacelerar o desenvolvimento entrar em conflito com as leis antitruste do país.
A empresa diz estar disposta a reduzir o ritmo quando as proteções forem insuficientes. A posição indica que a OpenAI passou a considerar limites à velocidade de desenvolvimento diante dos riscos associados aos modelos mais avançados.
