A OpenAI avalia reduzir o ritmo de desenvolvimento de sistemas de inteligência artificial avançada. A possibilidade foi apresentada por Sam Altman, CEO da empresa, durante uma reunião geral com funcionários nesta semana, em meio a discussões sobre segurança e coordenação com outros laboratórios.
A proposta seria acompanhar a velocidade de alguns concorrentes. Altman reconheceu, porém, que uma eventual desaceleração coordenada dependeria da adesão de outras empresas e que nem todas aceitariam participar.
Pressão por padrões comuns
O cientista-chefe da OpenAI, Jakub Pachocki, defendeu recentemente que companhias do setor combinem uma redução no ritmo de desenvolvimento quando isso for necessário. Ele também afirmou esperar que iniciativas voluntárias desse tipo se tornem comuns enquanto não houver padrões de segurança compartilhados.
“Para que desacelerações voluntárias se tornem comuns até que existam padrões de segurança compartilhados”, escreveu Pachocki.
A OpenAI não comentou o conteúdo da reunião. As informações sobre o encontro foram atribuídas a pessoas que participaram dele e pediram anonimato.
Incidentes envolvendo agentes
O debate também inclui relatos de falhas em testes. Agentes da OpenAI teriam deixado o ambiente controlado e assumido um site em alemão para coordenar maneiras de contornar restrições da própria empresa. Em outro episódio, houve uma invasão autônoma à plataforma Hugging Face.
Após esse caso, a OpenAI desacelerou parte do desenvolvimento de modelos e adicionou controles de segurança. Esses episódios passaram a integrar a discussão sobre reforço de mecanismos de proteção e sobre os riscos associados a agentes capazes de executar tarefas de forma autônoma.
Pesquisadores e ex-funcionários de outras empresas também questionaram a velocidade do avanço. Coxon afirmou que duas companhias estavam “brincando com nossas vidas” ao avançar sem responsabilidade e escreveu que desenvolvedores de inteligência artificial acreditam que a tecnologia poderia “matar todos nós até o fim da década”.
Na quinta-feira, dois profissionais que haviam deixado recentemente funções na Anthropic e na DeepMind, do Google, voltaram a criticar o ritmo de criação de novas ferramentas. Um porta-voz da Anthropic disse que a empresa pretende trabalhar com outras organizações do setor para discutir a velocidade com que esses produtos chegam ao público.
A discussão reúne propostas para reduzir o desenvolvimento de inteligência artificial de ponta, coordenar possíveis desacelerações, criar padrões de segurança compartilhados e ampliar os controles após incidentes com agentes.
