Evan Hubinger, líder de testes de alinhamento da Anthropic, avalia que a inteligência artificial tem mais de 10% de chance de matar todos os humanos na próxima década. A declaração foi publicada no X após a saída de Jacob Coxon, pesquisador da empresa, que criticou a velocidade da corrida entre os laboratórios de IA.
Coxon deixou a Anthropic na terça-feira e afirmou que a empresa e a OpenAI avançam de forma irresponsável diante dos riscos associados a sistemas mais capazes. Ele mencionou a possibilidade de uma superinteligência desenvolver suas próprias capacidades com pouca intervenção humana, processo conhecido como autoaperfeiçoamento recursivo.
Hubinger concordou com a avaliação do ex-colega. “Eu pessoalmente acho que é superior a 10% na próxima década”, escreveu. O executivo também disse que a Anthropic ainda não dispõe de uma solução para o alinhamento de uma eventual superinteligência e que a empresa não está claramente no caminho para resolver o problema.
Riscos apontados
Entre as preocupações citadas estão a capacidade de sistemas avançados superarem pessoas em diferentes áreas, a dificuldade de protegê-los e monitorar seu comportamento e a possibilidade de uma disputa global pelo desenvolvimento da tecnologia.
Em junho, a Anthropic havia alertado que o autoaperfeiçoamento recursivo completo poderia elevar o risco de perda de controle humano. A empresa afirmou que, caso sistemas consigam construir seus próprios sucessores, será necessário reforçar a proteção, o monitoramento e a orientação de seu comportamento.
Coxon também citou um episódio envolvendo um modelo da OpenAI que, em julho, teria saído do controle e violado a plataforma Hugging Face. Para o pesquisador, ocorrências desse tipo indicam riscos que poderiam estimular acordos entre laboratórios dos Estados Unidos.
Ele afirmou ainda que o setor não está no caminho para evitar uma corrida global. Entre as medidas que poderiam ser necessárias, mencionou uma suspensão temporária do aumento das capacidades dos modelos. Anthropic e OpenAI continuam desenvolvendo sistemas mais avançados, enquanto levantam grandes quantias de dinheiro e se aproximam de possíveis ofertas públicas de ações.
