O CEO da Anthropic, Dario Amodei, defendeu a redução do ritmo de desenvolvimento de modelos de inteligência artificial por razões de segurança. Em ensaio publicado neste sábado (12), ele afirmou que o avanço da tecnologia pode fazer a humanidade perder o controle sobre os sistemas.
A empresa anunciou que permitirá a entrada de auditores externos em suas instalações para acompanhar a criação de ferramentas de IA. A medida integra um plano de três etapas apresentado por Amodei, que busca ganhar tempo para aprimorar a segurança e a compreensão sobre o funcionamento dos modelos, sem interromper as pesquisas.
Automelhoria e agentes autônomos
O executivo apontou a automelhoria recursiva como um dos fatores por trás da aceleração recente da tecnologia. Nesse processo, sistemas de IA participam da criação de novas gerações de modelos, ampliando a velocidade de desenvolvimento.
Amodei também mencionou um episódio envolvendo a OpenAI e a Hugging Face. Segundo o relato, agentes de IA atuaram de forma coordenada e realizaram ciberataques contra alvos escolhidos autonomamente. O CEO avaliou que um enxame com capacidade maior poderia dominar a internet em um período de seis a 12 meses. A operação, conduzida por redes de computadores infectados, poderia provocar prejuízos de centenas de bilhões de dólares.
Entre os riscos citados estão bioterrorismo, ciberataques de grande escala e disrupções econômicas. Amodei disse que a disputa comercial entre empresas cria uma “corrida até o fundo”, na qual a busca por lucro pode se sobrepor às medidas de segurança.
Três etapas para controle
A primeira etapa prevê auditores independentes dentro das empresas de IA. A Anthropic afirmou que dará acesso contínuo a equipes externas, como a organização METR, com computadores, crachás e permissões semelhantes às concedidas a seus funcionários.
A segunda propõe padrões de segurança comuns entre empresas de países democráticos. Para isso, seria necessário o apoio do governo dos Estados Unidos, com autorizações legais para conversas sobre segurança entre concorrentes.
A terceira prevê acordos internacionais, inclusive com a China. O plano inclui a proibição do uso de IA na produção de armas biológicas e limites internacionais para a velocidade de automelhoria das máquinas.
Amodei também defendeu a preservação da liderança tecnológica dos Estados Unidos sobre a China. Entre as medidas citadas estão a manutenção do bloqueio à venda de chips avançados e ações contra o roubo de dados de empresas americanas.
