A segurança da inteligência artificial passou a dividir empresas, governo e políticos nos Estados Unidos. Enquanto Dario Amodei, Sam Altman, Elon Musk e pesquisadores defendem mais cautela no desenvolvimento de modelos avançados, Jensen Huang, Donald Trump e David Sacks pressionam pela continuidade do avanço tecnológico.
A discussão se intensificou após a saída de Jacob Coxon da Anthropic, na semana passada. O pesquisador afirmou que OpenAI e Anthropic estavam “apostando nossas vidas” ao acelerar o desenvolvimento da tecnologia. Na sequência, um responsável pela área de alinhamento da Anthropic disse que a IA teria mais de 10% de chance de matar toda a humanidade.
Propostas para reduzir riscos
Amodei passou a defender uma desaceleração dos chamados modelos de fronteira, posição que recebeu apoio de Altman, CEO da OpenAI. Musk também declarou que Amodei estava certo e afirmou que alerta para os riscos da IA há bastante tempo.
Durante um evento da Salesforce em São Francisco, Amodei apresentou três medidas. A primeira prevê o acesso de avaliadores independentes às empresas para acompanhar e examinar os sistemas. A segunda propõe padrões de segurança coordenados entre países democráticos. Em uma etapa posterior, essa cooperação seria ampliada globalmente.
A Anthropic já assumiu compromisso com a primeira medida. Amodei comparou a proposta à indústria automobilística: diante de um problema grave de segurança em uma empresa, as concorrentes deveriam revisar seus próprios procedimentos, em vez de apenas atacar a rival.
A diretora financeira da OpenAI, Sarah Friar, afirmou à CNBC que a empresa continuará baseando seus investimentos em retorno sobre o investimento, mesmo que o desenvolvimento precise ocorrer em ritmo menor. Ela também disse que a segurança deve ser levada a sério e que a OpenAI poderá reduzir o ritmo caso essa seja a orientação dos pesquisadores.
Huang rejeita novas regras
Jensen Huang criticou a ideia de uma coordenação entre empresas para desacelerar o desenvolvimento. Para o CEO da Nvidia, não seria necessário criar isenções antitruste ou novas regulamentações para que os laboratórios tratassem da segurança.
Huang defendeu que testes e segurança sejam resolvidos como questões de engenharia. As empresas deveriam desenvolver os produtos, avaliá-los e mantê-los em construção quando ainda não estivessem prontos para o lançamento.
A Nvidia se tornou a maior fabricante de chips do mundo e a empresa mais valiosa do mercado durante a expansão da IA. Nesse cenário, uma redução no ritmo de criação de modelos mais capazes poderia afetar o crescimento futuro da companhia.
Apesar das divergências, Huang reconheceu que a segurança é uma questão real. Ele também rejeitou a previsão de que sistemas mais avançados representarão uma ameaça existencial e afirmou: “Não vamos morrer em 2030”.
Governo associa IA à disputa com a China
Trump tem classificado como fraude e farsa os temores sobre uma IA fora de controle. O presidente também critica a oposição à construção de novos data centers nos Estados Unidos, argumentando que os projetos são importantes para a competição com a China.
Na segunda-feira (14), Trump telefonou durante uma entrevista de Huang no evento All-In Summit, em Los Angeles. O executivo respondeu ao presidente que ele estava certo e que a situação não seria permitida. Scott Bessent, secretário do Tesouro dos Estados Unidos, afirmou à Câmara dos Representantes que Trump está completamente alinhado com Huang.
No evento Dreamforce, Huang voltou a defender que as empresas avancem sem novas leis ou regulamentações. David Sacks, copresidente do Conselho de Assessores do Presidente para Ciência e Tecnologia, pediu que as companhias avancem na fronteira e questionou a ideia de que a defesa da desaceleração seja puramente altruísta.
Emil Michael, subsecretário de Guerra para Pesquisa e Engenharia, disse à Fox News que os alertas fariam parte de uma campanha coordenada para assustar o público estadunidense. Mike Johnson, presidente da Câmara dos Representantes, afirmou que Trump pretende reunir líderes da indústria de IA na Casa Branca dentro da próxima semana.
Alianças políticas incomuns
A pressão por mais controle também aproximou adversários políticos. Na terça-feira (15), Bernie Sanders, senador democrata de Vermont, Chip Roy, deputado republicano do Texas, e Steve Bannon, ex-estrategista da Casa Branca, participaram de um evento em Washington em defesa de medidas relacionadas à IA.
Sanders e Bannon voltaram a convergir na “Pro-Human Assembly”, também em Washington, ao defender regras mais rígidas e criticar a concentração de poder nas grandes empresas de tecnologia. Sanders comparou o risco da IA à corrida nuclear e propôs um acordo internacional para pausar o desenvolvimento de sistemas avançados. Bannon rejeitou tratados e defendeu o isolamento da China do ecossistema estadunidense de pesquisa, financiamento e tecnologia.
A divisão ocorre enquanto OpenAI e Anthropic avançam em direção a possíveis ofertas públicas iniciais de ações. Altman indicou que a OpenAI pretende adiar sua oferta para o próximo ano em meio às preocupações recentes sobre segurança.
