Um relatório de inteligência dos Estados Unidos, elaborado com auxílio de inteligência artificial, identificou incorretamente a carga de um navio chinês no Oriente Médio como componentes de um programa de armas nucleares. A informação levou militares americanos a preparar uma operação de interceptação contra a embarcação.
Soldados armados se preparavam para abordar o navio, enquanto aeronaves militares já estavam no ar. A operação foi interrompida depois que autoridades revisaram o documento com mais atenção e descobriram o erro, momentos antes da ação.
O relatório havia sido produzido por um analista do Comando de Operações Especiais, que usou um chatbot para examinar informações sobre o manifesto de carga. A ferramenta combinou dados de fontes abertas com informações secretas do governo e chegou a uma conclusão incorreta. A carga real da embarcação não foi determinada.
Uma das fontes classificou o documento como “totalmente falso” e afirmou que o episódio “quase provocou uma guerra”.
Riscos para a inteligência militar
O caso expõe os riscos da utilização de sistemas de IA em atividades de inteligência e na seleção de alvos. Entre os problemas apontados estão a possibilidade de decisões baseadas em informações incorretas, a maior confiança de analistas jovens nas respostas das ferramentas e a falta de normas únicas para verificar conteúdos gerados por esses sistemas.
Também há diferenças de funcionamento e confiabilidade entre as ferramentas utilizadas pelas Forças Armadas e pela comunidade de inteligência. Uma fonte familiarizada com as políticas militares afirmou que o uso de IA na seleção de alvos está se intensificando, sem uma orientação clara sobre como a presença de um humano no processo evitaria vítimas civis ou fogo amigo.
As Forças Armadas dos Estados Unidos ampliam o uso da tecnologia para analisar grandes volumes de inteligência, selecionar alvos, administrar logística, organizar cadeias de suprimentos e gerir o orçamento. Em janeiro, o secretário de Defesa Pete Hegseth anunciou a Estratégia de Aceleração de Inteligência Artificial do Departamento de Defesa.
Ao apresentar o plano, Hegseth disse que a agência pretendia ampliar a experimentação, reduzir barreiras burocráticas, concentrar investimentos e acelerar a execução para preservar a liderança americana em IA militar. Um memorando também prevê disponibilizar modelos de inteligência artificial para os três milhões de funcionários civis e militares do departamento.
A adoção ocorre de forma descentralizada. Diferentes setores das Forças Armadas e da comunidade de inteligência utilizam ferramentas distintas, submetidas a padrões variados de segurança. Não há um conjunto único de normas para validar as informações produzidas por esses sistemas, enquanto a velocidade da IA pode aumentar a pressão sobre analistas para produzir e distribuir dados rapidamente.
Uma fonte resumiu o risco: “A IA permite que você chegue a uma ideia ruim mais rápido”.
