O avanço da inteligência artificial em sistemas militares levou especialistas dos Estados Unidos e da China a defender salvaguardas para reduzir o risco de decisões automáticas serem interpretadas como ataques deliberados. A preocupação é maior em situações que envolvam armas nucleares, operações cibernéticas e infraestruturas críticas.
As propostas foram discutidas por participantes de um diálogo entre instituições dos dois países e durante o Fórum Xiangshan, realizado em Pequim. O encontro reuniu cerca de 2 mil militares, diplomatas e acadêmicos de 100 países em meio ao debate sobre os limites do uso militar da IA.
Risco de escalada
Entre as medidas apresentadas estão a restrição do uso autônomo de IA em sistemas de comando nuclear, a exigência de que seres humanos respondam por ataques cibernéticos de grande impacto e a criação de uma linha direta entre Estados Unidos e China para incidentes envolvendo sistemas autônomos.
Os especialistas também propuseram impedir que a IA decida sozinha pelo emprego de armas nucleares e estabelecer uma definição comum para “controle humano significativo”. A linha direta permitiria comunicar ao outro governo quando uma operação automatizada fosse acidental, não autorizada ou ainda estivesse sob investigação.
A iniciativa busca reduzir o risco de retaliação baseada em uma interpretação equivocada. Um sistema de defesa automatizado poderia reagir a uma atividade considerada suspeita, enquanto o outro país entenderia a resposta como um ataque e reagiria antes de esclarecer o episódio.
Muhammad Ali, secretário de Defesa do Paquistão, afirmou que a velocidade dos avanços tecnológicos está “comprimindo o cronograma estratégico”. Adul Boonthumjaroen, ministro da Defesa da Tailândia, disse que a competição entre as grandes potências não deveria se limitar à busca por maior poder.
Jurg Lauber, vice-presidente do Comitê Internacional da Cruz Vermelha, defendeu a preservação do julgamento humano no uso da força. “À medida que os sistemas de armas se tornam cada vez mais autônomos, a necessidade de preservar o julgamento e o controle humanos sobre o uso da força se torna mais urgente”, afirmou.
As propostas incluem ainda proteções para setores como energia, finanças e saúde, com o objetivo de evitar que a IA execute autonomamente ações de consequências militares ou estratégicas graves.
China e Estados Unidos continuam divergindo sobre a forma de controlar a tecnologia. Pequim inseriu o tema na estrutura do Ministério das Relações Exteriores responsável pelo controle de armas, enquanto Washington distribui a questão entre diferentes órgãos. Nenhum dos dois governos endossou publicamente as propostas, e ambos demonstram preocupação com medidas que possam desacelerar seu desenvolvimento tecnológico.
