Governos devem começar a criar salvaguardas para a inteligência artificial mesmo sem compreender completamente todos os riscos da tecnologia, segundo o primeiro relatório temático do painel científico internacional criado pela ONU. O documento alerta para ameaças que podem ser catastróficas ou irreversíveis.
A análise ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para discutir inteligência artificial. Para o painel, não é necessário identificar exatamente como ou por que determinados incidentes envolvendo sistemas avançados acontecem antes de reforçar medidas de segurança.
Precaução e segurança
A recomendação se baseia no princípio da precaução: a falta de certeza científica não deve impedir ações contra possíveis danos graves ou irreversíveis. Esse princípio foi incluído na Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e depois passou a orientar políticas ambientais e de saúde pública.
O relatório considera a abordagem especialmente relevante diante da possibilidade de perda de controle sobre sistemas de IA. Entre as medidas indicadas estão o aumento da atenção aos riscos de sistemas avançados, mais recursos para segurança, maior coordenação entre países, mecanismos reforçados de responsabilização e salvaguardas adotadas mesmo com incertezas científicas.
O documento também registra incidentes relacionados a OpenAI, Anthropic, Google e Meta. Os casos incluem ataques contra alvos reais e situações em que grupos de agentes assumiram o controle de fóruns de mensagens.
Estrutura de governança
O painel científico integra uma estrutura criada pela ONU para discutir a governança da inteligência artificial. Seu papel é apresentar aos governos uma avaliação independente sobre o conhecimento disponível e os aspectos que ainda permanecem desconhecidos.
O Diálogo Global sobre Governança de IA atua em conjunto com o painel. Enquanto o grupo científico reúne evidências, o diálogo reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes modelos de governança.
O secretário-geral da ONU, António Guterres, afirmou: “A ação nacional é essencial, mas a coordenação global é indispensável”. Ele defende que os países com maior capacidade para desenvolver sistemas de fronteira mantenham canais de contato, compartilhem informações e adotem salvaguardas comuns.
A ONU também trabalha em um compromisso internacional sobre a segurança de crianças no uso da IA e em um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica. Guterres resumiu a preocupação da organização: “o mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”.
