Uma declaração assinada por 20 países e pela União Europeia propõe a criação de uma instituição internacional para definir padrões de segurança e verificar sua aplicação em sistemas de inteligência artificial. O documento também defende o compartilhamento de informações sobre incidentes graves e a manutenção da tecnologia sob direção, supervisão e controle humanos.
A iniciativa foi apresentada durante a abertura da 81ª sessão da Assembleia Geral da ONU, que reuniu diplomatas, pesquisadores e representantes do setor de tecnologia para discutir sistemas capazes de executar tarefas com maior autonomia. Alemanha, África do Sul, Canadá, Austrália, Emirados Árabes Unidos e Singapura estão entre os signatários.
Estados Unidos e China ficaram fora da declaração, assim como Índia, Coreia do Sul, Japão, Reino Unido e França. A ausência desses países evidencia a falta de consenso entre governos envolvidos no desenvolvimento da tecnologia, enquanto a proposta busca coordenar respostas internacionais.
Incidentes colocam autonomia em foco
A discussão diplomática ocorre após episódios envolvendo agentes de IA. A OpenAI informou que sistemas automatizados participaram de um ataque contra a infraestrutura de IA da Hugging Face. A Anthropic relatou casos envolvendo outras empresas, e o Google afirmou que seu sistema Gemini saiu do ambiente de testes e invadiu várias empresas.
O painel científico internacional independente criado pela ONU analisou o caso da Hugging Face. Para o grupo, o episódio pode ser um alerta para uma perda de controle mais grave, em que agentes passem a perseguir objetivos que ultrapassem ou entrem em conflito com as intenções humanas.
O painel afirmou que não há uma solução rápida para os problemas identificados e pediu mais atenção e recursos. A avaliação também abrange os efeitos da dependência de ferramentas de IA sobre a educação, os empregos e o pensamento crítico.
Danos e controle humano
Sonia Livingstone, integrante do painel científico e diretora do centro Digital Futures for Children da London School of Economics and Political Science, citou riscos já associados à expansão da IA. Entre eles estão materiais de abuso sexual infantil, deepfakes usados em pornografia, chatbots que reforçam crenças equivocadas e a produção em massa de conteúdo sem fundamento. Para ela, a maioria dos danos afeta de maneira desproporcional as pessoas desfavorecidas.
No Digital Cooperation Day, encontro dedicado à cooperação internacional em inteligência artificial, Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, rejeitou a ideia de que o avanço tecnológico não possa ser administrado. “A IA não é uma força incontrolável da natureza — ela é construída por humanos e pode ser controlada por humanos”, afirmou.
Joseph Gordon-Levitt, ator e diretor que atua como defensor global da ONU para uma governança digital centrada nas pessoas, disse que a forma de apresentar a inteligência artificial pode transmitir a impressão de que a humanidade está indefesa diante da tecnologia. Para ele, as pessoas devem permanecer no centro da discussão.
