O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, defendeu a criação de mecanismos internacionais para supervisionar o avanço da inteligência artificial (IA) e reduzir riscos associados a sistemas cada vez mais poderosos.
A declaração foi feita nesta quarta-feira (16), antes da Assembleia Geral da ONU, marcada para a próxima semana em Nova York, nos Estados Unidos. Guterres afirmou que a supervisão da IA estará entre os principais temas de suas conversas com líderes mundiais.
Para o secretário-geral, os países com maior capacidade de desenvolver sistemas avançados deveriam manter canais permanentes de contato e troca de informações, além de adotar mecanismos comuns de segurança. Sem coordenação, avaliou, as nações poderiam entrar em uma corrida pelo desenvolvimento de tecnologias mais poderosas, com aumento dos riscos de desastre em escala global.
“Não podemos nos dar ao luxo de ignorar as preocupações que foram levantadas”, disse Guterres. Ele também afirmou que cabe a cada governo proteger seus cidadãos, inclusive diante de possíveis ameaças relacionadas à tecnologia.
Debate sobre regras para a IA
A posição de Guterres contrasta com a do presidente dos Estados Unidos, Donald Trump. Na segunda-feira (14), Trump disse que o país já dispõe de mecanismos para regular empresas de IA e responsabilizá-las quando necessário. Ele também afirmou que levantar dúvidas sobre o desenvolvimento da tecnologia poderia beneficiar a China.
Os alertas sobre os riscos da IA cresceram dentro do setor. Na semana passada, o pesquisador Jacob Coxon deixou a Anthropic e afirmou que uma das razões foi a preocupação com a possibilidade de pessoas envolvidas no desenvolvimento da tecnologia acreditarem que ela poderia representar uma ameaça extrema à humanidade até o fim da década. Executivos de algumas das maiores empresas do segmento também passaram a defender uma desaceleração do desenvolvimento.
Guterres defende há anos uma estrutura internacional de governança para a IA. Em 2023, a ONU criou um órgão consultivo com 39 integrantes, entre executivos de empresas de tecnologia, autoridades governamentais e pesquisadores de países como Estados Unidos, Rússia e Japão.
O Conselho de Segurança da ONU poderá realizar uma reunião sobre IA na próxima semana, durante o encontro anual de líderes mundiais em Nova York. O órgão realizou sua primeira reunião dedicada ao tema em 2023.
O assunto também deverá fazer parte das discussões entre Estados Unidos e China. Trump tem reunião prevista com o presidente chinês Xi Jinping na próxima semana, em Washington, nos Estados Unidos. Separadamente, os dois países planejavam uma reunião em meados de setembro, conduzida por autoridades de escalões inferiores, para discutir os riscos associados à IA.
