Google, OpenAI e Anthropic avançam na criação de uma organização independente para desenvolver padrões de segurança destinados a sistemas de inteligência artificial de fronteira. A entidade é chamada provisoriamente de Standards Authority for Frontier AI (SAFA).
A proposta prevê que a organização atue de forma independente para ajudar a preencher lacunas na supervisão governamental sobre a inteligência artificial. A iniciativa amplia a cooperação entre as empresas além de seus programas próprios de segurança.
Testes entre modelos
OpenAI e Anthropic também discutiram um acordo para permitir que cada companhia teste os modelos comerciais de inteligência artificial da outra. O objetivo seria identificar vulnerabilidades e comportamentos inesperados por meio de avaliações independentes de estresse.
Nesse formato, as empresas teriam acesso aos modelos comerciais umas das outras para realizar os testes. Os dados obtidos durante as avaliações, porém, não poderiam ser mantidos pelas companhias.
A discussão sobre padrões mais amplos ganhou espaço depois que Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, falaram sobre segurança de inteligência artificial no Conselho de Segurança das Nações Unidas.
Altman defendeu que decisões importantes sobre a tecnologia sejam moldadas por instituições democráticas e governos. Amodei apoiou acordos internacionais e padrões globais para testar novos modelos.
A OpenAI também pediu que os Estados Unidos liderem esforços internacionais para estabelecer padrões técnicos para sistemas avançados, incluindo tecnologias capazes de realizar autoaperfeiçoamento recursivo.
Divergências sobre regulação
A proposta da SAFA surge em meio a divergências sobre a regulamentação da inteligência artificial. Defensores de salvaguardas mais rígidas afirmam que elas podem reduzir riscos associados a sistemas mais capazes. Outros avaliam que as leis existentes e os mecanismos de mercado seriam suficientes para lidar com essas ameaças.
O presidente dos Estados Unidos, Donald Trump, se opôs a novas barreiras regulatórias para a inteligência artificial e defendeu que Estados Unidos e China mantenham o desenvolvimento da tecnologia no curso atual.
Nesse cenário, o órgão proposto pelas três empresas busca estabelecer padrões comuns de segurança enquanto os governos discutem o nível de supervisão aplicável a sistemas avançados.
