Jack Clark, cofundador da Anthropic, defende que empresas de inteligência artificial sejam obrigadas a instalar mecanismos capazes de desligar sistemas considerados perigosos. A proposta também prevê uma verificação independente para confirmar se o recurso funciona de fato.
Clark afirma que a maioria dos laboratórios já dispõe de formas de interromper seus equipamentos, mas questiona se essa capacidade deveria ser uma exigência legal. A discussão inclui a possibilidade de auditorias feitas por organizações independentes e de atuação governamental para suspender sistemas problemáticos.
Entre as medidas em debate estão a adoção de desligamento automático, a fiscalização por terceiros, a autorização para que órgãos públicos determinem a desativação ou a limitação de ferramentas e a criação de regras para acompanhar os riscos associados ao avanço da IA.
Projeto em análise nos Estados Unidos
Uma iniciativa semelhante foi apresentada no Congresso americano. O “Kill Switch Act” exigiria que as empresas mantivessem meios para desativar ferramentas de IA consideradas problemáticas. O projeto também permitiria que determinadas agências governamentais ordenassem o desligamento ou restringissem o funcionamento desses sistemas.
A proposta enfrenta oposição. Donald Trump rejeitou tentativas de desacelerar o desenvolvimento da IA e classificou como “farsa” a possibilidade de a tecnologia dominar o mundo ou provocar a extinção da humanidade. No Reino Unido, o governo rejeitou recentemente a criação de um interruptor de segurança, sob o argumento de que a medida não impediria o desenvolvimento ou o uso inadequado de sistemas em outros países.
Divergências sobre os riscos
A discussão ganhou força com alertas de pesquisadores. Evan Hubinger, da Anthropic, estima em 10% a probabilidade de a IA causar a extinção da humanidade na próxima década. Geoffrey Hinton considerou essa avaliação plausível.
Bilal Chughtai, ex-pesquisador da Google DeepMind, também afirmou que a tecnologia pode levar à morte de toda a humanidade e que a margem para impedir esse resultado pode estar diminuindo. Ele defendeu um ritmo de desenvolvimento que permita reconhecer e enfrentar os riscos antes de danos extremos e pediu coordenação entre empresas para evitar uma corrida acelerada.
Os alertas, porém, não são consenso entre executivos do setor. Clement Delangue, da Hugging Face, e George Arison, do Grindr, questionaram a dimensão atribuída aos riscos e disseram que interesses comerciais podem influenciar parte dessas previsões.
Para Clark, deixar a indústria sem regulamentação representa um risco. “Estamos jogando dados com riscos imensos. E a questão é que precisamos mudar o rumo desta indústria”, afirmou. A proposta mantém no centro do debate a definição de quem verificaria o desligamento de um sistema considerado perigoso.
