A Anthropic informou ter interrompido operações apoiadas pelos governos da China, do Irã e do Mali que usavam o Claude para vigiar dissidentes e minorias. Os casos foram identificados entre janeiro e julho e incluíam a localização de pessoas em redes sociais e a criação de ferramentas voltadas à coleta de informações.
Os alvos pertenciam a grupos que, conforme a empresa, já são perseguidos historicamente por esses governos. Entre eles estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que vivem fora do país.
Em um dos episódios, participantes no Irã desenvolveram um método para reconhecer indivíduos a partir de suas contas em redes sociais. No Mali, um contratado ligado às autoridades de segurança nacional recorreu ao Claude para elaborar o software usado na coleta de inteligência, informou a Anthropic.
Outros usos interrompidos
A empresa também acusou desenvolvedores chineses de utilizar o modelo de maneira enganosa. Eles produziam respostas para consultas de usuários e aproveitavam esse material para aperfeiçoar sistemas próprios, em um processo conhecido como destilação. A prática consiste em empregar um modelo de inteligência artificial para treinar outro, e desenvolvedores chineses já haviam sido acusados anteriormente de fazê-lo sem autorização.
Entre os bloqueios houve ainda tentativas de desenvolver armas e criar golpes românticos pela internet. A Anthropic identificou também pesquisas relacionadas ao vírus chikungunya, a uma cepa altamente patogênica de gripe aviária, a uma família de vírus que inclui varíola e mpox, além de venenos e outras toxinas.
A finalidade dos estudos biológicos não estava clara, e a empresa não divulgou a identidade dos envolvidos. “As pessoas envolvidas nesses estudos de caso são cientistas”, afirmou o relatório da Anthropic. O documento acrescentou que a empresa não afirmava haver intenção de causar danos e que revelar os pesquisadores ou seus laboratórios poderia expô-los a riscos.
Segundo a Anthropic, as operações foram encerradas após a identificação do uso indevido de seus modelos.
