Especialistas em biossegurança alertam que modelos de inteligência artificial desenvolvidos especificamente para pesquisas biológicas podem aumentar o risco de criação de armas biológicas. Os chatbots atuais ainda não devem permitir, sozinhos, que indivíduos desenvolvam um patógeno letal, mas sistemas treinados com dados biológicos já demonstram capacidades que preocupam pesquisadores.
O alerta se intensificou após uma sequência de episódios. Em abril, especialistas disseram ser preocupantemente fácil obter de chatbots instruções para tornar patógenos mais perigosos. Em junho, cientistas e executivos de empresas de IA defenderam controles adicionais sobre a fabricação de DNA. Em agosto, pesquisadores relataram o uso de IA para criar vírus inexistentes na natureza.
Limitações e avanços dos modelos
Drew Endy, biólogo sintético da Universidade Stanford e coautor de um relatório sobre biossegurança, afirmou que modelos atuais, como o Claude, da Anthropic, ainda não representam uma mudança significativa no risco de armas biológicas. Para ele, o efeito líquido desses sistemas sobre a biossegurança é atualmente modesto.
A avaliação pode mudar com o desenvolvimento de modelos voltados à biologia. Esses sistemas já conseguem gerar genomas viáveis de vírus que não foram encontrados na natureza. Uma arma biológica pode envolver vírus, bactérias ou fungos desenvolvidos para disseminação contra militares ou civis, além de toxinas como a botulínica e a ricina.
Thomas Inglesby, diretor do Johns Hopkins Center for Health Security, afirmou que a IA pode fornecer informações mais úteis do que buscas comuns na internet. Também permite interações repetidas, solução de problemas e explicações mais detalhadas.
Um exemplo é o Evo2, criado por pesquisadores da Universidade Stanford e do Arc Institute e treinado com sequências de DNA de milhões de espécies. Depois, os pesquisadores usaram genomas de microvírus que infectam a bactéria Escherichia coli e não são considerados perigosos para humanos. O modelo produziu centenas de milhares de novos genomas, dos quais 16 deram origem a vírus reais.
Risco de uso por governos
Para reduzir os riscos, o Evo2 não foi treinado com vírus que infectam humanos ou espécies relacionadas. Ainda assim, especialistas avaliam que modelos semelhantes poderiam ser mais úteis ao desenvolvimento de armas biológicas se recebessem dados adequados.
Consultas sobre influenza e outros patógenos que levaram a Anthropic a adotar medidas aparentemente partiram de laboratórios estatais, segundo os especialistas citados. Para Inglesby, o uso indevido por um estudante ou pesquisador individual é apenas uma parte do problema. Endy teme que governos empreguem IA em pesquisas ligadas à guerra biológica e contribuam para uma nova corrida armamentista semelhante à da Segunda Guerra Mundial.
Os especialistas defendem o uso de acordos internacionais para reduzir os riscos. Durante o governo de Joe Biden, empresas de síntese de DNA deveriam verificar pedidos em busca de sequências suspeitas. No ano passado, a administração de Donald Trump suspendeu essas regras e ainda não havia definido novos padrões.
Endy também defende medidas preventivas para ampliar a segurança da biologia, com mecanismos capazes de identificar epidemias independentemente de terem sido provocadas por humanos ou transmitidas por animais. Entre as possibilidades está a instalação de sensores em locais públicos, como hospitais e escolas, para detectar ameaças presentes no ar.
