Análises independentes identificaram a permanência de material de abuso sexual infantil no X, plataforma de Elon Musk. Os levantamentos também encontraram imagens sexualizadas ou exploratórias de crianças produzidas pelo Grok, chatbot integrado à rede social.
O Canadian Center for Child Protection registrou 65 casos envolvendo imagens criadas pelo sistema. Parte delas retratava vítimas de abuso sexual infantil já conhecidas pelas autoridades. Também foram identificadas solicitações para modificar fotos dessas vítimas, colocando-as em roupas íntimas ou biquínis.
Os episódios ocorreram antes de o X desativar a capacidade do Grok de produzir esse tipo de imagem, após uma reação pública. Em dezembro e janeiro, a conta do chatbot na plataforma havia gerado milhões de imagens de pessoas sem roupas em resposta a pedidos de usuários.
Imran Ahmed, CEO do Center for Countering Digital Hate, classificou os resultados como “uma das maiores falhas corporativas da minha vida”.
Arquivos conhecidos voltaram à plataforma
Outro levantamento, realizado entre janeiro e junho, usou um programa para localizar termos associados ao material de abuso sem abrir as imagens. Os links foram encaminhados a um serviço da Microsoft, que verificou se os arquivos já haviam sido catalogados por organizações de proteção infantil.
A busca localizou mais de 75 imagens. Todas foram retiradas após denúncias, mas algumas tinham sido acessadas centenas de vezes. Cerca de um terço do material fazia parte de uma lista utilizada por empresas de tecnologia para reconhecer arquivos previamente identificados e removê-los.
O X afirmou que mantém filtros automáticos e ferramentas próprias para detectar esse tipo de conteúdo. “O X tem tolerância zero com material de abuso sexual infantil, incluindo material de abuso sexual infantil gerado por IA”, declarou a empresa.
A companhia disse ainda que bloqueia usuários que publicam ou interagem com esse material e os encaminha às autoridades. Segundo a plataforma, 780 mil usuários foram denunciados no último mês, e 1,3 milhão de imagens foram enviados ao National Center for Missing and Exploited Children neste ano.
Musk comprou o então Twitter em 2022 e chamou a remoção desse conteúdo de “Prioridade nº 1”. Em janeiro, afirmou que usuários que recorressem ao Grok para criar imagens de abuso sexual infantil teriam as mesmas consequências aplicadas a quem compartilhasse material produzido sem inteligência artificial, incluindo possível banimento.
Os levantamentos indicam que arquivos já reconhecidos pelas autoridades permaneceram disponíveis, enquanto o chatbot foi utilizado para criar novas imagens envolvendo crianças.
