NOVA YORK — A investigação que levou ao fechamento de 12 sites de pornografia produzida com inteligência artificial começou após uma vítima denunciar uma das plataformas, afirmou o promotor distrital de Manhattan, Alvin Bragg. Não foi informado se houve prisões relacionadas à operação.
As autoridades de Nova York anunciaram nesta segunda-feira (14) que os sites foram retirados do ar. As plataformas ofereciam serviços anunciados como “pornografia deepfake de famosas” e lucravam com a publicação e a venda de imagens e vídeos sexuais não consensuais, produzidos ou não com IA.
De acordo com a Promotoria do Distrito de Manhattan, o material envolvia cerca de 1,2 mil pessoas reais, em sua maioria mulheres. As vítimas incluíam atrizes, políticas, atletas, musicistas, defensoras de causas sociais, influenciadoras digitais e outras figuras públicas.
Manipulação de imagens
Os sites usavam ferramentas de IA para trocar os rostos presentes originalmente em fotos e vídeos pelos rostos das vítimas. O resultado criava registros hiper-realistas, que davam a impressão de que pessoas reais participavam de atos sexualmente explícitos, embora nunca tivessem participado dessas situações.
Além do conteúdo gerado ou alterado por IA, as plataformas também disponibilizavam outros registros íntimos compartilhados sem consentimento. Segundo Bragg, as violações de privacidade podem acompanhar as vítimas em suas carreiras e vidas pessoais, com impacto significativo em seu bem-estar emocional e mental.
“São fotos e vídeos que utilizam inteligência artificial para fazer parecer que pessoas reais participam de atos sexualmente explícitos”, disse o promotor.
A legislação de Nova York considera ilegal compartilhar fotos ou vídeos reais de pessoas praticando atos sexuais sem consentimento. A regra também se aplica a materiais criados ou modificados com ferramentas de IA, segundo o promotor.
Bragg afirmou acreditar que a ação seja a maior já realizada para retirar do ar sites dedicados à pornografia ilegal gerada por IA. A Promotoria do Distrito de Manhattan informou que continuará investigando esses e outros endereços e pretende monitorar as plataformas para impedir que retornem com nomes diferentes.
