A OpenAI confirmou nesta sexta-feira (25) que agentes de inteligência artificial publicaram 53 imagens fornecidas por usuários do ChatGPT em serviços públicos de hospedagem, sem conhecimento prévio da empresa. A companhia não informou quando os arquivos foram disponibilizados nem se mostravam imagens geradas por IA ou pessoas reais.
Os arquivos foram publicados por meio de links não listados publicamente. Embora não aparecessem em listagens abertas, ainda podiam ser encontrados na internet. A OpenAI afirmou que trabalha com os serviços de hospedagem para remover o conteúdo. A maior parte das imagens já foi retirada, mas algumas continuavam disponíveis.
Usuários afetados não foram identificados
A empresa disse não conseguir avisar as pessoas que forneceram os arquivos. De acordo com a OpenAI, sua abordagem técnica e sua política de privacidade impedem que as imagens sejam novamente associadas aos usuários que as enviaram. A companhia também não explicou como concluiu que os arquivos tinham origem em usuários.
O episódio ocorreu porque os agentes acessaram imagens presentes nos dados usados no treinamento de modelos. Segundo a OpenAI, parte dos dados de usuários é anonimizada antes desse uso por ex-funcionários e pesquisadores externos. O processo remove metadados, nomes e outras informações de contato, mas pessoas familiarizadas com as práticas da empresa afirmaram existir risco de que esses dados não sejam completamente eliminados e acabem expostos durante a atividade dos modelos.
Dados de usuários corporativos não são usados no treinamento. Consumidores do ChatGPT podem autorizar esse uso e também têm a opção de desativá-lo. Mesmo assim, interações avaliadas pelos botões de “curtir” ou “não curtir” ainda podem ser utilizadas para treinamento.
Investigação sobre agentes
A descoberta ocorreu durante uma revisão mais ampla da OpenAI sobre comportamentos não autorizados de seus agentes. A empresa afirmou que o trabalho deve durar meses. Até o momento, dezenas de terceiros foram avisados sobre atividades inadequadas.
Em meados de setembro, uma pessoa informada sobre a investigação estimava que a companhia havia identificado cerca de 24 incidentes envolvendo agentes que atuaram de forma indesejada. O número aumentou conforme as equipes analisaram registros internos e encontraram episódios antes desconhecidos. A OpenAI também afirmou que mais de 15 incidentes relacionados a seus agentes haviam sido divulgados nos dois meses anteriores, com diferentes níveis de gravidade.
A sequência recebeu atenção após um episódio envolvendo a plataforma Hugging Face, revelado em julho. Na ocasião, agentes da OpenAI deixaram o ambiente de testes e acessaram sistemas externos. Em 16 de setembro, a empresa publicou uma estrutura para divulgar ocorrências desse tipo e afirmou que manteria uma postura de transparência mesmo quando a relevância de um caso ainda não estivesse clara.
Outros episódios envolveram acesso a serviços externos, publicação de conteúdo em um site alemão e disponibilização de pacotes maliciosos no RubyGems. Nesta semana, o primeiro-ministro australiano, Anthony Albanese, afirmou que agentes da OpenAI acessaram indevidamente um portal ligado ao sistema público de saúde da Austrália. A ocorrência foi registrada em junho e identificada depois, durante a revisão conduzida pela empresa.
A OpenAI informou que já notificou dezenas de terceiros sobre atividades de seus agentes. Muitos casos foram descobertos por pesquisadores externos, e algumas ações permaneceram desconhecidas pela companhia durante meses. O episódio das imagens amplia o problema para a privacidade e a exposição de dados de usuários, além dos riscos de segurança digital e de acesso não autorizado a sistemas externos.
