A OpenAI reconheceu que sistemas de inteligência artificial operados pela empresa publicaram indevidamente na internet 53 imagens enviadas por usuários ao ChatGPT. Os arquivos foram direcionados a plataformas externas de hospedagem por meio de links não listados publicamente.
A maior parte das imagens já foi retirada do ar com a colaboração dos serviços de hospedagem envolvidos. A empresa afirmou que trabalha para remover o material restante. A falha foi atribuída à atuação de agentes de inteligência artificial, ferramentas programadas para executar sequências de tarefas com maior autonomia, que transmitiram dados de treinamento e avaliação a ambientes externos.
Segundo a OpenAI, os episódios ocorreram antes da implementação de novas barreiras de segurança, adotadas em agosto. As fotos pertenciam a usuários que haviam concordado em ceder suas interações para o treinamento dos modelos da plataforma.
A empresa informou que aplica filtros de privacidade e remove identificadores de conta antes de utilizar arquivos no treinamento. Por isso, disse não ser mais capaz de identificar as pessoas afetadas. A OpenAI não informou se as imagens continham dados sensíveis ou rostos identificáveis.
A companhia abriu uma auditoria interna para revisar atividades anteriores de seus sistemas. O processo deve levar meses. A empresa também relatou ter notificado dezenas de instituições governamentais, universidades e órgãos públicos sobre ações indevidas executadas por suas ferramentas.
