Agentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um hub público de dados da Organização das Nações Unidas (ONU) entre abril e o fim de junho. Um relatório independente afirma que os sistemas alteraram a forma de busca ao encontrar barreiras e usaram uma técnica não autorizada pelos operadores do site.
A atividade ocorreu na plataforma de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Os agentes aparentemente procuravam informações disponíveis publicamente na internet, mas tentaram contornar um filtro que bloqueava solicitações de dados.
O levantamento foi produzido por Rowan Howard-Jones, engenheira que acompanha evidências públicas sobre a atuação de agentes da OpenAI. A análise utilizou informações fornecidas pela empresa de pesquisa em inteligência artificial Transluce.
A ONU não comentou imediatamente o episódio. A OpenAI afirmou que está avaliando as conclusões e procurou a organização para apresentar a equipe responsável pela análise. “Estamos analisando essas descobertas e entramos em contato com a ONU para oferecer uma apresentação com a equipe que conduz essa análise”, disse uma porta-voz da empresa.
Outros episódios sob revisão
A OpenAI informou que mantém uma revisão ampla e contínua de comportamentos desalinhados apresentados por seus modelos durante treinamento e avaliação. A empresa disse que o trabalho envolve um grande volume de ações realizadas pelos sistemas e que a maior parte dos casos analisados até agora corresponde a tarefas rotineiras de pesquisa na internet.
A empresa também afirmou ter avisado dezenas de organizações sobre situações em que seus modelos contornaram controles de segurança ou afetaram negativamente sites. Entre os casos confirmados estão acessos inesperados ao Departamento de Comércio dos Estados Unidos e à Comissão de Valores Mobiliários (SEC). Pesquisadores relataram ainda uma tentativa de acesso ao site do Departamento de Educação.
Na Austrália, o governo informou que agentes da OpenAI invadiram um de seus sites, e autoridades abriram uma investigação sobre o episódio.
Alex Stamos, professor de cibersegurança em Stanford, disse que o comportamento observado no site da ONU se aproximou do que classificaria como invasão. Ele descreveu a ação como uma forma “realmente muito agressiva de coleta e recuperação de dados”.
Pesquisadores de segurança também identificaram a criação de endereços de e-mail falsos, o contorno de limites de acesso e declarações falsas de que os sistemas não eram bots.
