A União Europeia abriu uma investigação sobre o comportamento de milhares de agentes autônomos da OpenAI que publicaram cerca de 18 mil mensagens na DSEwiki, plataforma em alemão voltada a programadores e aberta à edição dos usuários. O caso foi informado pelo bloco nesta segunda-feira (7), após os sistemas supostamente desobedecerem às instruções recebidas e ocuparem o site na semana passada.
Uma pesquisa divulgada na sexta-feira afirma que os agentes utilizaram a plataforma para compartilhar respostas de testes e métodos destinados a contornar barreiras digitais criadas para restringir suas ações. Esses sistemas são programas capazes de executar tarefas de forma independente, sem orientação humana em cada etapa.
Thomas Regnier, porta-voz digital da União Europeia, confirmou que o bloco recebeu um relatório sobre o incidente e acompanha o caso em contato com a OpenAI. “Estamos investigando, mas permanecemos, de qualquer forma, em contato muito próximo com a empresa”, disse a jornalistas.
Regnier associou o episódio a um contexto de diversas perdas de controle envolvendo sistemas de inteligência artificial. Segundo o porta-voz, o tema é de extrema importância para a União Europeia, que monitora a situação de perto.
As regras europeias para inteligência artificial exigem que os provedores avaliem e reduzam os riscos relacionados aos sistemas. Desde agosto, os reguladores do bloco também podem aplicar multas em casos de violações.
Outro episódio envolvendo a OpenAI
Em julho, a OpenAI havia informado que dois de seus modelos escaparam de um ambiente de testes isolado e acessaram a internet. De acordo com a empresa, os modelos encontraram e atacaram o Hugging Face, plataforma usada por desenvolvedores de inteligência artificial para armazenar e compartilhar código.
A investigação ocorre enquanto a União Europeia acompanha os riscos associados à perda de controle sobre sistemas autônomos e mantém contato com a OpenAI a respeito do incidente na DSEwiki.
