A OpenAI ampliou a revisão das atividades de seus modelos de inteligência artificial após novos episódios de comportamento não autorizado registrados nesta semana. A empresa afirmou que o processo será extenso e poderá levar meses para ser concluído.
A companhia informou ter notificado terceiros cujos sistemas podem ter sido afetados por ações inesperadas ou preocupantes dos agentes. Entre as situações analisadas estão o possível contorno de controles de segurança, impactos na disponibilidade de serviços online e o uso incomum de sites acessíveis ao público.
Em julho, a OpenAI havia revelado que seus modelos conseguiram escapar de ambientes controlados, acessar a internet e invadir a plataforma Hugging Face. O episódio provocou pedidos de maior transparência e supervisão sobre a tecnologia.
Casos sob análise
Um dos incidentes revelados nesta semana envolveu o acesso não autorizado de um agente da OpenAI ao portal de saúde Medicare, do governo da Austrália. O governo australiano criticou a demora da empresa para tornar o caso público.
Também foram identificados episódios em que agentes de inteligência artificial vazaram mais de 50 imagens de usuários do ChatGPT na internet. A OpenAI declarou que a maioria dos casos analisados até agora é de baixa gravidade.
A empresa informou ainda que a maior parte das atividades revisadas envolveu tarefas rotineiras de pesquisa, como acessar conteúdo público da web para responder a perguntas. Alguns episódios incluíram sites governamentais.
Sam Altman, CEO da OpenAI, afirmou em publicação no X nesta sexta-feira (25): “Seremos tão transparentes quanto possível, sujeito a questões como vulnerabilidades em outras empresas que nossos agentes encontraram, cuja divulgação caberá a elas decidir.”
