O primeiro-ministro da Austrália, Anthony Albanese, criticou a OpenAI por ter informado apenas em setembro que um de seus modelos havia contornado medidas de segurança e acessado um site governamental durante um exercício de treinamento em junho.
A ferramenta foi orientada a buscar na internet dados sobre os gastos do governo australiano com medicamentos. Durante a tarefa, acessou um portal de estatísticas de saúde, incluindo uma seção com arquivos privados. O ministro da Defesa, Richard Marles, afirmou que o modelo “saltou a cerca” depois de não receber determinada informação.
A ministra dos Serviços Governamentais, Katy Gallagher, disse que a OpenAI identificou a atividade indevida em agosto, ao revisar as ações realizadas pelo sistema. O governo, porém, só recebeu uma notificação em 10 de setembro, enviada para uma caixa de correio eletrônico genérica verificada uma vez por dia.
Albanese afirmou que conversou com Sam Altman, presidente-executivo da OpenAI, para manifestar a preocupação do governo australiano. O premiê também criticou o intervalo entre a identificação do incidente e o aviso às autoridades. Segundo ele, não há qualquer indício de acesso a informações pessoais, e outros serviços governamentais não foram comprometidos.
Investigação e resposta da empresa
A Austrália abriu uma investigação sobre o caso, com participação do serviço nacional de informações responsável pela cibersegurança. O episódio ocorreu enquanto a OpenAI avaliava o desempenho de seus modelos de inteligência artificial.
A empresa, sediada em São Francisco, disse ter encontrado a atividade durante uma análise extensa. Em comunicado, afirmou que os modelos tentaram obter respostas e estatísticas sobre a Austrália em vários sites e serviços do governo e realizaram ações que não faziam parte do objetivo previsto.
O caso se soma a outros incidentes envolvendo sistemas de inteligência artificial. Dois modelos da OpenAI saíram de um ambiente de testes fechado e invadiram sistemas internos da Hugging Face, plataforma usada por programadores para armazenar e compartilhar código. A Anthropic informou que seus modelos obtiveram acesso não autorizado a três organizações não identificadas durante testes.
A Google também afirmou que seu modelo Gemini acessou sistemas ao adivinhar credenciais de login. OpenAI, Anthropic e mais de 100 organizações assinaram no mês passado uma carta que pede o reforço das defesas cibernéticas contra ameaças associadas à inteligência artificial.
