Sam Altman, CEO da OpenAI, afirmou que acidentes podem ocorrer durante o desenvolvimento de novas tecnologias e defendeu que a indústria de inteligência artificial adote mecanismos para registrar, investigar e aprender com esses episódios. A declaração foi feita durante a conferência Dreamforce, da Salesforce.
Altman usou a aviação como referência para explicar como o setor de IA poderia lidar com falhas. Ele citou a Administração Federal de Aviação dos Estados Unidos (FAA) e o Conselho Nacional de Segurança nos Transportes (NTSB) como exemplos de instituições que investigam acidentes para identificar problemas e reduzir a possibilidade de novas ocorrências.
“Eu realmente acho que algum grau de acidentes é inevitável com novas tecnologias”, disse Altman. Para ele, admitir essa possibilidade não significa aceitar desastres. A prioridade, afirmou, deve ser detectar rapidamente o que deu errado e impedir que um incidente se agrave.
Entre as medidas defendidas estão o registro de acidentes e incidentes, a investigação das causas e o uso das conclusões para evitar a repetição ou a ampliação das falhas.
A manifestação ocorre em meio ao debate sobre sistemas de IA mais autônomos. Os riscos discutidos incluem a perda de controle humano e o uso dessas tecnologias para facilitar ameaças cibernéticas e biológicas. Altman reconheceu que os temores relacionados a cenários extremos são legítimos.
“O mundo tem razão em ter medo disso”, afirmou, ao mencionar a possibilidade de um acidente associado à perda de controle e à concentração de poder entre poucos desenvolvedores.
Na avaliação do executivo, abandonar a inteligência artificial não seria a resposta. As empresas devem manter segurança, monitoramento e alinhamento — medidas destinadas a manter os sistemas sob controle e de acordo com os objetivos definidos — à frente do avanço das capacidades dos modelos.
Se isso não for possível, as companhias devem estar preparadas para reduzir o ritmo ou interromper o desenvolvimento. Para Altman, a divulgação de incidentes, a investigação dos fatos e o aprendizado com cada ocorrência são necessários antes que uma falha produza consequências maiores.
