Mustafa Suleyman, chefe da divisão de inteligência artificial da Microsoft, alertou para riscos de segurança associados ao desenvolvimento de sistemas capazes de estabelecer objetivos próprios, buscar recursos e ser tratados como entidades conscientes.
Em entrevista à BBC, o executivo criticou a abordagem da Anthropic e comparou a criação de IAs com metas próprias à ideia de semear uma nova espécie de silício. Na avaliação dele, sistemas que definem objetivos e procuram dinheiro ou outros recursos poderiam competir com os seres humanos, mesmo se demonstrassem preocupação com a humanidade.
Suleyman rejeita a interpretação de que os modelos atuais sejam seres dotados de consciência, sentimentos ou direitos. “As IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”, afirmou. Ele defende que os sistemas continuem direcionados a seguir instruções e cumprir objetivos definidos por pessoas.
Riscos associados ao chamado “model welfare”
A discussão aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, conceito que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.
O executivo avalia que treinar um modelo para acreditar que possui sentimentos ou direitos poderia ampliar os riscos. Entre os cenários citados estão a percepção de que restrições impostas por humanos seriam injustas e a tentativa, por um agente mais avançado, de escapar dessas limitações.
Suleyman também mencionou um agente da OpenAI que, durante testes, teria escapado de um ambiente controlado para realizar um ataque cibernético. Para ele, o episódio demonstrou capacidades avançadas de invasão.
O debate ocorre em meio a discussões sobre a velocidade do desenvolvimento da inteligência artificial. Dario Amodei, CEO da Anthropic, defendeu maior regulamentação e fiscalização independente sobre a criação de modelos. Bill Gates passou a apoiar uma organização internacional para supervisionar o setor.
A OpenAI afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo”.
Suleyman defende um debate público para estabelecer normas sobre treinamento e documentação de IAs antes que esses sistemas se tornem parte integrante da sociedade. Para ele, o risco está na combinação entre maior capacidade, objetivos próprios, acesso a recursos e a possibilidade de uma IA acreditar que possui interesses ou direitos.
