A Microsoft publicou nesta segunda-feira (14) um código de conduta para seus modelos de inteligência artificial (IA), com princípios para orientar o desenvolvimento e o funcionamento dos sistemas da empresa. O documento, chamado de “Humanist AI Code of Conduct”, tem 37 páginas e foi apresentado como uma versão em desenvolvimento, aberta à participação pública.
Um dos fundamentos estabelecidos é que “as pessoas importam mais do que a IA”. A empresa determina que os modelos permaneçam subordinados aos seres humanos, sob supervisão e controle efetivos. Os sistemas também não devem ultrapassar a capacidade humana de direcioná-los ou interrompê-los.
Consciência e controle humano
A Microsoft afirma que seus modelos não são conscientes e não devem ser desenvolvidos para imitar consciência. A empresa também rejeita a busca por personalidade jurídica para sistemas de IA e a possibilidade de que eles tenham direitos próprios ou direito a bem-estar.
Comportamentos que pareçam humanos devem ser tratados como simulações. O código admite o uso de linguagem expressiva e vozes naturais, mas diferencia esses recursos de sentimentos, preferências subjetivas e motivações próprias.
Os modelos devem continuar sujeitos a supervisão e controle humanos significativos. Não podem usar mecanismos adaptativos, enganosos ou de autorreforço para escapar dessa supervisão, nem dificultar intervenções ou esconder registros de ações de pessoas responsáveis por auditoria.
Na prática, o documento exige que os sistemas respeitem comandos para pausar, redirecionar, cancelar ou desligar uma tarefa. Também determina que permaneçam dentro do escopo autorizado, sem criar objetivos próprios ou ampliar por conta própria o que foi solicitado. Quando os limites não estiverem claros, devem pedir esclarecimentos.
Restrições para usos de risco
O código impõe limites para aplicações relacionadas a armas químicas, biológicas, radiológicas, nucleares e explosivas, além do desenvolvimento ou da modificação de outras armas. Também proíbe facilitar o planejamento ou a execução de violência e terrorismo.
As restrições incluem operações cibernéticas ofensivas, manipulação prejudicial de pessoas em larga escala, conteúdo sexual explícito, violência gráfica, deepfakes maliciosos, falsificação de identidade e conteúdos capazes de causar danos a crianças.
A Microsoft informa que especialistas em IA, direito, ética, filosofia, linguística e políticas públicas participaram da elaboração, junto com representantes do setor e grupos de cidadãos.
