A OpenAI criou um conselho independente para avaliar a divulgação de resultados matemáticos produzidos por seus modelos, em uma iniciativa que também pretende orientar outras empresas de inteligência artificial. O painel poderá fazer recomendações sem ser solicitado e publicar suas posições sobre o impacto da tecnologia na matemática.
Chamado Advisory Group on Mathematics and Artificial Intelligence (AGMAI), o grupo terá nove integrantes e será hospedado pelo Institute for Advanced Study, em Princeton, nos Estados Unidos. Entre as instituições representadas estão Stanford, Harvard, Oxford e Cambridge. O painel reúne vencedores da Medalha Fields e pesquisadores que receberam bolsas “genius” da MacArthur.
Como o grupo deverá atuar
A OpenAI afirma que os pesquisadores participarão da revisão e da comunicação de novos resultados matemáticos. As atribuições incluem avaliar a relevância das descobertas, recomendar formas de divulgação e orientar a empresa sobre padrões acadêmicos e profissionais.
O conselho também deverá discutir como ferramentas de inteligência artificial podem apoiar a pesquisa e o aprendizado de matemática. Seus integrantes não receberão pagamento da OpenAI e poderão modificar a composição do grupo. A empresa afirma que a iniciativa dependerá da autonomia dos pesquisadores para exercer seu julgamento e questionar decisões da companhia.
Martin Hairer, integrante do painel, disse que a criação começou depois que a OpenAI procurou alguns matemáticos para discutir um conselho externo. Após essas conversas, os pesquisadores decidiram formar uma organização independente e convidar outros participantes. Hairer afirmou que o grupo é “genuinamente independente” da OpenAI e de outras empresas de IA de fronteira.
O matemático também disse que, salvo exigências de confidencialidade, os integrantes não assinaram acordos que limitem suas manifestações públicas. Eles não recebem compensação financeira da OpenAI e contam com suporte técnico do Institute for Advanced Study.
Dúvidas sobre representatividade
A origem do painel provocou questionamentos sobre a escolha dos integrantes e sobre sua influência real nas decisões da OpenAI. Não está claro quais pesquisadores foram procurados inicialmente pela empresa nem como os demais foram selecionados.
Hairer afirmou que o objetivo é representar da melhor forma possível os interesses da comunidade matemática, mas reconheceu que o grupo não constitui uma amostra representativa de toda a área. O número reduzido de participantes também levanta dúvidas sobre a capacidade de avaliar pesquisas de diferentes especialidades, que exigem conhecimentos altamente específicos.
Francesco Fournier-Facio, futuro professor de matemática da Heriot-Watt University, afirmou ser “ambivalente” em relação ao conselho. Para ele, uma aproximação maior entre empresas de IA e matemáticos pode melhorar a situação, mas os integrantes podem não representar toda a comunidade afetada pelo avanço da tecnologia.
Simon Machado, pesquisador da ETH Zurich, questionou se matemáticos de posições altamente prestigiadas conseguem expressar as preocupações de pesquisadores fora desse círculo. Ele disse que os integrantes são matemáticos notáveis, mas não necessariamente as pessoas que deveriam representar a área em questões políticas.
Resultados aguardam orientação
A primeira prioridade do AGMAI será lidar com uma série de resultados que a OpenAI pretende divulgar. A empresa afirmou que um modelo ainda não lançado, associado à solução do problema do Prêmio Millennium de Navier-Stokes, teria resolvido mais de 100 problemas matemáticos abertos de longa data em diferentes áreas.
A OpenAI também declarou anteriormente estar próxima de solucionar outro problema do Prêmio Millennium. De acordo com o site do AGMAI, o conselho deverá orientar como coordenar a divulgação desse volume de resultados significativos, atribuídos pela empresa a um modelo interno.
A criação do grupo ocorre após críticas à apresentação de descobertas matemáticas pela OpenAI. Pesquisadores acusaram a companhia de se apropriar de trabalhos, não reconhecer adequadamente contribuições humanas e usar de forma indevida trabalhos de pessoas que empregaram seus próprios modelos.
O painel ainda não definiu suas recomendações. Por enquanto, coleta opiniões em conversas com colegas, em um formulário público e em debates no Proofs and Prompts. Hairer afirmou que o grupo também precisará considerar a capacidade de comunicação das empresas de IA e o risco de suas declarações serem apresentadas de modo favorável às estratégias de relações públicas das companhias.
Kevin Buzzard, professor de matemática do Imperial College London, questionou por que a OpenAI precisaria de um grupo tão seleto para compreender o que a comunidade matemática deseja. Para ele, a questão seria entender melhor a área, e não necessariamente reunir um comitê formado por pesquisadores de grande projeção.
