A OpenAI afirma que o ChatGPT se recusou a ranquear ou recomendar candidatos em 32 de 33 tentativas realizadas em um estudo mais recente. O levantamento foi solicitado pela empresa ao professor Diogo Reis, segundo Bruno Lewicki, head de políticas públicas da OpenAI na América Latina.
O resultado foi apresentado como uma atualização em relação a estudos do Instituto de Tecnologia e Sociedade (ITS) e do Observatório IA nas Eleições, que haviam identificado situações em que chatbots ainda recomendavam ou classificavam candidatos. De acordo com Lewicki, esses trabalhos usaram dados coletados entre fevereiro e julho, antes do início da campanha eleitoral.
Regras ainda sem jurisprudência
Lewicki afirmou que a eleição brasileira será um dos principais testes para o uso de inteligência artificial em pleitos. A experiência, segundo ele, poderá gerar aprendizado para países que terão eleições em 2027, como França e Espanha.
O executivo destacou que várias normas do Tribunal Superior Eleitoral (TSE) são recentes e ainda não contam com jurisprudência que defina sua aplicação prática. Entre as regras mencionadas está a proibição de que modelos de IA ranqueiem, recomendem, sugiram, favoreçam ou desfavoreçam candidatos e partidos, de forma direta ou indireta.
A OpenAI diz já ter políticas para reduzir vieses em temas políticos e eleitorais. O uso do ChatGPT em campanhas também é proibido, exceto em determinadas atividades administrativas. A empresa não oferece anúncios políticos ou eleitorais no serviço, inclusive no Brasil.
Outra regra do TSE estabelece restrições à publicação, à republicação e ao impulsionamento de conteúdos gerados por IA nas 72 horas anteriores e nas 24 horas posteriores à eleição. Na interpretação apresentada por Lewicki, a norma trata da circulação desses materiais, e não da geração do conteúdo.
Medidas adotadas pela empresa
A preparação da OpenAI envolve transparência, acesso a informações e monitoramento. Arquivos produzidos pelo ChatGPT recebem uma etiqueta digital com metadados sobre a origem e uma marca d’água invisível que pode indicar a criação de uma imagem pelo serviço.
A empresa também oferece uma ferramenta capaz de analisar imagem ou áudio e verificar se o arquivo foi produzido integralmente ou com auxílio do ChatGPT. Para textos, porém, essa ferramenta não realiza a verificação.
Lewicki citou o caso de um suposto relatório da Polícia Federal que circulou nas redes sociais e foi identificado como material produzido com IA por uma jornalista de uma agência de checagem. O arquivo teria sido criado com uma ferramenta da OpenAI disponibilizada ao público.
A companhia afirma ainda ter ampliado a presença de fontes oficiais, como o TSE, e de veículos jornalísticos entre as referências consideradas pelo sistema durante o período eleitoral. Equipes de segurança, inteligência e integridade fazem o monitoramento contínuo dos usos da tecnologia.
Responsabilidades e alcance da fiscalização
Segundo Lewicki, a OpenAI mantém políticas contra supressão de voto e interferência eleitoral. Ele mencionou um episódio ocorrido na Índia em 2024, no qual o ChatGPT teria sido usado com redes sociais e personas falsas de mídia para favorecer um partido. O caso foi identificado pelos sistemas da empresa e não teve grande engajamento, de acordo com o executivo.
A empresa diz que não contratou pessoas especificamente para a eleição brasileira, mas continua aprimorando a tecnologia. No Brasil, são enviadas 215 milhões de mensagens diárias ao ChatGPT, o que, na avaliação de Lewicki, torna relevante a qualidade das informações usadas pelo modelo.
Em entrevista ao podcast A Máquina, publicada neste sábado (19), o executivo afirmou que a OpenAI espera uma eleição sem grandes problemas relacionados ao uso de IA. Ele também defendeu a participação de governos, empresas, academia e sociedade civil nas discussões sobre segurança, cibersegurança e riscos da tecnologia.
