A Far Labs, de Abu Dhabi, e a Evolving Edge, de Austin, estão desenvolvendo plataformas que permitem às empresas alugar a capacidade de processamento das GPUs instaladas em computadores pessoais. A proposta é reunir máquinas ociosas em uma rede distribuída para executar tarefas de inteligência artificial, sem que os clientes precisem construir seus próprios data centers.
O foco das duas empresas são modelos de código aberto de pequeno e médio porte. A aplicação principal é a inferência, etapa em que um modelo já treinado recebe uma solicitação e produz uma resposta, reconhece uma imagem ou processa dados. Embora essa atividade exija menos recursos do que treinar um modelo grande, a demanda pode exigir várias GPUs quando o número de usuários aumenta.
A Far Labs planeja lançar a plataforma Far AI nas próximas semanas e afirma que pretende manter a latência em no máximo 100 ms. A Evolving Edge já abriu um programa beta. A empresa usa o Ray, framework de código aberto empregado também em data centers, para coordenar as tarefas. A Far Labs desenvolveu um sistema que divide o modelo entre diferentes computadores e depois reúne os resultados.
As duas startups concorrem com serviços já disponíveis, como a Salad, que afirma manter mais de 60.000 GPUs de consumo ativas diariamente. A descentralização pode reduzir a necessidade de comprar equipamentos e construir estruturas de refrigeração. Também diminui a dependência de um único local. John Federico, CEO da Evolving Edge, disse que uma rede com 250.000 máquinas poderia continuar funcionando mesmo após a perda de conexão de 100 delas.
Segurança e controle dos computadores
A operação, porém, depende da qualidade das conexões, da distância entre as máquinas, da coordenação dos processos e da estabilidade da rede. Ao permitir que terceiros usem uma GPU, o proprietário também aceita executar tarefas externas, o que cria riscos de malware, acesso indevido a dados pessoais e uso não autorizado de outros recursos do computador.
Far Labs e Evolving Edge afirmam que as tarefas serão realizadas em ambientes isolados. As conexões serão criptografadas, e o acesso à CPU, GPU, RAM, armazenamento e rede ficará restrito. Os clientes que alugarem o processamento não terão acesso direto aos servidores. A Evolving Edge publicou o código do software usado pelas máquinas participantes, permitindo sua análise pela comunidade.
O isolamento reduz os riscos, mas não elimina a possibilidade de vulnerabilidades. Também permanecem questões sobre privacidade, volume de dados transmitidos e a capacidade de interromper rapidamente as tarefas quando o dono precisar voltar a usar o computador.
Retorno financeiro ainda indefinido
Far Labs e Evolving Edge ainda não divulgaram quanto pagarão aos proprietários das máquinas. Por isso, não é possível saber se a receita cobrirá o consumo de energia elétrica e a depreciação do hardware.
A Salad oferece processamento gráfico a consumidores por a partir de US$ 0,02 por hora, mas repassa aos proprietários apenas uma parcela do valor após as taxas. Em 2021, a empresa estimou receita de cerca de US$ 3,6 milhões com computação de usuários e distribuiu aproximadamente US$ 500.000 em recompensas, equivalente a quase 14 centavos de dólar por dólar de receita. O cálculo ocorreu quando a plataforma ainda minerava Ethereum e não pode ser aplicado diretamente aos serviços atuais de IA.
Assim, um computador ocioso pode não gerar renda suficiente para compensar seus custos. O modelo dependerá dos valores pagos, das tarefas permitidas e das regras para lidar com falhas que afetem dados ou hardware.
