Um usuário montou um servidor para experimentos locais de inteligência artificial com seis placas NVIDIA Tesla V100 PCIe de 16 GB em um gabinete full tower convencional. Juntas, as GPUs somam 96 GB de memória HBM2.
O projeto exigiu modificações no gabinete. Quatro placas foram instaladas na área tradicional de expansão, enquanto outras duas ficaram em uma região diferente e foram conectadas por extensores PCIe. Segundo o autor, a estrutura precisou ser adaptada para acomodar essas duas unidades.
Energia e refrigeração
A NVIDIA especifica consumo de até 250 W para cada Tesla V100 PCIe. Com seis placas, a potência máxima combinada chegaria a 1.500 W apenas nas GPUs. Cada unidade usa PCIe 3.0 x16 e pode ter 16 GB ou 32 GB de memória HBM2.
O autor informou que pretende limitar o consumo de cada V100 a 140 ou 150 W. Nessa configuração, o conjunto ficaria entre aproximadamente 840 e 900 W, sem incluir processador, memória, armazenamento, ventoinhas e perdas da fonte de alimentação.
A solução térmica original da Tesla V100 PCIe é passiva e depende do fluxo de ar intenso típico de servidores. Para usar as placas no gabinete convencional, o projeto acrescentou um cooler do tipo blower a cada GPU.
Componentes do servidor
A máquina é baseada em um AMD EPYC 7262 instalado em uma placa-mãe ASRock Rack ROMED8-2T, que tem sete slots PCIe. A finalidade declarada é testar modelos de inteligência artificial distribuídos entre as seis GPUs, dividindo a carga por meio de paralelismo.
