RunPod calcula: 4 GPUs A100 na nuvem saem $124 000 mais baratas que on-prem em 3 anos

A RunPod publicou em seu blog um cálculo de custo total de propriedade: quatro NVIDIA A100 na nuvem da empresa custarão, em três anos, mais de $124 000 a menos do que um cluster on-prem equivalente. Em médias, são cerca de $41 000 por ano e aproximadamente $3 440 por mês. Dividindo o valor por 105 120 GPU-horas (quatro placas, 24 horas por dia, 36 meses), a diferença fica em cerca de $1,18 por GPU-hora. Uma ressalva importante: quem fez a conta foi o provedor de nuvem, e o anúncio não revela a metodologia em detalhes.

De onde vem a diferença

Um cluster próprio exige investimento antes mesmo da primeira execução. É preciso comprar servidores e placas, rede, rack e fontes de alimentação. Depois começam os custos recorrentes: eletricidade, refrigeração, espaço físico, reposição de componentes que falham e o tempo do engenheiro responsável por tudo isso. A nuvem transforma tudo isso em uma tarifa por hora, com cobrança apenas pelas horas efetivamente utilizadas.

Há também o fator da idade do hardware. A A100 foi lançada em 2020 e, num horizonte de três anos, seu valor de mercado cai de forma perceptível à medida que a H100 e as gerações mais novas se tornam mais acessíveis. A placa comprada se desvaloriza no balanço, enquanto quem aluga simplesmente migra para uma arquitetura mais recente.

Onde o cálculo pode não se sustentar

Há uma variável principal nesse tipo de comparação: a utilização. Se as quatro A100 ficam ocupadas com treinamento ou inferência quase o dia todo, as horas ociosas tendem a zero, e a vantagem da nuvem diminui. Já se as placas só são necessárias em períodos de pico, como antes do lançamento de um modelo ou durante uma rodada de experimentos, o hardware próprio passa a maior parte do tempo apenas esquentando o ambiente.

Há ainda algumas premissas que vale verificar em qualquer cálculo desse tipo:

• preço da eletricidade e da refrigeração na sua região;
• custo do trabalho do administrador e grau de automação;
• taxas de armazenamento de dados e de tráfego de saída na nuvem;
• disponibilidade das placas necessárias na hora certa, principalmente nas semanas de pico;
• requisitos de localidade dos dados e de compliance.

Principais números do anúncio:

• configuração: 4× NVIDIA A100;
• horizonte da comparação: 36 meses;
• economia declarada: mais de $124 000;
• em média: cerca de $41 300 por ano e $3 440 por mês;
• equivalente em operação 24/7: cerca de $1,18 por GPU-hora (cálculo da redação a partir do valor declarado).

Como conferir com os seus números

Comece pela utilização real. Exporte as métricas dos últimos três meses e veja quantas horas por semana as GPUs de fato processam, em vez de esperar por dados. Depois, encontre o ponto de equilíbrio: a partir de que proporção de horas ocupadas o cluster próprio passa a ficar mais barato que o aluguel. Para uma equipe com utilização de 20–30% e outra com 85–90%, as respostas serão opostas.

Em seguida, vale fazer um piloto. Leve uma tarefa típica, seja fine-tuning ou inferência em produção, para a nuvem por um mês e compare a fatura real com o cálculo interno. Muitas vezes o modelo híbrido sai ganhando: carga de base no hardware próprio e picos em instâncias alugadas.

O argumento da RunPod é convincente para startups e grupos de pesquisa com agenda irregular. Para uma carga estável, 24 horas por dia, o número de $124 000 deve ser lido como um motivo para fazer a própria conta, e não como uma conclusão pronta.