O mesmo H100 custa $2,69 ou $12,29 por hora: uma diferença de 4,6 vezes

Imagine comprar o mesmo iPhone em duas lojas, e em uma delas ele custa 4,6 vezes mais. Com o aluguel de GPU, isso não é uma metáfora. Segundo um levantamento no GitHub que somou 110 pontos e 66 comentários no Hacker News, o mesmo NVIDIA H100 é alugado por $2,69 a hora por alguns provedores e por $12,29 por outros. A placa é a mesma, o chip é o mesmo, mas a conta difere quase cinco vezes.

O que há por trás dos números

Vamos converter horas em dinheiro. Um mês tem cerca de 730 horas. A $2,69, uma placa custa aproximadamente $1.960; a $12,29, custa $8.970. A diferença é de cerca de $7.000 por mês em uma única GPU. Para um nó típico de oito H100, a lacuna chega a algo em torno de $56.000 por mês. Para uma equipe que treina um modelo ou mantém inferência 24 horas por dia, isso já não é arredondamento, e sim o salário de vários engenheiros.

Uma ressalva importante: nos baseamos nos extremos do intervalo do título, e não em uma tabela de preços completa. Quais provedores estão em cada extremo e em que condições, é preciso verificar no próprio repositório.

Por que o preço varia tanto

O preço «por hora» na nuvem quase não garante nada por si só. No valor final costumam influenciar o modelo de pagamento (on-demand, reserva por meses ou spot, que pode ser retirado de você), a composição do pacote (CPU, memória, disco, rede, tráfego de saída), o formato (uma placa ou um nó inteiro com conexão rápida entre GPUs), a confiabilidade com suporte e uma região com capacidade disponível.

As grandes nuvens frequentemente cobram um prêmio pelo ecossistema: serviços prontos, gerenciamento de acessos, compliance, cobrança familiar. Provedores especializados em GPU e marketplaces costumam ser mais baratos, mas podem diferir em estabilidade e nível de suporte. Por isso, é preciso comparar não o preço por placa, mas o preço por trabalho útil.

O que fazer na prática

Primeiro: calcule o custo da tarefa, não da hora. Se uma placa barata fica parada na fila ou tem rede lenta, a economia evapora. Segundo: rode um benchmark curto com a sua própria carga em dois ou três provedores, por exemplo uma hora de treinamento ou um teste de carga de inferência, e divida os custos pelo número de tokens ou passos de treinamento. Terceiro: separe as tarefas. Experimentos e cálculos em lote que toleram interrupção podem ir para hardware barato ou spot. A produção com requisitos rígidos de uptime é melhor manter onde você paga por garantias.

Quarto: preveja com antecedência a possibilidade de migração. Contêineres, um ambiente reproduzível e checkpoints em armazenamento neutro transformam a troca de provedor de um projeto trimestral em questão de poucos dias.

Para o product manager, a conclusão é ainda mais simples: a economia unitária de uma funcionalidade de IA depende muito de onde ela roda. Se a margem só se sustenta a $12 por hora e o mercado oferece $2,69, ou a infraestrutura foi mal escolhida, ou você está pagando conscientemente por algo específico. No segundo caso, vale registrar o motivo de forma explícita.

Limitações

Os preços de GPU mudam rápido, e o retrato no GitHub é um recorte em uma data determinada. O preço baixo nem sempre está disponível: há filas, limites e prazos mínimos de aluguel. As discussões no HN costumam girar justamente em torno dessas nuances, então antes de migrar verifique você mesmo as tarifas atuais.

O essencial: não aceite o preço padrão. Uma hora de H100 pode custar 4,6 vezes mais com os mesmos transistores, e comparar provedores continua sendo a otimização mais barata que você pode fazer neste trimestre.