AWS lança reserva de GPUs por hora para testes de ML e preparação de lançamentos

A AWS apresentou o EC2 Capacity Blocks for ML e os SageMaker training plans integrados a ele, uma nova solução para reservar capacidade de GPU por períodos curtos. A novidade ataca a principal dor dos engenheiros de ML: a grave escassez de GPUs disponíveis e a necessidade de pagar por contratos longos, mesmo quando o poder computacional é necessário por apenas algumas horas. Agora é possível reservar exatamente a quantidade de GPUs necessária, pelo tempo exato em que ela for necessária.

Quando GPUs de curto prazo fazem sentido Na prática, esses cenários são bem mais comuns do que parece.

Um load testing antes do lançamento de uma nova feature exige a infraestrutura completa, mas só por um ou dois dias — depois dos testes, não faz sentido continuar gastando. A validação de modelos — testar um novo prompt ou um modelo fine-tuned com dados reais — costuma levar de 4 a 8 horas. Workshops de equipe, em que engenheiros aprendem a trabalhar com frameworks (PyTorch, TensorFlow), precisam de GPUs durante a sessão, não o tempo todo.

Antes de um grande lançamento, é preciso preparar a infraestrutura de inference: subir servidores, aquecer o cache e rodar smoke tests. Some-se a isso os picos temporários de tráfego em horários de pico, quando é preciso mais poder computacional, mas o interesse cai logo depois.

• Load testing antes do lançamento de features Validação de modelos após fine-tuning Treinamento de equipe e workshops Preparação de capacidade de inference antes do release Absorção de picos temporários de tráfego ## Como funciona o Capacity Blocks A lógica é simples: em vez de uma Reserved Instance (contrato mensal ou anual) ou do On-Demand (caro em uso contínuo), você reserva um bloco de GPUs para um período específico — de algumas horas a alguns dias. A AWS garante que a capacidade estará reservada e disponível exatamente no intervalo escolhido. Isso dá previsibilidade aos engenheiros: você sabe que a GPU estará pronta no horário planejado. O serviço é integrado aos SageMaker Training Plans — você inicia um training job sem se preocupar com a possibilidade de as GPUs acabarem no meio do treinamento do modelo. O EC2 Capacity Blocks trabalha com diferentes tipos de GPU: NVIDIA H100 (para LLMs), A100 (opção versátil) e L4 (compacta, para inference). A configuração é escolhida conforme o tipo de carga. Tudo é gerenciado pela interface conhecida da AWS, com integração ao SageMaker, ao CloudFormation e a outras ferramentas.

Preços e flexibilidade Até agora, as opções não eram animadoras.

Ou uma Reserved Instance com um ano de antecedência — barata, mas sem flexibilidade. Ou On-Demand por hora — flexível, mas de 3 a 4 vezes mais cara. O Capacity Blocks ocupa o espaço entre esses dois extremos: é mais barato que o On-Demand, mas sem contrato de longo prazo. O principal: você não paga por tempo não utilizado. Para as empresas, isso significa planejar o orçamento de infraestrutura com mais precisão e evitar gastos excessivos. Os engenheiros não vão pedir GPUs "por via das dúvidas" e, com isso, inflar os custos. Times de DevOps poderão escalar a infraestrutura com flexibilidade antes de momentos críticos — lançamentos, conferências, campanhas de marketing — sabendo o preço exato de cada hora.

O que isso significa Os serviços de nuvem estão cada vez mais adaptados às necessidades reais

de workloads de ML. A era em que era preciso contratar GPUs com folga e pagar por tempo ocioso está ficando para trás. Em vez disso, você paga apenas pelo que usa, no momento exato em que usa — o que é mais econômico, mais lógico e reduz o desperdício em projetos de infraestrutura.