AWS Machine Learning Blog→ original

AWS lançou reserva de GPU por horas — para testes de ML e preparação para lançamentos

A AWS lançou o EC2 Capacity Blocks for ML, com reserva de GPU por horas em vez de contratos de longo prazo. É voltado para testes de carga, validação de modelos

AWS lançou reserva de GPU por horas — para testes de ML e preparação para lançamentos
Fonte: AWS Machine Learning Blog. Colagem: Hamidun News.
◐ Ouvir artigo

AWS apresentou EC2 Capacity Blocks for ML e planos de treinamento integrados do SageMaker — uma nova solução para reservar capacidade de GPU por períodos curtos. Isso aborda a principal dor de ML engineers: falta aguda de GPUs disponíveis e a necessidade de pagar contratos longos mesmo quando a potência de computação é necessária apenas por algumas horas. Agora você pode reservar exatamente quantas GPUs você precisa e exatamente quando você precisa.

Quando Tempo Curto de GPU É Necessário

Na prática, esses cenários são muito mais comuns do que parece. Testes de carga antes do lançamento de um novo recurso exigem infraestrutura completa, mas apenas por um ou dois dias — após testes, não há razão em gastar dinheiro. Validação de modelo — verificando um novo prompt ou modelo fine-tuned contra dados reais — geralmente leva 4-8 horas.

Workshops de equipe onde engenheiros aprendem a trabalhar com frameworks (PyTorch, TensorFlow) exigem GPU pela duração da sessão, não permanentemente. Antes de um lançamento importante, você precisa preparar infraestrutura de inference — iniciar servidores, aquecer o cache, executar smoke tests. Além disso, spikes temporários de tráfego durante horas de pico, quando potência de computação adicional é necessária, mas o interesse cai depois.

  • Testes de carga antes de lançamentos de recursos
  • Validação de modelo após fine-tuning
  • Treinamento e workshops da equipe
  • Preparando capacidade de inference antes do lançamento
  • Lidando com picos de tráfego temporários

Como Funciona Capacity Blocks

A lógica é direta: em vez de uma Reserved Instance (contrato mensal ou anual) ou On-Demand (cara para uso contínuo), você reserva um bloco de GPU por um tempo específico — de horas a vários dias. AWS garante que a capacidade será reservada e estará disponível durante seu período escolhido. Isso dá aos engenheiros previsibilidade: você sabe que a GPU estará pronta quando agendada.

O serviço está integrado aos Planos de Treinamento do SageMaker — você lança um trabalho de treinamento e não se preocupa que a GPU se esgote no meio do treinamento do modelo. EC2 Capacity Blocks funciona com vários tipos de GPU: NVIDIA H100 (para LLM), A100 (escolha universal), L4 (compacto, para inference). Você escolhe a configuração dependendo do seu tipo de carga de trabalho.

Tudo é gerenciado através da interface familiar do AWS, com integração ao SageMaker, CloudFormation e outras ferramentas.

Preços e Flexibilidade

Antes, a escolha era deprimente. Ou Reserved Instance por um ano — barato, mas você perde flexibilidade. Ou On-Demand por hora — flexível, mas você paga 3-4 vezes mais. Capacity Blocks ocupa um ponto doce entre os dois extremos: mais barato que On-Demand, mas sem contrato de longo prazo. O mais importante, você não paga por tempo não utilizado. Para negócios, isso significa planejamento de orçamento de infraestrutura mais preciso e evitar pagamento em excesso. Engenheiros não vão pedir GPU "só para ter certeza" e assim inflar despesas. Equipes de DevOps podem escalar flexivelmente a infraestrutura antes de momentos críticos — lançamentos, conferências, campanhas de marketing — sabendo o preço exato por hora.

O Que Isso Significa

Serviços em nuvem estão cada vez mais se adaptando às necessidades reais do trabalho de ML. A era em que você tinha que encomendar GPUs com antecedência e pagar por tempo não utilizado está desaparecendo. Em vez disso, você paga apenas pelo que você usa, no momento exato em que você usa — isso é mais econômico, mais lógico e reduz desperdício em projetos de infraestrutura.

ZK
Hamidun News
Notícias de AI sem ruído. Seleção editorial diária de mais de 400 fontes. Produto de Zhemal Khamidun, Head of AI na Alpina Digital.
O que você acha?
Carregando comentários…