AWS lanza la reserva de GPU por horas para pruebas de ML y la preparación de lanzamientos

AWS ha presentado EC2 Capacity Blocks for ML y los SageMaker training plans integrados con ellos, una nueva solución para reservar capacidad de GPU durante periodos cortos. Ataca el principal problema de los ingenieros de ML: la grave escasez de GPU disponibles y la obligación de pagar contratos largos aunque la potencia de cómputo solo haga falta durante unas horas. Ahora es posible reservar exactamente las GPU necesarias y exactamente durante el tiempo en que se necesitan.

Cuándo hacen falta GPU por poco tiempo

En la práctica, estos escenarios son mucho más frecuentes de lo que parece. El load testing previo al lanzamiento de una nueva funcionalidad requiere la infraestructura completa, pero solo durante uno o dos días; una vez terminadas las pruebas, no tiene sentido seguir pagando. La validación de modelos (probar un nuevo prompt o un modelo con fine-tuning sobre datos reales) suele llevar entre 4-8 horas.

Los talleres de equipo en los que se forma a los ingenieros en frameworks (PyTorch, TensorFlow) necesitan GPU durante la sesión, no de forma permanente. Antes de un gran lanzamiento hay que preparar la infraestructura de inferencia: levantar servidores, calentar la caché y ejecutar smoke tests. A esto se suman los picos temporales de tráfico en horas punta, cuando se necesita potencia de cómputo adicional que después deja de ser necesaria.

• Load testing antes de lanzar funcionalidades
• Validación de modelos tras el fine-tuning
• Formación del equipo y talleres
• Preparación de la capacidad de inferencia antes de un lanzamiento
• Gestión de picos temporales de tráfico

Cómo funciona Capacity Blocks

La lógica es sencilla: en lugar de una Reserved Instance (contrato mensual o anual) o de On-Demand (caro con un uso continuado), se reserva un bloque de GPU para un periodo concreto, desde unas horas hasta varios días. AWS garantiza que la capacidad quedará reservada y disponible justo en el intervalo elegido. Esto da previsibilidad a los ingenieros: saben que la GPU estará lista cuando esté previsto.

El servicio está integrado con SageMaker Training Plans: se lanza un training job sin preocuparse de que las GPU se agoten en mitad del entrenamiento del modelo. EC2 Capacity Blocks funciona con distintos tipos de GPU: NVIDIA H100 (para LLM), A100 (la opción versátil) y L4 (compacta, para inferencia). La configuración se elige según el tipo de carga. Todo se gestiona desde la interfaz habitual de AWS, con integración con SageMaker, CloudFormation y otras herramientas.

Precios y flexibilidad

Hasta ahora, las opciones no eran muy alentadoras. O una Reserved Instance a un año vista, barata pero sin flexibilidad, o On-Demand por horas, flexible pero entre 3-4 veces más cara. Capacity Blocks se sitúa entre ambos extremos: es más barato que On-Demand, pero sin contrato a largo plazo. Y, sobre todo, no se paga por el tiempo no utilizado.

Para las empresas, esto supone planificar con más precisión el presupuesto de infraestructura y evitar sobrecostes. Los ingenieros no pedirán GPU «por si acaso», inflando así el gasto. Los equipos de DevOps podrán escalar la infraestructura con flexibilidad antes de los momentos críticos (lanzamientos, conferencias, campañas de marketing) conociendo el precio exacto de cada hora.

Qué significa esto

Los servicios en la nube se adaptan cada vez más a las necesidades reales del trabajo de ML. La época en la que había que contratar GPU por adelantado y pagar por el tiempo no utilizado está quedando atrás. En su lugar, se paga solo por lo que se usa y justo en el momento en que se usa: es más económico, más lógico y reduce el desperdicio en los proyectos de infraestructura.