AWS lance la réservation de GPU à l'heure pour les tests ML et la préparation des mises en production

AWS présente EC2 Capacity Blocks for ML, ainsi que les SageMaker training plans qui s'y intègrent. Cette nouvelle offre permet de réserver de la capacité GPU sur de courtes périodes. Elle répond au principal point de friction des ingénieurs ML : la pénurie aiguë de GPU disponibles et l'obligation de payer des contrats longs, même lorsque la puissance de calcul n'est nécessaire que pendant quelques heures. Il devient désormais possible de réserver exactement le nombre de GPU nécessaires, et exactement au moment voulu.

Quand a-t-on besoin de GPU pour une courte durée

En pratique, ces scénarios sont bien plus nombreux qu'on ne le croit. Le load testing avant le lancement d'une nouvelle fonctionnalité exige une infrastructure complète, mais seulement pendant un ou deux jours : une fois les tests terminés, continuer à payer n'a aucun sens. La model validation, c'est-à-dire la vérification d'un nouveau prompt ou d'un modèle fine-tuné sur des données réelles, prend souvent 4-8 heures.

Les ateliers d'équipe, où les ingénieurs apprennent à travailler avec des frameworks (PyTorch, TensorFlow), mobilisent des GPU le temps de la session, pas en permanence. Avant une mise en production majeure, il faut préparer l'infrastructure d'inférence : démarrer les serveurs, préchauffer le cache, lancer les smoke tests. S'y ajoutent les pics de trafic temporaires aux heures de pointe, qui réclament une puissance de calcul supplémentaire avant que la demande ne retombe.

• Load testing avant le lancement de fonctionnalités
• Validation de modèles après fine-tuning
• Formation des équipes et ateliers
• Préparation de la capacité d'inférence avant une release
• Absorption des pics de trafic temporaires

Comment fonctionne Capacity Blocks

La logique est simple. Plutôt qu'une Reserved Instance (contrat mensuel ou annuel) ou de l'On-Demand (coûteux en usage continu), vous réservez un bloc de GPU pour une durée précise, de quelques heures à plusieurs jours. AWS garantit que la capacité sera réservée et disponible exactement sur le créneau choisi. Les ingénieurs y gagnent en prévisibilité : ils savent que le GPU sera prêt au moment prévu. Le service est intégré à SageMaker Training Plans : vous lancez un training job sans craindre de manquer de GPU en plein entraînement du modèle.

EC2 Capacity Blocks prend en charge plusieurs types de GPU : NVIDIA H100 (pour les LLM), A100 (le choix polyvalent), L4 (compact, pour l'inférence). La configuration se choisit selon le type de charge. Le tout se pilote depuis l'interface AWS habituelle, avec une intégration à SageMaker, CloudFormation et d'autres outils.

Prix et flexibilité

Jusqu'ici, le choix n'avait rien de réjouissant. Soit une Reserved Instance engagée sur un an : peu chère, mais sans flexibilité. Soit de l'On-Demand à l'heure : flexible, mais 3-4 fois plus cher. Capacity Blocks se place entre ces deux extrêmes : moins cher que l'On-Demand, mais sans contrat de longue durée. Surtout, on ne paie pas le temps inutilisé.

Pour les entreprises, cela signifie un budget d'infrastructure plus précis et moins de dépenses superflues. Les ingénieurs n'auront plus à demander des GPU « au cas où », ce qui gonfle les coûts. Les équipes DevOps pourront faire évoluer l'infrastructure avec souplesse avant les moments critiques (mises en production, conférences, campagnes marketing) en connaissant le prix exact de chaque heure.

Ce que cela signifie

Les services cloud s'adaptent de plus en plus aux besoins réels des charges ML. L'époque où il fallait commander des GPU par anticipation et payer du temps inutilisé appartient au passé. Désormais, on paie uniquement ce que l'on consomme, au moment précis où on le consomme : une approche plus économique, plus logique, et qui réduit le gaspillage dans les projets d'infrastructure.