Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
InfrastructureAnalyse · Sur le radarAWS Machine Learning Blog→ original

AWS permet d'écrire sa propre boucle d'entraînement de LLM et de payer au token, et non à l'heure de location de GPU

Pour fine-tuner un grand modèle de langage (LLM) à sa façon, il faut généralement gérer soi-même un cluster de GPU. Amazon SageMaker AI propose une autre approche : la boucle d'entraînement s'écrit en Python sur votre machine, tandis qu'AWS prend en charge les GPU, les pannes et l'exécution distribuée. La facturation porte sur les tokens traités, et non sur les heures de location : pendant que votre code vérifie les réponses pendant 10 secondes, les GPU ne sont pas facturés. C'est adapté aux cas où il faut une récompense personnalisée ou une loss non standard, sans administrer le matériel.

Traité par IA depuis AWS Machine Learning Blog ; édité par Hamidun News
AWS permet d'écrire sa propre boucle d'entraînement de LLM et de payer au token, et non à l'heure de location de GPU
Source : AWS Machine Learning Blog. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireAWS Machine Learning Blog ↗
Rédacteur en chef
Chiffre clé #1Le modèle reste chargé sur le GPU entre les étapes de la boucle
Exemple sur GSM8Kenviron 8500 problèmes de mathématiques scolaires
Chiffre clé #3Entraînement d'un adaptateur LoRA pour GPT-OSS 20B avec la méthode GRPO

Imaginez que vous fine-tunez un grand modèle de langage (LLM) et que vous ayez besoin de votre propre fonction de récompense : par exemple, un code qui lance les réponses du modèle contre des tests unitaires et attribue une note. Les services managés prêts à l'emploi ne le permettent pas. Il faut donc monter soi-même un cluster de GPU, configurer les frameworks et veiller à ce que rien ne plante en pleine nuit. Amazon SageMaker AI propose désormais une troisième option : les API de sessions d'entraînement (training session APIs). Vous écrivez vous-même la boucle d'entraînement en Python, et AWS prend en charge la location et la maintenance du calcul.

Ce qu'AWS masque

Auparavant, les services managés cachaient à l'utilisateur l'algorithme lui-même : on choisissait un modèle, on chargeait les données et on définissait les hyperparamètres. Ici, ce sont les calculs qui sont masqués, l'algorithme reste le vôtre. Les opérations de base de l'entraînement sont exposées sous forme d'appels API : forward_backward() calcule comment modifier les poids, optim_step() applique cette modification, sample() génère les réponses du modèle. Avec ces briques, vous assemblez n'importe quelle procédure : fine-tuning classique sur des exemples annotés (SFT), optimisation des préférences, apprentissage par renforcement (RL) ou une nouvelle méthode publiée la semaine dernière.

Le code tourne sur votre machine, et les appels partent vers une session GPU active, où sont déjà chargés le modèle de base et un adaptateur LoRA (une petite surcouche, celle qu'on entraîne). Le modèle reste en mémoire entre les étapes. Le service assure l'exécution distribuée, la synchronisation des gradients, la reprise après panne et l'isolation des clients. De plus, une session active expose un endpoint compatible avec les chat completions d'OpenAI : le code client existant peut donc être dirigé vers le modèle en cours d'entraînement.

Le SDK Python de SageMaker comprend trois clients. ServiceClient conserve les paramètres de la plateforme : rôle d'accès, emplacement des résultats dans S3 et, si besoin, clé KMS et configuration VPC. Il crée un TrainingClient pour l'entraînement et la sauvegarde des checkpoints, lequel crée à son tour un SamplingClient pour générer et évaluer les réponses.

Un exemple sur des problèmes de mathématiques scolaires

AWS détaille un exemple minimal sur GSM8K. Il s'agit d'un jeu d'environ 8500 problèmes textuels de mathématiques scolaires, chacun ayant une seule réponse numérique. Par exemple : Natalia a vendu des trombones à 48 amis en avril, et deux fois moins en mai, combien en a-t-elle vendu au total ? Réponse : 72. On entraîne un adaptateur LoRA pour GPT-OSS 20B avec la méthode GRPO. Pour chaque question, le modèle produit plusieurs réponses candidates, chacune est vérifiée, et celles qui sont meilleures que la moyenne du groupe sont renforcées.

Une étape de la boucle comporte quatre parties. D'abord, les réponses sont générées sur GPU. Ensuite, votre code sur l'ordinateur portable les évalue : 1 si le nombre correspond à la référence, 0 sinon. Puis forward_backward et optim_step s'exécutent sur GPU. Enfin, le générateur est mis à jour pour que l'étape suivante prenne ses réponses auprès du modèle amélioré. Les données, le pilotage de la boucle et la récompense restent chez vous, tout ce qui nécessite des GPU est pris en charge par SageMaker.

Le même ensemble d'opérations convient au SFT classique : on retire la génération et la récompense, et l'on calcule une cross_entropy sur des exemples annotés. Avec le service, AWS a publié un cookbook de recettes prêtes à l'emploi pour le SFT et le RL. La plus démonstrative apprend au modèle à résoudre des problèmes de programmation de type olympiade : le code généré est exécuté contre des tests unitaires, et le résultat sert de récompense.

Le coût et à qui cela s'adresse

Le point pratique majeur concerne la facturation. On paie les tokens traités, et non les heures de fonctionnement des GPU. Si votre fonction de récompense met dix secondes à vérifier un batch sur votre machine, les GPU ne sont pas facturés pendant ce temps.

Il n'y a pas de temps d'inactivité facturé : le chargement des données, la journalisation et le débogage ne pèsent pas sur le budget GPU. Les dépenses dépendent du volume de données et de génération, et non de la durée écoulée ni de la taille du cluster ; elles sont donc plus faciles à prévoir et les expériences plus faciles à comparer. L'approche est particulièrement avantageuse lorsque les calculs locaux sont importants : modèles de récompense complexes, exécutions agentiques à plusieurs outils, vérification humaine.

Le service s'adresse aux chercheurs en post-entraînement, aux équipes ayant une loss non standard ou un pipeline en plusieurs étapes, aux développeurs de RL agentique et aux ingénieurs ML qui ont dépassé les recettes de configuration mais ne veulent pas administrer de clusters. Pour un contrôle total du matériel, restent SageMaker Training Jobs et HyperPod.

Des limites existent. L'entraînement passe par des adaptateurs LoRA ; la liste des modèles et régions pris en charge figure dans la documentation, et la description du service provient d'AWS elle-même, sans mesures indépendantes. Si vous voulez simplement une recette standard, la personnalisation managée est plus simple. Si vous butez sur votre propre algorithme plutôt que sur le matériel, cette approche mérite d'être testée.

Dossier

Questions clés sur cet article

Que sait-on sur Ce qu'AWS masque ?

Auparavant, les services managés cachaient à l'utilisateur l'algorithme lui-même : on choisissait un modèle, on chargeait les données et on définissait les hyperparamètres. Ici, ce sont les calculs qui sont masqués, l'algorithme reste le vôtre. Les opérations de base de l'entraînement sont exposées sous forme d'appels API : forward_backward() calcule comment modifier les poids, optim_step() applique cette modification, sample() génère les réponses du modèle.

Que sait-on sur Un exemple sur des problèmes de mathématiques scolaires ?

AWS détaille un exemple minimal sur GSM8K. Il s'agit d'un jeu d'environ 8500 problèmes textuels de mathématiques scolaires, chacun ayant une seule réponse numérique. Par exemple : Natalia a vendu des trombones à 48 amis en avril, et deux fois moins en mai, combien en a-t-elle vendu au total ? Réponse : 72. On entraîne un adaptateur LoRA pour GPT-OSS 20B avec la méthode GRPO.

Que sait-on sur Le coût et à qui cela s'adresse ?

Le point pratique majeur concerne la facturation. On paie les tokens traités, et non les heures de fonctionnement des GPU. Si votre fonction de récompense met dix secondes à vérifier un batch sur votre machine, les GPU ne sont pas facturés pendant ce temps. Il n'y a pas de temps d'inactivité facturé : le chargement des données, la journalisation et le débogage ne pèsent pas sur le budget GPU.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…