Amazon SageMaker et DVC : traçabilité de bout en bout des modèles de ML, des données à la prédiction

Le AWS Machine Learning Blog a publié un guide détaillé sur la construction du traçage end-to-end des modèles ML — des données brutes jusqu'à la prédiction finale — en utilisant trois outils : DVC, Amazon SageMaker AI et Amazon SageMaker AI MLflow Apps. Le problème que le matériel aborde est bien connu des équipes travaillant en production : il n'est pas clair exactement quelles données ont été utilisées pour entraîner un modèle spécifique, quelles transformations ont été appliquées et comment un enregistrement individuel a influencé la prédiction. C'est critique lors d'audits, du débogage de data drift et de la conformité aux exigences réglementaires.

DVC (Data Version Control) est un outil open-source qui ajoute le versioning des fichiers volumineux et des datasets à Git. En combinaison avec SageMaker, il permet de capturer l'instantané exact des données utilisées à chaque exécution d'entraînement. SageMaker MLflow Apps, en retour, stocke les métriques, les paramètres et les artefacts d'expériences — un serveur MLflow standard géré par AWS sans avoir besoin de déployer l'infrastructure manuellement.

Les auteurs décrivent deux modèles concrets. Le premier est la traçabilité au niveau du dataset : la version du dataset est enregistrée (via étiquette DVC), les paramètres du pipeline de traitement et un lien vers le modèle entraîné dans MLflow. Le second est la traçabilité au niveau de l'enregistrement : chaque enregistrement spécifique de l'ensemble d'entraînement est lié au modèle, ce qui permet de répondre à la question « quels exemples exactement ont façonné cette prédiction ».

Les deux modèles sont implémentés sous forme de notebooks Jupyter prêts à s'exécuter dans votre compte AWS. L'architecture fonctionne comme suit : les données sont stockées dans S3 et versionnées par DVC, les métadonnées d'expériences (paramètres, métriques, artefacts) — dans MLflow App, et la connexion entre la version des données et la version du modèle est assurée par des étiquettes personnalisées et des artefacts DVC enregistrés dans MLflow. La valeur pratique de l'approche réside dans la reproductibilité.

Si dans six mois il s'avère que le modèle se comporte de manière inattendue sur une certaine cohorte d'utilisateurs, les ingénieurs pourront précisément récupérer sur quel dataset il a été entraîné, quels enregistrements il incluait et avec quels hyperparamètres l'entraînement a été lancé. Le matériel cible les ingénieurs ML et les équipes MLOps travaillant déjà dans l'écosystème AWS. Les notebooks préconfigurés réduisent considérablement la barrière d'entrée : il n'est pas nécessaire de concevoir l'intégration à partir de zéro — il suffit d'adapter les exemples à votre dataset et pipeline de traitement.

Pour les entreprises où l'auditabilité des systèmes ML est importante — particulièrement dans le secteur financier, la médecine et les projets gouvernementaux — une telle approche devient une norme de facto. AWS construit systématiquement une suite d'outils dans laquelle la traçabilité cesse d'être une « bonne pratique » optionnelle et devient une propriété intégrée du pipeline.