Connecter SageMaker MLflow à des systèmes existants via une API REST : la solution d'AWS

AWS a publié une solution destinée aux organisations qui migrent vers le cloud sans vouloir casser leurs systèmes de ML existants. Le problème : Amazon SageMaker MLflow exige un SDK dédié, la mise à jour des dépendances et une modification de l'intégration. La solution est un proxy d'API REST reposant sur Flask, qui donne un accès sécurisé à MLflow via du HTTPS classique, sans SDK.

Comment fonctionne le proxy

L'application Flask s'intercale entre votre système et SageMaker MLflow. Elle écoute les requêtes HTTP entrantes, les convertit en appels à l'API MLflow, reçoit la réponse et renvoie le résultat en HTTPS. C'est un schéma d'API gateway classique, mais spécialisé pour MLflow.

Une fois le proxy déployé, le SDK Python de MLflow n'est plus nécessaire : un client HTTP suffit. Une application en Java, Go, C# ou Node.js peut envoyer des requêtes en REST ordinaire, sans dépendre de l'écosystème Python.

Pourquoi c'est important

De nombreuses organisations font tourner leurs pipelines de ML dans un format maison : services Java avec logique de machine learning intégrée, microservices Golang, vieux scripts Python au flux non standard. Tout réécrire avec de nouveaux outils coûte cher, prend du temps et comporte des risques. Le proxy d'AWS permet de connecter SageMaker sans refonte globale de l'architecture.

Principaux avantages :

• Conserve le code existant sans le réécrire
• Chiffrement HTTPS et authentification via AWS IAM par défaut
• Prise en charge de n'importe quel langage de programmation
• Le suivi des expériences, des métriques et des artefacts fonctionne comme d'habitude
• Facilite une transformation cloud progressive
• Moins de dépendances dans le système de production

Architecture et sécurité

Le proxy se déploie sur EC2, ECS ou n'importe quel serveur et écoute sur un port (par exemple :8080). Il chiffre le trafic en HTTPS, authentifie les requêtes entrantes via un AWS IAM Role et relaie les appels vers SageMaker MLflow. Toutes les opérations MLflow (enregistrement des expériences, journalisation des métriques, stockage des artefacts, versionnage des modèles) fonctionnent comme avant, mais via REST au lieu du SDK.

AWS a même publié sur GitHub un exemple de code prêt à l'emploi, avec l'implémentation Flask complète, la configuration CORS, la gestion des erreurs et la documentation.

C'est particulièrement pertinent pour les gros monolithes hérités

dotés d'une logique de ML intégrée, où l'on ne peut pas changer rapidement de langage ni d'architecture.

Ce que cela change

La transformation cloud des systèmes de ML devient plus douce. Plutôt qu'une réécriture complète, on peut procéder par étapes : connecter SageMaker MLflow via un proxy distinct, puis migrer le reste au fil du temps. Pour AWS, c'est un moyen d'abaisser la barrière d'entrée et d'attirer davantage de systèmes hérités d'entreprise dans l'écosystème SageMaker.