Modal dépasse 1 milliard de dollars d'ARR et vaut 16 milliards de dollars, portée par la demande de sandboxes

Modal, plateforme d'exécution de charges de travail d'IA, a franchi le seuil de 1 milliard de dollars de revenus annualisés (annualized run rate) cinq mois après son tour C, valorisé 5 milliards de dollars. Elle vient de boucler un tour D de 750 millions de dollars à une valorisation de 16 milliards de dollars. Dans le même temps, l'entreprise a lancé près de trois milliards de sandboxes. Dans un long entretien accordé à Latent Space, le CEO Erik Bernhardsson explique d'où vient cette croissance et pourquoi la demande de calcul s'accorde mal avec les contrats par lesquels on l'achète.

Pourquoi la capacité GPU se vend en rectangles

Un contrat de capacité type se présente ainsi : le client obtient un nombre fixe de GPU pour une durée fixe. Si l'on reporte cette capacité sur un axe temporel, on obtient un rectangle. La charge réelle est tout autre : elle monte, fait des pointes et retombe au cours de la journée. Si l'on achète pour le pic, on paie du matériel qui reste inactif. Si l'on achète moins, on perd de la demande.

Bernhardsson décrit le pari de Modal comme une transformation de durée (duration transformation). L'entreprise sécurise la capacité de fond par des contrats de long terme, agrège la demande de milliers de clients et donne à chacun ce dont il a besoin, quand il en a besoin. Plus la demande cumulée est lisse, plus un tel pool est utile. Cette approche complète celle de SF Compute et d'Evan Conrad : celui-ci rend la capacité échangeable, Modal la rend adaptée à de petites tranches élastiques.

Le modèle a un revers. Si un fournisseur a verrouillé sa capacité aux prix actuels et que les GPU deviennent ensuite moins chers, il se retrouve avec une offre coûteuse à son bilan. Bernhardsson n'attend pas d'effondrement prochain, mais estime qu'il faut intégrer ce scénario dans le modèle économique.

La sandbox qu'on a failli fermer

Les sandboxes sont nées d'un constat de Bernhardsson et de son cofondateur Akshat Bubna : les modèles de langage écrivent du code, et il faut bien que quelqu'un l'exécute. Au départ, l'intérêt était si modeste que l'équipe a discuté d'arrêter le produit. Puis sont arrivés les agents de code, les agents en arrière-plan et l'apprentissage par renforcement. Aujourd'hui, les sandboxes génèrent environ un tiers du chiffre d'affaires de Modal. Bernhardsson n'avait pas prévu un tel résultat au lancement.

La charge de travail a elle aussi changé. Un agent crée un environnement, exécute du code, examine le résultat et réessaie, et ainsi de suite de nombreuses fois. Le délai de démarrage et de restauration de l'environnement fait désormais partie de l'expérience utilisateur. D'où le glissement de la developer experience vers l'agent experience.

L'élasticité ne fonctionne que si la capacité apparaît assez vite. Selon la description de Modal elle-même, le démarrage rapide repose sur plusieurs couches :

• un tampon de GPU libres, dans lequel puisent les nouvelles réplicas du modèle ;
• un système de fichiers maison ;
• le checkpointing de processus ;
• des snapshots de la mémoire GPU ;
• un resource solver, qui choisit la capacité en tenant compte de prix et d'une disponibilité fluctuants.

L'entreprise a montré sa limite d'ingénierie dans un article consacré au passage à l'échelle jusqu'à un million de sandboxes simultanées.

Du parcours chez Spotify à l'infrastructure

Bernhardsson a travaillé sept ans chez Spotify, où il a construit de zéro le système de recommandation musicale : related artists, Discover Weekly et d'autres fonctions. Il y a beaucoup manipulé de factorisation matricielle et de calculs gourmands en ressources, et c'est là qu'il a jugé l'infrastructure pour applications d'IA peu pratique. Il présente Modal comme l'outil qu'il aurait voulu avoir lui-même. Il a ensuite passé cinq ans comme CTO de Better.com, où il a fait passer l'équipe technique d'environ deux personnes à plusieurs centaines.

Il a lancé Modal en 2021, avant la sortie de ChatGPT. L'idée initiale était générale : simplifier l'exécution de code dans le cloud, que ce soit sur GPU, pour du ML ou pour du traitement de données. Cela a obligé l'équipe à descendre profondément dans la pile et à écrire son propre système de fichiers et son propre runtime de conteneurs.

Le premier vrai moteur n'a pas été ChatGPT mais Stable Diffusion : alors que l'équipe comptait quatre ou cinq personnes, des utilisateurs sont venus chercher un moyen de faire tourner le modèle. Il est alors apparu que l'inférence de modèles génératifs convenait mieux que tout à la plateforme. Aujourd'hui, les clients de Modal comptent Suno, Runway et Cognition, et le chiffre d'affaires, selon Bernhardsson, a été multiplié par au moins 50 en deux ans.

L'entretien aborde aussi d'autres sujets : l'achat de capacité, la location face à la propriété, les alternatives à NVIDIA, les leçons des neoclouds, la sécurité des sandboxes, le travail des ingénieurs forward-deployed et la relecture de code facultative au sein de Modal.

Pour les équipes qui construisent des produits d'IA, la conclusion est pratique. Avant de signer un contrat de réservation de GPU, il vaut la peine de tracer le profil réel de la charge heure par heure et d'estimer ce que coûtera l'inactivité entre deux pics. Pour les systèmes agentiques, il faut inclure dans les métriques d'infrastructure le temps de démarrage et de restauration de l'environnement, car un agent enchaîne des dizaines d'itérations et chaque latence s'accumule. Quant au marché de la capacité, à en juger par la valorisation de 16 milliards de dollars, il récompense de plus en plus ceux qui savent transformer des contrats rigides de long terme en services souples facturés à la seconde.