Fireworks traite 40 000 milliards de tokens par jour sur des modèles personnalisés, deux fois plus que cet été

On considère généralement que les modèles ouverts restent une niche réservée aux passionnés, tandis que l'argent et le trafic réels se concentrent chez OpenAI et Anthropic. Nathan Lambert, auteur d'Interconnects, a décidé de vérifier cette idée à partir des chiffres. Le premier article de sa nouvelle série payante, consacrée à la taille de l'économie des modèles ouverts, pose une question simple : le marché de l'inférence des modèles ouverts est-il réellement en croissance, ou ne représente-t-il qu'une erreur statistique face aux laboratoires fermés ?

D'où viennent les chiffres

Il n'existe ici aucune mesure parfaitement fiable, ce que Lambert reconnaît lui-même. On dispose de métriques de plateformes assez bruitées, de chiffres marketing publiés par des start-up et de benchmarks publics imparfaits. Il prend donc comme points de repère trois entreprises dont le destin dépend directement des modèles ouverts : Baseten, Fireworks et Together AI. Il y ajoute la part des modèles ouverts dans les tokens servis par OpenRouter via son API.

Les hyperscalers comme Amazon Bedrock et Azure occupent très probablement eux aussi une place importante sur ce marché. Mais ils ne précisent pas quelle part de leur trafic revient exactement aux modèles ouverts et n'ont donc pas été inclus dans l'échantillon.

Le principal chiffre récent vient de Fireworks. Lors de sa première conférence, l'entreprise a déclaré traiter plus de 40 000 milliards de tokens par jour pour les modèles personnalisés de ses clients. Il ne s'agit que d'un segment de son activité d'inférence, et celui-ci a plus que doublé depuis cet été. Lambert estime que, lors de la prochaine mise à jour, le volume total de Fireworks devrait se situer nettement au-dessus de 100 000 milliards de tokens par jour.

Comment comparer ces données aux modèles fermés

Le premier réflexe de Lambert consiste à rattacher ces chiffres à un repère connu. Google est le seul grand acteur à publier, dans ses rapports aux investisseurs, le volume de tokens traité sur l'ensemble de sa plateforme et de ses API. Lambert superpose donc les données de Google aux courbes des plateformes ouvertes, sur une échelle logarithmique. Le résultat précis de cette comparaison reste derrière un paywall : nous ne savons donc pas à quel point le segment ouvert s'est rapproché de Google.

Certaines tendances restent néanmoins visibles. Sur une échelle logarithmique, les données publiques des start-up dessinent presque une ligne droite ascendante, ce qui indique une croissance exponentielle. Selon Lambert, cette progression s'est encore accélérée après la sortie de GLM 5.2, car les modèles ouverts ont nettement gagné en efficacité pour les tâches agentiques. Or les agents consomment plusieurs ordres de grandeur de tokens de plus qu'un chat classique : une seule requête se transforme en une longue chaîne d'appels d'outils et de nouvelles sollicitations du modèle.

Qu'en faire concrètement

Pour les professionnels, la conclusion n'est pas que les modèles ouverts ont dépassé les modèles fermés. Elle est ailleurs : l'infrastructure qui les prend en charge est devenue un marché à part entière, avec des volumes mesurés en dizaines de milliers de milliards de tokens par jour. Cela entraîne plusieurs conséquences.

• Si vous développez un produit agentique très gourmand en tokens, vous disposez d'une véritable solution de remplacement aux API fermées. Calculez le coût d'un million de tokens sur Fireworks, Together ou Baseten pour votre charge de travail, puis comparez-le à votre facture actuelle.
• La personnalisation devient l'argument central. La croissance du segment des modèles personnalisés chez Fireworks montre que les clients affinent et adaptent les modèles ouverts à leurs besoins, au lieu de se contenter de modèles prêts à l'emploi.
• La dépendance envers un fournisseur unique coûte plus cher qu'auparavant. Si votre code repose sur un seul format d'API, conservez une couche d'abstraction au-dessus des fournisseurs.

Limites

Il faut garder à l'esprit les limites de ces données. Les chiffres des start-up sont des données marketing qui ne font l'objet d'aucun audit indépendant, et le nombre de « tokens par jour » ne correspond pas au chiffre d'affaires. Les tokens des différents modèles ont des coûts très variables, tandis que les charges agentiques gonflent les volumes sans augmentation proportionnelle des revenus. La comparaison avec Google reste elle aussi approximative : Google comptabilise tous les modèles de sa plateforme, alors que les chiffres des start-up ne portent que sur les modèles ouverts.

Il faut donc observer la direction générale et l'ordre de grandeur, et non chercher des parts de marché exactes. Pour l'instant, la tendance est néanmoins sans ambiguïté : l'inférence ouverte progresse rapidement, et l'ignorer au moment de choisir une stack technologique est désormais risqué. Les conclusions complètes de Lambert sont réservées aux abonnés, tandis que le tableau de bord gratuit d'Interconnects sur l'adoption et la qualité des modèles ouverts peut servir de point de départ.