Modèles ouverts avec garantie de 99 % : Together AI lance l'inférence réservée

Les modèles d'IA ouverts disposent désormais d'une inférence fiable : le 8 juillet, Together AI a présenté Provisioned Throughput, avec une garantie de 99 % d'uptime et des capacités réservées.

Qu'est-ce que Provisioned Throughput et comment ça marche ?

Jusqu'ici, les entreprises qui utilisent des modèles à poids ouverts devaient choisir entre deux options. La première est l'inférence serverless : pratique et facturée à l'usage, mais sans garantie de débit, ce qui la rend peu fiable pour les charges de production. La seconde, ce sont les GPU dédiés : prévisibles et entièrement contrôlables, mais ils imposent une facturation en heures de GPU, une planification de la capacité et la gestion de la pile d'inférence. Provisioned Throughput est un troisième modèle.

Le client achète des PTU (Provisioned Throughput Units), une part fixe de capacité : un nombre garanti de tokens par minute pour un modèle donné, réservé exclusivement à son usage. Les tokens d'entrée, mis en cache et de sortie consomment des PTU selon des coefficients différents, ce qui permet d'optimiser les coûts en fonction du trafic réel. L'API de Provisioned Throughput est identique à celle de Serverless et de Dedicated Inference : on peut basculer sans modifier le code.

Paramètres clés du produit :

• Lancement : 8 juillet 2026 ; durée minimale du contrat d'un mois
• Modèles disponibles au lancement : MiniMax M3 et GLM-5.2
• Régions : Amérique du Nord, EMEA et autres
• SLA : 99 % d'uptime
• Prix : 0,05 $ par PTU et par minute
• Économies : jusqu'à 90 % par rapport à Claude Opus 4.8 selon les grilles tarifaires publiques

Pourquoi les modèles ouverts supplantent les API fermées

Together AI constate une forte hausse de la demande pour les modèles ouverts : en neuf mois, le volume de tokens transitant par l'API de l'entreprise est passé de 30 milliards à plus de 400 000 milliards par mois. Une part importante de ce trafic correspond à des charges qui passaient auparavant par les API fermées des grands laboratoires.

Les entreprises passées aux modèles ouverts font état d'une baisse de 6 à 20 fois de leurs coûts d'inférence. La raison principale : la possibilité de répartir les tâches le long de la « frontière de Pareto », les tâches complexes revenant aux modèles puissants et les tâches routinières à des modèles plus légers et moins chers. Cette souplesse est indispensable pour déployer des agents d'IA à grande échelle : lorsque chaque employé fait tourner plusieurs agents en parallèle pour le code, les calculs financiers et l'automatisation, le budget de tokens devient une ligne fixée au niveau du conseil d'administration.

Provisioned Throughput répond précisément à ce besoin : une capacité connue à l'avance, un tarif lisible et un SLA, sans avoir à recruter une équipe DevOps pour maintenir des clusters de GPU.

Ce que cela signifie

Provisioned Throughput comble un vide qui existait de longue date sur le marché des modèles ouverts : une capacité prévisible et un SLA, tout en gardant la simplicité de la facturation au token. Pour les équipes d'IA qui déploient des charges agentiques à grande échelle, c'est une vraie voie de passage des API fermées vers les modèles ouverts sans perte de fiabilité.

Questions fréquentes

Quels modèles sont disponibles dans

Provisioned Throughput dès maintenant ?

Au lancement, le 8 juillet 2026, MiniMax M3 et GLM-5.2 sont disponibles. Together AI a annoncé une extension à plus de 40 modèles sélectionnés pour un usage en production, mais n'a pas donné de calendrier.

Combien coûte le contrat minimal ?

La durée minimale est d'un mois. Le coût dépend du nombre de PTU : 0,05 $ par PTU et par minute. Chaque PTU garantit un débit fixe en tokens par minute pour le modèle choisi, sans frais d'infrastructure supplémentaires.

Comment utiliser les modèles ouverts de façon fiable en production ?

Auparavant, il fallait choisir entre l'inférence serverless sans garantie de débit et les GPU dédiés. Provisioned Throughput de Together AI propose une troisième voie : des capacités réservées avec une garantie de 99 % d'uptime et une facturation au token, comme pour les API fermées.