Together AI lance une inférence garantie pour les modèles ouverts avec un SLA de 99 %

Together AI le 8 juillet 2026 a présenté Provisioned Throughput — un nouveau format d'inférence avec capacité réservée pour les modèles ouverts, SLA garanti de 99% de disponibilité et tarification basée sur les jetons, similaire aux API fermées.

Qu'est-ce que

Provisioned Throughput et comment cela fonctionne-t-il ?

Jusqu'à présent, les entreprises travaillant avec des modèles de poids ouverts choisissaient entre deux options. La première — inférence sans serveur : pratique et « paiement à l'usage », mais sans garanties de débit, ce qui la rend peu fiable pour les charges de production. La deuxième — GPU dédiées : prévisible et avec contrôle total, mais nécessite des calculs en GPU-heures, une planification des capacités et la gestion de la pile d'inférence. Provisioned Throughput est le troisième modèle.

Un client achète des PTU (Unités de Débit Approvisionné) — une part fixe de capacité : nombre garanti de jetons par minute pour un modèle spécifique, réservé exclusivement à ce client. Les jetons d'entrée, mis en cache et de sortie déduisent les PTU avec des coefficients différents, permettant d'optimiser les coûts selon le trafic réel. L'API pour Provisioned Throughput est identique à l'API pour l'inférence sans serveur et dédiée — vous pouvez basculer sans modifier le code.

Paramètres clés du produit :

• Lancement — 8 juillet 2026, durée minimale du contrat — un mois
• Modèles disponibles au lancement — MiniMax M3 et GLM-5.2
• Régions — Amérique du Nord, EMEA et autres
• SLA — 99% de disponibilité
• Prix — 0,05 $ par PTU par minute
• Économies — jusqu'à 90% par rapport à Claude Opus 4.8 selon les listes de prix publiques

Pourquoi les modèles ouverts déplacent les API fermées

Together AI enregistre une forte croissance de la demande pour les modèles ouverts : en neuf mois, le volume de jetons via l'API de l'entreprise est passé de 30 milliards à plus de 400 billions par mois. Une part importante de ce trafic représente les charges de travail précédemment exécutées via les API fermées des grands laboratoires.

Les entreprises qui ont migré vers les modèles ouverts signalent des réductions de coûts d'inférence de 6–20 fois. La raison principale — la possibilité de distribuer les tâches selon la « frontière de Pareto » : les tâches complexes vont aux modèles puissants, les tâches routinières — aux modèles plus légers et moins chers. Cette flexibilité est exactement ce qui est nécessaire pour mettre à l'échelle les agents IA : lorsque chaque employé exécute plusieurs agents parallèles pour le codage, les calculs financiers et l'automatisation — le budget de jetons devient un poste décidé au niveau du conseil.

Provisioned Throughput répond à exactement cela : capacité prévisible, tarification claire et SLA — sans besoin d'embaucher une équipe DevOps pour gérer des clusters GPU.

Ce que cela signifie

Provisioned Throughput comble une lacune qui existait depuis longtemps sur le marché des modèles ouverts : capacité prévisible et SLA tout en conservant la simplicité de la tarification basée sur les jetons. Pour les équipes IA qui déploient des charges de travail d'agents, c'est un vrai chemin des API fermées vers les modèles ouverts sans sacrifier la fiabilité.

Questions Fréquemment Posées

Quels modèles sont disponibles dans

Provisioned Throughput maintenant ?

Au lancement du 8 juillet 2026, MiniMax M3 et GLM-5.2 sont disponibles. Together AI a annoncé une expansion vers 40+ modèles sélectionnés pour utilisation en production — délais non spécifiés.

Quel est le coût minimum du contrat ?

La durée minimale est d'un mois. Le coût est déterminé par le nombre de PTU : 0,05 $ par PTU par minute. Chaque PTU garantit un débit fixe en jetons par minute pour le modèle sélectionné — sans coûts d'infrastructure supplémentaires.