Timeweb Cloud ajoute à AI Gateway des modèles vidéo, des plafonds en roubles et des modèles de secours

La facture d'IA grimpe généralement en silence. Quelqu'un a branché un modèle coûteux à un script de test, quelqu'un a oublié d'arrêter une boucle, et en fin de mois on découvre que le budget du trimestre est parti en deux semaines. Le digest d'octobre de Timeweb Cloud est avant tout un ensemble de notes produit rédigées par le fournisseur lui-même, et il faut le lire en en tenant compte. Mais on y trouve plusieurs fonctionnalités qui visent précisément ce point douloureux.

Une seule clé pour le texte, les images et la vidéo

AI Gateway est un point d'entrée unique vers les modèles de différents éditeurs. En octobre, la vidéo y a été ajoutée. Le fournisseur cite Veo 3.1 de Google (clip avec son d'emblée), Kling de Kuaishou (scène en plusieurs plans avec un même héros), Seedance de ByteDance, Gen-4.5 de Runway pour animer la photo d'un produit, Hailuo de MiniMax pour les vidéos verticales et Wan d'Alibaba pour les vidéos longues. Côté images, Seedream 5 et Gen-4 Image ont été ajoutés.

Le schéma est simple. Vous envoyez un prompt et, si besoin, une image, puis vous récupérez le clip fini au bout de quelques minutes. Les images arrivent immédiatement, jusqu'à quatre par requête. Pour changer de modèle, il suffit de modifier son nom dans la requête. La vidéo est facturée à la seconde de clip généré.

Imaginez l'équipe d'une place de marché qui doit animer des fiches produits. Auparavant, cela représentait six SDK différents, six clés et six facturations. Désormais, un seul code d'intégration suffit, et comparer des modèles revient à changer une ligne dans la requête. Outre la vidéo, 20 autres modèles sont apparus au catalogue : modèles de texte, embeddings, rerankers, reconnaissance et synthèse vocales. Chacun dispose d'une fiche avec le prix, un calculateur, le contexte et des informations sur le lieu et l'acteur qui traitent les données.

Comment éviter les mauvaises surprises sur la facture

La partie pratique essentielle concerne le contrôle des dépenses :

• Le tableau de bord « Activité » regroupe dépenses, requêtes et tokens pour l'ensemble des clés et des agents. On voit qui dépense le plus et quelles requêtes peuvent passer à un modèle moins cher.
• Les journaux de requêtes affichent le modèle, les tokens, le coût et le statut de chaque appel.
• Les plafonds quotidiens en roubles se définissent par clé ou par agent, avec en plus des plafonds distincts par modèle. À 80 % des dépenses, une notification est envoyée ; à 100 %, les nouvelles requêtes ne passent plus.
• Batch API accepte jusqu'à 50 000 requêtes à la fois et renvoie les réponses sous forme de fichier dans un délai de 24 heures. Les tokens coûtent deux fois moins cher.
• Modèles de secours : on peut associer jusqu'à deux modèles de réserve à une clé. Si le modèle principal ne répond pas, la requête est redirigée vers le suivant, et seul celui qui a répondu est facturé.

Un exemple concret : l'annotation nocturne de 40 000 avis ne nécessite pas de réponse instantanée ; il est donc logique de l'envoyer via Batch et d'économiser la moitié. Le chat du support, lui, reste sur un modèle principal rapide avec deux modèles de secours, afin que la panne d'un éditeur ne fasse pas tomber le produit.

Que contient encore le digest

Les agents IA disposent désormais d'une mémoire à long terme : ils conservent des faits issus des conversations, et le contenu est visible dans l'onglet « Mémoire », où on peut le corriger ou le supprimer. App Platform crée désormais un environnement séparé pour chaque pull request et le supprime à sa fermeture. Dans Kubernetes, des clusters privés ont été ajoutés, ainsi qu'un connecteur qui émet et renouvelle lui-même la clé AI Gateway sous forme de secret.

Les serveurs dédiés proposent 47 configurations avec GPU, de la RTX 4090 aux H100 et H200, ainsi que des sauvegardes vers votre propre S3 avec protection contre la suppression. Le reste, des domaines à la navigation dans le panneau, intéresse surtout les clients actuels.

Limites et conclusion

Trois points méritent attention. Premièrement, il s'agit d'une auto-description du fournisseur : la liste des modèles, les prix et la disponibilité sont à vérifier dans le catalogue, et non d'après le digest. Deuxièmement, le service est orienté vers le marché russe, avec des paiements en roubles et une infrastructure locale, et ne conviendra pas à toutes les équipes. Troisièmement, un plafond strict, où les requêtes cessent simplement de passer, protège le budget mais peut arrêter la production. Fixez-le avec une marge et configurez impérativement la notification à 80 %.

Conclusion pratique : si vous interrogez plusieurs modèles via des clés différentes, envisagez la passerelle comme une couche de contrôle. Des journaux unifiés, des plafonds, le traitement par lots et les modèles de repli sont utiles, quel que soit le fournisseur chez qui vous les obtenez.