Les tokens d'IA font exploser les factures cloud des entreprises, selon ZDNet

Les dépenses des entreprises en tokens d'IA deviennent une nouvelle ligne budgétaire que personne ne sait maîtriser. Les analystes de ZDNet relèvent une tendance inquiétante : la courbe des coûts reproduit les débuts du cloud, avec une croissance rapide, sans outils d'optimisation clairs et sans réponse à la question de ce que l'entreprise obtient exactement en retour.

Un air de déjà-vu de 2012

Aux débuts du cloud, les directeurs informatiques recevaient des factures EC2, S3 et RDS qui augmentaient plus vite que toutes les prévisions. Personne ne savait calculer le coût par unité de valeur métier. Il a fallu des années, des dizaines d'outils FinOps et des services entiers de cloud cost management pour reprendre ces dépenses en main.

Avec les tokens d'IA, l'histoire se répète, mais à un rythme accéléré. Les développeurs branchent GPT-4o, Claude Opus et leurs propres modèles affinés aux systèmes produit. Chaque workflow agentique avec appels d'outils, recherche RAG et contexte long peut consommer de 20 000 à 100 000 tokens par transaction. Multipliez par des milliers d'utilisateurs par jour : vous obtenez une facture qui ne figurait dans aucun budget et qui continue d'augmenter chaque trimestre.

«

Les tokens d'IA rappelleront à de nombreux clients entreprises la tarification des débuts du cloud », constate ZDNet.

Le problème non résolu : comment mesurer la valeur

Le principal problème que relève ZDNet n'est pas la dépense elle-même, mais le fait que les entreprises ne savent pas mesurer la valeur créée par les tokens d'IA. Dans le monde du cloud, tout était relativement transparent : une instance exécute une tâche, la tâche a un coût en heures de travail, et la différence représente l'économie. Avec l'IA, ce schéma se brise à chaque étape :

• Un assistant d'IA accélère la rédaction d'un e-mail, mais personne n'a mesuré systématiquement de combien
• Un agent automatise un processus, mais la qualité de son travail est subjective et irrégulière
• Un chatbot soulage le support, mais les indicateurs de satisfaction sur les cas complexes baissent
• Un assistant de code réduit le temps de développement, mais la dette technique ne disparaît pas
• Un système RAG améliore la précision des réponses, mais les benchmarks dépendent du jeu de données et de la tâche précise

Contrairement aux heures de CPU ou aux gigaoctets de trafic, les tokens n'ont pas de lien évident avec un résultat métier. Un directeur financier ne peut pas dire : « Avec ce million de tokens, nous avons obtenu cette valeur concrète et mesurable. » Tant que ce problème ne sera pas résolu, les budgets d'IA seront validés sur la foi, et non sur des données.

Comment le marché réagit

Certains grands clients entreprises d'AWS, Azure et Google Cloud constatent déjà une hausse de leurs dépenses d'IA de 3 à 10 fois d'une année sur l'autre. Les fournisseurs répondent avec des outils de suivi de la consommation de tokens, mais pour l'instant ceux-ci affichent surtout des chiffres sans aider à optimiser les coûts. Une nouvelle spécialité émerge, l'AI FinOps, dont la mission est de piloter le coût de l'inférence des LLM en production.

Parmi les premiers outils tactiques :

• Mise en cache des prompts pour les requêtes répétitives
• Routage des tâches vers des modèles moins chers selon la complexité
• Limitation de la profondeur du contexte et du nombre d'étapes des chaînes agentiques
• Traitement par lots des requêtes plutôt qu'appels unitaires en temps réel
• Audit régulier des intégrations d'IA inutilisées ou peu efficaces

Mais il s'agit de tactique, pas de stratégie. L'industrie n'a pas encore de réponse à la question de savoir combien de tokens il vaut la peine de dépenser pour obtenir un résultat métier précis.

Ce que cela signifie

L'IA d'entreprise tombe dans le même piège que le cloud en 2012 : la technologie est largement adoptée, les coûts grimpent vite et le ROI est difficile à mesurer. Les entreprises qui ont déjà déployé des LLM en production devraient investir dès maintenant dans des outils de visibilité des coûts et construire des indicateurs de valeur. Sinon, la discussion avec le directeur financier tournera à l'examen embarrassant, pour lequel personne ne s'est préparé.