Dans l'échantillon Ramp, les dépenses d'IA n'ont augmenté que de 1,65 % en octobre

La facture d'IA a à peine bougé : l'équipe a-t-elle cessé de l'utiliser ? Les données de Ramp montrent pourquoi cette conclusion peut être erronée. En octobre, les dépenses d'IA parmi les clients américains du service ont augmenté de 1,65 % sur un mois et ont atteint un nouveau record. Dans le même temps, le coût moyen du traitement d'un million de jetons de texte dans un échantillon distinct a baissé de 21 %. Pour un développeur ou un product manager, le problème est connu : le montant du paiement n'explique plus combien de travail le produit a accompli ni à quel point ce travail a été utile.

The Decoder cite ces chiffres en se référant au Ramp AI Index. Le sens pratique est de revoir sa propre comptabilité. Si vous ne suivez que les dépenses d'API, une hausse de la charge peut passer inaperçue. Et une hausse du budget ne dit pas, à elle seule, que les utilisateurs en retirent davantage de valeur.

Une seule facture masque des scénarios différents

Imaginons un service qui aide des opérateurs à répondre aux clients. C'est un exemple théorique : il traitait auparavant mille demandes, il en traite désormais nettement plus. Si le traitement du texte est devenu moins cher, le paiement final peut rester le même. Le rapport financier affichera une ligne de dépenses tranquille, alors que la charge sur le système a augmenté.

Un autre scénario est possible : l'agent se met à envoyer de longs historiques de conversation, à répéter des requêtes après des erreurs et à solliciter plus souvent un modèle coûteux. L'argent dépensé augmente, mais le nombre de demandes résolues stagne. Sans données sur le travail effectué, il est impossible de distinguer ces situations.

Il est donc utile de suivre, à côté du budget, le nombre de tâches, la part de réponses réussies, la latence et la fréquence de transfert à un humain. Pour le support, l'unité naturelle est le coût d'une demande résolue avec une qualité acceptable. Pour un outil de programmation, il faudra choisir sa propre métrique : par exemple, le coût d'une modification acceptée, relectures et retouches comprises.

La baisse du prix moyen des jetons dans le rapport appelle elle aussi à la prudence. Elle peut refléter une évolution des tarifs, de la composition des modèles et de la nature des requêtes. On ne peut en conclure qu'une API donnée est devenue moins chère d'exactement 21 %, ni que votre produit obtiendra automatiquement la même économie.

Le support reçoit davantage de budget

Le développement logiciel représente 72 % de l'ensemble des dépenses d'IA suivies. Dans le même temps, la part du support et de l'accompagnement des clients est passée de 0,8 % en juin à 13,3 % en octobre. C'est un changement notable dans la structure des coûts, même s'il ne prouve pas encore une rentabilité massive des chatbots.

Pour le fondateur d'un produit dans ce domaine, une hypothèse concrète apparaît : les entreprises sont prêtes à consacrer plus d'argent à l'automatisation du traitement des demandes. Il convient de la tester sur un processus étroit au résultat mesurable. Par exemple, les réponses sur le statut d'une commande ou la recherche du bon article dans une base de connaissances. On peut ensuite comparer la qualité, la vitesse et le coût complet de traitement avec l'ancien processus.

The Decoder note que ce type de tâches convient plus souvent à des modèles bon marché et rapides. La conclusion pratique est de tester plusieurs options sur un même jeu de demandes. Un modèle coûteux peut se justifier sur les cas complexes, mais le choix doit reposer sur les résultats des tests.

Pourquoi ce n'est pas encore le portrait de tout le marché

L'indice repose sur les données de paiement de plus de 85 000 entreprises américaines. Cependant, les clients de Ramp sont plus souvent orientés vers la croissance, plus familiers des technologies et plus grands que les entreprises américaines en moyenne. Les outils gratuits et l'usage via des comptes personnels peuvent échapper à l'observation.

Il existe aussi une limite distincte : les indicateurs de volume de jetons et de dépenses associées proviennent des utilisateurs de Ramp Token Spend Management. On ne peut pas les extrapoler automatiquement à toute la base de clients. L'affirmation, citée dans l'article, selon laquelle 1 % des entreprises génèrent 80 % du chiffre d'affaires d'OpenAI et d'Anthropic doit elle aussi être lue dans le contexte des observations de Ramp, et non comme la divulgation du chiffre d'affaires complet des fournisseurs.

Ces données sont utiles comme prétexte pour vérifier sa propre économie. On peut commencer par un seul processus de travail : relier les paiements au nombre de tâches accomplies, vérifier la qualité et repérer où surviennent les requêtes répétées. La prochaine facture mensuelle sera alors plus lisible, même si elle ne change presque pas de nouveau.