Habr explique pourquoi le prix des tokens ne suffit pas à comprendre l'économie des agents IA en entreprise

Habr a publié un article consacré à l'économie des agents IA dans le service client en entreprise, un sujet que l'auteur juge généralement réduit à une discussion simpliste sur le prix des tokens.

Quelles questions pose-t-on d'ordinaire sur l'économie des agents

L'auteur énumère l'ensemble type de questions qui reviennent quand on évoque le coût des agents IA : combien coûtent un million de tokens en entrée et en sortie, quel sera le rythme de consommation du budget, quel modèle choisir pour ne pas payer trop cher, et de combien d'accélérateurs GPU on aura besoin pour un hébergement dans l'environnement du client, avec leur taux d'utilisation.

• La discussion sur l'économie des agents se concentre généralement sur le prix des tokens
• On prend en compte le rythme de consommation du budget et le choix du modèle
• Pour un déploiement dans l'environnement du client, on compte les GPU et leur taux d'utilisation
• L'auteur affirme que, pour le service client en entreprise, cela ne suffit pas

Pourquoi le prix des tokens ne suffit pas

L'auteur souligne que toutes ces questions sont les bonnes, mais que, lorsqu'il s'agit précisément du service client en entreprise, les réponses sont très insuffisantes pour dresser un tableau complet de l'économie. Une évaluation sérieuse suppose de prendre en compte des facteurs supplémentaires au-delà du coût direct du calcul, notamment les intégrations, les personnes et la courbe d'apprentissage du système lui-même, vers lesquels pointe le titre de l'article.

Ce que cela signifie

L'article rappelle que, lorsqu'on introduit des agents IA dans les processus métier, se concentrer uniquement sur le prix des tokens est une erreur : l'économie réelle se compose des coûts d'intégration, de l'évolution du rôle des personnes dans le processus et du temps nécessaire pour que le système atteigne une efficacité opérationnelle.