La secrétaire IA Liza Petrovna dépense $77 par mois : DeepSeek fournit 88% des réponses

L'auteur du projet « Liza Petrovna », une secrétaire IA pour Telegram et MAX, a publié sur Habr les chiffres de son serveur en production. Depuis le 30 mai, 118 personnes ont envoyé 8568 requêtes au bot. Les modèles de langage de tous les agents ont coûté $77 au cours des 30 derniers jours. DeepSeek fournit presque toutes les réponses, soit 88%. Opus, le modèle coûteux, reçoit environ 7% des requêtes mais absorbe à peu près trois quarts du budget.

Comment fonctionne la secrétaire

Liza Petrovna joue le rôle de dispatcheur. L'utilisateur écrit dans la messagerie, et la secrétaire décide à quel agent confier la tâche. Dans la version complète de son article, l'auteur promet de montrer le code de sélection du modèle et de détailler la mémoire fondée sur pgvector, c'est-à-dire la recherche vectorielle au sein de Postgres. L'essentiel ressort déjà de l'annonce publiée : le système n'envoie pas toutes les requêtes vers un seul modèle coûteux, il les répartit selon leur niveau de complexité. L'annonce ne donne aucun détail sur le routage ; il faudra lire l'original.

Un autre détail concerne les requêtes elles-mêmes. L'agenda, ce que l'on associe d'ordinaire à une secrétaire, représente moins de 5% des demandes. Ce que les gens demandent dans les 95% restants, l'auteur le détaille dans le texte principal.

Où part l'argent

Faisons le calcul à partir des données publiées. $77 par mois, cela représente environ $2,6 par jour. Trois quarts du budget, soit de l'ordre de $58, vont à Opus. Pour tout le reste, y compris DeepSeek et ses 88% de réponses, il reste environ $19.

Si les parts de requêtes et de dépenses sont calculées sur la même base, on obtient une estimation grossière : une requête moyenne à Opus coûte environ 40 fois plus cher qu'une requête moyenne aux autres modèles. Il s'agit d'une estimation fondée sur deux pourcentages de l'annonce, et non d'une valeur mesurée. L'ordre de grandeur de l'écart reste toutefois parlant. Ce n'est pas le marchandage sur le prix du token qui fait économiser, mais la décision de choisir quelles requêtes ont accès au modèle coûteux.

Principales métriques du projet :

• période depuis le 30 mai : 8568 requêtes de 118 personnes ;
• dépenses de LLM pour tous les agents sur 30 jours : $77 ;
• part des réponses de DeepSeek : 88% ;
• part des requêtes vers Opus : environ 7%, part des dépenses : environ 75% ;
• requêtes liées à l'agenda : moins de 5% ;
• mémoire : pgvector ;
• canaux : Telegram et MAX.

Ce que l'on peut en retenir

Ce cas a ses limites. Ce sont les données d'un seul auteur, avec une audience de 118 personnes, et elles ne constituent pas une comparaison de la qualité des modèles. On ne peut pas en déduire que DeepSeek remplace Opus. On peut seulement en déduire que, sur un flux réel de requêtes du quotidien, la plupart des réponses ne nécessitent pas de modèle coûteux.

Pour ceux qui construisent des agents similaires, cela se résume à quelques mesures pratiques :

• Calculez le coût non pas en moyenne générale, mais par classe de requêtes. Une répartition comme « 7% des requêtes, 75% de l'argent » passe facilement inaperçue si l'on ne regarde que la facture globale.
• Faites du modèle bon marché le choix par défaut, et ne sollicitez le modèle coûteux que sur un critère de complexité explicite.
• Regardez ce que les utilisateurs demandent réellement. Si l'agenda pèse moins de 5%, mieux vaut optimiser d'autres scénarios.
• Pour la mémoire, il n'est pas nécessaire de déployer une base vectorielle dédiée. pgvector fonctionne dans un Postgres déjà familier, et à cette échelle, cela suffit.
• Documentez honnêtement les erreurs. L'auteur analyse à part les cas où la secrétaire se trompe encore, et une telle section est plus utile que de belles démos.

La présence de MAX aux côtés de Telegram est aussi un signal : les bots russes visent de plus en plus plusieurs messageries à la fois, et le routage des modèles devient une couche commune à tous les canaux.