Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAPI / Produit · Prêt à l'emploiHabr AI→ original

La bibliothèque vue-llm apporte un chat IA à Vue directement dans le navigateur : modèle à partir de 400 Mo

La plupart des outils prêts à l'emploi pour les chats IA sont écrits pour React, tandis que sous Vue et Nuxt, le streaming des réponses et les appels d'outils doivent être assemblés à la main. La bibliothèque vue-llm propose pour cela le composable useChat, compatible avec OpenAI, Anthropic, Gemini et Ollama. Elle inclut aussi un mode sans serveur : le modèle tourne dans le navigateur sur la carte graphique via WebGPU. Le premier chargement pèse à partir de 400 Mo, puis le cache ne prend qu'une à deux secondes. Pour les équipes Vue, c'est une base prête à l'emploi plutôt qu'un développement maison.

Traité par IA depuis Habr AI ; édité par Hamidun News
La bibliothèque vue-llm apporte un chat IA à Vue directement dans le navigateur : modèle à partir de 400 Mo
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Chiffre clé #1Licence MIT, version 1.3 ; à l'exécution, la seule dépendance est Vue
Chiffre clé #2La clé API reste côté serveur ; l'exemple applique une limite de 30 requêtes par minute
Chiffre clé #3La carte de réponse se remplit pendant que le modèle termine encore l'appel d'outil

Si vous avez développé une fonctionnalité IA sur Vue (framework front-end populaire) ou sur Nuxt (son surcouche pour des sites complets), vous vous êtes probablement heurté au même problème : presque tous les outils prêts à l'emploi pour les chats avec des modèles de langage sont écrits pour React. Sous Vue, il faut les adapter ou écrire soi-même le streaming (affichage de la réponse au fil de la génération plutôt qu'en bloc), l'appel d'outils et la gestion de l'état de la conversation. Le développeur a publié la bibliothèque open source vue-llm, qui prend en charge cette routine pour Vue 3, Nuxt et même Vue 2.

7. Le scénario le plus parlant : un petit modèle tourne directement dans le navigateur de l'utilisateur, sur sa carte graphique via WebGPU. Sans serveur ni clé API, mais avec un téléchargement unique du modèle, à partir de 400 Mo.

La bibliothèque est distribuée sous licence MIT, en est à la version 1.3 et n'embarque à l'exécution aucune dépendance autre que Vue lui-même.

Un chat en dix lignes et la clé sur le serveur

Le socle est le composable useChat. Il restitue la réponse du modèle token par token dans un état réactif : messages, statut, erreur, annulation, régénération. Les messages se composent de « parties » : texte, raisonnement du modèle, appels d'outils, fichiers, sources. Un même gabarit peut ainsi afficher une réponse ordinaire, le raisonnement de Claude ou de Qwen3, et un appel d'outil.

La clé API reste sur le serveur. La partie serveur est un gestionnaire Request → Response classique, selon le standard web. Il fonctionne dans Nuxt/Nitro, Node, Bun, Deno et sur les runtimes edge. Dans l'exemple de l'auteur, une limite est activée au même endroit : 30 requêtes par minute. Pour la production, c'est un détail utile : sans elle, un chat public devient vite un accès gratuit à votre facture de tokens.

Sont pris en charge d'office OpenAI et toute API compatible OpenAI, Anthropic, Google Gemini et Ollama. Si vous disposez déjà d'un backend avec streaming, createSSEProvider le relie à useChat. Vous décrivez comment vos événements SSE se transforment en fragments de réponse, et le reste fonctionne normalement.

Generative UI et humain dans la boucle

La partie la plus intéressante est le Generative UI. Lorsque le modèle appelle un outil, vous pouvez afficher à la place du texte votre propre composant Vue. Les arguments sont streamés dans le composant au fil de la génération : une carte météo commence à se remplir alors que le modèle n'a pas fini son appel. Pour cela, l'auteur a écrit un analyseur de JSON « inachevé ». La chaîne {"city":"Mos devient { city: 'Mos' }, et les clés incomplètes sont écartées jusqu'à ce qu'elles soient complétées.

Un outil doté d'une fonction execute s'exécute tout seul. Un outil sans cette fonction met le chat en pause et attend la réponse de l'interface. C'est le schéma human-in-the-loop, où la décision revient à l'humain. Par exemple, le modèle propose de réserver une table, l'utilisateur clique sur « Confirmer » dans la carte, addToolResult transmet la réponse, et la conversation reprend. Pour les actions irréversibles (paiement, envoi d'e-mail, suppression), c'est plus fiable que de demander au modèle, dans le prompt, de « demander l'autorisation ».

Modèles dans le navigateur et économie des tokens

Le fournisseur createWebLLM fait tourner des modèles ouverts (Llama 3.2, Qwen, SmolLM, Phi) sur WebGPU via WebLLM. Aucun serveur ni clé n'est nécessaire, et les données ne quittent pas l'appareil. Dans le code, seul le fournisseur change, useChat restant identique à celui utilisé avec OpenAI.

Sur le plan des coûts, le procédé est intéressant. Les tâches simples, comme la reformulation, la classification ou la complétion courte, peuvent être confiées au modèle local sans payer chaque token. L'auteur propose aussi une approche hybride : aux utilisateurs sans WebGPU, on sert un modèle sur serveur ; aux autres, le modèle local. Le coût de cette approche reste le premier téléchargement, à partir de 400 Mo. Ensuite, le modèle est lu dans le cache du navigateur en une à deux secondes. Mais les modèles compacts comme Llama 3.2 1B, en version quantifiée, sont nettement moins performants que les flagships dans le cloud : mieux vaut donc garder les raisonnements complexes et les contextes longs pour le serveur.

Interface, DevTools et Nuxt

La bibliothèque est de conception hybride. Le npm contient une logique headless (sans habillage visuel) : usePromptInput et useAutoScroll. Ils règlent les détails délicats : un défilement automatique qui ne bouscule pas l'utilisateur remontant dans la conversation ; une touche Entrée qui n'envoie pas le message pendant une saisie en chinois ou en japonais ; le collage d'images depuis le presse-papiers et le glisser-déposer de fichiers. Les composants prêts à l'emploi se copient dans le projet avec la commande shadcn-vue, et le code vous appartient ensuite. Ils utilisent les tokens de thème de shadcn, donc ils s'adaptent au reste de l'interface, y compris au thème sombre.

Pour le débogage, le module vue-llm/devtools affiche, dans l'onglet LLM de Vue DevTools, tous les useChat, les tokens, le délai jusqu'au premier token, la vitesse de génération, les appels d'outils et la frise chronologique des requêtes. Sans le plugin, la bibliothèque ne trace rien et n'y consacre aucune ressource. Le module Nuxt s'installe en une seule commande, assure l'auto-import des composables et des fournisseurs, et est validé sur Nuxt 3 et 4.

Limites et suite

L'auteur compare son projet aux SDK IA existants et le présente comme Vue-first. Les différences : le module Nuxt, les composants pour le Generative UI, les DevTools, le fournisseur pour les modèles navigateur, l'adaptateur pour un backend SSE existant, et la prise en charge de Vue 2.7 pour les composables, ce qui compte pour les back-offices hérités. Cela dit, le projet est jeune et développé par une seule personne, si bien que la maturité de l'écosystème n'est pas comparable à celle des équivalents React. Avant un déploiement, il faut vérifier le comportement de vos fournisseurs et de vos scénarios sous charge réelle.

Au programme : un client MCP pour connecter des serveurs MCP comme outils, des réponses avec citations pour le RAG, et la saisie vocale. Pour les équipes Vue qui ont besoin d'un chat ou d'une interface agentique, le bac à sable sans clé API permet d'évaluer l'approche en quelques minutes.

Dossier

Questions clés sur cet article

Que sait-on sur Un chat en dix lignes et la clé sur le serveur ?

Le socle est le composable useChat. Il restitue la réponse du modèle token par token dans un état réactif : messages, statut, erreur, annulation, régénération. Les messages se composent de « parties » : texte, raisonnement du modèle, appels d'outils, fichiers, sources. Un même gabarit peut ainsi afficher une réponse ordinaire, le raisonnement de Claude ou de Qwen3, et un appel d'outil. La clé API reste sur le serveur. La partie serveur est un gestionnaire Request → Response classique, selon le standard web.

Que sait-on sur Generative UI et humain dans la boucle ?

La partie la plus intéressante est le Generative UI. Lorsque le modèle appelle un outil, vous pouvez afficher à la place du texte votre propre composant Vue. Les arguments sont streamés dans le composant au fil de la génération : une carte météo commence à se remplir alors que le modèle n'a pas fini son appel. Pour cela, l'auteur a écrit un analyseur de JSON « inachevé ». La chaîne {"city":"Mos devient { city: 'Mos' }, et les clés incomplètes sont écartées jusqu'à ce qu'elles soient complétées.

Que sait-on sur Modèles dans le navigateur et économie des tokens ?

Le fournisseur createWebLLM fait tourner des modèles ouverts (Llama 3.2, Qwen, SmolLM, Phi) sur WebGPU via WebLLM. Aucun serveur ni clé n'est nécessaire, et les données ne quittent pas l'appareil. Dans le code, seul le fournisseur change, useChat restant identique à celui utilisé avec OpenAI. Sur le plan des coûts, le procédé est intéressant. Les tâches simples, comme la reformulation, la classification ou la complétion courte, peuvent être confiées au modèle local sans payer chaque token.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…