Stanford a présenté OpenJarvis — une stack d'agents AI locaux avec mémoire et apprentissage

Des chercheurs de Stanford ont lancé OpenJarvis — un framework open-source pour des agents d'IA personnels qui fonctionnent entièrement sur l'appareil de l'utilisateur. Le projet a été conçu comme une pile prête à l'emploi pour l'IA locale : depuis l'exécution de modèles et l'orchestration d'agents jusqu'à la mémoire, les outils, les benchmarks et l'entraînement ultérieur sur des données locales.

Pourquoi C'est Important

La plupart des systèmes d'IA personnels à ce jour ne semblent locaux qu'en surface : l'interface s'exécute sur l'ordinateur portable, mais le raisonnement principal va vers les API cloud. Pour les tâches impliquant des fichiers, des notes, des e-mails et un contexte utilisateur persistant, cela signifie une latence, des coûts récurrents et un transfert inutile de données sensibles. OpenJarvis propose un modèle différent : exécution locale par défaut, avec le cloud comme option uniquement quand c'est vraiment nécessaire.

À Stanford, le lancement est lié à leur propre travail sur l'Intelligence Par Watt. Selon le laboratoire, les modèles de langage locaux et les accélérateurs locaux sont déjà capables de servir correctement 88,7 % des requêtes de chat et de raisonnement en un seul tour à des vitesses de réponse interactives, et l'efficacité selon la métrique « intelligence par watt » a augmenté 5,3 fois de 2023 à 2025. L'idée derrière OpenJarvis est que le matériel et les modèles sont déjà presque prêts, mais le marché manquait d'une couche logicielle unifiée pour de tels systèmes.

Comment Fonctionne la Pile

OpenJarvis est construit autour de cinq primitives qui peuvent être remplacées, testées et optimisées indépendamment les unes des autres. Cette approche est destinée à éliminer la confusion typique dans les configurations d'IA locale, où l'inférence, la logique des agents, la gestion des outils, la mémoire et l'apprentissage sont entrelacés dans un projet difficile à reproduire. En conséquence, les développeurs peuvent comparer non pas l'ensemble du système dans sa totalité, mais une couche spécifique — le modèle, le moteur, la mémoire ou le comportement de l'agent. Cela rend les expériences et le déploiement en production considérablement plus simples.

• Intelligence — une couche de modèles avec un catalogue unifié de LLMs locaux et une abstraction sur leur sélection.
• Engine — un runtime pour l'exécution via Ollama, vLLM, SGLang, llama.cpp et autres moteurs.
• Agents — des rôles d'agents, incluant Orchestrator pour la décomposition de tâches et Operative pour les scénarios récurrents.
• Tools & Memory — accès aux outils, mémoire locale, recherche sémantique, MCP et communication agent-à-agent via A2A.
• Learning — une boucle d'amélioration qui utilise les traces locales pour le réglage fin et l'optimisation.

L'accent est particulièrement mis sur le fait que le système ne se limite pas au chat. OpenJarvis peut travailler avec la recherche locale dans les notes et les documents, connecter des outils comme la recherche Web, la calculatrice, l'entrée/sortie de fichiers et l'interprétation de code, ainsi que communiquer avec des serveurs MCP externes. De ce fait, le framework est positionné non pas comme un wrapper autour d'un seul modèle, mais comme une infrastructure pour un agent personnel avec mémoire à long terme et accès à l'environnement réel de l'utilisateur.

Ce Qui Est Déjà Disponible

D'un point de vue pratique, le projet semble bien fondé. OpenJarvis dispose d'une CLI, d'un SDK Python, d'une interface de navigateur et d'applications de bureau pour macOS, Windows et Linux. La commande `jarvis init` détermine le matériel disponible et recommande une combinaison appropriée de moteur et de modèle, `jarvis doctor` aide à diagnostiquer la configuration, et `jarvis serve` lance un serveur API compatible avec OpenAI sur FastAPI afin que les développeurs puissent connecter les clients et frontends existants avec des modifications minimales. Les scénarios de base, selon la documentation, peuvent fonctionner sans réseau.

Un autre point fort est de mesurer l'efficacité, pas seulement la qualité de la réponse. Le framework collecte la télémétrie sur l'énergie, la latence, les FLOPs et le coût monétaire d'une demande, prend en charge le profilage sur NVIDIA, AMD et Apple Silicon, et standardise les benchmarks via `jarvis bench`. En même temps, OpenJarvis préserve les traces locales des interactions : des paires prompt-completion aux séquences d'actions d'agents et d'appels d'outils. Sur cette base, on peut optimiser non seulement les poids du modèle, mais aussi les prompts, la logique des agents et le moteur d'inférence lui-même — par exemple, via la quantification, DSPy, GEPA, SFT, DPO ou GRPO.

Ce Que Cela Signifie

OpenJarvis montre que l'IA locale passe des configurations expérimentales à une pile d'ingénierie à part entière. Si l'approche de Stanford prend racine, les développeurs obtiendront une base standard pour les agents personnels qui stockent les données chez l'utilisateur, sont moins chers à exploiter et deviennent plus utiles au fil du temps grâce à l'entraînement sur leurs propres scénarios locaux. Pour le marché, c'est un autre signal : une partie des tâches d'IA quotidiennes commencera bientôt à migrer du cloud vers les appareils personnels.