Stanford dévoile OpenJarvis, une pile logicielle pour agents d'IA locaux dotés de mémoire et capables d'apprendre

Des chercheurs de Stanford ont publié OpenJarvis, un framework open source pour des agents d'IA personnels qui fonctionnent entièrement sur l'appareil de l'utilisateur. Le projet se veut une pile complète pour l'IA locale : exécution des modèles, orchestration des agents, mémoire, outils, benchmarks, puis apprentissage sur les données locales.

Pourquoi c'est important

La plupart des systèmes d'IA personnels ne sont encore locaux qu'en apparence. L'interface tourne sur l'ordinateur portable, mais l'essentiel du raisonnement part vers des API cloud. Pour les tâches qui touchent aux fichiers, aux notes, aux e-mails et au contexte permanent de l'utilisateur, cela se traduit par de la latence, des coûts récurrents et des transferts superflus de données sensibles. OpenJarvis propose un autre modèle : l'exécution locale par défaut, le cloud n'intervenant qu'en option, lorsqu'il est réellement indispensable.

Stanford rattache cette sortie à ses propres travaux sur Intelligence Per Watt. Selon le laboratoire, les modèles de langage et les accélérateurs locaux sont déjà capables de traiter correctement 88,7% des requêtes de chat et de raisonnement en un seul tour, avec une vitesse de réponse interactive. L'efficacité mesurée en « intelligence par watt » a par ailleurs été multipliée par 5,3 entre 2023 et 2025. Le pari d'OpenJarvis : le matériel et les modèles sont presque prêts, mais il manquait au marché une couche logicielle unifiée pour ce type de système.

Comment la pile est construite

OpenJarvis repose sur cinq primitives que l'on peut remplacer, tester et optimiser indépendamment les unes des autres. Cette approche vise à mettre fin à la confusion typique des montages d'IA locaux, où inférence, logique agentique, outils, mémoire et apprentissage s'entremêlent dans un projet difficile à reproduire.

Le développeur peut ainsi comparer non pas le système entier, mais une couche précise : le modèle, le moteur, la mémoire ou le comportement de l'agent. Les expérimentations comme le déploiement en production s'en trouvent nettement simplifiés.

• Intelligence — la couche des modèles, avec un catalogue unifié de LLM locaux et une abstraction pour les sélectionner.
• Engine — le runtime d'exécution via Ollama, vLLM, SGLang, llama.cpp et d'autres moteurs.
• Agents — les rôles d'agents, dont Orchestrator pour décomposer les tâches et Operative pour les scénarios répétitifs.
• Tools & Memory — l'accès aux outils, à la mémoire locale, à la recherche sémantique, à MCP et aux échanges entre agents via A2A.
• Learning — une boucle d'amélioration qui exploite les traces locales pour l'affinage et l'optimisation.

Le projet insiste particulièrement sur un point : le système ne doit pas se limiter au chat. OpenJarvis sait effectuer des recherches locales dans les notes et les documents, brancher des outils comme la recherche web, une calculatrice, les entrées-sorties fichiers et l'interprétation de code, et se connecter à des serveurs MCP externes. Le framework se présente ainsi non pas comme une surcouche autour d'un modèle unique, mais comme une infrastructure pour un agent personnel doté d'une mémoire longue et d'un accès à l'environnement réel de l'utilisateur.

Ce qui est déjà disponible

Sur le plan pratique, le projet reste plutôt terre à terre. OpenJarvis dispose d'une CLI, d'un SDK Python, d'une interface web et d'une application de bureau pour macOS, Windows et Linux. La commande `jarvis init` détecte le matériel disponible et recommande le couple moteur-modèle adapté, `jarvis doctor` aide à diagnostiquer la configuration, et `jarvis serve` lance un serveur d'API compatible OpenAI sous FastAPI. Les développeurs peuvent ainsi y brancher leurs clients et frontends existants presque sans modification. Selon la documentation, les scénarios de base peuvent fonctionner sans aucune connexion réseau.

Autre point fort : la mesure de l'efficacité, et pas seulement de la qualité des réponses. Le framework collecte de la télémétrie sur l'énergie, la latence, les FLOPs et le coût financier de chaque requête, prend en charge le profilage sur NVIDIA, AMD et Apple Silicon, et standardise les benchmarks via `jarvis bench`.

En parallèle, OpenJarvis conserve les traces locales des interactions : des paires prompt-completion jusqu'aux séquences d'actions de l'agent et aux appels d'outils. Sur cette base, il devient possible d'optimiser non seulement les poids du modèle, mais aussi les prompts, la logique agentique et le moteur d'inférence lui-même — par exemple via la quantification, DSPy, GEPA, SFT, DPO ou GRPO.

Ce que cela signifie

OpenJarvis montre que l'IA locale quitte le stade des montages expérimentaux pour devenir une véritable pile d'ingénierie. Si l'approche de Stanford s'impose, les développeurs disposeront d'une base standard pour des agents personnels qui gardent les données chez l'utilisateur, coûtent moins cher à faire tourner et gagnent en utilité au fil du temps en apprenant de leurs propres scénarios locaux. Pour le marché, c'est un signal de plus : une partie des tâches d'IA du quotidien commencera bientôt à migrer du cloud vers les appareils personnels.