Stanford apresenta OpenJarvis, stack para agentes de IA locais com memória e aprendizado

Pesquisadores de Stanford lançaram o OpenJarvis, um framework open-source para agentes pessoais de IA que rodam inteiramente no dispositivo do usuário. A proposta é oferecer um stack completo para IA local, que cobre desde a execução de modelos e a orquestração de agentes até memória, ferramentas, benchmarks e treinamento posterior com dados locais.

Por que isso importa

A maioria dos sistemas pessoais de IA ainda é local só na aparência: a interface roda no notebook, mas o raciocínio pesado vai para APIs na nuvem. Em tarefas que envolvem arquivos, anotações, e-mails e contexto contínuo do usuário, isso significa latência, custos recorrentes e envio desnecessário de dados sensíveis. O OpenJarvis propõe outro modelo: execução local por padrão, com a nuvem apenas como opção, quando realmente não houver alternativa.

Stanford associa o lançamento ao seu próprio trabalho Intelligence Per Watt. Segundo o laboratório, modelos de linguagem e aceleradores locais já conseguem atender corretamente 88,7% das consultas de turno único de chat e raciocínio com velocidade de resposta interativa, e a eficiência medida pela métrica de “inteligência por watt” cresceu 5,3 vezes entre 2023 e 2025. A tese do OpenJarvis é que hardware e modelos já estão quase prontos, mas faltava ao mercado uma camada de software unificada para esse tipo de sistema.

Como o stack funciona

O OpenJarvis é construído em torno de cinco primitivas, que podem ser substituídas, testadas e otimizadas de forma independente. A ideia é acabar com a confusão comum em montagens de IA local, em que inferência, lógica de agentes, uso de ferramentas, memória e treinamento ficam emaranhados em um único projeto difícil de reproduzir. Com isso, o desenvolvedor pode comparar uma camada específica (modelo, engine, memória ou comportamento do agente) em vez do sistema inteiro. Isso facilita bastante tanto os experimentos quanto a implantação em produção.

• Intelligence — camada de modelos, com um catálogo unificado de LLMs locais e uma abstração para a escolha entre eles.
• Engine — runtime para execução via Ollama, vLLM, SGLang, llama.cpp e outros engines.
• Agents — papéis de agentes, incluindo o Orchestrator, para decompor tarefas, e o Operative, para cenários repetitivos.
• Tools & Memory — acesso a ferramentas, memória local, busca semântica, MCP e comunicação entre agentes via A2A.
• Learning — ciclo de melhoria que usa traces locais para ajuste fino e otimização.

Há uma ênfase especial em não limitar o sistema ao chat. O OpenJarvis faz busca local em anotações e documentos, conecta ferramentas como busca na web, calculadora, leitura e escrita de arquivos e interpretação de código, e também se integra a servidores MCP externos. Por isso, o framework se posiciona não como um wrapper em torno de um único modelo, mas como infraestrutura para um agente pessoal com memória de longo prazo e acesso ao ambiente real do usuário.

O que já está disponível

Na prática, o projeto é bem pé no chão. O OpenJarvis tem CLI, Python SDK, interface web e aplicativo desktop para macOS, Windows e Linux. O comando `jarvis init` identifica o hardware disponível e recomenda a combinação adequada de engine e modelo; o `jarvis doctor` ajuda a diagnosticar a configuração; e o `jarvis serve` sobe um servidor de API compatível com a OpenAI em FastAPI, para que desenvolvedores conectem clientes e front-ends existentes quase sem adaptações. Segundo a documentação, os cenários básicos podem funcionar totalmente sem conexão à rede.

Outro ponto forte é a medição de eficiência, e não só da qualidade das respostas. O framework coleta telemetria de energia, latência, FLOPs e custo financeiro por requisição, oferece profiling em NVIDIA, AMD e Apple Silicon e padroniza benchmarks com o `jarvis bench`. Ao mesmo tempo, o OpenJarvis armazena traces locais de interação, de pares prompt-completion a sequências de ações do agente e chamadas de ferramentas. Com essa base, é possível otimizar não apenas os pesos do modelo, mas também os prompts, a lógica dos agentes e o próprio engine de inferência — por exemplo, com quantização, DSPy, GEPA, SFT, DPO ou GRPO.

O que isso significa

O OpenJarvis mostra que a IA local está deixando de ser território de montagens experimentais e caminhando para um stack de engenharia completo. Se a abordagem de Stanford pegar, os desenvolvedores terão uma base padrão para agentes pessoais que mantêm os dados com o usuário, custam menos para operar e ficam mais úteis com o tempo, ao aprender com os próprios cenários locais. Para o mercado, é mais um sinal de que parte das tarefas cotidianas de IA deve migrar em breve da nuvem para os dispositivos pessoais.