Apple Foundation Models SDK for Python: Apple Intelligence local no agente Hermes

Engenheiros do Sber mostraram, em um post no blog do Habr, um provedor nativo que conecta o modelo local da Apple Intelligence ao agente autônomo Hermes por meio do Apple Foundation Models SDK for Python. De acordo com as medições da equipe, o tempo médio de resposta para consultas curtas foi de 2,8 segundos, e, em um benchmark de 50 perguntas, o adaptador acertou 46.

O que é o Foundation Models SDK for Python

O Apple Foundation Models SDK for Python é uma biblioteca que dá acesso direto ao modelo local da Apple Intelligence a partir de código Python. A Apple a lançou em fevereiro de 2026: o modelo é carregado no processo, o KV-cache fica na memória RAM e a inferência roda nos chips Apple Silicon, sem acesso à nuvem.

A biblioteca ganhou público rapidamente entre os desenvolvedores. Segundo o GitHub, ela já soma 1,2 mil estrelas, e a versão mais recente, a 0.2.0, com suporte a imagens, foi apresentada pela Apple na conferência WWDC26.

• Lançamento da biblioteca: fevereiro de 2026
• 1,2 mil estrelas no GitHub
• Versão 0.2.0 com suporte a imagens: apresentada na WWDC26
• Inferência totalmente local, em Apple Silicon
• KV-cache armazenado na memória do processo

Por que foi preciso um adaptador para o Hermes

Até então, não existia um provedor nativo pronto para agentes em Python. Os wrappers sobre o Foundation Models emulam a interface da OpenAI, mas não permitem que o modelo local funcione como o mecanismo principal do agente, com todos os seus recursos: limitador de taxa (rate limiter), fallback para outros modelos e auditoria. O uso direto do Foundation Models já existia no agente iClaw, escrito em Swift, mas essa possibilidade continuava fechada para agentes Python, mais universais.

O adaptador para o Hermes preenche essa lacuna: o modelo local da Apple passa a ser a inferência padrão do agente, e não um serviço externo atrás de um wrapper HTTP. Isso significa que as requisições a ele passam pela mesma lógica de limites, fallbacks e logs das chamadas a modelos na nuvem.

Que resultados os benchmarks mostraram

Em um conjunto de teste de 50 perguntas, o provedor acertou 46. As perguntas vieram de cinco conjuntos conhecidos — MMLU, BoolQ, GSM8K, BIG-Bench e HellaSwag —, ou seja, o teste avaliou ao mesmo tempo conhecimento, lógica e aritmética. O tempo médio de resposta para consultas curtas foi de 2,8 segundos, um desempenho perceptivelmente rápido para inferência totalmente local em um notebook.

A combinação de velocidade e precisão é o principal argumento do caso: o agente responde sem latência de rede e sem gastar tokens de API.

«Por que não tentar adicionar ao

Hermes um adaptador baseado no Foundation Models SDK for Python e obter um tempo médio de reação de 2,8 segundos para consultas curtas e, em um benchmark de 50 perguntas, acertar 46?» — do artigo da equipe do Sber no Habr.

O que isso significa

Os modelos locais chegaram perto de assumir o papel de mecanismo principal de agentes autônomos: sem nuvem, sem cobrança por API e com latência aceitável. Para cenários em que privacidade e funcionamento offline importam, a combinação de Apple Silicon e Python deixa de ser exotismo e passa a ser uma ferramenta de trabalho.

Perguntas frequentes

O que é o Apple Foundation Models SDK for Python?

É uma biblioteca Python lançada pela Apple em fevereiro de 2026 que dá acesso direto ao modelo local da Apple Intelligence: o modelo é carregado no processo e roda em Apple Silicon, sem nuvem. No GitHub, ela tem 1,2 mil estrelas, e a versão atual é a 0.2.0, com suporte a imagens.

Que resultados o adaptador para o Hermes mostrou?

Em um benchmark de 50 perguntas (MMLU, BoolQ, GSM8K, BIG-Bench, HellaSwag), o provedor acertou 46, e o tempo médio de resposta para consultas curtas foi de 2,8 segundos, com inferência totalmente local.