Apple Foundation Models SDK for Python: Apple Intelligence local en el agente Hermes

Ingenieros de Sber presentaron en su blog de Habr un proveedor nativo que conecta el modelo local de Apple Intelligence con el agente autónomo Hermes mediante el Apple Foundation Models SDK for Python. Según sus mediciones, el tiempo medio de respuesta a consultas cortas fue de 2,8 segundos, y en un benchmark de 50 preguntas el adaptador acertó 46.

Qué es el Foundation Models SDK for Python

Apple Foundation Models SDK for Python es una biblioteca que da acceso directo al modelo local de Apple Intelligence desde código Python. Apple la lanzó en febrero de 2026: el modelo se carga en el proceso, la KV-cache se mantiene en la memoria RAM y la inferencia se ejecuta en chips Apple Silicon sin recurrir a la nube.

La biblioteca ha ganado rápidamente audiencia entre los desarrolladores. Según GitHub, ya suma 1,2 mil estrellas, y la última versión, la 0.2.0, con soporte de imágenes, fue presentada por Apple en la conferencia WWDC26.

• Lanzamiento de la biblioteca: febrero de 2026
• 1,2 mil estrellas en GitHub
• Versión 0.2.0 con soporte de imágenes: presentada en WWDC26
• Inferencia totalmente local, en Apple Silicon
• La KV-cache se almacena en la memoria del proceso

Por qué hacía falta un adaptador para Hermes

Hasta ahora no existía un proveedor nativo listo para agentes en Python. Los wrappers sobre Foundation Models emulan la interfaz de OpenAI, pero no permiten que el modelo local funcione como motor principal del agente, con todos sus mecanismos: limitador de tasa (rate limiter), fallback a otros modelos y auditoría. El uso directo de Foundation Models ya existía en el agente en Swift iClaw, pero para agentes más universales en Python esa posibilidad seguía cerrada.

El adaptador para Hermes cubre ese hueco: el modelo local de Apple pasa a ser el motor de inferencia estándar del agente y no un servicio externo tras un wrapper HTTP. Esto significa que las consultas pasan por la misma lógica de límites, fallbacks y registro que las llamadas a modelos en la nube.

Qué resultados mostraron los benchmarks

En un conjunto de prueba de 50 preguntas, el proveedor obtuvo 46 respuestas correctas. Las preguntas procedían de cinco conjuntos conocidos —MMLU, BoolQ, GSM8K, BIG-Bench y HellaSwag—, de modo que se evaluaban a la vez conocimientos, lógica y aritmética. El tiempo medio de reacción ante consultas cortas fue de 2,8 segundos, una cifra notablemente rápida para una inferencia totalmente local en un portátil.

La combinación de velocidad y precisión es el principal argumento del caso: el agente responde sin latencia de red y sin gastar tokens de API.

«¿Por qué no probar a añadir a

Hermes un adaptador basado en el Foundation Models SDK for Python y conseguir un tiempo medio de reacción de 2,8 segundos en consultas cortas y 46 respuestas correctas en un benchmark de 50 preguntas?» — del artículo del equipo de Sber en Habr.

Qué significa

Los modelos locales están muy cerca de poder ser el motor principal de agentes autónomos: sin nube, sin pagar por la API y con una latencia aceptable. En escenarios donde importan la privacidad y el trabajo sin conexión, la combinación de Apple Silicon y Python deja de ser una rareza y se convierte en una herramienta de trabajo.

Preguntas frecuentes

¿Qué es el Apple Foundation Models SDK for Python?

Es una biblioteca de Python lanzada por Apple en febrero de 2026 que da acceso directo al modelo local de Apple Intelligence: el modelo se carga en el proceso y funciona sobre Apple Silicon sin nube. En GitHub tiene 1,2 mil estrellas y su versión actual es la 0.2.0, con soporte de imágenes.

¿Qué resultados mostró el adaptador para Hermes?

En un benchmark de 50 preguntas (MMLU, BoolQ, GSM8K, BIG-Bench, HellaSwag), el proveedor dio 46 respuestas correctas, y el tiempo medio de respuesta a consultas cortas fue de 2,8 segundos con inferencia totalmente local.