Un mini PC ejecuta un LLM de 26B con un solo deslizador: en la iGPU la generación es entre un 21% y un 39% más rápida
Ollama se quedaba sin memoria en un mini PC de 32 GB: Windows cede a la Intel Arc integrada solo la mitad de la RAM, unos 18 GB. El autor subió el límite de Shared GPU Memory Override a 26 GB y los modelos de 20–35 mil millones de parámetros cupieron enteros. La generación en la gráfica es más rápida que en el procesador: un 21% con Gemma 4 y un 39% con Tiel-Coder. Además, se gastan entre un 28% y un 42% menos de energía por cada 1000 tokens. Para los equipos con Core Ultra, esto sustituye a una tarjeta gráfica.
Procesado por IA desde Habr AI; editado por Hamidun News
Imagine la situación: ha descargado el modelo de lenguaje Gemma 4 26B, el archivo pesa 18 GB, el mini PC tiene 32 GB de memoria RAM y, aun así, Ollama se cierra con un error por falta de memoria. La causa es que la gráfica integrada Intel Arc no tiene memoria de vídeo propia: toma un trozo de la RAM compartida, y Windows le permite usar por defecto aproximadamente la mitad. Ollama solo veía 18 GB, así que los modelos que quedaban «justos» no cabían.
El autor del análisis en Habr encontró en los ajustes de Intel un parámetro que sube ese límite a 26 GB. Con ello, en el mini PC GEEKOM GT1 Mega funcionaron modelos de 20–35 mil millones de parámetros (eso es lo que significa «26B» o «35B» en sus nombres), y la generación de texto en la gráfica integrada resultó más rápida que en el procesador: un 21% con Gemma 4 y un 39% con Tiel-Coder. Para quien tenga un portátil o un mini PC con Core Ultra, es una forma de ejecutar modelos locales grandes sin comprar una tarjeta gráfica cara.
Un deslizador en lugar de una tarjeta gráfica
El hardware de la prueba es este: procesador Intel Core Ultra 9 185H (16 núcleos, hasta 5,1 GHz), gráfica integrada Arc con 8 núcleos Xe y 32 GB de DDR5-5600 en doble canal. El límite de «memoria de vídeo virtual» se cambia en el programa Intel Graphics Software, en «Configuración — Sistema — Shared GPU Memory Override». El autor fijó 26 GB, es decir, más del 80% de la memoria, y reinició el equipo.
Para que Ollama utilice la gráfica integrada hacen falta las variables OLLAMA_VULKAN=1 y OLLAMA_IGPU_ENABLE=1. Tras el reinicio, Ollama informó de 26,2 GB y el comando ollama ps mostró «100% GPU»: todas las capas del modelo están en la gráfica.
El hardware no se volvió más rápido por ello, pero ahora caben modelos de 17–18 GB. Gemma con una ventana de contexto de 24 576 tokens ocupa 16–17 GB, y Tiel-Coder, 17–18 GB. A Windows y al resto de programas les quedan 5–6 GB, y fueron suficientes: OpenSCAD, Blender, SolidCraft y el compilador arduino-cli funcionaron en paralelo con el modelo.
Qué mostraron las mediciones
El autor comparó cuatro modelos MoE: Gemma 4 26B-A4B, Tiel-Coder 35B-A3B (una adaptación de terceros para programación basada en la arquitectura Qwen 3.5 MoE), GPT-OSS 20B y Qwen3-Coder 30B-A3B. Un modelo MoE tiene muchos «expertos», pero para cada token se activa solo una pequeña parte: en Gemma, unos 4 mil millones de parámetros de 25,2 mil millones. Necesita tanta memoria como un modelo grande, pero calcula casi como uno pequeño.
Las tareas fueron de ingeniería: un engranaje para un Pip-Boy en OpenSCAD y FreeCAD, un mango en Blender y una carcasa para una placa ESP32-C3 en SolidCraft a través de MCP. En cada tarea el modelo recibía una imagen de referencia.
- Velocidad de generación: Gemma 15,8 → 19,1 tokens/s (+21%), Tiel-Coder 12,2 → 16,9 (+39%).
- La potencia media del paquete del procesador baja de 45 a 32–33 W. La energía por cada 1000 tokens de respuesta se reduce un 28% con Gemma y un 42% con Tiel-Coder.
- En SolidCraft la ganancia de tiempo es de solo un 5–7%: el modelo dedica la mayor parte del tiempo a leer un prompt largo, de 30–60 mil tokens, con la descripción de 13 herramientas. Aun así, la gráfica también ahorra energía ahí, alrededor de un 40%.
- La calidad de las piezas no depende del dispositivo: la variación entre dos repeticiones de la misma tarea es mayor que la diferencia entre CPU y GPU.
Las 26 ejecuciones costaron en total unos 0,11 kWh, es decir, menos de un rublo con un precio de 6,5 ₽ por kWh.
Las plantillas lo deciden todo
Sin plantillas de ejemplo (por ejemplo, el código de un engranaje de 30 dientes para una tarea sobre un engranaje de 24 dientes), ningún modelo resolvió las tareas, y el autor no tuvo en cuenta ese modo en los resultados finales. Con plantilla, los cuatro modelos hicieron correctamente las tres piezas y a la primera.
En ese caso, lo que marca la diferencia es la brevedad con la que escribe el modelo, no su «inteligencia». GPT-OSS y Qwen3-Coder responden de forma más corta y sin comentarios innecesarios, por eso terminan el doble de rápido que Gemma. En SolidCraft, GPT-OSS obtuvo el mejor resultado: 55 segundos frente a 114–154 de los demás.
Tiel-Coder consumió 2,4 veces más tokens de entrada que Gemma: cada nuevo intento envía al modelo todo el diálogo anterior, y en SolidCraft necesitó 13 turnos donde Gemma se las arregló con cinco. En las tareas sencillas con plantilla lista, los modelos de 8B resultaron incluso más rápidos y económicos que los grandes: por ejemplo, el engranaje con Qwen3 8B llevó 34 segundos frente a 65 con Gemma 26B.
Qué hacer en la práctica
Si tiene un Core Ultra con Arc integrada y 32 GB de RAM, suba Shared GPU Memory Override a 24–26 GB y active Vulkan y la iGPU en Ollama. Incluya en el prompt un ejemplo de código ya hecho y no reenvíe todo el diálogo completo en los intentos repetidos.
Hay salvedades. Es una prueba de un solo autor en una sola máquina, y la comparación entre CPU y GPU se basa en apenas 11 ejecuciones. El autor midió la energía con los contadores Intel RAPL solo para el paquete del procesador; la memoria, el SSD, el ventilador y la fuente de alimentación añaden otro 20–30%. La velocidad absoluta es modesta, de unos 15–19 tokens/s, pero a cambio se obtiene un mini PC silencioso y barato en lugar de una tarjeta gráfica dedicada.
- 18 nov 2026sd.cpp en lugar de Forge Neo: nueve modelos en una GPU de 16 GB generan imágenes en 5–68 segundos
- 18 nov 2026JetBrains lanza Mellum en local dentro del IDE: en un MacBook M3 Pro saca un 5 sobre 10
- 18 nov 2026Tencent Hy4 flash obtiene 2,79 sobre 4 frente a 2,81 de Haiku 5.5 y cuesta 18 veces menos por tarea
- 18 nov 2026Un agente de IA dejó al SOC 27 minutos para reaccionar, frente a los 53 con un atacante junior
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre Un deslizador en lugar de una tarjeta gráfica?
El hardware de la prueba es este: procesador Intel Core Ultra 9 185H (16 núcleos, hasta 5,1 GHz), gráfica integrada Arc con 8 núcleos Xe y 32 GB de DDR5-5600 en doble canal. El límite de «memoria de vídeo virtual» se cambia en el programa Intel Graphics Software, en «Configuración — Sistema — Shared GPU Memory Override». El autor fijó 26 GB, es decir, más del 80% de la memoria, y reinició el equipo. Para que Ollama utilice la gráfica integrada hacen falta las variables OLLAMA_VULKAN=1 y OLLAMA_IGPU_ENABLE=1.
¿Qué se sabe sobre Qué mostraron las mediciones?
El autor comparó cuatro modelos MoE: Gemma 4 26B-A4B, Tiel-Coder 35B-A3B (una adaptación de terceros para programación basada en la arquitectura Qwen 3.5 MoE), GPT-OSS 20B y Qwen3-Coder 30B-A3B. Un modelo MoE tiene muchos «expertos», pero para cada token se activa solo una pequeña parte: en Gemma, unos 4 mil millones de parámetros de 25,2 mil millones. Necesita tanta memoria como un modelo grande, pero calcula casi como uno pequeño.
¿Qué se sabe sobre Las plantillas lo deciden todo?
Sin plantillas de ejemplo (por ejemplo, el código de un engranaje de 30 dientes para una tarea sobre un engranaje de 24 dientes), ningún modelo resolvió las tareas, y el autor no tuvo en cuenta ese modo en los resultados finales. Con plantilla, los cuatro modelos hicieron correctamente las tres piezas y a la primera. En ese caso, lo que marca la diferencia es la brevedad con la que escribe el modelo, no su «inteligencia».
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.