Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAPI / Producto · Listo para usarHabr AI→ original

Mac mini de 16 GB en lugar de una API de pago: Qwen analiza fotos de comida en 20–40 segundos

El propietario de una aplicación de vida saludable dejó de pagar por una API en la nube: una presentación o un PDF procesado con Claude y ChatGPT llegaba a costar hasta 3 $ por archivo, así que ejecutó los modelos en un Mac mini de oficina con 16 GB de memoria. Qwen reconoce fotos de comida en 20–40 segundos, y el modelo de 14.000 millones de parámetros genera unos 11 tokens por segundo. Para tareas de fondo repetitivas es suficiente, pero no merece la pena comprar un Mac solo para ahorrar en esto.

Procesado por IA desde Habr AI; editado por Hamidun News
Mac mini de 16 GB en lugar de una API de pago: Qwen analiza fotos de comida en 20–40 segundos
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dato clave #1El modelo de 32.000 millones de parámetros necesita unos 20 GB y no cabe en 16 GB.
Dato clave #2Una RTX 3060 de segunda mano ejecuta el mismo modelo de 14B aproximadamente el doble de rápido (según pruebas de terceros).
Dato clave #3En unos pocos días, 277 intentos de acceso llamaron a la puerta de la pasarela sin clave, y todos fueron rechazados.

Cada solicitud a Claude o ChatGPT a través de la API (acceso de pago a la red neuronal desde código) cuesta dinero: una presentación o un PDF puede costar hasta 3 dólares por archivo, y diez solicitudes, alrededor de un dólar. El propietario de una pequeña empresa y de una aplicación de vida saludable decidió no pagar y ejecutar las redes neuronales por su cuenta: tomó un Mac mini de oficina sin uso, con 16 GB de memoria RAM, instaló Ollama (un programa para ejecutar modelos en tu propio ordenador) y el modelo abierto Qwen. Ahora Qwen analiza una fotografía de comida en 20–40 segundos, y el modelo de 14.

000 millones de parámetros genera unos 11 tokens (aproximadamente sílabas) por segundo. Es gratis, pero con matices, que se detallan a continuación.

Por qué usar un modelo local

El cálculo es sencillo. Para un trabajo puntual, 3 dólares por archivo es calderilla, pero para un servicio con un flujo constante de solicitudes, eso ya es una partida presupuestaria. Un modelo local elimina el pago por solicitud: la clave de acceso la generas tú mismo, y los datos no salen hacia servidores de terceros.

La tarea principal en funcionamiento ahora es el reconocimiento de fotografías de comida para la aplicación. Para ello se usa el modelo de visión (que entiende imágenes) Qwen: la calidad es aceptable y el coste, nulo. Entre 20 y 40 segundos por imagen es razonable para un escenario en segundo plano, donde el usuario no necesita una respuesta inmediata. Para un chat en tiempo real, ya no lo es.

Qué aporta realmente el Mac mini

Una tarjeta gráfica dedicada tiene su propia memoria: la RTX, por ejemplo, tiene 12 GB, y el modelo debe caber en ella. En un Mac con procesador ARM, la memoria es compartida y casi toda la RAM está disponible para el modelo. En la versión de 16 GB, la parte gráfica dispone de unos 10,7 GB, y el resto lo ocupa el sistema. Es incluso menos que en la RTX.

De ahí salen las cifras prácticas. El modelo de 14.000 millones de parámetros ocupa unos 9 GB y cabe por completo. El de 32.000 millones necesita unos 20 GB y no cabe. El autor saca una conclusión honesta: la ventaja de la memoria compartida con 16 GB apenas se aprovecha; empieza a notarse con configuraciones de 32 GB en adelante.

La velocidad es modesta: unos 11 tokens por segundo con el modelo de 14B. Según pruebas de terceros, una RTX 3060 de segunda mano es aproximadamente el doble de rápida con ese mismo modelo. Las ventajas del Mac están en otro lado. Ollama se instala con un solo comando y usa la parte gráfica por su cuenta, sin necesidad de drivers. El equipo es pequeño y silencioso: unos 4 W en reposo y hasta 65 W bajo carga. Puede usarse también como servidor doméstico de datos. Además, el autor consiguió la máquina casi gratis: una nueva costaría alrededor de 60.000–70.000 rublos.

Un agente en lugar de administrador y los tropiezos del camino

La configuración la delegó en Claude Code: el agente instaló los modelos, configuró el acceso y escribió instrucciones para que los modelos ligeros devolvieran el formato necesario. La conexión está bien diseñada: el acceso por SSH solo es posible con clave, las contraseñas están desactivadas y el Mac no tiene IP pública ni puertos abiertos. Los desarrolladores y la aplicación se conectan a través de un túnel hasta el servidor del autor.

Esa protección resultó útil. Claude Code recopiló estadísticas: en la pasarela para programadores, durante unos días, 277 intentos de acceso llegaron sin clave. El autor los atribuye a escáneres que localizan cualquier dirección nueva. Todos recibieron un rechazo.

También hubo problemas:

  • El modelo llama3.2-vision dejó de reconocer platos. En la nueva versión de Ollama no funciona, así que lo sustituyeron por Qwen.
  • Falló el DNS: había conexión a internet, pero ningún sitio web se abría. Claude encontró la causa y la explicó.
  • Tras un corte de luz, el disco cifrado pidió contraseña al arrancar. Durante varios días, mientras el autor no estuvo en la oficina, no hubo acceso a la máquina.

Otros modelos, como DeepSeek, por ahora están parados. El equipo probó el Mac en el configurador de hardware para servidores, pero el proyecto aún está en desarrollo y el programador es uno solo.

Conclusión para el práctico

Un servidor local compensa cuando hay muchas solicitudes del mismo tipo que no requieren la máxima calidad: reconocimiento de imágenes, documentos con plantillas, procesamiento en segundo plano. Si no hay tareas de API de gran volumen, no tiene sentido comprar un Mac mini solo para eso. Si ya tienes un ordenador con tarjeta gráfica, es más barato conseguir una RTX de segunda mano y ejecutar Ollama en él. Si eliges un Mac pensando en modelos grandes, opta por una configuración de 32 GB o más: con 16 GB, el techo son modelos como el 14B.

Antes de ponerlo en marcha, comprueba tres cosas: que los modelos sigan funcionando tras actualizar Ollama, cómo acceder a la máquina después de un corte de luz (disco cifrado) y que no haya acceso externo aparte del inicio de sesión con clave. Es ingeniería aburrida, pero es lo que decide si el ahorro será real.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Por qué usar un modelo local?

El cálculo es sencillo. Para un trabajo puntual, 3 dólares por archivo es calderilla, pero para un servicio con un flujo constante de solicitudes, eso ya es una partida presupuestaria. Un modelo local elimina el pago por solicitud: la clave de acceso la generas tú mismo, y los datos no salen hacia servidores de terceros. La tarea principal en funcionamiento ahora es el reconocimiento de fotografías de comida para la aplicación.

¿Qué se sabe sobre Qué aporta realmente el Mac mini?

Una tarjeta gráfica dedicada tiene su propia memoria: la RTX, por ejemplo, tiene 12 GB, y el modelo debe caber en ella. En un Mac con procesador ARM, la memoria es compartida y casi toda la RAM está disponible para el modelo. En la versión de 16 GB, la parte gráfica dispone de unos 10,7 GB, y el resto lo ocupa el sistema. Es incluso menos que en la RTX. De ahí salen las cifras prácticas. El modelo de 14.000 millones de parámetros ocupa unos 9 GB y cabe por completo.

¿Qué se sabe sobre Un agente en lugar de administrador y los tropiezos del camino?

La configuración la delegó en Claude Code: el agente instaló los modelos, configuró el acceso y escribió instrucciones para que los modelos ligeros devolvieran el formato necesario. La conexión está bien diseñada: el acceso por SSH solo es posible con clave, las contraseñas están desactivadas y el Mac no tiene IP pública ni puertos abiertos. Los desarrolladores y la aplicación se conectan a través de un túnel hasta el servidor del autor. Esa protección resultó útil.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…