El asistente de voz BARY pasa a un controlador con 4 GB y se entrena en 47 minutos
El autor del asistente doméstico BARY lo ha trasladado en un año de una Orange Pi a un controlador Wiren Board 8 con 4 GB de memoria, que ya gestiona su casa. Al principio, el entrenamiento del modelo bloqueaba el controlador. La memoria no la consumía la red neuronal, sino dos procesos adicionales de carga de datos. Tras las correcciones, el ciclo completo tardó unos 47 minutos y el pico de memoria fue de 1,47 GB. La conclusión práctica: antes de comprar hardware más potente, mida adónde va la memoria.
Procesado por IA desde Habr AI; editado por Hamidun News
El autor del proyecto BARY montó hace un año un asistente de voz local para casa inteligente que funciona sin nube, y ahora cuenta qué ha cambiado tras la migración. Lo esencial: todo el asistente (reconocimiento de voz, búsqueda de comandos y síntesis de voz) vive ahora en un controlador Wiren Board 8 con 4 GB de memoria, y allí mismo se reentrena en 47 minutos. Al principio, ese entrenamiento simplemente bloqueaba el controlador, y el problema no era el hardware limitado.
La memoria la consumían procesos superfluos alrededor del modelo. Si ejecuta IA en un dispositivo de pocos recursos, esto le será útil: en lugar de comprar una placa más cara, conviene medir primero qué ocupa realmente la memoria.
La casa entiende desde dónde se la llama
La frase «Бари, включи свет» («Bari, enciende la luz») está incompleta: ¿qué luz y en qué habitación? Por eso cada micrófono tiene ahora asignada una estancia. Si lo dice en la cocina, se enciende la luz de la cocina; no hace falta pronunciar el nombre completo del dispositivo. En la casa del autor hay 49 dispositivos en 18 estancias, así que esto simplifica notablemente lo que hay que decir.
El mejor micrófono resultó ser el Seeed ReSpeaker USB Mic Array v2.0, que le recomendaron en los comentarios del primer artículo. Puede conectarse al controlador por USB o instalarse en una habitación lejana junto con una Raspberry Pi 3B+. Ese punto reconoce el habla por sí mismo mediante VOSK y envía al controlador el texto, las variantes de reconocimiento con su nivel de confianza y el evento de wake word. Como refuerzo, también puede enviar una grabación WAV, que GigaAM procesa en 240–370 ms. Puede haber hasta cuatro puntos, aunque en las pruebas por ahora funciona uno.
Para la palabra «Бари» se creó un modelo propio con OpenWakeWord. Solo se entrena el clasificador; la red neuronal que genera los vectores es una ya preparada. Hacen falta unos cien fragmentos etiquetados, además de ruidos del conjunto de la biblioteca. El autor cazaba los falsos positivos con la televisión: todo lo que provocaba una reacción del modelo pasaba a una lista de ignorados. El punto débil: los datos contienen casi solo la voz del autor, y el modelo no se activa con la de su esposa ni con la de su hijo.
El propio modelo de comandos también ha cambiado. Antes, cada combinación de acción, dispositivo, estancia y parámetros era una frase distinta, de ahí las 16 mil órdenes. Ahora el modelo tiene varias salidas: acción, dispositivo, estancia, valor y retardo.
La frase «Выключи свет в кабинете через пять минут» («Apaga la luz del despacho dentro de cinco minutos») se convierte en una estructura ya preparada con los campos action, device, room y delay. El modelo tiene unos 6 millones de parámetros (antes, unos 5 millones) y un vocabulario de 603 tokens. Los dispositivos nuevos se incorporan desde BARY junto con su estancia y sus capacidades, y sinónimos como «телек» («tele») se añaden sin reentrenar: basta con recalcular el índice, y el recálculo completo tarda 9,4 segundos.
Entrenar en el controlador: la memoria no la consumía PyTorch
El controlador es un Wiren Board 8.5.1 con Allwinner T507 y 4 GB de memoria. En una de las mediciones, el servidor de BARY ocupaba 275 MB, el plugin del asistente 182 MB, el servicio de ML 377 MB, VOSK 233 MB y Piper 283 MB. En total, unos 1,35 GB, aunque la simple suma de RSS ofrece solo una estimación aproximada.
El primer intento de entrenar el modelo en el controlador terminó en swap y bloqueo. Las mediciones mostraron que el DataLoader de PyTorch lanzaba dos procesos de trabajo, cada uno con su propia copia de los datos y de las bibliotecas, mientras que en paralelo el asistente podía estar recalculando el índice de comandos. Esto es lo que se corrigió:
- en controladores con menos de 6 GB de memoria, los datos los carga un solo proceso (num_workers=0);
- el entrenamiento y el recálculo del índice ya no se ejecutan a la vez;
- el monitor de memoria cuenta no solo el proceso principal, sino también los hijos;
- si MemAvailable se mantiene por debajo de 128 MB durante tres comprobaciones seguidas (una cada cinco segundos), el entrenamiento se detiene y guarda el resultado intermedio;
- el modelo antiguo sigue funcionando hasta que el nuevo termina de entrenarse y supera la validación.
El modelo, el dataset y el tamaño del batch no cambiaron. Un ciclo de 20 épocas con 64 ejemplos tardó unos 47 minutos; el proceso de entrenamiento usó como máximo 1,47 GB y la memoria libre no bajó nunca de 799 MB. Terminado el entrenamiento, el nuevo modelo se cargó solo y construyó el índice de comandos en 9 segundos. Una salvedad: el último lanzamiento usó apenas 343 ejemplos de entrenamiento y 35 de validación, el mejor modelo apareció en la tercera época y todavía no existe un umbral de precisión sobre una muestra independiente.
El LLM por un lado, la luz por otro
El controlador gestiona por sí mismo la luz, la climatización y las cortinas, sin LLM. La frase se interpreta en 30–70 ms y la respuesta a un comando corto llega en torno a 600 ms, de los cuales 500 son una espera deliberada del asistente hasta que la frase termina. El autor no quiere colocar un modelo generativo entre el «enciende la luz» y el relé: la red neuronal solo interpreta la frase y entrega a BARY un comando ya formado, y el interruptor de la pared funciona incluso sin el asistente.
El LLM solo hace falta para la conversación libre («Бари, давай поговорить», es decir, «Bari, vamos a hablar») y para interpretar frases no reconocidas. Se ejecuta con Ollama en un portátil ASUS TUF Dash F15 con una RTX 3070 Laptop de 8 GB, y el modelo es qwen3:8b. La respuesta se genera en unos 12 segundos.
Si se apaga el portátil, solo desaparece la conversación; la luz y la calefacción siguen funcionando. Ante preguntas sobre el propio BARY, el asistente busca primero la respuesta en la documentación integrada y se la pasa al modelo, para que lea el texto actual en lugar de recordarlo de memoria. La síntesis de las respuestas la delegó el autor en un altavoz inteligente: Piper suena mal y Silero suena mejor, pero tampoco le convence.
Además de los dispositivos, el asistente sabe gestionar la música, la lista de la compra y las descargas de películas y series. La lección práctica para quienes desarrollan sistemas locales es sencilla: mantenga las acciones críticas fuera del modelo generativo y, antes de cambiar de hardware, mida en qué gasta sus recursos.
- 12 oct 2026CLEAT enseña a agentes con Qwen3-4B a preguntar a tiempo: hasta +13,2 p. p.
- 23 oct 2026HoloBoxing enseña a un humanoide a boxear en 7 minutos con una sola GPU
- 2 jun 2026Gemini en Android Auto: cómo el asistente de voz cambió mis trayectos
- 2 may 2026Yandex Cloud explica cómo implantar agentes de IA en ciberseguridad sin bloqueos falsos ni caídas
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre La casa entiende desde dónde se la llama?
La frase «Бари, включи свет» («Bari, enciende la luz») está incompleta: ¿qué luz y en qué habitación? Por eso cada micrófono tiene ahora asignada una estancia. Si lo dice en la cocina, se enciende la luz de la cocina; no hace falta pronunciar el nombre completo del dispositivo. En la casa del autor hay 49 dispositivos en 18 estancias, así que esto simplifica notablemente lo que hay que decir.
¿Qué se sabe sobre Entrenar en el controlador: la memoria no la consumía PyTorch?
El controlador es un Wiren Board 8.5.1 con Allwinner T507 y 4 GB de memoria. En una de las mediciones, el servidor de BARY ocupaba 275 MB, el plugin del asistente 182 MB, el servicio de ML 377 MB, VOSK 233 MB y Piper 283 MB. En total, unos 1,35 GB, aunque la simple suma de RSS ofrece solo una estimación aproximada. El primer intento de entrenar el modelo en el controlador terminó en swap y bloqueo.
¿Qué se sabe sobre El LLM por un lado, la luz por otro?
El controlador gestiona por sí mismo la luz, la climatización y las cortinas, sin LLM. La frase se interpreta en 30–70 ms y la respuesta a un comando corto llega en torno a 600 ms, de los cuales 500 son una espera deliberada del asistente hasta que la frase termina. El autor no quiere colocar un modelo generativo entre el «enciende la luz» y el relé: la red neuronal solo interpreta la frase y entrega a BARY un comando ya formado, y el interruptor de la pared funciona incluso sin el asistente.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.