Assistente de voz BARY migra para controlador com 4 GB e treina em 47 minutos
O autor do assistente doméstico BARY levou, ao longo de um ano, o projeto de um Orange Pi para um controlador Wiren Board 8 com 4 GB de memória, que já controla a casa. No início, o treinamento do modelo travava o controlador. O problema não era a rede neural em si: dois processos adicionais de carregamento de dados consumiam a memória. Depois dos ajustes, o ciclo completo levou cerca de 47 minutos, com pico de memória de 1,47 GB. A lição prática: antes de comprar um hardware mais potente, meça para onde a memória está indo.
Processado por IA de Habr AI; editado por Hamidun News
O autor do projeto BARY montou, há um ano, um assistente de voz local para casa inteligente que funciona sem nuvem, e agora contou o que mudou depois da migração. O ponto principal: todo o assistente (reconhecimento de fala, busca do comando e síntese de voz) agora roda no controlador Wiren Board 8 com 4 GB de memória, e o ajuste fino do modelo também acontece ali, em 47 minutos. No começo, esse treinamento simplesmente travava o controlador, e a causa não era o hardware fraco.
A memória era consumida por processos extras ao redor do modelo. Se você roda IA em um dispositivo de pouca potência, a dica vale: em vez de comprar uma placa mais cara, meça primeiro o que está ocupando a memória.
A casa entende de onde veio a chamada
A frase «Бари, включи свет» («Bari, acenda a luz») está incompleta: qual luz, em qual cômodo? Por isso, cada microfone agora tem um cômodo associado. Se você falar na cozinha, acende a luz da cozinha, sem precisar dizer o nome completo do dispositivo. Na casa do autor há 49 dispositivos em 18 cômodos, então isso simplifica bastante a fala.
O melhor microfone foi o Seeed ReSpeaker USB Mic Array v2.0, recomendado nos comentários do primeiro artigo. Ele pode ser conectado ao controlador por USB ou instalado em um cômodo mais distante, junto com um Raspberry Pi 3B+. Esse ponto remoto reconhece a fala por conta própria, via VOSK, e envia ao controlador o texto, as variantes de reconhecimento com nível de confiança e o evento de wake word. Por precaução, ele também pode enviar uma gravação em WAV, que o GigaAM processa em 240–370 ms. O sistema comporta até quatro pontos; por enquanto, os testes usam apenas um.
Para a palavra «Бари» foi criado um modelo próprio no OpenWakeWord. Só o classificador é treinado; a rede neural que gera os vetores já vem pronta. São necessários cerca de cem trechos anotados, além dos ruídos do conjunto da biblioteca. Para caçar falsos positivos, o autor usou a TV: tudo a que o modelo reagia ia para a lista de ignorados. O ponto fraco: os dados contêm quase só a voz do autor, e o modelo não responde à esposa nem ao filho.
O modelo de comandos também mudou. Antes, cada combinação de ação, dispositivo, cômodo e parâmetros era uma frase separada, o que resultava em 16 mil comandos. Agora o modelo tem várias saídas: ação, dispositivo, cômodo, valor e atraso.
A frase «Выключи свет в кабинете через пять минут» («Apague a luz do escritório em cinco minutos») vira uma estrutura pronta, com os campos action, device, room e delay. O modelo tem cerca de 6 milhões de parâmetros (antes, cerca de 5 milhões) e um vocabulário de 603 tokens. Os novos dispositivos são importados do BARY junto com o cômodo e os recursos, e sinônimos como «телек» («tevê») entram sem retreinamento: basta recalcular o índice, e o recálculo completo leva 9,4 segundos.
Treinamento no controlador: quem consumia a memória não era o PyTorch
O controlador é um Wiren Board 8.5.1 com Allwinner T507 e 4 GB de memória. Em uma das medições, o servidor do BARY ocupava 275 MB, o plugin do assistente, 182 MB, o serviço de ML, 377 MB, o VOSK, 233 MB e o Piper, 283 MB. No total, cerca de 1,35 GB, embora a simples soma do RSS dê apenas uma estimativa grosseira.
A primeira tentativa de treinar o modelo no controlador terminou em uso de swap e travamento. As medições mostraram que o DataLoader do PyTorch iniciava dois processos de trabalho, cada um com sua própria cópia dos dados e das bibliotecas, e que, em paralelo, o assistente podia recalcular o índice de comandos. O que foi corrigido:
- em controladores com menos de 6 GB de memória, os dados são carregados por um único processo (num_workers=0);
- o treinamento e o recálculo do índice deixaram de rodar ao mesmo tempo;
- o monitor de memória passou a contabilizar não só o processo principal, mas também os processos filhos;
- se o MemAvailable ficar abaixo de 128 MB em três verificações seguidas (uma a cada cinco segundos), o treinamento para e salva o resultado intermediário;
- o modelo antigo continua em operação até que o novo seja treinado e passe na validação.
O modelo, o dataset e o tamanho do batch não mudaram. O ciclo de 20 épocas com 64 exemplos levou cerca de 47 minutos, o treinador usou no máximo 1,47 GB e a memória livre nunca ficou abaixo de 799 MB. Depois do treinamento, o novo modelo foi carregado sozinho e construiu o índice de comandos em 9 segundos. Ressalva: a última execução usou apenas 343 exemplos de treino e 35 de validação, o melhor modelo surgiu na terceira época e ainda não há um limiar de acurácia em uma amostra independente.
O LLM de um lado, a luz do outro
Luz, climatização e cortinas são controladas pelo próprio controlador, sem LLM. A frase é interpretada em 30–70 ms, e a resposta a um comando curto chega em cerca de 600 ms, dos quais 500 ms são uma espera deliberada do assistente para que a pessoa termine de falar. O autor não quer colocar um modelo generativo entre o «включи свет» e o relé: a rede neural apenas interpreta a frase e entrega ao BARY um comando pronto, e o interruptor na parede funciona mesmo sem o assistente.
O LLM só é necessário para conversa livre («Бари, давай поговорить», ou «Bari, vamos conversar») e para analisar frases não reconhecidas. Ele roda via Ollama em um notebook ASUS TUF Dash F15 com RTX 3070 Laptop de 8 GB, e o modelo é o qwen3:8b. A resposta leva cerca de 12 segundos para ser gerada.
Se o notebook for desligado, só a conversa deixa de funcionar; a luz e o aquecimento continuam operando. Nas perguntas sobre o próprio BARY, o assistente primeiro encontra a resposta na documentação embutida e a passa ao modelo, para que ele leia o texto atualizado em vez de lembrar de memória. A síntese de voz das respostas ficou a cargo de uma caixa de som inteligente: o Piper soa mal; o Silero é melhor, mas também não agrada.
Além dos dispositivos, o assistente sabe controlar música, lista de compras e downloads de filmes e séries. A lição prática para quem desenvolve sistemas locais é simples: mantenha as ações críticas fora do modelo generativo e, antes de trocar o hardware, meça onde ele gasta seus recursos.
- 12 de out. de 2026CLEAT ensina agentes com Qwen3-4B a fazer perguntas na hora certa: até +13,2 p.p.
- 23 de out. de 2026HoloBoxing ensina um humanoide a lutar boxe em 7 minutos em uma única GPU
- 2 de jun. de 2026Gemini no Android Auto: como o assistente de voz mudou minhas viagens
- 2 de mai. de 2026Yandex Cloud explica como implantar agentes de IA em segurança da informação sem bloqueios falsos e falhas
Perguntas frequentes sobre a notícia
O que se sabe sobre A casa entende de onde veio a chamada?
A frase «Бари, включи свет» («Bari, acenda a luz») está incompleta: qual luz, em qual cômodo? Por isso, cada microfone agora tem um cômodo associado. Se você falar na cozinha, acende a luz da cozinha, sem precisar dizer o nome completo do dispositivo. Na casa do autor há 49 dispositivos em 18 cômodos, então isso simplifica bastante a fala. O melhor microfone foi o Seeed ReSpeaker USB Mic Array v2.0, recomendado nos comentários do primeiro artigo.
O que se sabe sobre Treinamento no controlador: quem consumia a memória não era o PyTorch?
O controlador é um Wiren Board 8.5.1 com Allwinner T507 e 4 GB de memória. Em uma das medições, o servidor do BARY ocupava 275 MB, o plugin do assistente, 182 MB, o serviço de ML, 377 MB, o VOSK, 233 MB e o Piper, 283 MB. No total, cerca de 1,35 GB, embora a simples soma do RSS dê apenas uma estimativa grosseira. A primeira tentativa de treinar o modelo no controlador terminou em uso de swap e travamento.
O que se sabe sobre O LLM de um lado, a luz do outro?
Luz, climatização e cortinas são controladas pelo próprio controlador, sem LLM. A frase é interpretada em 30–70 ms, e a resposta a um comando curto chega em cerca de 600 ms, dos quais 500 ms são uma espera deliberada do assistente para que a pessoa termine de falar. O autor não quer colocar um modelo generativo entre o «включи свет» e o relé: a rede neural apenas interpreta a frase e entrega ao BARY um comando pronto, e o interruptor na parede funciona mesmo sem o assistente.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.