Como o Yandex faz o profiling de memória de milhões de alto-falantes com a Alisa: a luta pelos 256 MB

A equipe do Yandex que escreve código aplicativo em C/C++ para dispositivos inteligentes com a Alisa contou, em julho de 2026, como construiu uma ferramenta de profiling de memória por amostragem e passou a coletar diariamente dumps de memória de milhões de alto-falantes em produção. O motivo da batalha é simples: os modelos de entrada têm apenas 256 MB de RAM para o dispositivo inteiro.

Por que a memória é o principal gargalo

Os alto-falantes inteligentes de entrada com a Alisa têm só 256 MB de RAM para o dispositivo inteiro, e esse volume precisa ser dividido ao mesmo tempo entre lógica de negócio, processamento de áudio e redes neurais locais. Segundo a equipe do Yandex, cada megabyte é disputado entre os componentes: o que um módulo ocupa a mais deixa de estar disponível para o outro.

Ao contrário dos servidores, onde é possível comprar mais memória, o alto-falante inteligente é um hardware fixo e barato. O desenvolvedor não pode "simplesmente adicionar mais um gigabyte": a capacidade está embutida no aparelho, que já está na casa do usuário. Por isso, a pergunta "para onde vão os megabytes" não é abstrata: ela define quais funções cabem no dispositivo.

• 256 MB de RAM nos modelos de entrada dos alto-falantes, para o dispositivo inteiro
• Dumps de memória coletados diariamente de milhões de alto-falantes
• O código aplicativo dos dispositivos é escrito em C/C++
• Uma única plataforma atende não só alto-falantes, mas também TVs e carros com a Alisa
• A frota de dispositivos roda Linux

Por que fazer profiling de memória em produção?

O Yandex precisa do profiling em produção para ver o consumo real de memória nos dispositivos dos usuários, e não um retrato médio obtido em bancada de testes. O cenário de laboratório raramente reproduz como o alto-falante se comporta por dias e semanas seguidos numa casa de verdade, com pedidos reais à Alisa.

A chave para a escala está na palavra "amostragem". Um dump completo e o rastreamento detalhado de cada alocação de memória, num hardware fraco com 256 MB, consumiriam parte dos mesmos recursos que se tenta medir. A abordagem por amostragem coleta dados de forma seletiva e com baixo overhead, por isso pode ficar ligada em milhões de dispositivos ao mesmo tempo, sem atrapalhar o funcionamento do alto-falante.

Milhões de fontes geram uma estatística impossível de obter em uma única bancada: a equipe enxerga não um caso isolado, mas a distribuição — quais componentes consomem memória de forma consistente em toda a frota e quais vazam apenas em cenários raros.

"Cada megabyte é disputado entre várias equipes e componentes: lógica de negócio, processamento de áudio, redes neurais locais", disse

Sergei, desenvolvedor da equipe de dispositivos inteligentes do Yandex, no blog da empresa no Habr.

O que isso significa

À medida que redes neurais locais migram para os dispositivos, a memória se torna um recurso tão crítico quanto antes era o poder de processamento. O caso do Yandex mostra que, para encaixar um assistente de voz e modelos on-device em 256 MB, não basta escrever código cuidadoso: é preciso uma ferramenta que meça de forma contínua o consumo real em toda a frota de dispositivos em produção.