Comment Yandex profile la mémoire de millions d'enceintes Alice : la bataille des 256 Mo

L'équipe de Yandex chargée du code applicatif C/C++ des appareils connectés avec Alice a expliqué en juillet 2026 comment elle a construit un outil de profilage mémoire par échantillonnage et collecte chaque jour des dumps mémoire sur des millions d'enceintes en production. La raison de ce combat est simple : les modèles d'entrée de gamme ne disposent que de 256 Mo de mémoire vive pour l'ensemble de l'appareil.

Pourquoi la mémoire est la principale ressource rare

Sur les enceintes Alice d'entrée de gamme, il n'y a que 256 Mo de mémoire vive pour tout l'appareil, et cet espace doit être partagé simultanément entre la logique métier, le traitement audio et les réseaux de neurones locaux. Selon l'équipe de Yandex, chaque mégaoctet fait l'objet d'une véritable concurrence entre les composants : ce qu'un module occupe en trop n'est plus disponible pour un autre.

Contrairement aux serveurs, où l'on peut ajouter de la mémoire, une enceinte connectée est un matériel fixe et bon marché. Le développeur ne peut pas « simplement ajouter un gigaoctet » : la capacité est figée dans un appareil qui se trouve déjà chez l'utilisateur. La question « où partent les mégaoctets ? » n'a donc rien d'abstrait : elle détermine quelles fonctions peuvent tenir dans l'appareil.

• 256 Mo de mémoire vive sur les modèles d'entrée de gamme, pour l'ensemble de l'appareil
• Des dumps mémoire collectés chaque jour sur des millions d'enceintes
• Le code applicatif des appareils est écrit en C/C++
• Une même plateforme équipe non seulement les enceintes, mais aussi les téléviseurs et les voitures avec Alice
• Le parc d'appareils fonctionne sous Linux

Pourquoi profiler la mémoire en production ?

Yandex a besoin de profiler en production pour observer la consommation mémoire réelle sur les appareils des utilisateurs, et non une image moyenne issue d'un banc de test. Un scénario de laboratoire reproduit rarement le comportement d'une enceinte pendant des jours et des semaines d'affilée dans un vrai logement, avec de vraies requêtes adressées à Alice.

La clé du passage à l'échelle tient au mot « échantillonnage ». Un dump complet et un traçage détaillé de chaque allocation mémoire sur un matériel limité à 256 Mo consommeraient une partie des ressources mêmes que l'on cherche à mesurer. L'approche par échantillonnage prélève les données de façon sélective et avec un faible surcoût ; on peut donc la laisser activée sur des millions d'appareils simultanément, sans gêner le fonctionnement de l'enceinte.

Des millions de sources fournissent des statistiques impossibles à obtenir sur un seul banc de test : l'équipe ne voit pas un cas isolé, mais une distribution — quels composants consomment systématiquement de la mémoire sur l'ensemble du parc, et lesquels ne fuient que dans de rares scénarios.

«

Chaque mégaoctet fait l'objet d'une vraie bataille entre de nombreuses équipes et de nombreux composants : la logique métier, le traitement audio, les réseaux de neurones locaux », — Sergueï, développeur de l'équipe des appareils connectés de Yandex, sur le blog de l'entreprise sur Habr.

Ce que cela signifie

À mesure que les réseaux de neurones locaux migrent vers les appareils, la mémoire devient une ressource aussi critique que l'était auparavant la puissance de calcul. Le cas de Yandex montre que, pour faire tenir un assistant vocal et des modèles on-device dans 256 Mo, il ne suffit pas d'écrire du code soigné : il faut un outil qui mesure en permanence la consommation réelle sur l'ensemble du parc d'appareils en production.