Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarHabr AI→ original

Wavo en Rust transcrit une heure d'audio en 18 secondes, soit 200 fois plus vite que le temps réel

L'auteur n'a pas trouvé d'application native de dictée et a écrit, avec des agents IA, le moteur de reconnaissance vocale wavo en Rust. Sur un MacBook Pro équipé de la puce M5, il exploite le Neural Engine d'Apple et transcrit une heure d'enregistrement en environ 18 secondes : 200× plus vite que le temps réel, contre 107× pour transcribe.cpp sur carte graphique. Les shaders sont écrits une seule fois avec wgpu, sans C++ ni code propre à chaque carte graphique. Conclusion : les agents savent déjà écrire des shaders, mais la vitesse doit être mesurée sur chaque matériel.

Traité par IA depuis Habr AI ; édité par Hamidun News
Wavo en Rust transcrit une heure d'audio en 18 secondes, soit 200 fois plus vite que le temps réel
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Propre FFT176 lignes au lieu de 55 000 dans rustfft, recompilation de 11,9 s à 2,1 s
Whisper turbo sur RTX 4060enregistrement court en 201 ms contre 226 ms pour transcribe.cpp
GigaAM v3 en russe330× le temps réel contre 262× pour transcribe.cpp

Que signifie « 200 fois plus vite que le temps réel » ? Une heure d'enregistrement est transcrite en environ 18 secondes (3600 secondes divisées par 200). Ce résultat a été obtenu par un développeur qui voulait simplement une application pratique de dictée et qui, avec l'aide d'agents IA, a fini par écrire en Rust son propre moteur de reconnaissance vocale, wavo. Il fonctionne sur un MacBook Pro équipé de la puce M5 et devance les solutions toutes faites les plus populaires. L'histoire intéresse tous ceux qui développent des outils IA en local : elle montre où les agents apportent vraiment une aide, et où un test sur matériel réel reste indispensable.

Le point de départ

L'auteur est passé à un MacBook Air M5 et en a profité pour remplacer des logiciels lourds par des équivalents natifs : VS Code par Zed, Chrome par Helium. Pour la dictée, qu'il utilisait avec ses agents, il employait Handy, mais celle-ci est écrite avec Tauri, et il voulait une application native. L'agent n'a trouvé aucune alternative convenable, et le développeur s'est donc lancé dans l'écriture de la sienne. En parallèle, il a comparé plusieurs options d'interface (GPUI Kit, egui, contrôles système) et a fini par écrire sa propre bibliothèque d'interface : le rendu occupe environ 3 000 lignes de Rust, les composants de base environ 6 000 autres.

La partie principale du projet est le moteur de reconnaissance vocale. transcribe.cpp, la solution existante, se liait pendant environ une minute à chaque recompilation, et dans un projet Rust il amenait du C++. À l'intérieur se trouve la bibliothèque ggml, qui contient un code distinct pour chaque carte graphique (Metal, Vulkan, CUDA) ainsi que ses propres outils de compilation. L'alternative est wgpu : les shaders sont écrits une seule fois en WGSL, fonctionnent sur n'importe quelle carte graphique et se compilent avec un simple cargo build. L'auteur a testé GigaAM v3 avec ce système : l'agent a facilement écrit les shaders, et le résultat est comparable à l'original.

Un point important concerne le format GGUF : il ne contient que les poids et les métadonnées (nom de l'architecture, dimensions des couches, vocabulaire). Le fichier ne décrit pas les calculs, contrairement à TensorFlow ou Core ML, qui décrivent un graphe d'opérations. Il faut donc écrire les calculs séparément pour chaque famille de modèles : GigaAM, Parakeet, Whisper. L'auteur a dû comprendre le fonctionnement : le son est découpé en morceaux, transformé en spectrogramme par transformée de Fourier rapide (quelles fréquences sont présentes à chaque instant), l'encodeur le convertit en vecteurs, puis le décodeur (CTC, RNN-T ou TDT) en tire le texte.

La première version de la prise en charge de Parakeet v2 a été écrite en une nuit par Codex, mais le code était sale. L'auteur l'a jeté et l'a réécrit avec Claude Code. Parakeet v3 et Whisper, utilisé comme référence pour les comparaisons, sont venus ensuite.

Où trouver des gains de vitesse

Avant la publication, l'auteur s'est intéressé à la vitesse de compilation. La crate rustfft ralentissait la recompilation, et lorsque wavo est intégré comme bibliothèque, chaque utilisateur subirait ce délai. Il a écrit sa propre FFT pour un seul cas d'usage : 176 lignes de code contre 55 000 dans rustfft, et la recompilation est passée de 11,9 à 2,1 secondes. L'auteur fait l'éloge de rustfft : celle-ci est conçue pour tous les cas, alors qu'il n'en avait besoin que d'un.

Les tests sur différents matériels ont révélé un problème sous Windows avec une carte NVIDIA. La cause était le flash attention. L'attention classique écrit dans la mémoire de la carte graphique la table des comparaisons entre tous les vecteurs d'un extrait audio, puis la relit.

Le flash attention effectue les mêmes calculs par petits blocs, dans la mémoire rapide proche des cœurs, sans jamais stocker la table complète. Sur Mac, l'agent avait déjà écrit de tels shaders pour les blocs matriciels d'Apple, mais les blocs de NVIDIA ont une autre taille, si bien que le code suivait la voie standard. Après l'ajout de shaders spécifiques à NVIDIA, wgpu transcrit un enregistrement court avec Whisper turbo en 201 ms, contre 226 ms pour transcribe.

cpp (il fallait auparavant 637 ms).

Sur la puce M5, l'auteur a fait une autre découverte : chaque cœur de la carte graphique embarque désormais un accélérateur neuronal qui multiplie les matrices trois fois plus vite (0,60 ms contre 1,89 ms). Mais il n'est accessible qu'via Metal 4, et wgpu ne le prend pas encore en charge. L'auteur a contourné la limitation avec un shader distinct en Metal, réservé à la M5, et a ouvert une issue sur le dépôt de wgpu.

Chiffres et limites

Dans la comparaison de Parakeet v3 en anglais (MacBook Pro M5), wavo sur le Neural Engine, bloc dédié aux réseaux de neurones dans les puces Apple, transcrit une phrase de 5 secondes en 0,12 s et une heure d'enregistrement 200 fois plus vite que le temps réel. FluidAudio sur le Neural Engine atteint 175×, wavo sur GPU 160×, transcribe.cpp sur GPU 107×, parakeet.cpp 90×, parakeet-mlx 61×, sherpa-onnx sur CPU 39×. En russe avec GigaAM v3, l'écart est similaire : wavo est 330 fois plus rapide que le temps réel, transcribe.cpp 262 fois.

Les réserves comptent. Les mesures sous Windows ont été faites sur une seule carte, une RTX 4060, et l'auteur n'a pas testé les AMD Radeon ; il demande que les résultats soient envoyés dans les issues. Le tableau provient d'un seul Mac, et le projet est personnel : il ne s'agit pas d'un benchmark indépendant.

L'enseignement pratique : les agents savent désormais écrire des shaders et un moteur d'inférence complet, à condition qu'un humain comprenne l'architecture des modèles et vérifie les résultats. Mais les découvertes les plus coûteuses, comme l'échec sur NVIDIA ou les blocs inutilisés de la M5, n'ont été révélées que sur le matériel réel. Si vous développez un outil IA en local, prévoyez du temps pour tester sur différentes cartes graphiques.

Dossier

Questions clés sur cet article

Que sait-on sur Le point de départ ?

L'auteur est passé à un MacBook Air M5 et en a profité pour remplacer des logiciels lourds par des équivalents natifs : VS Code par Zed, Chrome par Helium. Pour la dictée, qu'il utilisait avec ses agents, il employait Handy, mais celle-ci est écrite avec Tauri, et il voulait une application native. L'agent n'a trouvé aucune alternative convenable, et le développeur s'est donc lancé dans l'écriture de la sienne.

Que sait-on sur Où trouver des gains de vitesse ?

Avant la publication, l'auteur s'est intéressé à la vitesse de compilation. La crate rustfft ralentissait la recompilation, et lorsque wavo est intégré comme bibliothèque, chaque utilisateur subirait ce délai. Il a écrit sa propre FFT pour un seul cas d'usage : 176 lignes de code contre 55 000 dans rustfft, et la recompilation est passée de 11,9 à 2,1 secondes. L'auteur fait l'éloge de rustfft : celle-ci est conçue pour tous les cas, alors qu'il n'en avait besoin que d'un.

Que sait-on sur Chiffres et limites ?

Dans la comparaison de Parakeet v3 en anglais (MacBook Pro M5), wavo sur le Neural Engine, bloc dédié aux réseaux de neurones dans les puces Apple, transcrit une phrase de 5 secondes en 0,12 s et une heure d'enregistrement 200 fois plus vite que le temps réel. FluidAudio sur le Neural Engine atteint 175×, wavo sur GPU 160×, transcribe.cpp sur GPU 107×, parakeet.cpp 90×, parakeet-mlx 61×, sherpa-onnx sur CPU 39×.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…