Wavo на Rust расшифровывает час аудио за 18 секунд — в 200 раз быстрее реального времени
Автор не нашёл нативную программу для диктовки и с ИИ-агентами написал на Rust движок распознавания речи wavo. На MacBook Pro с чипом M5 он на нейроускорителе Apple расшифровывает час записи примерно за 18 секунд: это 200× быстрее реального времени, а на видеокарте — 160× против 107× у transcribe.cpp. Шейдеры написаны один раз через wgpu, без C++ и кода под каждую видеокарту. Вывод: агенты уже пишут шейдеры, но скорость надо мерить на каждом железе.
AI-обработка оригинала Habr AI; редакция Hamidun News
Что значит «в 200 раз быстрее реального времени»? Часовая запись расшифровывается примерно за 18 секунд (3600 секунд делим на 200). Такой результат получил разработчик, который хотел всего лишь удобную программу для диктовки, а в итоге с помощью ИИ-агентов написал на Rust собственный движок распознавания речи wavo. Он работает на MacBook Pro с чипом M5 и опережает популярные готовые решения. История полезна всем, кто делает локальные ИИ-инструменты: она показывает, где агенты реально помогают, а где без проверки на живом железе не обойтись.
С чего всё началось
Автор перешёл на MacBook Air M5 и заодно решил заменить тяжёлый софт на нативный: VS Code на Zed, Chrome на Helium. Для диктовки при работе с агентами он пользовался программой Handy, но она написана на Tauri, а хотелось нативного приложения. Агент не нашёл подходящей альтернативы, и разработчик взялся писать своё. Параллельно он перебирал варианты интерфейса (GPUI Kit, egui, системные контролы) и в итоге написал собственную UI-библиотеку: сам рендер занял около 3 тысяч строк на Rust, базовые компоненты — ещё около 6 тысяч.
Главная часть проекта — движок распознавания речи. Готовый transcribe.cpp при каждой пересборке линковался около минуты, а в Rust-проект приезжал C++. Внутри оказалась библиотека ggml, где под каждую видеокарту (Metal, Vulkan, CUDA) свой код и свои инструменты сборки. Альтернатива — wgpu: шейдеры пишутся один раз на языке WGSL, работают на любой видеокарте и собираются обычным cargo build. Автор попробовал запустить на нём модель GigaAM v3, и агент легко написал шейдеры, а результат оказался сравним с оригиналом.
Важная деталь про формат GGUF: он хранит только веса и метаданные (название архитектуры, размеры слоёв, словарь). Самих вычислений в файле нет, в отличие от TensorFlow или Core ML, где описан граф операций. Поэтому для каждой семейства моделей — GigaAM, Parakeet, Whisper — вычисления пишутся отдельно. Автору пришлось разобраться, как это устроено: звук режется на куски, через быстрое преобразование Фурье превращается в спектрограмму (какие частоты звучат в каждый момент), энкодер переводит её в векторы, а декодер (CTC, RNN-T или TDT) собирает из них текст.
Первую версию поддержки Parakeet v2 за ночь написал Codex, но код вышел грязным. Автор выбросил его и переписал с Claude Code. Затем добавились Parakeet v3 и Whisper как эталон для сравнения.
Где нашлись ускорения
Перед публикацией автор занялся скоростью сборки. Крейт rustfft замедлял пересборку, а при подключении wavo как библиотеки эту задержку получил бы каждый пользователь. Он написал собственный FFT под одну задачу: 176 строк кода против 55 тысяч в rustfft, а пересборка ускорилась с 11,9 до 2,1 секунды. Сам rustfft автор хвалит: тот рассчитан на все случаи, а нужен был один.
Тесты на разном железе показали провал на Windows с видеокартой NVIDIA. Причиной оказалась flash attention. Обычный attention записывает таблицу сравнений между всеми векторами аудиокуска в память видеокарты и читает её обратно. Flash attention считает то же самое небольшими порциями в быстрой памяти рядом с ядрами и всю таблицу не хранит. На маках агент уже сделал такие шейдеры под матричные блоки Apple, а у NVIDIA блоки другого размера, поэтому код шёл стандартным путём. После добавления шейдеров под NVIDIA короткую запись Whisper turbo wavo распознаёт за 201 мс против 226 у transcribe.cpp (раньше было 637 мс).
На M5 нашлась ещё одна находка: в каждом ядре видеокарты появился нейроускоритель, который умножает матрицы втрое быстрее (0,60 мс против 1,89 мс). Но доступ к нему есть только через Metal 4, а wgpu его пока не поддерживает. Автор обошёл ограничение отдельным шейдером на Metal только для M5 и завёл issue в wgpu.
Цифры и ограничения
В сравнении Parakeet v3 на английском (MacBook Pro M5) wavo на Neural Engine — отдельном блоке чипов Apple для нейросетей — расшифровывает фразу в 5 секунд за 0,12 с и час записи в 200 раз быстрее реального времени. FluidAudio на Neural Engine даёт 175×, wavo на GPU — 160×, transcribe.cpp на GPU — 107×, parakeet.cpp — 90×, parakeet-mlx — 61×, sherpa-onnx на CPU — 39×. На русском с GigaAM v3 разрыв похожий: wavo в 330 раз быстрее реального времени, transcribe.cpp — в 262.
Оговорки важны. Замеры на Windows сделаны на одной видеокарте RTX 4060, а AMD Radeon автор вообще не тестировал и просит присылать результаты в issues. Таблица получена на одном Mac, а проект личный, это не независимый бенчмарк.
Практический вывод: агенты уже способны писать шейдеры и целый движок инференса, если человек понимает архитектуру моделей и проверяет результат. Но самые дорогие находки вроде провала на NVIDIA и неиспользованных блоков M5 всплыли только на реальном железе. Если делаете локальный ИИ-инструмент, заложите время на тесты на разных видеокартах.
- 21 нояб. 2026 г.MCP-сервер на 360 строк без SDK: пять решений, после которых агент перестал ломать ссылки
- 21 нояб. 2026 г.Text-to-cad: ИИ-агент рисует детали робота по описанию, проект набрал 26 тысяч звёзд
- 21 нояб. 2026 г.Ролик о Claude в GTA 6 похож на фейк: полчаса управления съели 5-часовой лимит Pro
- 21 нояб. 2026 г.Claude Code ускорил декомпиляцию Snowboard Kids 2: с 20% до 45% функций за три месяца
Вопросы и ответы по материалу
Что известно по теме: с чего всё началось?
Автор перешёл на MacBook Air M5 и заодно решил заменить тяжёлый софт на нативный: VS Code на Zed, Chrome на Helium. Для диктовки при работе с агентами он пользовался программой Handy, но она написана на Tauri, а хотелось нативного приложения. Агент не нашёл подходящей альтернативы, и разработчик взялся писать своё.
Что известно по теме: где нашлись ускорения?
Перед публикацией автор занялся скоростью сборки. Крейт rustfft замедлял пересборку, а при подключении wavo как библиотеки эту задержку получил бы каждый пользователь. Он написал собственный FFT под одну задачу: 176 строк кода против 55 тысяч в rustfft, а пересборка ускорилась с 11,9 до 2,1 секунды. Сам rustfft автор хвалит: тот рассчитан на все случаи, а нужен был один. Тесты на разном железе показали провал на Windows с видеокартой NVIDIA. Причиной оказалась flash attention.
Что известно по теме: цифры и ограничения?
В сравнении Parakeet v3 на английском (MacBook Pro M5) wavo на Neural Engine — отдельном блоке чипов Apple для нейросетей — расшифровывает фразу в 5 секунд за 0,12 с и час записи в 200 раз быстрее реального времени. FluidAudio на Neural Engine даёт 175×, wavo на GPU — 160×, transcribe.cpp на GPU — 107×, parakeet.cpp — 90×, parakeet-mlx — 61×, sherpa-onnx на CPU — 39×. На русском с GigaAM v3 разрыв похожий: wavo в 330 раз быстрее реального времени, transcribe.cpp — в 262. Оговорки важны.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.