Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarHabr AI→ original

Wavo em Rust transcreve uma hora de áudio em 18 segundos, 200 vezes mais rápido que o tempo real

O autor não encontrou um programa nativo de ditado e, com agentes de IA, escreveu em Rust o motor de reconhecimento de fala wavo. Em um MacBook Pro com chip M5, ele usa o Neural Engine da Apple e transcreve uma hora de gravação em cerca de 18 segundos: isso equivale a 200× o tempo real. Na placa de vídeo, o resultado é 160× contra 107× do transcribe.cpp. Os shaders foram escritos uma única vez com wgpu, sem C++ e sem código específico para cada placa de vídeo. A conclusão: os agentes já escrevem shaders, mas a velocidade precisa ser medida em cada hardware.

Processado por IA de Habr AI; editado por Hamidun News
Wavo em Rust transcreve uma hora de áudio em 18 segundos, 200 vezes mais rápido que o tempo real
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalHabr AI ↗
Editor-chefe
FFT próprio176 linhas em vez de 55 mil no rustfft, recompilação de 11,9 s para 2,1 s
Whisper turbo na RTX 4060gravação curta em 201 ms contra 226 ms do transcribe.cpp
GigaAM v3 em russo330× o tempo real contra 262× do transcribe.cpp

O que significa "200 vezes mais rápido que o tempo real"? Uma gravação de uma hora é transcrita em cerca de 18 segundos (3600 segundos divididos por 200). Esse resultado foi obtido por um desenvolvedor que queria apenas um programa prático para ditado e acabou, com a ajuda de agentes de IA, escrevendo em Rust um motor próprio de reconhecimento de fala, o wavo. Ele roda em um MacBook Pro com chip M5 e supera soluções prontas populares. A história é útil para quem desenvolve ferramentas locais de IA: ela mostra onde os agentes realmente ajudam e onde não há como dispensar testes em hardware real.

Como tudo começou

O autor migrou para um MacBook Air M5 e aproveitou para trocar softwares pesados por versões nativas: o VS Code pelo Zed, o Chrome pelo Helium. Para ditado durante o trabalho com agentes, ele usava o programa Handy, mas este é feito em Tauri, e ele queria um aplicativo nativo. O agente não encontrou uma alternativa adequada, e o desenvolvedor decidiu escrever a sua. Em paralelo, ele avaliou opções de interface (GPUI Kit, egui, controles do sistema) e acabou escrevendo uma biblioteca de UI própria: só a renderização ficou em cerca de 3 mil linhas de Rust, e os componentes básicos, em mais cerca de 6 mil.

A parte central do projeto é o motor de reconhecimento de fala. O transcribe.cpp pronto levava cerca de um minuto para linkar a cada recompilação, e no projeto em Rust entrava código C++. Dentro dele havia a biblioteca ggml, com código e ferramentas de build separados para cada placa de vídeo (Metal, Vulkan, CUDA). A alternativa foi o wgpu: os shaders são escritos uma única vez em WGSL, funcionam em qualquer placa de vídeo e são compilados com um simples cargo build. O autor testou o modelo GigaAM v3 nessa base, o agente escreveu os shaders sem dificuldade, e o resultado ficou comparável ao original.

Um detalhe importante sobre o formato GGUF: ele guarda apenas os pesos e os metadados (nome da arquitetura, dimensões das camadas, vocabulário). As operações de cálculo não estão no arquivo, diferentemente do TensorFlow ou do Core ML, que descrevem o grafo de operações. Por isso, o cálculo precisa ser implementado separadamente para cada família de modelos: GigaAM, Parakeet, Whisper. O autor teve de entender como tudo funciona: o áudio é dividido em trechos, convertido em espectrograma pela transformada rápida de Fourier (quais frequências soam em cada momento), o encoder transforma o espectrograma em vetores, e o decoder (CTC, RNN-T ou TDT) monta o texto a partir deles.

A primeira versão do suporte ao Parakeet v2 foi escrita pelo Codex em uma noite, mas o código ficou sujo. O autor descartou tudo e reescreveu com o Claude Code. Depois vieram o Parakeet v3 e o Whisper, usado como referência para comparação.

Onde surgiram os ganhos de velocidade

Antes da publicação, o autor trabalhou na velocidade de compilação. O crate rustfft atrasava a recompilação, e ao usar o wavo como biblioteca, cada usuário teria esse atraso. Ele escreveu um FFT próprio para uma única tarefa: 176 linhas de código contra 55 mil do rustfft, e a recompilação passou de 11,9 para 2,1 segundos. O próprio autor elogia o rustfft: ele foi feito para todos os casos, enquanto o projeto precisava de apenas um.

Os testes em hardware variado revelaram um problema no Windows com placa de vídeo NVIDIA. A causa era o flash attention. O attention comum grava a tabela de comparações entre todos os vetores do trecho de áudio na memória da placa de vídeo e depois a lê de volta.

O flash attention faz o mesmo cálculo em pequenos blocos, na memória rápida junto aos núcleos, sem armazenar a tabela inteira. Nos Macs, o agente já havia feito esses shaders para os blocos de matrizes da Apple, mas os blocos da NVIDIA têm outro tamanho, e por isso o código seguia um caminho padrão. Depois de adicionar shaders específicos para a NVIDIA, o wavo reconhece a gravação curta com o Whisper turbo em 201 ms, contra 226 ms do transcribe.

cpp (antes eram 637 ms).

No M5 surgiu outra descoberta: cada núcleo da placa de vídeo passou a ter um neural accelerator, que multiplica matrizes três vezes mais rápido (0,60 ms contra 1,89 ms). Porém, o acesso a ele só existe pelo Metal 4, e o wgpu ainda não o suporta. O autor contornou a limitação com um shader separado, só para Metal e só para o M5, e abriu uma issue no wgpu.

Números e limitações

Na comparação do Parakeet v3 em inglês (MacBook Pro M5), o wavo no Neural Engine — bloco separado de processamento de redes neurais dos chips da Apple — transcreve uma frase de 5 segundos em 0,12 s, e uma hora de gravação fica 200 vezes mais rápida que o tempo real. O FluidAudio no Neural Engine alcança 175×, o wavo na GPU, 160×, o transcribe.cpp na GPU, 107×, o parakeet.cpp, 90×, o parakeet-mlx, 61×, e o sherpa-onnx na CPU, 39×. Em russo, com o GigaAM v3, a diferença é semelhante: o wavo fica 330 vezes mais rápido que o tempo real, e o transcribe.cpp, 262 vezes.

As ressalvas são importantes. As medições no Windows foram feitas em uma única placa, a RTX 4060, e o autor não testou nenhuma AMD Radeon; ele pede que os resultados sejam enviados nas issues. A tabela foi obtida em um único Mac, e o projeto é pessoal, portanto não se trata de um benchmark independente.

A conclusão prática é que os agentes já são capazes de escrever shaders e um motor de inferência completo, desde que a pessoa entenda a arquitetura dos modelos e verifique o resultado. Mas as descobertas mais caras, como a falha na NVIDIA e os blocos não utilizados do M5, só apareceram em hardware real. Se você desenvolve uma ferramenta local de IA, reserve tempo para testes em diferentes placas de vídeo.

História

Perguntas frequentes sobre a notícia

Como tudo começou?

O autor migrou para um MacBook Air M5 e aproveitou para trocar softwares pesados por versões nativas: o VS Code pelo Zed, o Chrome pelo Helium. Para ditado durante o trabalho com agentes, ele usava o programa Handy, mas este é feito em Tauri, e ele queria um aplicativo nativo. O agente não encontrou uma alternativa adequada, e o desenvolvedor decidiu escrever a sua.

Onde surgiram os ganhos de velocidade?

Antes da publicação, o autor trabalhou na velocidade de compilação. O crate rustfft atrasava a recompilação, e ao usar o wavo como biblioteca, cada usuário teria esse atraso. Ele escreveu um FFT próprio para uma única tarefa: 176 linhas de código contra 55 mil do rustfft, e a recompilação passou de 11,9 para 2,1 segundos. O próprio autor elogia o rustfft: ele foi feito para todos os casos, enquanto o projeto precisava de apenas um.

O que se sabe sobre Números e limitações?

Na comparação do Parakeet v3 em inglês (MacBook Pro M5), o wavo no Neural Engine — bloco separado de processamento de redes neurais dos chips da Apple — transcreve uma frase de 5 segundos em 0,12 s, e uma hora de gravação fica 200 vezes mais rápida que o tempo real. O FluidAudio no Neural Engine alcança 175×, o wavo na GPU, 160×, o transcribe.cpp na GPU, 107×, o parakeet.cpp, 90×, o parakeet-mlx, 61×, e o sherpa-onnx na CPU, 39×.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…