Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarHabr AI→ original

Wavo en Rust transcribe una hora de audio en 18 segundos: 200 veces más rápido que el tiempo real

El autor no encontró un programa nativo de dictado y, con agentes de IA, escribió en Rust el motor de reconocimiento de voz wavo. En un MacBook Pro con chip M5, usa el Neural Engine de Apple para transcribir una hora de grabación en unos 18 segundos: 200× más rápido que el tiempo real, y en la tarjeta gráfica, 160× frente a los 107× de transcribe.cpp. Los shaders se escribieron una sola vez con wgpu, sin C++ y sin código específico para cada tarjeta gráfica. Conclusión: los agentes ya escriben shaders, pero la velocidad hay que medirla en cada hardware.

Procesado por IA desde Habr AI; editado por Hamidun News
Wavo en Rust transcribe una hora de audio en 18 segundos: 200 veces más rápido que el tiempo real
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
FFT propia176 líneas en lugar de 55 000 de rustfft; recompilación de 11,9 s a 2,1 s
Whisper turbo en RTX 4060grabación corta en 201 ms frente a 226 ms de transcribe.cpp
GigaAM v3 en ruso330× tiempo real frente a 262× de transcribe.cpp

¿Qué significa «200 veces más rápido que el tiempo real»? Una grabación de una hora se transcribe en unos 18 segundos (3600 segundos divididos entre 200). Este resultado lo obtuvo un desarrollador que solo quería un programa cómodo para dictar y que, con ayuda de agentes de IA, acabó escribiendo en Rust su propio motor de reconocimiento de voz, wavo. Funciona en un MacBook Pro con chip M5 y supera a soluciones listas para usar muy populares. La historia es útil para quienes desarrollan herramientas de IA en local: muestra dónde los agentes realmente ayudan y dónde no se puede prescindir de las pruebas en hardware real.

Cómo empezó todo

El autor pasó a un MacBook Air M5 y aprovechó para sustituir software pesado por aplicaciones nativas: VS Code por Zed, Chrome por Helium. Para dictar mientras trabajaba con agentes usaba Handy, pero está hecha con Tauri, y él quería una aplicación nativa. El agente no encontró una alternativa adecuada, así que el desarrollador decidió escribir la suya. Mientras probaba opciones de interfaz (GPUI Kit, egui, controles del sistema), terminó creando su propia biblioteca de UI: el renderizado ocupó unas 3 000 líneas en Rust y los componentes básicos, unas 6 000 más.

La pieza principal del proyecto es el motor de reconocimiento de voz. transcribe.cpp tardaba cerca de un minuto en enlazarse en cada recompilación, y en un proyecto Rust llegaba con C++. Dentro había la biblioteca ggml, con código y herramientas de compilación distintas para cada tarjeta gráfica (Metal, Vulkan, CUDA). La alternativa fue wgpu: los shaders se escriben una vez en WGSL, funcionan en cualquier tarjeta gráfica y se compilan con un simple cargo build. El autor probó a ejecutar el modelo GigaAM v3 sobre esta base; el agente escribió los shaders sin dificultad y el resultado fue comparable al original.

Un detalle importante sobre el formato GGUF: solo guarda los pesos y los metadatos (nombre de la arquitectura, tamaños de las capas, vocabulario). El archivo no contiene los cálculos, a diferencia de TensorFlow o Core ML, que describen el grafo de operaciones. Por eso, para cada familia de modelos (GigaAM, Parakeet, Whisper) los cálculos hay que escribirlos por separado. El autor tuvo que entender el proceso: el audio se trocea, la transformada rápida de Fourier lo convierte en un espectrograma (qué frecuencias suenan en cada momento), el codificador lo transforma en vectores y el decodificador (CTC, RNN-T o TDT) construye el texto a partir de ellos.

Codex escribió en una noche la primera versión del soporte para Parakeet v2, pero el código quedó sucio. El autor lo descartó y lo reescribió con Claude Code. Después añadió Parakeet v3 y Whisper, como referencia para comparar.

Dónde encontró aceleraciones

Antes de publicar, el autor se centró en la velocidad de compilación. El crate rustfft ralentizaba la recompilación, y al usar wgpu como biblioteca cada usuario habría sufrido ese retraso. Escribió su propia FFT para una única tarea: 176 líneas de código frente a 55 000 de rustfft, y la recompilación pasó de 11,9 a 2,1 segundos. El autor elogia rustfft: está diseñado para todos los casos, y él solo necesitaba uno.

Las pruebas en distintos equipos revelaron un fallo en Windows con una tarjeta NVIDIA. La causa era flash attention. La atención convencional escribe en la memoria de la tarjeta gráfica la tabla de comparaciones entre todos los vectores del fragmento de audio y luego la vuelve a leer.

Flash attention calcula lo mismo en pequeños bloques dentro de la memoria rápida junto a los núcleos y no guarda toda la tabla. En los Mac, el agente ya había escrito shaders de este tipo para los bloques de matrices de Apple, pero los bloques de NVIDIA tienen otro tamaño, así que el código seguía la vía estándar. Tras añadir shaders específicos para NVIDIA, wgpu reconoce una grabación corta con Whisper turbo en 201 ms, frente a 226 ms de transcribe.

cpp (antes tardaba 637 ms).

En el M5 apareció otro hallazgo: cada núcleo de la tarjeta gráfica incluye ahora un acelerador neuronal que multiplica matrices tres veces más rápido (0,60 ms frente a 1,89 ms). Pero solo se puede usar a través de Metal 4, y wgpu todavía no lo soporta. El autor sorteó la limitación con un shader específico para Metal, solo para el M5, y abrió un issue en wgpu.

Cifras y limitaciones

En la comparativa de Parakeet v3 en inglés (MacBook Pro M5), wavo con Neural Engine —el bloque dedicado de los chips de Apple para redes neuronales— transcribe una frase de 5 segundos en 0,12 s, y una hora de grabación, 200 veces más rápido que el tiempo real. FluidAudio con Neural Engine logra 175×; wavo con GPU, 160×; transcribe.cpp con GPU, 107×; parakeet.cpp, 90×; parakeet-mlx, 61×; sherpa-onnx con CPU, 39×. En ruso con GigaAM v3, la diferencia es similar: wavo es 330 veces más rápido que el tiempo real, y transcribe.cpp, 262 veces.

Las salvedades importan. Las mediciones en Windows se hicieron con una única tarjeta, una RTX 4060; el autor no probó ninguna AMD Radeon y pide que le envíen resultados en los issues. La tabla procede de un solo Mac, y el proyecto es personal, no se trata de un benchmark independiente.

La conclusión práctica es que los agentes ya son capaces de escribir shaders e incluso un motor de inferencia completo, siempre que una persona entienda la arquitectura de los modelos y verifique el resultado. Pero los hallazgos más costosos, como el fallo en NVIDIA o los bloques sin aprovechar del M5, solo salieron a la luz en hardware real. Si desarrollas una herramienta de IA en local, reserva tiempo para probarla en distintas tarjetas gráficas.

Historia

Preguntas frecuentes sobre la noticia

Cómo empezó todo?

El autor pasó a un MacBook Air M5 y aprovechó para sustituir software pesado por aplicaciones nativas: VS Code por Zed, Chrome por Helium. Para dictar mientras trabajaba con agentes usaba Handy, pero está hecha con Tauri, y él quería una aplicación nativa. El agente no encontró una alternativa adecuada, así que el desarrollador decidió escribir la suya.

Dónde encontró aceleraciones?

Antes de publicar, el autor se centró en la velocidad de compilación. El crate rustfft ralentizaba la recompilación, y al usar wgpu como biblioteca cada usuario habría sufrido ese retraso. Escribió su propia FFT para una única tarea: 176 líneas de código frente a 55 000 de rustfft, y la recompilación pasó de 11,9 a 2,1 segundos. El autor elogia rustfft: está diseñado para todos los casos, y él solo necesitaba uno. Las pruebas en distintos equipos revelaron un fallo en Windows con una tarjeta NVIDIA.

¿Qué se sabe sobre Cifras y limitaciones?

En la comparativa de Parakeet v3 en inglés (MacBook Pro M5), wavo con Neural Engine —el bloque dedicado de los chips de Apple para redes neuronales— transcribe una frase de 5 segundos en 0,12 s, y una hora de grabación, 200 veces más rápido que el tiempo real. FluidAudio con Neural Engine logra 175×; wavo con GPU, 160×; transcribe.cpp con GPU, 107×; parakeet.cpp, 90×; parakeet-mlx, 61×; sherpa-onnx con CPU, 39×.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…