Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизAPI / Продукт · В работуX: @curratedbrief→ оригинал

Reson8 открыла модель речи в 60 раз меньше NVIDIA: 7,86% ошибок в словах против 7,78%

Расшифровка звонков обычно требует либо платного облачного API, либо тяжёлой модели на дорогой видеокарте. Амстердамский стартап Reson8 открыл под Apache 2.0 модель Rumble-2-Flash на 0,5 млрд параметров для 40+ языков. На тесте AppTek из 302 часов звонков колл-центров она ошибается в 7,86% слов, а 30-миллиардная Nemotron 3.5 Transcribe от NVIDIA — в 7,78%. Цифры заявил сам разработчик, поэтому прогоните модель на 5–10 часах своих записей.

AI-обработка оригинала X: @curratedbrief; редакция Hamidun News
Reson8 открыла модель речи в 60 раз меньше NVIDIA: 7,86% ошибок в словах против 7,78%
Источник: X: @curratedbrief. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @curratedbrief ↗
Главный редактор
Ключевой факт #1Лицензия Apache 2.0 разрешает использовать модель в коммерческих продуктах
Ключевой факт #2Разрыв с NVIDIA на тесте AppTek — 0,08 п.п.: 7,86% против 7,78%
Модель в 60 раз меньше конкурента0,5 млрд против 30 млрд параметров

Представьте, что вам нужно превратить в текст тысячи часов звонков в службу поддержки. Обычно есть два пути: платить облачному сервису за каждую минуту записи или держать у себя тяжёлую модель на дорогой видеокарте. Амстердамский стартап Reson8 предлагает третий вариант — открытую компактную модель распознавания речи Rumble-2-Flash. В ней 0,5 млрд параметров, и на тесте с записями колл-центров она ошибается в 7,86% слов. Для сравнения: модель NVIDIA Nemotron 3.5 Transcribe, в которой 30 млрд параметров, ошибается в 7,78% слов. Разница в 0,08 процентного пункта, а размеры отличаются в 60 раз.

Что именно выпустили

Rumble-2-Flash — модель speech-to-text, то есть преобразования речи в текст. Она поддерживает более 40 языков и распространяется под лицензией Apache 2.0. Для практика эта деталь важна: лицензия разрешает использовать модель в коммерческих продуктах, дообучать её и встраивать в закрытые сервисы. Открывать собственный код при этом не нужно, а отдельных договорённостей с автором не требуется.

Качество Reson8 измеряла на бенчмарке AppTek. Это 302 часа записей разговоров в колл-центрах: с шумом, перебиваниями и живой разговорной речью, а не чистой студийной начиткой. Метрика называется WER (word error rate) — доля неправильно распознанных слов. Если WER равен 7,86%, то на каждые 100 произнесённых слов модель в среднем ошибается примерно в восьми.

Почему сравнение с NVIDIA заметно

Nemotron 3.5 Transcribe от NVIDIA на том же тесте показывает 7,78% WER. На практике разница почти незаметна: на 10 000 слов она составляет около 8 слов. При этом Rumble-2-Flash меньше по числу параметров в 60 раз.

Бытовая аналогия: небольшой городской автомобиль приезжает в ту же точку почти за то же время, что и грузовик с огромным двигателем, а топлива тратит заметно меньше. Меньшая модель обычно требует меньше памяти, работает быстрее и умещается на более дешёвом железе. Когда в сутки обрабатываются тысячи часов звонков, это может заметно изменить счёт за инфраструктуру. Правда, в исходном сообщении нет данных о скорости, расходе памяти и стоимости, так что экономию придётся считать самим.

Что проверить перед внедрением

Результат опубликован самим разработчиком, независимых замеров пока не видно. Кроме того, это один бенчмарк по одному типу речи. Если ваш продукт — подкасты, лекции, видеозвонки с плохим микрофоном или узкая лексика вроде медицины и юриспруденции, цифры могут оказаться другими.

Ещё одна оговорка: «40+ языков» не означает одинаковое качество на всех. В таких моделях обычно сильнее всего страдают языки с малым количеством обучающих данных, а хороший результат на английском ничего не гарантирует для редкого языка или диалекта. Наконец, WER не учитывает пунктуацию, разметку говорящих и временные метки, а для расшифровки встреч они часто важнее одного ошибочного слова.

Что делать на практике

Если вы строите голосовой интерфейс, аналитику звонков или пайплайн расшифровки для RAG, Rumble-2-Flash стоит добавить в список быстрых тестов. План простой: возьмите 5–10 часов своих реальных записей с эталонной расшифровкой, прогоните их через эту модель и через ту, что используете сейчас, и посчитайте WER на своих данных. Заодно измерьте задержку и расход памяти на целевом железе.

Если качество окажется сопоставимым, выигрыш будет в контроле. Модель можно запускать у себя, данные клиентов не уходят в чужое облако, а лицензия не создаёт юридических сложностей. Для стартапов и команд с ограниченным бюджетом на GPU это серьёзный аргумент. Если же ваши записи сильно отличаются от звонков в колл-центры, заявленные 7,86% остаются ориентиром, а не гарантией.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что именно выпустили?

Rumble-2-Flash — модель speech-to-text, то есть преобразования речи в текст. Она поддерживает более 40 языков и распространяется под лицензией Apache 2.0. Для практика эта деталь важна: лицензия разрешает использовать модель в коммерческих продуктах, дообучать её и встраивать в закрытые сервисы. Открывать собственный код при этом не нужно, а отдельных договорённостей с автором не требуется. Качество Reson8 измеряла на бенчмарке AppTek.

Что известно по теме: почему сравнение с NVIDIA заметно?

Nemotron 3.5 Transcribe от NVIDIA на том же тесте показывает 7,78% WER. На практике разница почти незаметна: на 10 000 слов она составляет около 8 слов. При этом Rumble-2-Flash меньше по числу параметров в 60 раз. Бытовая аналогия: небольшой городской автомобиль приезжает в ту же точку почти за то же время, что и грузовик с огромным двигателем, а топлива тратит заметно меньше. Меньшая модель обычно требует меньше памяти, работает быстрее и умещается на более дешёвом железе.

Что известно по теме: что проверить перед внедрением?

Результат опубликован самим разработчиком, независимых замеров пока не видно. Кроме того, это один бенчмарк по одному типу речи. Если ваш продукт — подкасты, лекции, видеозвонки с плохим микрофоном или узкая лексика вроде медицины и юриспруденции, цифры могут оказаться другими. Ещё одна оговорка: «40+ языков» не означает одинаковое качество на всех.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…