Underdog уместила голосовую модель Woof в 32 МБ и запустила её в браузере

Голосовой интерфейс кажется простой функцией, пока не приходится оплачивать серверы, ждать ответа из облака и объяснять пользователю, куда ушёл его текст. Underdog предлагает другой вариант: модель синтеза речи Woof весит 31,7 МБ, содержит 31 млн параметров и, по заявлению компании, работает прямо в браузере на большинстве устройств — даже без интернета.

Компания показала модель не в таблице с тестами, а в небольшой игре. На экране — комната с печатной машинкой, старым монитором и музыкальным приёмником. Пользователь набирает любую фразу, после чего Woof произносит её локально. Это понятный пример того, что обычно скрывается за словами «вычисления на устройстве»: текст не нужно отправлять на удалённый сервер, а ответ не зависит от качества соединения.

Зачем помещать голос в 32 МБ

Для облачного синтеза речи приложение записывает или принимает текст, отправляет данные поставщику, ждёт генерацию и получает аудио. В эту цепочку входят сеть, внешний API, плата за запросы и правила обработки данных. Если сервис недоступен или соединение пропало, голосовая функция перестаёт работать.

Woof переносит вычисления на устройство пользователя. Такой подход особенно интересен для заметок, озвучивания интерфейсов, навигации, образовательных приложений и персональных ассистентов. Например, приложение для чтения документов сможет произносить выделенный абзац в самолёте или метро, не загружая содержимое документа в облако. Для продукта это не только приватность, но и более предсказуемая себестоимость: после загрузки модели каждый новый запрос не превращается в отдельный счёт от поставщика API.

Модель открыта для скачивания. Это даёт разработчикам возможность встроить её в собственный продукт, проверить задержку на целевых устройствах и при необходимости изучить ограничения без привязки к закрытому сервису. Ранее Underdog выпустила Bark — модель распознавания речи весом 167 МБ для локальной транскрибации и диктовки. Вместе эти разработки намечают полный голосовой контур на устройстве: Bark превращает речь в текст, приложение обрабатывает запрос, а Woof озвучивает ответ.

Демонстрация ещё не равна готовому продукту

Размер модели впечатляет, но сам по себе ничего не говорит о естественности голоса, поддержке русского языка, устойчивости к длинным фразам и скорости на слабых телефонах. В опубликованном материале нет независимого сравнения Woof с облачными системами и нет подробных замеров задержки, энергопотребления или качества речи. Формулировку компании о работе на большинстве устройств поэтому стоит воспринимать как заявление разработчика, а не как подтверждённый результат испытаний.

Маленькая модель также вряд ли заменит крупные системы там, где нужны десятки языков, точное управление интонацией, клонирование голоса или студийное качество. Её сильная сторона может оказаться в другом: достаточно хорошая речь без сети, сервера и передачи личных данных.

Что проверить разработчику

Начинать стоит не с полной замены текущего голосового сервиса, а с небольшого прототипа. Возьмите один сценарий — например, озвучивание уведомлений — и измерьте время первого запуска, задержку до начала речи, нагрузку на память и батарею. Затем проверьте произношение чисел, имён, сокращений и длинных предложений на тех устройствах, которыми действительно пользуется аудитория.

Если качество подходит, локальную модель можно оставить основным вариантом, а облако использовать только для сложных случаев. Woof важна не потому, что модель весит меньше фотографии с современного смартфона. Она показывает практический сдвиг: голосовой ИИ постепенно становится обычной частью приложения, которой не обязательно арендовать сервер и отдавать пользовательские данные наружу.