Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
ИнфраструктураКод / SDK · В работуOllama Blog→ оригинал

Ollama запустила озвучку текста на Mac: Phonon на 35% быстрее родного рантайма

Ollama, программа для запуска нейросетей на своём компьютере, теперь умеет читать текст вслух: первой речевой моделью стала Phonon от Gradium. На MacBook Pro с чипом M5 Max Ollama синтезирует речь на 35% быстрее, чем собственная программа запуска Gradium (ptts), а число ошибок распознавания слов в озвучке такое же, как у эталонной реализации. Значит, ответ локального чат-бота можно озвучить без облака — пока на Mac и на английском.

AI-обработка оригинала Ollama Blog; редакция Hamidun News
Ollama запустила озвучку текста на Mac: Phonon на 35% быстрее родного рантайма
Источник: Ollama Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникOllama Blog ↗
Главный редактор
Запуск одной командойollama run phonon "Hello from Ollama."
Код на OpenAI SDK подойдётдостаточно сменить base URL на localhost
Ключевой факт #3Модели размера 40M — CC BY-NC 4.0, только для некоммерческого use

Представьте, что вы запустили чат-бота у себя на ноутбуке, и он отвечает текстом, а вам хочется, чтобы он говорил. Раньше для этого приходилось подключать облачный сервис озвучки или собирать цепочку из отдельных программ. Теперь Ollama, популярный инструмент для запуска нейросетей локально, добавила поддержку речевых моделей. Первой стала Phonon — семейство небольших моделей синтеза речи (text-to-speech, то есть «текст в голос») от компании Gradium.

Главная цифра релиза — 35%. Так Ollama опережает по скорости ближайший конкурент: собственную программу запуска Gradium под названием ptts. Замер сделан на MacBook Pro с чипом Apple M5 Max: модель генерировала 45 секунд речи, результат — медиана из 10 запусков. Скорость измеряли в том, во сколько раз генерация быстрее самой речи: чем выше, тем быстрее готов звук.

Как это попробовать

Речевые модели пока доступны только на macOS, Windows и Linux обещаны позже. Нужна Ollama версии 0.40.11 или новее. Дальше достаточно одной команды: ollama run phonon "Hello from Ollama." — и компьютер произнесёт фразу. Голос выбирается флагом --voice (в примере — голос Hadley из каталога Gradium), а результат можно сохранить в WAV-файл обычным перенаправлением вывода в shell.

Удобна и связка с чат-моделью. Ответ можно передать прямо в Phonon: текст озвучивается по мере поступления, поэтому речь начинается после первого предложения, а не после полной генерации ответа. В примере блога так соединены модель gemma4 и Phonon: первая рассказывает факт про сов, вторая читает его вслух.

Что с честностью замеров

На Apple Silicon Ollama работает через MLX — фреймворк машинного обучения от Apple. Сравнение с Gradium при этом не совсем «яблоки с яблоками»: рантайм Gradium использует смесь форматов — 8-битные веса на процессоре, fp16 на Neural Engine и f32 на видеоядре, а Ollama запускает модель в bf16. Кроме того, цифры получены самими авторами Ollama, независимой проверки пока нет.

Качество при ускорении не просело. Ollama сравнила долю ошибок распознавания слов (word error rate) с эталонной реализацией в Hugging Face Transformers. Для проверки взяли 200 английских предложений из тестового набора Seed-TTS и прогнали озвучку через распознавание Whisper large-v3. Чем меньше ошибок, тем понятнее звучит речь. Показатель у Ollama совпал с эталоном: оптимизация произношение не испортила.

Интеграция и лицензии

Для практиков главное, что Phonon работает через OpenAI-совместимый эндпоинт /v1/audio/speech. Если в проекте уже используется OpenAI SDK для озвучки, достаточно сменить base URL на http://localhost:11434/v1 и указать любой ключ, например «ollama». Примеры приведены для curl, Python и JavaScript. Ответ приходит потоком, его можно сразу отдавать плееру вроде ffplay, так что воспроизведение стартует почти мгновенно. Звук выходит в 24 кГц, моно: по умолчанию WAV или сырые 16-битные отсчёты.

С лицензиями есть подвох. Phonon выпущена под Apache 2.0, а модели размера 40M — под CC BY-NC 4.0, то есть только для некоммерческого использования. Для стартапа это значит: прототип собрать можно, а выпускать платный продукт на этих весах без отдельной договорённости нельзя. Условия остальных размеров семейства стоит проверять в карточках моделей.

Остальные ограничения: пока только Mac, а все примеры и замеры показаны для английского. Поддержку русского язык в материале никто не заявлял, так что рассчитывать на неё не стоит.

Что делать

Если вы делаете локального голосового ассистента, «читалку», озвучку для внутренних инструментов или прототип агента с голосом на Mac, стоит попробовать уже сейчас: вход — одна команда и смена URL в существующем коде. Для коммерческих проектов сначала проверьте лицензию конкретной модели, а скорость на своём железе замерьте сами.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: как это попробовать?

Речевые модели пока доступны только на macOS, Windows и Linux обещаны позже. Нужна Ollama версии 0.40.11 или новее. Дальше достаточно одной команды: ollama run phonon "Hello from Ollama." — и компьютер произнесёт фразу. Голос выбирается флагом --voice (в примере — голос Hadley из каталога Gradium), а результат можно сохранить в WAV-файл обычным перенаправлением вывода в shell. Удобна и связка с чат-моделью.

Что известно по теме: что с честностью замеров?

На Apple Silicon Ollama работает через MLX — фреймворк машинного обучения от Apple. Сравнение с Gradium при этом не совсем «яблоки с яблоками»: рантайм Gradium использует смесь форматов — 8-битные веса на процессоре, fp16 на Neural Engine и f32 на видеоядре, а Ollama запускает модель в bf16. Кроме того, цифры получены самими авторами Ollama, независимой проверки пока нет. Качество при ускорении не просело.

Что известно по теме: интеграция и лицензии?

Для практиков главное, что Phonon работает через OpenAI-совместимый эндпоинт /v1/audio/speech. Если в проекте уже используется OpenAI SDK для озвучки, достаточно сменить base URL на http://localhost:11434/v1 и указать любой ключ, например «ollama». Примеры приведены для curl, Python и JavaScript. Ответ приходит потоком, его можно сразу отдавать плееру вроде ffplay, так что воспроизведение стартует почти мгновенно. Звук выходит в 24 кГц, моно: по умолчанию WAV или сырые 16-битные отсчёты. С лицензиями есть подвох.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…