Ollama запустила озвучку текста на Mac: Phonon на 35% быстрее родного рантайма
Ollama, программа для запуска нейросетей на своём компьютере, теперь умеет читать текст вслух: первой речевой моделью стала Phonon от Gradium. На MacBook Pro с чипом M5 Max Ollama синтезирует речь на 35% быстрее, чем собственная программа запуска Gradium (ptts), а число ошибок распознавания слов в озвучке такое же, как у эталонной реализации. Значит, ответ локального чат-бота можно озвучить без облака — пока на Mac и на английском.
AI-обработка оригинала Ollama Blog; редакция Hamidun News
Представьте, что вы запустили чат-бота у себя на ноутбуке, и он отвечает текстом, а вам хочется, чтобы он говорил. Раньше для этого приходилось подключать облачный сервис озвучки или собирать цепочку из отдельных программ. Теперь Ollama, популярный инструмент для запуска нейросетей локально, добавила поддержку речевых моделей. Первой стала Phonon — семейство небольших моделей синтеза речи (text-to-speech, то есть «текст в голос») от компании Gradium.
Главная цифра релиза — 35%. Так Ollama опережает по скорости ближайший конкурент: собственную программу запуска Gradium под названием ptts. Замер сделан на MacBook Pro с чипом Apple M5 Max: модель генерировала 45 секунд речи, результат — медиана из 10 запусков. Скорость измеряли в том, во сколько раз генерация быстрее самой речи: чем выше, тем быстрее готов звук.
Как это попробовать
Речевые модели пока доступны только на macOS, Windows и Linux обещаны позже. Нужна Ollama версии 0.40.11 или новее. Дальше достаточно одной команды: ollama run phonon "Hello from Ollama." — и компьютер произнесёт фразу. Голос выбирается флагом --voice (в примере — голос Hadley из каталога Gradium), а результат можно сохранить в WAV-файл обычным перенаправлением вывода в shell.
Удобна и связка с чат-моделью. Ответ можно передать прямо в Phonon: текст озвучивается по мере поступления, поэтому речь начинается после первого предложения, а не после полной генерации ответа. В примере блога так соединены модель gemma4 и Phonon: первая рассказывает факт про сов, вторая читает его вслух.
Что с честностью замеров
На Apple Silicon Ollama работает через MLX — фреймворк машинного обучения от Apple. Сравнение с Gradium при этом не совсем «яблоки с яблоками»: рантайм Gradium использует смесь форматов — 8-битные веса на процессоре, fp16 на Neural Engine и f32 на видеоядре, а Ollama запускает модель в bf16. Кроме того, цифры получены самими авторами Ollama, независимой проверки пока нет.
Качество при ускорении не просело. Ollama сравнила долю ошибок распознавания слов (word error rate) с эталонной реализацией в Hugging Face Transformers. Для проверки взяли 200 английских предложений из тестового набора Seed-TTS и прогнали озвучку через распознавание Whisper large-v3. Чем меньше ошибок, тем понятнее звучит речь. Показатель у Ollama совпал с эталоном: оптимизация произношение не испортила.
Интеграция и лицензии
Для практиков главное, что Phonon работает через OpenAI-совместимый эндпоинт /v1/audio/speech. Если в проекте уже используется OpenAI SDK для озвучки, достаточно сменить base URL на http://localhost:11434/v1 и указать любой ключ, например «ollama». Примеры приведены для curl, Python и JavaScript. Ответ приходит потоком, его можно сразу отдавать плееру вроде ffplay, так что воспроизведение стартует почти мгновенно. Звук выходит в 24 кГц, моно: по умолчанию WAV или сырые 16-битные отсчёты.
С лицензиями есть подвох. Phonon выпущена под Apache 2.0, а модели размера 40M — под CC BY-NC 4.0, то есть только для некоммерческого использования. Для стартапа это значит: прототип собрать можно, а выпускать платный продукт на этих весах без отдельной договорённости нельзя. Условия остальных размеров семейства стоит проверять в карточках моделей.
Остальные ограничения: пока только Mac, а все примеры и замеры показаны для английского. Поддержку русского язык в материале никто не заявлял, так что рассчитывать на неё не стоит.
Что делать
Если вы делаете локального голосового ассистента, «читалку», озвучку для внутренних инструментов или прототип агента с голосом на Mac, стоит попробовать уже сейчас: вход — одна команда и смена URL в существующем коде. Для коммерческих проектов сначала проверьте лицензию конкретной модели, а скорость на своём железе замерьте сами.
- 21 нояб. 2026 г.Открытый MiniMind позволяет обучить свою LLM с нуля за $0,42 на RTX 3090
- 21 нояб. 2026 г.Агент Skein стирает старые этапы из контекста: 97% удачных запусков, но дороже OpenCode
- 21 нояб. 2026 г.Открытая Inkling 2 Mini на 16 ГБ памяти догнала Qwen3.8-27B в независимом рейтинге
- 21 нояб. 2026 г.Локальную phi3 взламывали в 51% попыток — разработчик поставил перед ней защитный шлюз
Вопросы и ответы по материалу
Что известно по теме: как это попробовать?
Речевые модели пока доступны только на macOS, Windows и Linux обещаны позже. Нужна Ollama версии 0.40.11 или новее. Дальше достаточно одной команды: ollama run phonon "Hello from Ollama." — и компьютер произнесёт фразу. Голос выбирается флагом --voice (в примере — голос Hadley из каталога Gradium), а результат можно сохранить в WAV-файл обычным перенаправлением вывода в shell. Удобна и связка с чат-моделью.
Что известно по теме: что с честностью замеров?
На Apple Silicon Ollama работает через MLX — фреймворк машинного обучения от Apple. Сравнение с Gradium при этом не совсем «яблоки с яблоками»: рантайм Gradium использует смесь форматов — 8-битные веса на процессоре, fp16 на Neural Engine и f32 на видеоядре, а Ollama запускает модель в bf16. Кроме того, цифры получены самими авторами Ollama, независимой проверки пока нет. Качество при ускорении не просело.
Что известно по теме: интеграция и лицензии?
Для практиков главное, что Phonon работает через OpenAI-совместимый эндпоинт /v1/audio/speech. Если в проекте уже используется OpenAI SDK для озвучки, достаточно сменить base URL на http://localhost:11434/v1 и указать любой ключ, например «ollama». Примеры приведены для curl, Python и JavaScript. Ответ приходит потоком, его можно сразу отдавать плееру вроде ffplay, так что воспроизведение стартует почти мгновенно. Звук выходит в 24 кГц, моно: по умолчанию WAV или сырые 16-битные отсчёты. С лицензиями есть подвох.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.