llama.cpp 1.0.0: стабильный API для разработчиков и удаление 35 старых функций
llama.cpp — популярная программа для запуска нейросетей на своём компьютере, и у неё вышла версия 1.0.0 с первым стабильным API, то есть набором функций, через который приложения с ней общаются. Теперь по первой цифре версии видно, сломается ли ваше приложение после обновления: она растёт только при несовместимых изменениях. Но переход на 1.0.0 не бесплатный: команда убрала 35 устаревших функций, поэтому сборку стоит проверить заранее.
AI-обработка оригинала Neurohive; редакция Hamidun News
Представьте, что вы сделали ИИ-чат, который работает на локальной модели через llama.cpp. Вы обновили библиотеку, а чат перестал запускаться: разработчики переименовали или убрали функцию, которую вы вызывали. Для проекта, на котором держится огромная часть локальных ИИ-сервисов, такие сюрпризы были привычным делом. Теперь llama.cpp вышел в версии 1.0.0 и впервые закрепил обещание по совместимости. Это не рывок в скорости, а взросление инфраструктуры. Вместе с ним в версию 1.0.0 перешёл и ggml, компонент, выполняющий математические вычисления.
Что значит «стабильный API» и при чём тут номер версии
API — это набор функций и правил, через которые ваше приложение разговаривает с библиотекой. ABI — то же самое на уровне готового бинарного файла: если он меняется, даже неизменённый код придётся пересобирать. Раньше номера версий у llama.cpp существовали, но жёстких гарантий за ними не стояло. С 1.0.0 действует схема, которую называют семантическим версионированием.
- Первая цифра растёт, когда API или ABI меняются несовместимо. Переход с 1.0.0 на 2.0.0 значит: ваш код, скорее всего, придётся править.
- Вторая цифра отмечает совместимые дополнения, то есть новые функции без поломок.
- Третья цифра означает исправления ошибок без изменения интерфейса.
Это как стандарт розеток: пока он не меняется, любой прибор подходит. Автор приложения может спокойно обновляться внутри ветки 1.x, а к смене мажорной версии подготовиться и протестировать её заранее. Проекты поставляют две библиотеки: libllama и libggml.
Для Linux-дистрибутивов это тоже плюс. По словам участника сообщества Debian, предсказуемая совместимость упрощает распространение llama.cpp. Но у проекта восемь каналов распространения, от готовых файлов на GitHub до каталогов установки программ и наборов для приложений Apple. Наличие версии 1.0.0 в каждом нужно проверять отдельно.
Цена перехода: 35 удалённых функций
Сам переход на 1.0.0 может потребовать правок. Команда убрала 35 устаревших функций и отдельно функцию настройки «прогрева» модели, то есть подготовительных вычислений перед первым ответом. Кроме того, часть кода для изображений и звука перестроили и объединили в одном компоненте. Приложения, которые использовали эти возможности, придётся адаптировать.
Из новшеств в работе с памятью: добавлено более компактное хранение промежуточных вычислений. Кроме того, изменился запуск MoE-моделей, где для каждого слова включается лишь часть «экспертов». Основные данные таких моделей могут лежать в оперативной памяти, а часто используемых экспертов дополнительно кешируют в памяти видеокарты. Если нужного эксперта там нет, после заполнения кеша часть вычислений можно поручить процессору, а не передавать данные на GPU. Это может ускорить работу, но результат зависит от оборудования и настроек.
В список поддерживаемых моделей вошли Kimi-K3.1-Pro, Ripple-65B-Preview и xing4_0 для текста, drama-3 для генерации речи, а также MageVL-Cowork и Kimi-K3.1 для обработки изображений. Всего, по данным команды, инструмент поддерживает более 150 архитектур.
Голос, браузер и защита сервера
В сервере llama.cpp, который принимает запросы от браузера или приложения и передаёт их модели, появился OpenAI-совместимый способ запрашивать озвучивание текста. Если ваше приложение уже работает с запросами в формате OpenAI, подключить локальную генерацию речи будет проще. В браузерном интерфейсе добавили группы чатов, предпросмотр оформления сообщений и улучшенный вид на телефонах.
Усилена и защита доступа к домашней или рабочей сети:
- запуск инструментов на сервере, доступном с других устройств без API-ключа, теперь требует отдельного разрешения;
- для загрузки изображений и других медиа из внутренней сети тоже появились дополнительные ограничения;
- ключ доступа к Hugging Face больше не отправляется автоматически на произвольные адреса загрузки моделей. По умолчанию он уходит только на huggingface.co, другой доверенный адрес нужно разрешать явно.
Что делать на практике
Авторам приложений стоит собрать проект на 1.0.0 и проверить, не вызываются ли удалённые функции, особенно «прогрев» модели и код для изображений и звука. Тем, кто поднимает сервер для команды, нужно пересмотреть настройки доступа: без API-ключа инструменты теперь не запустятся без явного согласия.
Есть и ограничения. Релиз не гарантирует ускорения любой модели: общего сравнения производительности с прошлой версией команда не опубликовала. Новые возможности дойдут до пользователей только по мере обновления готовых приложений их авторами. Главный итог 1.0.0 в другом: у локального ИИ появился предсказуемый фундамент, и продукты на нём можно планировать на месяцы вперёд.
- 21 нояб. 2026 г.Сбер выпустил колонку с ГигаЧатом за 14 990 рублей: голос понимает без интернета
- 21 нояб. 2026 г.Автор оживил картину XIX века по слоям: на 1 удачный клип — 4–5 неудачных
- 21 нояб. 2026 г.Open-source MiniMind обучает языковую модель на 64 млн параметров за 2 часа и 3 юаня
- 21 нояб. 2026 г.Perplexity выпустила Decider v1.3: 70 баллов в рейтинге решений и $68 за миллион задач
Вопросы и ответы по материалу
Что известно по теме: что значит «стабильный API» и при чём тут номер версии?
API — это набор функций и правил, через которые ваше приложение разговаривает с библиотекой. ABI — то же самое на уровне готового бинарного файла: если он меняется, даже неизменённый код придётся пересобирать. Раньше номера версий у llama.cpp существовали, но жёстких гарантий за ними не стояло. С 1.0.0 действует схема, которую называют семантическим версионированием. Первая цифра растёт, когда API или ABI меняются несовместимо. Переход с 1.0.0 на 2.0.0 значит: ваш код, скорее всего, придётся править.
Что известно по теме: цена перехода: 35 удалённых функций?
Сам переход на 1.0.0 может потребовать правок. Команда убрала 35 устаревших функций и отдельно функцию настройки «прогрева» модели, то есть подготовительных вычислений перед первым ответом. Кроме того, часть кода для изображений и звука перестроили и объединили в одном компоненте. Приложения, которые использовали эти возможности, придётся адаптировать. Из новшеств в работе с памятью: добавлено более компактное хранение промежуточных вычислений.
Что известно по теме: голос, браузер и защита сервера?
В сервере llama.cpp, который принимает запросы от браузера или приложения и передаёт их модели, появился OpenAI-совместимый способ запрашивать озвучивание текста. Если ваше приложение уже работает с запросами в формате OpenAI, подключить локальную генерацию речи будет проще. В браузерном интерфейсе добавили группы чатов, предпросмотр оформления сообщений и улучшенный вид на телефонах.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.