Liquid AI выпустила LFM2.5-8B: компактная MoE-модель с 128K контекстом

Компания Liquid AI выпустила новую модель LFM2.5-8B-A1B, которая может работать прямо на персональном компьютере, не требуя облачного сервера и подписки.

Как работает архитектура

MoE В этой модели используется архитектура Mixture of Experts (MoE), которая стала трендом в 2024–2025 годах. Всего в LFM2.5 восемь с половиной миллиардов параметров, но одновременно активируется только один с половиной миллиард. Это как большую библиотеку: вместо того чтобы перечитывать все книги подряд, вы берёте ровно те, которые нужны для текущей задачи. Такой подход даёт два выигрыша. Во-первых, экономятся оперативная память и вычислительная мощность — модель работает быстрее. Во-вторых, на одном GPU можно запустить модель меньшего физического размера. Производительность остаётся высокой, а требования к железу — ниже.

Способности и характеристики LFM2.5-8B-A1B поддерживает контекст на

128 тысяч токенов — это примерно сто страниц текста, напечатанного шрифтом 12pt. Модель способна к reasoning: она пошагово решает сложные задачи, показывая промежуточные результаты. Также может вызывать инструменты — например, искать в интернете, выполнять расчёты или обращаться к внешним API. 128 тысяч токенов контекста для длинных документов Пошаговое логическое рассуждение Вызов инструментов и функций Работа на потребительском ПК без облака Модель нацелена на разработчиков, которые хотят встроить AI в свои приложения без зависимости от облачных сервисов.

Локальное исполнение — главное преимущество

Отличие LFM2.5 от облачных моделей в том, что она работает полностью на устройстве пользователя. Запрос не отправляется на сервер; ответ генерируется локально. Это значит минимальную задержку и полную конфиденциальность — данные не покидают ваш компьютер. Для разработчиков это означает отсутствие подписок и зависимости от API Liquid AI. Они просто скачивают модель и встраивают её в свой продукт. Нет ограничений по количеству запросов, нет счёта за каждый вызов. Идеально для мобильных приложений, встроенных систем и софта, который должен работать offline.

Что это значит Мир AI-моделей постепенно переходит от облачных сервисов к локальным решениям.

Если раньше только большие корпорации (OpenAI, Google, Meta) могли обслуживать миллионы пользователей, теперь каждый разработчик может встроить мощную модель прямо в свой софт. LFM2.5-8B-A1B — ещё один шаг в этом направлении. Особенно это полезно в приложениях, где нужна конфиденциальность, быстрота ответа или работа offline. *Meta признана экстремистской организацией и запрещена в РФ.