MarkTechPost→ оригинал

Как использовать нейросеть LFM2.5 локально на своем ПК

Liquid AI выпустила LFM2.5-8B-A1B — модель MoE, которая активирует только 1.5B из 8.3B параметров. Работает на обычном ПК, поддерживает контекст 128K токенов, умеет рассуждать и вызывать инструменты. Идеально для локальных AI-приложений.

AI-обработка оригинала MarkTechPost; редакция Hamidun News
Как использовать нейросеть LFM2.5 локально на своем ПК
Источник: MarkTechPost. Коллаж: Hamidun News.
◐ Слушать статью

Нейросеть LFM2.5-8B-A1B от Liquid AI может работать на персональном компьютере без облачного сервера и подписки, что экономит ресурсы для локального использования.

Нейросеть LFM2.5 работает на обычном ПК без облака?

Да. В LFM2.5 всего 8,5 миллиардов параметров, но одновременно активируется только 1,5 миллиарда, что позволяет запускать её на персональном компьютере без облачного сервера.

Зачем нужна архитектура MoE в нейросетях?

Архитектура Mixture of Experts выбирает только те части модели, которые нужны для текущей задачи — как выбор нужных книг из библиотеки вместо перечитывания всех сразу. Это экономит мощность и память.

ЖХ
Hamidun News
AI‑новости без шума. Ежедневный редакторский отбор из 400+ источников. Продукт Жемала Хамидуна, Head of AI в Alpina Digital.

Хотите не читать про ИИ, а внедрить его?

«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.

Что вы думаете?
Загружаем комментарии…