Нейросеть LILA: как сделать ИИ компактнее и дешевле

Автор Sovereign-Lila-Leech опубликовал манифест LILA и противопоставил свою архитектуру корпоративной гонке за масштабом. Идея проекта — зафиксировать геометрию решетки Лича внутри attention-механизма и за счет этого сильнее сжимать модели. В тексте обещают edge AI на смартфонах, но сам репозиторий пока описан как proof-of-concept с базовой 20-миллионной моделью и ранним исследовательским кодом.

AI-обработка оригинала Habr AI; редакция Hamidun News
Нейросеть LILA: как сделать ИИ компактнее и дешевле
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью

Автор проекта Sovereign-Lila-Leech представил нейросеть LILA — компактную архитектуру для языковых моделей, которая может радикально удешевить ИИ и позволить запускать его офлайн на клиентских устройствах без дата-центров.

Можно ли запустить LILA на обычном устройстве?

Да, главная ставка LILA — создание компактных моделей, которые можно запускать офлайн на клиентских устройствах вместо облачных сервисов.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…