Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
NEWHacker News AIOpen-source Hob переносит режим Claude Cowork на ваш ноутбук без облака
RunPod BlogMochi 1 от Genmo: открытая видеомодель на 10 млрд параметров под Apache 2.0
Hacker News AIИИ-агенты декомпилировали шутер от первого лица, потратив 500 млрд токенов
Habr AIВеса LLM заменяют рецептом: как 16 ГБ матриц пытаются свернуть в формулы
Habr AIРоссийских ИИ-агентов для кода уже 18, но «российский» значит три разные вещи
Jiqizhixin (机器之心)Matrix Game 4.0 выдаёт 60 FPS на одной игровой видеокарте и обходит конкурента Nvidia
Jiqizhixin (机器之心)Stanford и Together AI научили LLM писать текст с плана: генерация быстрее до 31 раза
Moonshot Kimi BlogMoonshot выложила Kimi Vendor Verifier: 6 тестов для проверки провайдеров K2.6
Российских ИИ-агентов для кода уже 18, но «российский» значит три разные вещи
Перепись РуБенча насчитала 18 российских ИИ-агентов для разработки (10 для IDE/CLI и 8 билдеров): от GigaCode, SourceCraft и Kodik до T-Code, Koda и 1С:Напарника.
Matrix Game 4.0 выдаёт 60 FPS на одной игровой видеокарте и обходит конкурента Nvidia
Китайская интерактивная мировая модель Matrix Game 4.0 в реальном времени генерирует играбельную картинку на 60 FPS на одной потребительской видеокарте.
Stanford и Together AI научили LLM писать текст с плана: генерация быстрее до 31 раза
Исследователи Stanford и Together AI перенесли «предсказание следующего масштаба» из VAR на текст: модель сначала пишет план, потом детали. Заявлено ускорение до 31…
Moonshot выпустила открытую Kimi K2 Thinking: 300 вызовов инструментов подряд
Moonshot открыла Kimi K2.6: 300 субагентов и 13 часов автономного кодинга
Moonshot выпустила Kimi K3 на 2,8 трлн параметров с контекстом 1 млн токенов
IF-MAP находит, каких агентов улучшать: вдвое больший прирост точности
Замороженный словарь на 16 МБ сравнялся с обучаемым в малых LLM
Исследователи заменили 168 млн параметров эмбеддингов Gemma-подобной модели замороженной таблицей в 16 МБ и на трёх из четырёх бенчмарков не проиграли.
NVIDIA RTX Spark N1X прогнал локального агента на Qwen3.8 27B за 18,7 минуты
Ноутбук Surface Laptop Ultra на чипе N1X со 128 ГБ памяти выполнил агентную нагрузку AA-AgentPerf-Local за 18,7 минуты. Это вдвое быстрее MacBook Pro с M5 Pro.
Разработчик с Claude Code собрал Lumi: Spotlight с ИИ для Mac и Windows бесплатно
Техно-аквариум на две GTX 1660 Super: как я запустил Qwen 2.5 и встроил её в INFERNUM
Qwen-Image-2.1 от Alibaba: 7 млрд параметров, 2K и запуск на MacBook Air с 16 ГБ
Ситхараман назвала Индию альтернативой США и Китаю для капитала в ИИ и чипах
Удары БПЛА по инфраструктуре «Яндекса» сократили свободные мощности в России
Аналитики ИТ-рынка фиксируют критическое сокращение свободных вычислительных ресурсов в России после серии ударов беспилотников по инфраструктуре «Яндекса».
Битрикс24 описала, что строят вокруг собственной LLM на 1 трлн параметров
На Saint HighLoad++ в Битрикс24 разобрали, что начинается после запуска модели на 1 трлн параметров: общие GPU для чатов, агентов и длинных документов.