Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
Bonsai 27B от PrismML: модель Qwen3-27B впервые запустили на смартфоне
Стартап PrismML (исследователи Caltech) сжал Qwen3.6-27B в 14 раз с 1-битными весами — 27-миллиардная Bonsai 27B теперь работает прямо на смартфоне, сохраняя 90–95%…
Selectel тестирует Mac mini M4 Pro как локальный LLM-сервер для OpenClaw
Selectel проверил Mac mini на чипе M4 Pro как портативный LLM-сервер с агентом OpenClaw: объединённая память Apple Silicon устраняет главный барьер локального…
BitNet b1.58: как тернарное квантование позволяет запустить 27B-модель без GPU
Нейросети с весами всего из трёх значений {-1, 0, 1} умещают 27B-модели в 6–7 ГБ RAM — и запускаются на обычном ноутбуке без видеокарты.
Как Яндекс профилирует память миллионов колонок с Алисой: борьба за 256 МБ
Apple Foundation Models SDK for Python: локальная Apple Intelligence в агенте Hermes
StarGuard AI: зачем корпоративным LLM нужен firewall и как его строит Orion Soft
4 Mac Studio в один кластер: 1,5 ТБ памяти для LLM на триллион параметров
Разработчик научил ИИ-агента автоматически откликаться на вакансии на HH.ru
Автор на Habr показал автономного ИИ-агента для HH.ru: локальная нейросеть фильтрует вакансии, а бот сам пишет персональные сопроводительные письма и отчитывается в…
Разработчик построил локальный спам-фильтр на модели ruBert-base-antispam без VPN
Автор на Habr собрал многоуровневый фильтр спама: после Яндекса, Mail и SpamAssassin письма проверяет локальная BERT-модель на 177 миллионов параметров.
Как контекстная инженерия делает слабую локальную LLM надёжным агентом
Qwen3.6 и MCP: как собрать локальную ИИ-систему без интеграции под каждую модель
Пять AI-плагинов для Obsidian, которые помогают не терять знания из заметок
AMD показала, как запускать ИИ-агентов на PC с 128 ГБ памяти
OpenAI представила GPT-Live — обновлённый голосовой ChatGPT с поддержкой GPT-5.5
OpenAI запустила GPT-Live — обновлённую модель голосового режима ChatGPT, которая может делегировать сложные задачи к GPT-5.5.
MiniMax привлекает $2 млрд на развитие AI-моделей через размещение акций
Китайская компания MiniMax запустила поиск финансирования в размере $2 млрд через продажу новых акций и конвертируемых облигаций, присоединяясь к волне…