Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
Canonical встроит локальные ИИ-инструменты в Ubuntu 26.10 с отключением в один клик
Canonical добавит в Ubuntu 26.10 локальные ИИ-инструменты на базе LLM: они будут опциональными, полностью удаляемыми и по умолчанию не станут отправлять данные в…
Poolside выпустила Laguna XS.2 и M.1 — открытые модели для агентного программирования
Poolside показала две модели Laguna для агентного кодинга: открытая XS.2 запускается локально, а более мощная M.1 рассчитана на длинные задачи с правками кода…
Google Gemma 4 и Qwen 3.6 возглавили список лучших локальных моделей для дома в 2026 году
Подборка локальных моделей 2026 года показывает, что для домашнего AI уже хватает RTX 3060, а выбирать нужно по VRAM, квантованию и задаче — от кода до…
М2 передала нейросети 40% маркетинговых текстов и не потеряла качество контента
Habr AI показал, как добавить память и контекст в LLM-чат на Python с Ollama и LiteLLM
Google Gemma 4, NVIDIA и OpenClaw: локальные AI-агенты без оплаты за каждый токен
NVIDIA показала полный пайплайн оптимизации модели с FastNAS pruning и fine-tuning
Qwen и llama.cpp: как запустить локальную нейросеть без облака на компьютере или сервере
Практический материал объясняет, как запустить модель Qwen через llama.cpp на своём компьютере или сервере, чтобы работать с локальной нейросетью без облаков…
AI для умного дома: Llama 8B локально, реальные ловушки и как обойтись без облака
Практический разбор: как связать Llama 8B, Ollama и Home Assistant в офлайн-стек, чего ждать по производительности и где ждут ловушки при развёртывании.
OpenGrall представил архитектуру для роботов с ИИ, где языковая модель отвечает за стратегию
MarkTechPost разобрал полный цикл обучения больших языковых моделей: от данных до деплоя
Positive Technologies перечислила лучшие бенчмарки для оценки LLM в кибербезопасности
Gemma 4 в Codex CLI: локальный запуск оказался рабочим, но пока слабее облака
Habr AI выпустил гид по ChatGPT, Claude и mcp для тех, кто только входит в тему
Habr AI объяснил без лишней теории, чем отличаются локальные и облачные модели, зачем платить за подписки, как работают агенты и почему mcp уже становится…
PrismML Bonsai: как запустить 1-битную модель на CUDA с GGUF, JSON и RAG
В новом туториале по PrismML Bonsai разобрали, как запустить Bonsai-1.7B на GPU через CUDA и GGUF, измерить скорость, настроить чат, строгий JSON-вывод и базовый…