LLM-разработка в 2026: RAG, агенты и выбор моделей

Рынок ловит момент. В 2024-м мир начал понимать, как применять LLM, в 2025-2026 российский бизнес проснулся: нужно внедрить AI везде — в разработку, CI/CD, оценку, code review, постановку задач. Но спрос опережает кадры. Людей, профессионально занимающихся LLM-разработкой, мало. Начните с LLM-интеграции — это специалисты, которые разбираются в бизнес-процессах и решают практические задачи. Их расхватывают как горячие пирожки, как и CRM-интеграторов в нулевые.

RAG и агенты: основной набор

RAG (Retrieval-Augmented Generation) даёт LLM доступ к вашим данным. Документы, договоры, карточки клиентов нарезают на смысловые куски, преобразуют в векторы и сохраняют в векторную базу (Qdrant). Когда пользователь пишет запрос, система находит близкие по смыслу куски и передаёт их модели для ответа. Получается поиск по релевантной информации, не по ключевым словам.

Агенты выполняют действия: создают задачи в CRM, отправляют письма, обращаются к сервисам. Работают через Tool Calling — разработчик заранее объясняет модели доступные инструменты (поиск в БД, отправка писем, командная строка), модель выбирает нужный, приложение выполняет действие и возвращает результат.

MCP (Model Context Protocol) — стандарт для Tool Calling. Вместо каждый раз писать свой код, используйте готовые MCP-серверы. При оркестрации со множеством агентов это критично. Распределяйте инструменты по отделам, делегируйте работу. Для прототипа берите AI-студии (Google, Яндекс).

Пример из практики: система анализа договоров. Первый вариант — полная автоматизация с загруженными статьями, законами и множеством проверок: 20% эффективности, юристы всё равно перепроверяли результаты вручную. Второй вариант — агент встроили в Word. Юристы работали сами, обсуждая возможные проблемы с ассистентом. Скорость выросла в два раза. Вывод: технология важна, но восприятие пользователей критично. Люди хотят контролируемый инструмент, не замену.

Модели: большие и маленькие

Большие провайдеры требуют денег: • OpenAI • Anthropic • Google • Minimax • Llama • Qwen • DeepSeek • GLM • Kimi

Есть открытые маленькие модели (до 100 млрд параметров): • GLM • Qwen • Gemma • Llama • open-source GPT

Их развернёшь локально, не беспокоясь о лицензиях. Большие модели используйте на первых этапах, когда не ясно, что конкретно нужно. Но в 90% случаев маленькие модели справляются. Например, когда нужно вернуть заготовленный текст, маленькие экономят не просто много денег, а очень много. Критерии выбора просты: как вы работаете с клиентом и где можно сэкономить. Большинство современных моделей поддерживают Tool Calling и хорошо работают с русским языком.

Production: безопасность и метрики

Важен workflow: кто пользователи, какие вопросы они задают, что их беспокоит. Логирование вопросов — самое ценное. По запросам видна боль пользователей и эффективность системы.

Законодательство требует хранить данные граждан России локально и ограничивает передачу персональных данных третьим лицам. Используйте эмбеддер на своей стороне (сейчас есть маленькие и быстрые). Локальная LLM решит проблему утечки данных. От промпт-инъекций и кражи токенов защищают фильтры, лимиты на запросы, авторизация. Собирайте метрики качества — они показывают удовлетворённость клиентов и реальную эффективность системы.