Технический стек AI-агентов: LLM, оркестрация, векторная память и инструменты

AI-агент — это не просто вызов языковой модели. За каждым автономным агентом стоит многоуровневая архитектура, и от выбора каждого компонента зависит, насколько надёжно и предсказуемо система справляется с реальными задачами.

Слои агентного стека В основе лежит языковая модель — GPT-4o,

Claude 3.5 Sonnet, Gemini 1.5 или открытые альтернативы вроде Llama 3 и Mistral. Именно она отвечает за рассуждение. Выбор модели определяет потолок возможностей агента: мощная модель лучше справляется с многошаговыми задачами, но дороже и медленнее работает. Над LLM располагается слой оркестрации — фреймворк или собственный код, который управляет циклом «думать → выбрать инструмент → выполнить → оценить → продолжить». Самые распространённые фреймворки: LangChain (богатая экосистема интеграций), LlamaIndex (акцент на RAG и работе с данными), AutoGen от Microsoft (диалог между несколькими агентами), CrewAI (агенты с ролями и командная работа). Каждый по-своему балансирует между гибкостью и сложностью настройки. Для продакшн-решений всё чаще пишут оркестрацию самостоятельно — так проще контролировать поведение агента на каждом шаге.

Память: от токенов до векторных баз

Агент без памяти сбрасывает весь контекст после каждого разговора. Краткосрочная память — это контекстное окно текущей сессии: всё, что умещается в токены, модель «помнит» прямо сейчас. Но окно конечно, дорого держать в нём всё подряд, и при длинных сессиях оно быстро переполняется.

Долгосрочная память реализуется через векторные базы данных: Pinecone, Chroma, Weaviate, Qdrant, pgvector. Агент векторизует факты и сохраняет их, а при необходимости извлекает через семантический поиск. Именно так работает RAG (Retrieval-Augmented Generation): вместо хранения всего контекста в токенах система запрашивает только то, что релевантно для конкретного шага.

Это снижает стоимость и уменьшает вероятность галлюцинаций. Третий уровень — семантический кэш: если агент уже отвечал на похожий запрос, система возвращает сохранённый результат без нового вызова LLM. В продакшн-сценариях с повторяющимися паттернами это ощутимо снижает латентность и стоимость инфраструктуры.

Инструменты и действия

Инструменты превращают агента из «умного чата» в систему, которая реально что-то делает. Без них агент ограничен только знаниями из обучающих данных, которые быстро устаревают. Типичный набор в продакшн-агенте: Веб-поиск в реальном времени (Brave Search, Tavily, SerpAPI) Выполнение кода (Python REPL, E2B Sandbox) Работа с файлами, таблицами, PDF и базами данных HTTP-запросы к внешним API и корпоративным сервисам * Браузерная автоматизация (Playwright, Puppeteer) Связующее звено — function calling: модель описывает, какой инструмент вызвать и с какими аргументами, оркестратор исполняет вызов и возвращает результат в контекст.

Цикл «думать — действовать — наблюдать» повторяется до выполнения задачи или до момента, когда требуется вмешательство человека. Отдельный, часто недооценённый компонент — наблюдаемость. В продакшне важно понимать, почему агент принял то или иное решение и где ошибся.

Трейсинговые инструменты вроде LangSmith или Langfuse фиксируют каждый шаг, позволяют сравнивать версии промптов и измерять качество ответов.

Что это значит

Технический стек AI-агента — это набор конкретных инженерных компромиссов, а не абстракция. Правильный выбор фреймворка, слоя памяти и инструментов определяет, будет ли агент надёжным в продакшне или будет галлюцинировать и зависать на полпути к цели. По мере того как агентные системы выходят из лабораторий в реальные продукты, понимание каждого слоя стека становится базовым навыком для разработчиков AI-приложений.