Как устроен AI-агент: слои-обёртки вокруг LLM и где искать источник бага

Разработчик с ML-бэкграундом опубликовал на Habr в июле 2026 года разбор внутреннего устройства AI-агентов: в центре любой агентной схемы остаётся одна LLM, а вокруг неё нарастает «луковица» слоёв-обёрток, и большинство сбоев случается именно в этих слоях, а не в самой модели.

Что скрывается за словом «агент»

AI-агент — это не сама нейросеть, а несколько слоёв кода вокруг неё. Меняются фреймворки, появляются MCP-серверы, облачные платформы обещают «агента из коробки», но ядро везде одно: большая языковая модель (LLM), которая читает контекст и предлагает следующий шаг. Всё, что снаружи, — это обвязка, которая готовит вход и обрабатывает выход модели.

Автор перечисляет типовые уровни, из которых собирают агента поверх модели:

• LLM — ядро, предсказывает вероятности следующего токена
• Слой промпта и контекста — что именно уходит в модель на вход
• Оркестрация и вызов инструментов — как ответ модели превращается в действие
• MCP-серверы — стандартизированный доступ агента к внешним данным и функциям
• Фреймворки и облачные обёртки — «агент из коробки» поверх всего этого

Каждый уровень добавляет свою логику: один собирает контекст, другой решает, какой инструмент вызвать, третий подключает внешние данные. Сама модель ни один из этих шагов не выполняет — она только предсказывает текст.

Почему баг чаще не в модели

Источник поломки в агенте обычно лежит не в LLM, а в одном из внешних слоёв: в том, как собран промпт, как передан контекст, как обработан вызов инструмента. Сама модель, по формулировке автора, делает ровно одно — предсказывает следующий токен; всё остальное добавляют обёртки вокруг неё.

«Сама модель всего лишь предсказывает вероятности следующего токена; снаружи нарастает луковица обёрток», — автор статьи на

Habr.

Именно поэтому, отмечает автор, при отладке важно понимать всю конструкцию: если агента собирают не из готового конструктора, знание слоёв помогает быстрее локализовать проблему. Проверять модель первой — частая ошибка: если ответ агента выглядит неверным, дело чаще в том, что до модели дошёл не тот контекст, или её ответ неправильно разобрал соседний уровень. Модель при этом отработала штатно.

Зачем смотреть от модели наружу

Разбор построен от ядра к периферии — от LLM к внешним обёрткам, потому что автор пришёл в агенты из ML, где каждый новый слой ложится поверх уже знакомого. Такой порядок, по его словам, делает картину понятнее: сначала — что делает модель, затем — что делает каждая обёртка над ней. Обратный путь — от готового «агента из коробки» внутрь — скрывает, где именно проходит граница ответственности каждого слоя.

Повод для статьи бытовой: заметки родились после очередного совместного поиска бага с технической командой. Автор собрал их в один обзор, чтобы в следующий раз было проще объяснять коллегам, где в агентной схеме что находится и куда смотреть при сбое. По сути это карта уровней, на которую удобно ссылаться во время отладки.

Что это значит

За модным словом «агент» стоит стек из нескольких слоёв, и понимание этой структуры — практический навык отладки: когда агент ведёт себя не так, начинать разбор стоит не с LLM, а с обёрток вокруг неё, где и прячется большинство ошибок.