Техники и методы

Контекст-инжиниринг

Контекст-инжиниринг — практика проектирования информации, помещаемой в контекстное окно языковой модели: какие данные, в каком формате и порядке передаются модели для выполнения задачи. Выходит за рамки составления отдельных промптов и охватывает архитектуру всей информационной среды модели.

Контекст-инжиниринг — подход к проектированию ИИ-систем, в котором центральным объектом является содержимое контекстного окна языковой модели. В отличие от промпт-инжиниринга, фокусирующегося на формулировке инструкций, контекст-инжиниринг охватывает управление всеми источниками информации, доступными модели в момент генерации ответа: системными инструкциями, извлечёнными из баз знаний фрагментами (RAG), историей диалога, результатами вызовов инструментов (tool calls), состоянием агента, метаданными сессии и внешними документами.

На практике контекст-инжиниринг включает решения о том, какую информацию извлекать из внешних источников и в каком объёме; компрессию и суммаризацию длинной истории диалога для экономии токенов; расстановку приоритетов (наиболее релевантный контекст размещается ближе к концу окна, поскольку модели лучше обрабатывают информацию вблизи текущего запроса); кеширование промптов для снижения стоимости повторных запросов; управление разными уровнями памяти агента — рабочей, эпизодической и семантической. Специализированные инструменты — LlamaIndex, LangChain, DSPy — автоматизируют часть этих задач.

С ростом контекстных окон моделей (от 4K токенов в GPT-3 до 1M+ токенов в Claude 3 и Gemini 1.5) изменился характер инженерных задач: проблема «как вместить нужное» трансформировалась в «как выбрать нужное из огромного доступного объёма». Исследования зафиксировали феномен «потери в середине» (lost in the middle): языковые модели хуже обрабатывают информацию, расположенную в центре длинного контекста, что делает стратегии расположения данных прямым фактором качества продакшн-систем.

Термин «контекст-инжиниринг» получил широкое распространение в 2025 году после публичных высказываний ряда видных исследователей — в частности, Андрея Карпати, — описывавших сдвиг от составления промптов к системному управлению контекстом. К 2026 году контекст-инжиниринг стал одной из ключевых компетенций при разработке многошаговых агентных систем, RAG-пайплайнов и корпоративных ИИ-ассистентов. Растёт число инструментов автоматической оптимизации контекста, в том числе решений для динамического сжатия и семантической фильтрации входящей информации.

Пример

При разработке агента клиентской поддержки инженер проектирует систему, которая динамически извлекает из базы знаний три наиболее релевантных фрагмента, сжимает историю диалога старше пяти реплик до краткого резюме и размещает текущую инструкцию в конце контекста — что позволяет укладываться в лимит токенов при сохранении высокой точности ответов.

Связанные термины

← Глоссарий