Как не дать ИИ-агенту выйти за рамки задания: код проверяет план до правок на сайте
Попросили поправить одну страницу сайта на MODX, а ИИ-агент решил изменить общий блок (чанк), и вместе с нужной страницей поменялись ещё несколько десятков. Решение разумное, но разрешения на него не было. Автор вынес контроль из промпта в код: компонент ChangeSet превращает идеи агента в план и проверяет его до записи, сам ничего на сайте не меняя. Поэтому границы задания надёжнее держать программными проверками, а не просьбой в инструкции.
AI-обработка оригинала Habr AI; редакция Hamidun News
Представьте: вы просите ИИ-агента поправить текст на одной странице сайта, а он, изучив устройство CMS, решает, что проще изменить общий блок (в MODX он называется чанк). Технически решение правильное, но вместе с нужной страницей изменятся ещё несколько десятков, где этот блок подключён. Разрешения на такое никто не давал. Разработчик, который сначала подключил агента к MODX через MCP (протокол, по которому модель получает доступ к внешним инструментам), а затем организовал его самостоятельную работу с боевыми сайтами, рассказал, как закрывает эту проблему в проекте Site Agent Runtime. Идея простая: агент предлагает, а проверяет его не он сам и не промпт, а обычный код. Ключевой компонент называется ChangeSet. Он готовит, проверяет и фиксирует план изменений, но сам на сайте ничего не меняет.
Полная система закрыта, однако три компонента (Task Manager, ChangeSet и State Guard) автор выложил на GitHub с автоматическими тестами. Есть и интерактивная демонстрация: настоящий Python-код выполняется прямо в браузере через Pyodide, и можно посмотреть, какие операции система разрешает, а какие отклоняет.
Решение агента ещё не повод менять сайт
Автор разделил три шага: принятие решений, подготовку плана и исполнение. TaskSpec описывает задание и допустимые действия. Resolver сопоставляет их с конкретными объектами сайта. DecisionSet фиксирует технические решения агента. ChangeSet превращает всё это в проверяемый план, который затем получает отдельный Executor, то есть исполнитель.
Метод bind_scope() привязывает каждую операцию к цели, найденной Resolver, и проверяет тип объекта, его статус и допустимое действие. Разрешили обновить ресурс, а агент хочет его удалить: операция отклоняется. То же происходит, если он пытается тронуть посторонний объект. Если правка затрагивает элемент, которым пользуются несколько ресурсов, нужно явное подтверждение, какую бы оценку риска ни назвал сам агент.
Две успешные записи и одно потерянное изменение
Документы лежат в JSON-файлах: при небольшом числе задач отдельная база данных не нужна. Запись идёт через временный файл с flush, fsync и os.replace(), а синхронизация держится на блокировке fcntl.flock. Выглядит надёжно. Но если два процесса прочитали одну редакцию, подготовили разные правки и сохранили их по очереди, обе записи пройдут без ошибок, а результат первой исчезнет. Это классический lost update. Атомарная замена защищает от наполовину записанного файла, но не от записи поверх устаревших данных.
Держать эксклюзивную блокировку на всё время подготовки плана автор не стал: один процесс тормозил бы остальных даже тогда, когда хранилище ему не нужно. Он выбрал оптимистичный контроль. План готовится без блокировки, а перед сохранением документ перечитывается и сравнивается с тем, что был прочитан в начале. Если не совпало, система выдаёт ошибку «перезагрузите и повторите» вместо молчаливой перезаписи.
Сравнивать пришлось весь документ, а не только номер редакции revision. Операция seal() переводит план из состояния draft в sealed, но номер редакции не увеличивает. Процесс со старой копией черновика мог бы затереть уже зафиксированный план.
Для таких гонок обычный тест почти бесполезен: он может проходить десятки раз при живой ошибке. В test_competing_writers_cannot_lose_revision два потока читают одну версию и ждут друг друга на threading.Barrier. Затем оба пытаются сохраниться, а тест требует, чтобы успех был ровно один, а второй получил конфликт. Это потоки одного процесса, но проверяются реальные методы ChangeSet. Отдельный тест моделирует случай, когда документ успели зафиксировать между чтением и записью. Проверки идут в GitHub Actions на Linux с Python 3.10–3.13.
Целостность — не то же самое, что полномочия
После seal() обычный set() содержимое менять не позволяет, иначе проверяли бы один план, а исполняли другой. Поправки вносятся через amend(): метод сохраняет историю, повышает редакцию, возвращает документ в draft и сбрасывает прежнее подтверждение. Если пользователь согласовал изменение трёх ресурсов, четвёртый это разрешение не унаследует.
Целостность плана контролирует канонический хэш SHA-256. Перед фиксацией он сверяется с содержимым черновика, а у зафиксированного документа пересчитывается при последующих проверках. Тест test_frozen_payload_recalculated подменяет содержимое такого документа и убеждается, что план признан неготовым к исполнению.
Но хэш показывает, что документ менялся, а не кто его менял. Если агент вызывает approve(source="user"), это обычная строка, которую он способен передать сам: получается, что он предлагает опасную операцию и сам же сообщает, что пользователь её одобрил. Поэтому в опубликованной версии approve() отклоняет любые вызовы, а планы, требующие согласования, нельзя зафиксировать через seal() в обход. Независимого доверенного канала подтверждения здесь нет, и автор не изображает его наличие.
Правильный план тоже может устареть
Даже если план соответствует заданию, зафиксирован и прошёл проверку хэша, сам сайт за время подготовки мог измениться. Агент прочитал ресурс, подготовил правку, зафиксировал ChangeSet, а кто-то успел поменять объект. Для этого в плане хранится read_set: сведения об исходных объектах и их контрольные отпечатки, по которым потом проверяют актуальность данных.
Практический вывод для тех, кто даёт агентам доступ к продакшену: границы задания, версии состояния и подтверждения должны обеспечиваться детерминированным кодом, а не просьбами в промпте. Часть этих проблем, например потерянная запись, вообще не связана с ИИ и решается обычной инженерной дисциплиной. Оговорка: опубликованные компоненты демонстрационные, это не готовая библиотека для управления сайтами.
- 21 нояб. 2026 г.Ролик о Claude в GTA 6 похож на фейк: полчаса управления съели 5-часовой лимит Pro
- 21 нояб. 2026 г.Claude Code ускорил декомпиляцию Snowboard Kids 2: с 20% до 45% функций за три месяца
- 21 нояб. 2026 г.VibeCBS собирает прозвища проектов заранее: агент находит в 2,8 раза больше документов
- 21 нояб. 2026 г.Вакансий FDE за год стало в 4,6 раза больше: что делает инженер у заказчика
Вопросы и ответы по материалу
Что известно по теме: решение агента ещё не повод менять сайт?
Автор разделил три шага: принятие решений, подготовку плана и исполнение. TaskSpec описывает задание и допустимые действия. Resolver сопоставляет их с конкретными объектами сайта. DecisionSet фиксирует технические решения агента. ChangeSet превращает всё это в проверяемый план, который затем получает отдельный Executor, то есть исполнитель. Метод bind_scope() привязывает каждую операцию к цели, найденной Resolver, и проверяет тип объекта, его статус и допустимое действие.
Что известно по теме: две успешные записи и одно потерянное изменение?
Документы лежат в JSON-файлах: при небольшом числе задач отдельная база данных не нужна. Запись идёт через временный файл с flush, fsync и os.replace(), а синхронизация держится на блокировке fcntl.flock. Выглядит надёжно. Но если два процесса прочитали одну редакцию, подготовили разные правки и сохранили их по очереди, обе записи пройдут без ошибок, а результат первой исчезнет. Это классический lost update. Атомарная замена защищает от наполовину записанного файла, но не от записи поверх устаревших данных.
Что известно по теме: целостность — не то же самое, что полномочия?
После seal() обычный set() содержимое менять не позволяет, иначе проверяли бы один план, а исполняли другой. Поправки вносятся через amend(): метод сохраняет историю, повышает редакцию, возвращает документ в draft и сбрасывает прежнее подтверждение. Если пользователь согласовал изменение трёх ресурсов, четвёртый это разрешение не унаследует. Целостность плана контролирует канонический хэш SHA-256.
От чтения про ИИ-агентов — к запуску своего агента за вечер
Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.