Песочница (sandbox)

Песочница (sandbox) — изолированная среда выполнения, в которой ИИ-агент или программа запускается с ограниченным доступом к системным ресурсам, сети и данным, чтобы предотвратить непреднамеренные или вредоносные действия за её пределами.

Песочница — технический механизм изоляции, при котором процесс или агент работает внутри контейнера с явно заданными разрешениями: ограниченным доступом к файловой системе, сети, операционной системе и внешним API. Изначально концепция пришла из разработки браузеров и антивирусного ПО; в контексте ИИ-агентов она приобрела особое значение с появлением систем, способных выполнять произвольный код и управлять внешними инструментами.

Технически песочница реализуется через контейнеризацию (Docker, gVisor), виртуальные машины, seccomp-фильтры или специализированные среды выполнения. Агент получает доступ только к заранее одобренным инструментам — например, может читать файлы в определённой директории, но не вносить изменения в хост-систему. Все инструментальные вызовы журналируются и при необходимости проверяются человеком.

По мере того как LLM-агенты получают возможность использовать браузеры, терминал и внешние сервисы, песочница стала обязательным элементом безопасной архитектуры. Без изоляции вредоносный промпт может заставить агента выполнить деструктивные операции — удалить файлы, спровоцировать утечку данных или совершить несанкционированные транзакции.

К 2026 году песочница является стандартом в агентных платформах: Claude Computer Use от Anthropic, Operator от OpenAI и open-source фреймворки (E2B, Modal) предоставляют облачные песочницы с оплатой за время выполнения. Регуляторы ЕС в рамках AI Act рассматривают изолированное выполнение как одну из ключевых мер управления рисками для высокорисковых автономных систем.