LangSmith выпустил Sandboxes для безопасного запуска кодирующих агентов

LangSmith, платформа для разработки и отладки LLM-приложений от LangChain, объявила о выпуске Sandboxes в general availability — изолированной среде выполнения для AI-агентов, которые генерируют и выполняют код.

Как работают

Sandboxes Это kernel-isolated микро-виртуальные машины, которые физически отделяют выполнение кода агентов от основной системы. Каждый Sandbox работает в собственной виртуальной машине, что предотвращает несанкционированный доступ к чувствительным данным, ресурсам хоста и другим процессам. Основная идея: агенты часто генерируют и выполняют код, который вы не полностью контролируете. LLM может написать что угодно — от простой математики до удаления файлов, утечки данных и бесконечных циклов. Sandboxes решают эту проблему, давая агентам огороженное "поле" для экспериментов без риска для основной системы. Это как дать ребёнку песочницу: он может копать, строить, экспериментировать, но не может повредить дом.

Что они умеют

LangSmith Sandboxes предлагают ряд практических функций для различных сценариев использования: Snapshots — сохранять состояние окружения в конкретный момент времени и мгновенно восстанавливать его для повторного запуска или отката Parallel forks — запускать несколько независимых экземпляров песочницы одновременно для параллельной обработки или A/B-тестирования логики агента Service URLs — предоставлять веб-интерфейсы или API-эндпоинты, работающие внутри Sandbox, чтобы агент мог взаимодействовать с внешними сервисами Auth proxies — управлять доступом, аутентификацией и авторизацией для внешних сервисов, которые вызывает агент, не раскрывая реальные учётные данные Все эти функции позволяют разработчикам безопасно запускать потенциально опасный код без опасений за стабильность и безопасность production-окружения. Это особенно важно для команд, которые используют агентов для автоматизации критических операций, где сбой может иметь серьёзные последствия.

Для кого это полезно Sandboxes предназначены для трёх основных use case'ов.

Первый — кодирующие AI-агенты, которые пишут и выполняют код для анализа данных, автоматизации задач или создания отчётов. Второй — CI-агенты, интегрированные в пайплайны непрерывной интеграции и развёртывания для автоматического тестирования и деплоя. Третий — сложные конвейеры обработки данных, где код генерируется динамически и выполняется без прямого человеческого контроля.

Пример: агент получает задачу "проанализировать эти данные и создать график". Он может написать Python-скрипт, используя pandas и matplotlib. LangSmith Sandbox безопасно выполнит этот скрипт, не давая ему доступ к файловой системе хоста или сети, если это не разрешено явно.

Результаты вернутся в безопасный вид. Другой пример: CI-агент может автоматически запускать тесты, деплой и валидацию кода в изолированной среде, гарантируя, что никакой сгенерированный код не повредит production или украдёт секреты (ключи API, пароли и т.д.)

Зачем это нужно сейчас

По мере того как AI-агенты становятся более автономными и берут на себя больше ответственности, возрастает риск непредвиденного поведения. LLM-модели иногда "галлюцинируют" и генерируют неправильный код. Например, модель может случайно написать код, который пытается прочитать переменные окружения с секретами или обратиться к неправильному сервису. Человеческие опасения по поводу безопасности при запуске LLM-сгенерированного кода совершенно справедливы. Безопасность становится критически важной по мере того, как AI-агенты переходят из лабораторий и хакатонов в production-системы, обслуживающие реальных пользователей и данные. Запуск потенциально враждебного или непредсказуемого кода — одна из главных проблем при развёртывании автономных систем. LangSmith Sandboxes показывают, что экосистема инструментов для AI-разработки взрослеет и готовится к enterprise-требованиям безопасности.