Anthropic разделила мозг и руки ИИ-агентов: задержка TTFT упала на 90%

Инженеры Anthropic опубликовали технический разбор архитектуры Managed Agents — сервиса для выполнения долгосрочных автономных задач агентами Claude. Команда отказалась от монолитных контейнеров, где нейросеть, среда исполнения кода и журнал сессии находились в общем окружении. Переход к строгому разделению «мозга», «рук» и журнала состояний позволил сократить задержку генерации первого токена (TTFT) на 60% по медиане (p50) и более чем на 90% в 95-м процентиле (p95), попутно ликвидировав структурные дыры в безопасности.

Отказ от серверов-питомцев

На ранних этапах оркестратор (harness) и изолированная среда (sandbox) разворачивались в одном контейнере. Такой подход упрощал файловые системные вызовы, но порождал классическую инфраструктурную проблему «серверов-питомцев». Если контейнер зависал или падал из-за сетевого сбоя, сессия терялась безвозвратно. Инженеры не могли безопасно подключиться к процессу для отладки, поскольку внутри рабочей среды хранились пользовательские данные. Кроме того, подключение к виртуальным частным облакам (VPC) клиентов требовало сложного сетевого пиринга.

В Managed Agents систему разбили на три независимых примитива: session (неизменяемый лог событий append-only), harness (цикл вызова Claude и маршрутизации инструментов) и sandbox (вычислительное окружение). Контейнер песочницы стал взаимозаменяемым ресурсом. Если среда исполнения дает сбой, управляющий цикл перехватывает ошибку вызова инструмента, передает ее модели и при необходимости перезапускает изолированную среду через декларативный вызов `provision()`.

Сессии вне окна контекста и барьеры безопасности

Долгие задачи неизбежно исчерпывают лимит контекстного окна. Традиционные методы вроде суммаризации или удаления старых блоков необратимы: модель рискует стереть фрагмент, который потребуется через десятки шагов. В Managed Agents история сохраняется в постоянном журнале вне контекста модели. Интерфейс `getEvents()` позволяет агенту опрашивать лог с произвольным смещением, перечитывать предысторию перед выполнением действия и перестраивать контекст под эффективное кэширование промптов.

Параллельно решена проблема утечки секретов при prompt injection. Ранее вредоносный код мог заставить Claude прочитать переменные собственного окружения. В новой схеме учетные данные никогда не попадают в песочницу:

• Задержка TTFT сократилась на ~60% для p50 и свыше 90% для p95 за счет ленивой инициализации тяжелых контейнеров. • Вызов среды выполнения стандартизирован до сигнатуры `execute(name, input) -> string`, что позволяет агенту управлять любыми внешними системами и эмуляторами. • Ключи Git и токены OAuth изолированы во внешнем хранилище и задействуются через защищенный MCP-прокси. • Отказоустойчивый цикл harness перезапускается командой `wake(sessionId)` и возобновляет работу с последней подтвержденной записи в логе.

Мета-харнесс для моделей будущего

Создание универсальных интерфейсов поверх постоянно обновляемых моделей повторяет эволюцию операционных систем, где системный вызов `read()` абстрагирован от типа физического накопителя. В тестах Claude Sonnet 4.5 разработчики сталкивались с «контекстной тревогой», когда модель преждевременно сворачивала работу при приближении к лимиту токенов, что требовало принудительных сбросов в коде обвязки. В Claude Opus 4.5 эта особенность поведения исчезла, превратив прежние костыли в балласт. Модульная архитектура снимает зависимость от сиюминутных ограничений LLM и позволяет масштабировать связку из множества агентов и десятков песочниц под любые будущие поколения моделей.