Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизAPI / Продукт · В работуAWS Machine Learning Blog→ оригинал

AWS ускорила запуск ИИ-агентов до 15 раз и сократила расход памяти на сессию до 68%

Агенту нужна своя изолированная «песочница», и раньше приходилось выбирать: держать готовые машины и платить за простой или ждать холодного старта. В обновлённом AgentCore runtime от AWS сессия стартует меньше чем за 2 секунды, до 15 раз быстрее прежней версии, а у агентов с паузами память на сессию сокращается до 68%. Поэтому тёплые пулы больше не нужны, а смету на агентов стоит пересчитать.

AI-обработка оригинала AWS Machine Learning Blog; редакция Hamidun News
AWS ускорила запуск ИИ-агентов до 15 раз и сократила расход памяти на сессию до 68%
Источник: AWS Machine Learning Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникAWS Machine Learning Blog ↗
Главный редактор
Coinbaseхолодный старт сессий сократился с почти минуты до менее 5 секунд
Лимиты сессии выросли вчетверодо 8 vCPU, 32 ГБ и образы до 10 ГБ
Ключевой факт #3Сессия монтирует бакет S3 как файловую систему, данные остаются внутри

Представьте агента, который чинит баги в вашем репозитории: он запускает код, гоняет тесты и ходит по сайтам. Такого агента нельзя пускать в общую среду, ему нужна своя изолированная «песочница». А дальше начинается торг: если держать готовые песочницы заранее, вы платите за простой, а если создавать их по запросу, пользователь ждёт холодного старта. AWS обновила AgentCore runtime, управляемый вычислительный слой в составе Amazon Bedrock AgentCore, и обещает убрать этот выбор. Сессия агента теперь стартует меньше чем за 2 секунды, по оценке AWS, до 15 раз быстрее прежней версии. А у агентов с паузами между шагами расход памяти на сессию падает до 68%, потому что простаивающий агент больше не занимает память впустую.

В чём была проблема

Агенты давно вышли за рамки одиночных промптов: они часами выполняют многошаговые задачи, исполняют код, работают с чувствительными данными и действуют от имени пользователя. Поэтому каждой сессии нужна изоляция, иначе код одного пользователя может добраться до данных другого. Когда агентов становятся тысячи, самописные песочницы получаются сложными, дорогими и непредсказуемыми.

AWS ссылается на отраслевые опросы. По данным Deloitte, только 15% организаций масштабировали оркестрируемые мультиагентные системы, а 70% признают, что пока не могут доверять своим агентам и управлять ими. По данным McKinsey, 40% крупных компаний уже масштабируют ИИ-агентов, год назад было 27%. Методику опросов AWS не раскрывает, но вывод ясен: многие упираются не в возможности моделей, а в безопасный и недорогой запуск.

Что изменилось

Базовая гарантия осталась прежней: каждая сессия работает в собственной аппаратно изолированной микровиртуальной машине Firecracker (это лёгкая виртуальная машина, которая поднимается за доли секунды) со своей идентичностью, политикой доступа и журналом аудита. Поверх этого появилось четыре изменения.

  • Старт и размер. Сессия стартует меньше чем за 2 секунды независимо от размера образа и числа параллельных запусков. Лимиты выросли вчетверо: до 8 vCPU (виртуальных процессорных ядер) и 32 ГБ памяти, образы контейнеров могут весить до 10 ГБ. Этого хватает для сборки больших кодовых баз, браузерных сценариев и локального запуска моделей. Тёплые пулы и заранее поднятые кластеры, по словам AWS, больше не нужны.
  • Оплата за работу. Агент большую часть времени ждёт ответа модели, инструмента или человека. Теперь среда освобождает память в течение нескольких минут после того, как агент её отпустил, а простаивающий агент масштабируется до нуля. Для диалоговых агентов с паузами это и даёт до 68% экономии памяти на сессию.
  • Тариф для постоянных агентов. Для тех, кто работает без остановки, есть committed baseline: вы фиксируете минимальную память на сессию и платите за неё как за минимум. Сверх неё можно кратковременно брать до четырёх таких объёмов по требованию. Ставки привязаны к ценам AWS Lambda MicroVM.
  • Изоляция данных. Раньше агент сидел в защищённой сессии, а нужные ему файлы лежали снаружи. Теперь сессия может динамически подключать файловую систему, например бакет Amazon S3 через FUSE (так хранилище выглядит как обычная папка), и сохранять туда результаты. Данные остаются внутри границы доверия, а правила доступа задаются один раз.

Что говорят клиенты и на что смотреть

AWS приводит отзывы клиентов. Coinbase сообщает, что холодные старты сессий сократились с почти минуты до менее 5 секунд даже в пик, а недельный объём запусков агентов вырос более чем вдвое. Mission Cloud на одном и том же сценарии получила на 35% более быстрый старт для запросов инференса, на 77% более быстрый старт проверок работоспособности и на 17% меньшую стоимость вызова. Zuora снизила память на вызов примерно на 60% во многих сценариях при стабильной задержке. Okta использует связку с Lambda MicroVM, чтобы агенты проверяли код, гоняли тесты и открывали pull request в одноразовых песочницах.

Оговорки стоит держать в голове. Цифры либо звучат как маркетинговое «до», либо взяты из слов самих клиентов в пресс-релизе, независимых замеров нет. Выигрыш зависит от профиля нагрузки: если агент всё время держит память занятой, экономия будет скромнее 68%. Привязку каждой сессии к собственной папке хранилища через сессионные учётные данные AWS обещает только к re:Invent, так что изоляция данных пока неполная.

Практический вывод для команд, которые строят агентов: если вы держите тёплые пулы или самописные песочницы ради быстрого старта, сравните их стоимость с новой моделью оплаты за фактическую работу. Начать удобно с агентов, у которых много пауз между шагами: именно там экономия памяти максимальна. Сервис уже доступен в регионах Северной и Южной Америки, Европы и Азиатско-Тихоокеанского региона.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: в чём была проблема?

Агенты давно вышли за рамки одиночных промптов: они часами выполняют многошаговые задачи, исполняют код, работают с чувствительными данными и действуют от имени пользователя. Поэтому каждой сессии нужна изоляция, иначе код одного пользователя может добраться до данных другого. Когда агентов становятся тысячи, самописные песочницы получаются сложными, дорогими и непредсказуемыми. AWS ссылается на отраслевые опросы.

Что известно по теме: что изменилось?

Базовая гарантия осталась прежней: каждая сессия работает в собственной аппаратно изолированной микровиртуальной машине Firecracker (это лёгкая виртуальная машина, которая поднимается за доли секунды) со своей идентичностью, политикой доступа и журналом аудита. Поверх этого появилось четыре изменения. Старт и размер. Сессия стартует меньше чем за 2 секунды независимо от размера образа и числа параллельных запусков.

Что известно по теме: что говорят клиенты и на что смотреть?

AWS приводит отзывы клиентов. Coinbase сообщает, что холодные старты сессий сократились с почти минуты до менее 5 секунд даже в пик, а недельный объём запусков агентов вырос более чем вдвое. Mission Cloud на одном и том же сценарии получила на 35% более быстрый старт для запросов инференса, на 77% более быстрый старт проверок работоспособности и на 17% меньшую стоимость вызова. Zuora снизила память на вызов примерно на 60% во многих сценариях при стабильной задержке.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…