Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизНаучная статья · В песочницуModal Blog→ оригинал

Abundant гоняет 2 млн песочниц в месяц и платит за средний расход, а не за пик

Стартап Abundant готовит задачи для обучения ИИ-агентов, и каждая попытка идёт в отдельной изолированной песочнице Modal. Таких песочниц больше 2 млн в месяц, а систему собрали за две недели. Ресурсы заказывают под средний расход, а пики закрывает bursting: песочница временно берёт больше CPU и памяти, не падая с OOM. Для массовых прогонов агентов это дешевле, чем резервировать железо под максимум.

AI-обработка оригинала Modal Blog; редакция Hamidun News
Abundant гоняет 2 млн песочниц в месяц и платит за средний расход, а не за пик
Источник: Modal Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникModal Blog ↗
Главный редактор
Ключевой факт #1Монитор внутри песочницы шлёт сигнал «жив» каждые 30 секунд
Ключевой факт #2Тишину проверяют три раза, потом песочницу закрывают
Бенчмарк Frontier RSI1300+ часов работы агентов, около 500 попыток

Представьте, что вы учите ИИ-агента оптимизировать GPU-кернел или чинить большой репозиторий. Каждую попытку нужно запустить в изолированной среде, следить, не зависла ли она, и проверить результат. Если агенту на минуту понадобилось больше процессора или памяти, чем вы заказали, процесс упирается в лимит или падает с ошибкой нехватки памяти (OOM), и вся работа теряется. Если заказать с запасом, вы платите за простаивающее железо. Именно с этим столкнулась компания Abundant, а её опыт описал блог платформы Modal. Итог: больше 2 млн изолированных песочниц (Sandboxes) в месяц, архитектура за две недели и оплата по среднему расходу, а не по пику.

Что делает Abundant и как это устроено

Abundant строит среды для обучения с подкреплением (RL), которыми пользуются лаборатории вроде OpenAI, Anthropic, Google и Meta. Схема простая: модели дают сложную задачу, она пытается её решить, а проверяющий механизм (верификатор) выносит вердикт «выполнено» или «нет». Одна такая попытка называется rollout. Для неё нужны инструкция, цель, верификатор и инфраструктура: вычисления, Dockerfile, изоляция, а иногда и GPU. Abundant создала больше 75 000 таких прогонов, от оптимизации GPU-кернелов до долгих задач по программированию. Каждый идёт в своей Modal Sandbox.

Сейчас почти вся платформа работает на Modal. Функции Modal Functions образуют API планировщика: запускают задачи, убирают зависшие прогоны и проверяют результаты. Среды живут в Sandboxes. Изначально команда не хотела вручную управлять кластерами EC2, чтобы не отвлекаться от основного продукта, то есть от самих задач. По данным на ноябрь 2026 года, платформа запускает больше двух миллионов песочниц в месяц.

Каждый прогон состоит из четырёх шагов: запуск, попытка, проверка и отчёт. Всё это время нужен «монитор», который следит, что песочница жива. Abundant рассматривала размещение монитора снаружи, но выбрала другой путь: маленький монитор работает внутри песочницы, а запускают её короткоживущие Functions. Он по HTTP шлёт сигнал «я жив» каждые 30 секунд, живые события и итоговый результат. Если песочница замолчала, управляющий слой делает три попытки связаться и только потом её завершает.

Bursting: платить за среднее, а не за пик

Расход CPU и памяти у агента неровный: то он думает, то компилирует, то гоняет тесты. Команда Modal предложила режим bursting. Песочница заказывает средний объём, а при необходимости автоматически берёт больше, если на машине есть свободное место, и потом возвращается к прежнему размеру. Так песочницы, которые иначе упёрлись бы в лимит CPU или вылетели с OOM, продолжают работать.

Эффект двойной. Во-первых, Abundant меньше платит за простаивающие ресурсы: при фиксированной схеме приходится заказывать под пик, а здесь можно под среднее. Во-вторых, пропала рутина: при таком разнообразии задач подбирать CPU и память под каждую вручную было утомительно, а потеря прогресса из-за OOM стоила дорого. Оговорка: bursting работает, пока на хосте есть запас, то есть гарантией пиковых ресурсов он не является. Конкретных сумм экономии в материале нет.

Верификатор, который трудно обмануть

Если модель может сжульничать, оценка бессмысленна: надёжный верификатор делает модель по-настоящему сильнее. Поэтому задачи сначала проверяют на враждебных агентах. В ранних тестах выяснилось, что модели иногда находили копии своих инструкций. Они понимали, что их оценивают, и результаты искажались. Для бенчмарков важно, чтобы агент считал, что работает по-настоящему, в среде и с данными как в реальной эксплуатации.

Abundant изменила порядок запуска, чтобы все инструкции удалялись до начала работы. Кроме того, в проверку добавили агента-ревьюера: он читает трассы выполнения и помечает признаки того, что агент догадался об оценке.

Результаты и практический вывод

Архитектуру внедрили примерно за две недели. Первый публичный бенчмарк Abundant, Frontier RSI, проверяет способность языковых моделей улучшать самих себя. Для первых опубликованных результатов Modal обеспечил больше 1300 часов исследовательской работы агентов в почти 500 попытках.

Важно помнить: текст опубликован в блоге самого Modal, это кейс поставщика, а не независимый тест. Но уроки применимы шире. Если вы гоняете агентов массово, держите монитор живости внутри изолированной среды, закладывайте ресурсы по среднему расходу, если платформа позволяет временный запас, и проверяйте, не оставляете ли агенту следов инструкции, по которым он поймёт, что его тестируют.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что делает Abundant и как это устроено?

Abundant строит среды для обучения с подкреплением (RL), которыми пользуются лаборатории вроде OpenAI, Anthropic, Google и Meta. Схема простая: модели дают сложную задачу, она пытается её решить, а проверяющий механизм (верификатор) выносит вердикт «выполнено» или «нет». Одна такая попытка называется rollout. Для неё нужны инструкция, цель, верификатор и инфраструктура: вычисления, Dockerfile, изоляция, а иногда и GPU.

Что известно по теме: Bursting: платить за среднее, а не за пик?

Расход CPU и памяти у агента неровный: то он думает, то компилирует, то гоняет тесты. Команда Modal предложила режим bursting. Песочница заказывает средний объём, а при необходимости автоматически берёт больше, если на машине есть свободное место, и потом возвращается к прежнему размеру. Так песочницы, которые иначе упёрлись бы в лимит CPU или вылетели с OOM, продолжают работать. Эффект двойной.

Что известно по теме: верификатор, который трудно обмануть?

Если модель может сжульничать, оценка бессмысленна: надёжный верификатор делает модель по-настоящему сильнее. Поэтому задачи сначала проверяют на враждебных агентах. В ранних тестах выяснилось, что модели иногда находили копии своих инструкций. Они понимали, что их оценивают, и результаты искажались. Для бенчмарков важно, чтобы агент считал, что работает по-настоящему, в среде и с данными как в реальной эксплуатации. Abundant изменила порядок запуска, чтобы все инструкции удалялись до начала работы.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…