Эфир 18.11 · Поток 318 ноября в 19:00 МСК — бесплатный практический эфир по ИИ-агентам · Живой Поток 3 стартует 23.11Эфир 18 ноября →Поток 3 (23.11)
РелизAPI / Продукт · В работуAWS Machine Learning Blog→ оригинал

AWS в октябре: Haiku 5.5 дешевле на 75%, фолбэк моделей и песочница для агентов

AWS собрал октябрьские релизы для тех, кто запускает агентов в продакшене. Claude Haiku 5.5 на Bedrock стоит примерно на 75% дешевле Haiku 4.5, а AgentCore Gateway научился переключаться на запасную модель, если основная недоступна. Для локальных агентов появилась песочница Strands Box, а расходы на Bedrock теперь видны по каждой модели.

AI-обработка оригинала AWS Machine Learning Blog; редакция Hamidun News
AWS в октябре: Haiku 5.5 дешевле на 75%, фолбэк моделей и песочница для агентов
Источник: AWS Machine Learning Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникAWS Machine Learning Blog ↗
Главный редактор
Haiku 5.5цена примерно на 75% ниже, чем у Haiku 4.5
Ключевой факт #2Gateway сам уходит на запасную модель при троттлинге
Ключевой факт #3Strands Decider снизил стоимость обработки тикета на 98%

Запускать одного агента в проде несложно. Сложнее, когда их десятки: модели упираются в лимиты, счета растут, а агент вдруг лезет туда, куда его не звали. Октябрьский дайджест AWS почти целиком про эти проблемы. Ниже то, что стоит заметить практикующему разработчику или продакту. Данные приведены по заявлению AWS и вендоров, независимых замеров в материале нет.

Модели под задачу и бюджет

Главная идея месяца: не гонять всё через одну флагманскую модель. Claude Haiku 5.5 сделан под субагентов и массовые задачи. По данным Anthropic, он примерно на 75% дешевле Haiku 4.5 для большинства задач. Это первый Haiku с настройкой effort: можно выбрать, сколько платить за глубину рассуждения в конкретном запросе.

Типовая схема такая: Claude Opus 5.5 планирует работу, а Haiku выполняет чётко очерченные куски: код, вызов инструментов, автоматизацию в браузере. Параллельный запуск многих агентов при этом остаётся недорогим.

GPT-6.1 Terra вышла в общий доступ на Bedrock. На внутреннем бенчмарке OpenAI Agents' Last Exam она сравнима с GPT-6 Astra, но решает задачи больше чем в три раза быстрее. Цены на входные и выходные токены минимум на 50% ниже, чем у GPT-6.1 Sol и GPT-5.6 Terra. Контекст до 1 млн токенов, текст и изображения.

Для голоса есть Amazon Nova 2.5 Sonic: модель лучше рассуждает и точнее вызывает инструменты, цена прежняя. Агент поддержки может в одном разговоре найти заказ, проверить возможность возврата и оформить его.

Надёжность: фолбэк, workflow и JSON

Полезнее всего для продакшена оказался AgentCore Gateway. Теперь он принимает вызовы Bedrock InvokeModel и умеет model fallback. Если основная модель ограничена по лимитам или недоступна, запрос уходит к следующей модели или провайдеру по цепочке, которую вы задали. Circuit breaker пропускает неработающие точки. Существующий код на Bedrock SDK достаточно направить на шлюз, ретраи в каждом клиенте писать не нужно.

Вторая важная вещь: Step Functions как инструменты агента. Бизнес-процесс, например возврат денег, остаётся в workflow, который вы уже эксплуатируете. Агент решает, когда его запустить, а проверка права на возврат, согласование и начисление выполняются строго по вашим шагам, а не по тому, как модель поняла промпт.

Структурированные ответы теперь доступны для всех Claude-моделей на Bedrock: JSON по схеме без самописного парсинга и повторов. Веб-поиск получил фильтры доменов (до 100 разрешённых и до 100 заблокированных) и привязку к региону. Guardrails проверяет, что ответ не расходится с источниками. Новый Standard-уровень проверок стоит как Classic, но охватывает диалоговые и рассуждающие ответы и больше языков.

Деньги и Strands

Память AgentCore теперь тарифицируется по объёму данных, а не по фиксированной цене за событие. Больше всего выигрывают сценарии с маленькими payload. Для долгой памяти можно задать TTL. В Cost Explorer и Budgets расходы на Bedrock разбиты по модели, провайдеру, типу инференса и функции, причём бесплатно. Бюджетный алерт можно поставить на одну модель.

В Strands, открытом тулките агентов, главное: Strands Box в developer preview. Это локальная песочница с изоляцией на уровне ОС и политиками по каждому инструменту. Они работают и при прямых вызовах, и через MCP, и при генерации кода. Strands Evals получил red teaming: промпт-инъекции и джейлбрейки прогоняются против вашего агента, и видно, на каком сообщении он сломался. Strands Decider, маленькая модель на Gemma 4, выбирает между заданными вариантами вместо генерации текста. В одной внутренней системе тикетов Amazon оценка стоимости на тикет упала примерно на 98%, время ответа на 78%.

Что с этим делать

Это вендорский дайджест, поэтому цифры стоит проверять на своих нагрузках. Большая часть функций привязана к экосистеме AWS. Но набор решений универсален. Разделите планирование и исполнение между дорогой и дешёвой моделью. Вынесите критичные процессы из промптов в детерминированные workflow. Настройте фолбэк до первого инцидента. Включите разбивку расходов по моделям, пока счёт не стал сюрпризом.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: модели под задачу и бюджет?

Главная идея месяца: не гонять всё через одну флагманскую модель. Claude Haiku 5.5 сделан под субагентов и массовые задачи. По данным Anthropic, он примерно на 75% дешевле Haiku 4.5 для большинства задач. Это первый Haiku с настройкой effort: можно выбрать, сколько платить за глубину рассуждения в конкретном запросе. Типовая схема такая: Claude Opus 5.5 планирует работу, а Haiku выполняет чётко очерченные куски: код, вызов инструментов, автоматизацию в браузере.

Что известно по теме: надёжность: фолбэк, workflow и JSON?

Полезнее всего для продакшена оказался AgentCore Gateway. Теперь он принимает вызовы Bedrock InvokeModel и умеет model fallback. Если основная модель ограничена по лимитам или недоступна, запрос уходит к следующей модели или провайдеру по цепочке, которую вы задали. Circuit breaker пропускает неработающие точки. Существующий код на Bedrock SDK достаточно направить на шлюз, ретраи в каждом клиенте писать не нужно. Вторая важная вещь: Step Functions как инструменты агента.

Что известно по теме: деньги и Strands?

Память AgentCore теперь тарифицируется по объёму данных, а не по фиксированной цене за событие. Больше всего выигрывают сценарии с маленькими payload. Для долгой памяти можно задать TTL. В Cost Explorer и Budgets расходы на Bedrock разбиты по модели, провайдеру, типу инференса и функции, причём бесплатно. Бюджетный алерт можно поставить на одну модель. В Strands, открытом тулките агентов, главное: Strands Box в developer preview. Это локальная песочница с изоляцией на уровне ОС и политиками по каждому инструменту.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…