Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизРазбор · На радарAWS Machine Learning Blog→ оригинал

AWS показала, как лимитировать расходы на Bedrock по каждому сотруднику без кода

Когда ИИ внедряют в компании, финансовый директор быстро спрашивает: кто сколько тратит и можно ли это ограничить. AWS предлагает ответ без своего кода: Bedrock сам записывает, какая IAM-роль или пользователь сделал запрос, теги переносят это в биллинг, а AWS Budgets отключает дорогие модели при превышении порога. Это проще кастомной схемы Jamf, но не реального времени: бюджеты обновляются до трёх раз в сутки.

AI-обработка оригинала AWS Machine Learning Blog; редакция Hamidun News
AWS показала, как лимитировать расходы на Bedrock по каждому сотруднику без кода
Источник: AWS Machine Learning Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникAWS Machine Learning Blog ↗
Главный редактор
Теги нужно активировать заранееони появляются в биллинге до 24 + 24 часов
Ключевой факт #2Если роль общая, запрет заденет всех, кто ей пользуется
Ключевой факт #3Считать надо четыре типа токенов, включая чтение и запись кэша

Как только компания открывает сотрудникам доступ к генеративному ИИ, счёт за токены перестаёт быть абстракцией. Финансовый директор хочет знать, сколько тратит каждый человек или команда, можно ли поставить потолок и сколько работы потребует такая настройка. AWS опубликовала разбор, как ответить на эти вопросы встроенными средствами Amazon Bedrock. Писать собственный код для типового случая не придётся.

Это продолжение истории про Jamf. Там команда собрала свой контур контроля: IAM Identity Center, Athena поверх логов вызовов моделей и Lambda. Он работает почти в реальном времени, но код нужно поддерживать самим. Новый подход проще, зато менее оперативный.

Три шага: атрибуция, отчёт, ограничение

Первое: Bedrock автоматически записывает, какой IAM-пользователь или роль сделал каждый запрос на инференс. Менять вызовы моделей не нужно. Если у каждого человека или приложения своя роль, хватит тегов на самой роли: например, user, team, CostCenter. Если роль общая, понадобятся сессионные теги. Их передают в момент получения роли: через sts:AssumeRole с параметром --tags, через OIDC-токен или через SAML-утверждение. Доверительная политика роли при этом должна разрешать sts:TagSession. Всего можно задать до 50 тегов на пользователя или роль.

Второе: теги надо активировать как cost allocation tags в консоли Billing. В организации AWS это делают в управляющем (payer) аккаунте. Ключ тега появляется в списке только после хотя бы одного вызова Bedrock. Дальше до 24 часов уходит на появление ключа и ещё до 24 часов на попадание данных в биллинг. Задним числом активация не работает, так что включать её лучше заранее.

Для отчётов есть два пути. Простой: Cost Explorer с фильтром по Bedrock и группировкой по тегу. Подробный: экспорт CUR 2.0 с опцией caller identity, который читают SQL-запросами через Athena. Теги в нём лежат в колонках с префиксом iamPrincipal/. Старый экспорт CUR задним числом идентичность не получит, нужен новый. AWS выложила готовые запросы в репозитории aws-samples/sample-cur-iam-principal-bedrock-tracking.

В запросах легко ошибиться. Bedrock выставляет счёт за четыре типа токенов: входные, выходные, чтение кэша и запись кэша. Если считать только вход и выход, итог занизится, особенно у нагрузок с активным кэшированием промптов. Цена зависит ещё и от тарифного уровня и от того, шёл ли запрос через cross-Region inference. Поэтому ставку надо привязывать к строке счёта, а не к модели. Кроме того, Bedrock может учитываться под несколькими значениями product_servicecode.

Ограничение через AWS Budgets

Третье: создаётся бюджет по Bedrock с фильтром на конкретную идентичность или значение тега. К нему привязывают budget action, который при пересечении порога прикрепляет Deny-политику IAM. Можно запретить только дорогие модели, оставив дешёвую, чтобы человек продолжал работать. Порогов может быть несколько. Например, премиальная модель отключается на 80% бюджета, средняя на 100%, а дешёвая не отключается никогда. Действие можно запускать автоматически или после ручного подтверждения. Пользователя стоит уведомлять о причине, иначе он решит, что сервис сломался.

Нужны две роли: ваша собственная, с управляемой политикой AWSBudgetsActionsWithAWSResourceControlAccess, и отдельная роль, от имени которой Budgets прикрепляет и отсоединяет политики.

Ограничения, о которых надо знать

Главное ограничение: данные Budgets обновляются до трёх раз в сутки, поэтому расход может перепрыгнуть порог до срабатывания действия. Для жёсткого контроля в реальном времени подход Jamf остаётся нужным.

Второе: действие привязывается к пользователю, группе или роли. Общая роль означает, что запрет ударит по всем, кто её использует. Через LLM-шлюз Bedrock увидит только его служебную роль, а не конечного человека. Для федеративных пользователей без собственной роли этот метод подходит плохо.

Третье: CUR не содержит построчных данных по запросам, только агрегаты по часу или дню. Сессионные теги не попадают в логи вызовов, там фиксируется ARN вызывающего. Различить людей на общей сессии помогает уникальное RoleSessionName или метаданные запроса. Наконец, при подключении новой модели проверьте, что она видна в запросах и фильтрах бюджета: типы использования привязаны к моделям.

Практический вывод: если у каждого разработчика или сервиса своя роль, настройка займёт несколько часов, и для большинства компаний этого достаточно. Если трафик идёт через общий шлюз, сначала решите задачу атрибуции, а потом думайте о лимитах.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: три шага: атрибуция, отчёт, ограничение?

Первое: Bedrock автоматически записывает, какой IAM-пользователь или роль сделал каждый запрос на инференс. Менять вызовы моделей не нужно. Если у каждого человека или приложения своя роль, хватит тегов на самой роли: например, user, team, CostCenter. Если роль общая, понадобятся сессионные теги. Их передают в момент получения роли: через sts:AssumeRole с параметром --tags, через OIDC-токен или через SAML-утверждение. Доверительная политика роли при этом должна разрешать sts:TagSession.

Что известно по теме: ограничение через AWS Budgets?

Третье: создаётся бюджет по Bedrock с фильтром на конкретную идентичность или значение тега. К нему привязывают budget action, который при пересечении порога прикрепляет Deny-политику IAM. Можно запретить только дорогие модели, оставив дешёвую, чтобы человек продолжал работать. Порогов может быть несколько. Например, премиальная модель отключается на 80% бюджета, средняя на 100%, а дешёвая не отключается никогда. Действие можно запускать автоматически или после ручного подтверждения.

Что известно по теме: ограничения, о которых надо знать?

Главное ограничение: данные Budgets обновляются до трёх раз в сутки, поэтому расход может перепрыгнуть порог до срабатывания действия. Для жёсткого контроля в реальном времени подход Jamf остаётся нужным. Второе: действие привязывается к пользователю, группе или роли. Общая роль означает, что запрет ударит по всем, кто её использует. Через LLM-шлюз Bedrock увидит только его служебную роль, а не конечного человека. Для федеративных пользователей без собственной роли этот метод подходит плохо.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…