Westpac ужесточает контроль расходов на ИИ и переводит рутину на дешёвые модели

Австралийский банк Westpac Banking Corp усилил контроль над расходами на искусственный интеллект: компания отслеживает потребление AI-токенов сотрудниками по всей организации и направляет простые задачи на более дешёвые модели, сообщает Bloomberg.

Что именно делает Westpac

Банк внедряет более строгий мониторинг того, как сотрудники используют генеративные ИИ-модели в повседневной работе. Речь идёт об отслеживании расхода токенов — единиц, которыми измеряется объём текста, обрабатываемого языковой моделью и, соответственно, стоимость запроса. Задачи, не требующие мощных возможностей флагманских моделей, банк перенаправляет на более дешёвые и лёгкие модели, оставляя дорогие для сложных сценариев.

• Westpac Banking Corp — один из крупнейших банков Австралии
• Банк отслеживает расход AI-токенов сотрудниками по всей компании
• Простые задачи переводятся на более дешёвые модели вместо флагманских

Почему компании начали считать токены

Стоимость использования крупных языковых моделей растёт вместе с масштабом их внедрения: чем больше сотрудников подключено к ИИ-инструментам и чем чаще они их используют, тем выше становится счёт от провайдера модели. Для банков и других крупных корпораций, где число пользователей ИИ-сервисов измеряется тысячами, эти расходы превращаются в заметную статью бюджета. Отсюда и растущий интерес к так называемому FinOps для ИИ — практике распределения нагрузки между разными моделями по принципу «сложная задача — дорогая модель, рутинная — дешёвая», вместо того чтобы прогонять все запросы через самую мощную и дорогую систему.

Подход Westpac типичен для крупных финансовых организаций, которые одновременно хотят пользоваться преимуществами генеративного ИИ и избежать бесконтрольного роста расходов на облачные AI-сервисы, особенно в регулируемой отрасли, где каждая статья затрат проходит через дополнительный контроль.

Что это значит

По мере того как генеративный ИИ становится частью повседневной работы крупных компаний, управление расходами на модели превращается в отдельную дисциплину: бизнес учится не просто внедрять ИИ, а считать, сколько стоит каждый запрос, и оптимизировать это так же, как любые другие операционные издержки.