Westpac fortalece o controle sobre gastos com IA e transfere tarefas rotineiras para modelos mais baratos

O banco australiano Westpac Banking Corp endureceu o controle sobre gastos em inteligência artificial: a empresa rastreia o consumo de tokens de IA por funcionários em toda a organização e direciona tarefas simples para modelos mais baratos, informa Bloomberg.

O Que Exatamente Westpac Faz

O banco implementou monitoramento mais rigoroso de como os funcionários usam modelos de IA generativa em seu trabalho diário. Trata-se de rastrear o consumo de tokens — unidades nas quais é medido o volume de texto processado por um modelo de linguagem e, consequentemente, o custo de uma solicitação. Tarefas que não exigem os recursos de modelos insignia são redirecionadas pelo banco para modelos mais baratos e leves, deixando os caros para cenários complexos.

• Westpac Banking Corp — um dos maiores bancos da Austrália
• O banco rastreia o consumo de tokens de IA por funcionários em toda a empresa
• Tarefas simples são transferidas para modelos mais baratos em vez de modelos insignia

Por Que as Empresas Começaram a Contar Tokens

O custo de usar modelos de linguagem grande cresce junto com a escala de sua implantação: quanto mais funcionários conectados a ferramentas de IA e com mais frequência as usam, maior é a conta do provedor do modelo. Para bancos e outras grandes corporações onde o número de usuários de serviços de IA é medido em milhares, essas despesas se tornam um item significativo do orçamento. Daí o interesse crescente no chamado FinOps para IA — a prática de distribuir carga entre diferentes modelos segundo o princípio de "tarefa complexa — modelo caro, rotina — modelo barato", em vez de rotear todas as consultas através do sistema mais poderoso e caro.

A abordagem do Westpac é típica de grandes organizações financeiras que simultaneamente querem aproveitar as vantagens da IA generativa e evitar o crescimento descontrolado de despesas de serviço de IA em nuvem, especialmente em uma indústria regulada onde cada item de despesa passa por escrutínio adicional.

O Que Isto Significa

À medida que a IA generativa se torna parte das operações diárias em grandes empresas, gerenciar despesas em modelos se torna uma disciplina separada: o negócio aprende não apenas a implementar IA, mas a contar quanto custa cada solicitação, e otimizá-la como qualquer outra despesa operacional.