Westpac fortalece el control del gasto en IA y traslada tareas rutinarias a modelos más baratos

El banco australiano Westpac Banking Corp ha endurecido el control sobre el gasto en inteligencia artificial: la empresa rastrea el consumo de tokens de IA por empleados en toda la organización y dirige tareas simples a modelos más baratos, informa Bloomberg.

Qué Hace Exactamente Westpac

El banco ha implementado un monitoreo más estricto de cómo los empleados utilizan modelos de IA generativa en su trabajo diario. Se trata de rastrear el consumo de tokens — unidades en las que se mide el volumen de texto procesado por un modelo de lenguaje y, en consecuencia, el costo de una solicitud. Las tareas que no requieren las capacidades de modelos insignia son redirigidas por el banco a modelos más baratos y ligeros, dejando los costosos para escenarios complejos.

• Westpac Banking Corp — uno de los bancos más grandes de Australia
• El banco rastrea el consumo de tokens de IA por empleados en toda la empresa
• Las tareas simples se transfieren a modelos más baratos en lugar de modelos insignia

Por Qué las Empresas Han Comenzado a Contar Tokens

El costo de usar modelos de lenguaje grandes crece junto con la escala de su implementación: cuantos más empleados conectados a herramientas de IA y con más frecuencia las usan, más alta es la factura del proveedor del modelo. Para bancos y otras grandes corporaciones donde el número de usuarios de servicios de IA se mide en miles, estos gastos se convierten en un elemento de presupuesto significativo. De ahí el creciente interés en el llamado FinOps para IA — la práctica de distribuir carga entre diferentes modelos según el principio de "tarea compleja — modelo costoso, rutina — uno barato", en lugar de enrutar todas las consultas a través del sistema más poderoso y costoso.

El enfoque de Westpac es típico de grandes organizaciones financieras que simultáneamente quieren aprovechar las ventajas de la IA generativa y evitar el crecimiento incontrolado de los gastos de servicio de IA en la nube, especialmente en una industria regulada donde cada elemento de gasto pasa por escrutinio adicional.

Lo Que Significa

A medida que la IA generativa se convierte en parte de las operaciones diarias de las grandes empresas, la gestión de gastos en modelos se convierte en una disciplina separada: el negocio aprende no solo a implementar IA, sino a contar cuánto cuesta cada solicitud, y optimizarlo igual que cualquier otro gasto operativo.