Westpac resserre le contrôle de ses dépenses en IA et confie les tâches routinières à des modèles moins chers

La banque australienne Westpac Banking Corp a renforcé le contrôle de ses dépenses en intelligence artificielle. Selon Bloomberg, l'entreprise suit la consommation de tokens d'IA par ses employés dans toute l'organisation et oriente les tâches simples vers des modèles moins chers.

Ce que fait concrètement Westpac

La banque met en place une surveillance plus stricte de l'usage que font ses employés des modèles d'IA générative au quotidien. Elle suit leur consommation de tokens, l'unité qui mesure le volume de texte traité par un modèle de langage et, par conséquent, le coût d'une requête. Les tâches qui ne nécessitent pas les capacités avancées des modèles phares sont redirigées vers des modèles plus légers et moins chers ; les modèles coûteux restent réservés aux cas d'usage complexes.

• Westpac Banking Corp figure parmi les plus grandes banques d'Australie
• La banque suit la consommation de tokens d'IA par ses employés dans toute l'entreprise
• Les tâches simples basculent vers des modèles moins chers plutôt que vers les modèles phares

Pourquoi les entreprises se mettent à compter les tokens

Le coût des grands modèles de langage augmente avec l'ampleur de leur déploiement : plus les employés connectés aux outils d'IA sont nombreux et plus ils s'en servent souvent, plus la facture du fournisseur s'alourdit. Pour les banques et les autres grands groupes, où les utilisateurs de services d'IA se comptent par milliers, ces dépenses deviennent un poste budgétaire significatif. D'où l'intérêt croissant pour le FinOps appliqué à l'IA : une pratique qui répartit la charge entre plusieurs modèles selon un principe simple, « tâche complexe, modèle coûteux ; tâche routinière, modèle bon marché », au lieu de faire passer toutes les requêtes par le système le plus puissant et le plus cher.

L'approche de Westpac est typique des grandes institutions financières, qui veulent tirer parti de l'IA générative tout en évitant une envolée incontrôlée de leurs dépenses en services d'IA dans le cloud. L'enjeu est d'autant plus fort dans un secteur réglementé, où chaque poste de coûts fait l'objet d'un contrôle supplémentaire.

Ce que cela signifie

À mesure que l'IA générative s'installe dans le travail quotidien des grandes entreprises, la gestion des dépenses liées aux modèles devient une discipline à part entière : les entreprises n'apprennent pas seulement à déployer l'IA, elles apprennent à calculer le coût de chaque requête et à l'optimiser comme n'importe quelle autre charge opérationnelle.