Westpac renforce le contrôle des dépenses d'IA et transfère les tâches de routine à des modèles moins chers

La banque australienne Westpac Banking Corp a renforcé le contrôle des dépenses en intelligence artificielle : l'entreprise suit la consommation de jetons d'IA par les employés dans toute l'organisation et dirige les tâches simples vers des modèles moins chers, rapporte Bloomberg.

Ce que Fait Exactement Westpac

La banque a mis en œuvre une surveillance plus stricte de la façon dont les employés utilisent les modèles d'IA générative dans leur travail quotidien. Il s'agit de suivre la consommation de jetons — unités dans lesquelles le volume de texte traité par un modèle de langage est mesuré et, en conséquence, le coût d'une demande. Les tâches qui ne nécessitent pas les capacités des modèles phares sont redirigées par la banque vers des modèles moins chers et plus légers, laissant les chers pour les scénarios complexes.

• Westpac Banking Corp — l'une des plus grandes banques d'Australie
• La banque suit la consommation de jetons d'IA par les employés dans toute l'entreprise
• Les tâches simples sont transférées vers des modèles moins chers au lieu de modèles phares

Pourquoi les Entreprises ont Commencé à Compter les Jetons

Le coût d'utilisation des grands modèles de langage augmente avec l'échelle de leur déploiement : plus il y a d'employés connectés aux outils d'IA et plus fréquemment ils les utilisent, plus élevée est la facture du fournisseur du modèle. Pour les banques et autres grandes corporations où le nombre d'utilisateurs de services d'IA se mesure en milliers, ces dépenses deviennent un poste budgétaire important. D'où l'intérêt croissant pour le soi-disant FinOps pour l'IA — la pratique de distribuer la charge entre différents modèles selon le principe « tâche complexe — modèle cher, routine — modèle bon marché », au lieu d'acheminer toutes les requêtes via le système le plus puissant et le plus cher.

L'approche de Westpac est typique des grandes organisations financières qui veulent simultanément tirer parti de l'IA générative et éviter la croissance incontrôlée des dépenses de services d'IA en nuage, particulièrement dans une industrie régulée où chaque poste de dépense fait l'objet d'un contrôle supplémentaire.

Ce Que Cela Signifie

À mesure que l'IA générative fait partie des opérations quotidiennes des grandes entreprises, la gestion des dépenses en modèles devient une discipline distincte : le secteur des affaires apprend non seulement à mettre en œuvre l'IA, mais à compter combien coûte chaque demande, et à l'optimiser tout comme toute autre dépense opérationnelle.