ويسبّاك تشدد السيطرة على نفقات الذكاء الاصطناعي وتحول المهام الروتينية إلى نماذج أرخص

شددت البنك الأسترالي Westpac Banking Corp من السيطرة على نفقات الذكاء الاصطناعي: تتابع الشركة استهلاك رموز الذكاء الاصطناعي من قبل الموظفين عبر المنظمة وتوجه المهام البسيطة إلى نماذج أرخص، وفقاً لـ Bloomberg.

ما الذي تفعله Westpac بالضبط

طبقت البنك مراقبة أكثر صرامة لكيفية استخدام الموظفين لنماذج الذكاء الاصطناعي التوليدي في عملهم اليومي. يتعلق الأمر بتتبع استهلاك الرموز — الوحدات التي يتم قياس حجم النص المعالج بواسطة نموذج اللغة بها وبالتالي تكلفة الطلب. يعاد توجيه المهام التي لا تتطلب إمكانيات النماذج الرائدة من قبل البنك إلى نماذج أرخص وأخف، تاركاً الباهظة للسيناريوهات المعقدة.

• Westpac Banking Corp — أحد أكبر البنوك في أستراليا
• يتابع البنك استهلاك رموز الذكاء الاصطناعي من قبل الموظفين في جميع أنحاء الشركة
• يتم نقل المهام البسيطة إلى نماذج أرخص بدلاً من النماذج الرائدة

لماذا بدأت الشركات في عد الرموز

تتزايد تكلفة استخدام نماذج اللغة الكبيرة مع حجم نشرها: كلما زاد عدد الموظفين المتصلين بأدوات الذكاء الاصطناعي وكلما استخدموها بشكل متكرر، زادت فاتورة مزود النموذج. بالنسبة للبنوك والمنظمات الكبرى الأخرى حيث يتم قياس عدد مستخدمي خدمات الذكاء الاصطناعي بالآلاف، تصبح هذه النفقات بند ميزانية كبيراً. ومن هنا الاهتمام المتزايد بما يسمى FinOps للذكاء الاصطناعي — ممارسة توزيع الحمل بين نماذج مختلفة على مبدأ "مهمة معقدة — نموذج باهظ، روتين — واحد رخيص"، بدلاً من توجيه جميع الاستعلامات عبر النظام الأقوى والأغلى.

نهج Westpac نموذجي للمنظمات المالية الكبيرة التي تريد في نفس الوقت الاستفادة من فوائد الذكاء الاصطناعي التوليدي وتجنب النمو غير المنضبط لنفقات خدمات الذكاء الاصطناعي السحابية، خاصة في صناعة محدودة حيث يخضع كل بند نفقات لفحص إضافي.

ما يعنيه هذا

مع أن الذكاء الاصطناعي التوليدي يصبح جزءاً من العمليات اليومية في الشركات الكبيرة، إدارة النفقات على النماذج تصبح تخصصاً منفصلاً: يتعلم الأعمال ليس فقط تطبيق الذكاء الاصطناعي، بل عد كم تكلفة كل طلب، وتحسينه تماماً كما تحسن أي نفقة تشغيلية أخرى.