AtScale: وكلاء الذكاء الاصطناعي للمؤسسات في التحليل يحتاجون إلى guardrails، وليس نماذج أكبر

تؤكد AtScale أن المخاطر الرئيسية لوكلاء الذكاء الاصطناعي للمؤسسات في التحليلات لا تتعلق بحجم النموذج، بل بجودة السياق الذي يعمل فيه. إذا كان الوكيل يصل إلى بيانات مجزأة بدون قواعد عمل موحدة، فيمكنه بسرعة إنتاج إجابة معقولة، لكنها غير صحيحة.

لماذا الحجم لا ينقذ

في الشركات الكبيرة، غالباً ما يكون هناك أمل في أن النموذج الأكبر التالي سيصحح تلقائياً أخطاء النموذج السابق: سيفكر بشكل أفضل، وسيفسر الطلبات بدقة أكثر، وسيوفق الأرقام بعناية أكثر. لكن النموذج لا يملك طريقة سحرية لفهم أي تعريف محدد للهامش الإجمالي أو الإيرادات يتم اعتماده داخل شركة معينة. إنه لا يلغي التناقضات القديمة بين لوحات التحكم، لا يستعيد تاريخ أصول المقاييس، ولا ينشئ مسار تدقيق ببساطة لأن عدد المعاملات قد زاد.

تستشهد AtScale بدراسة TDWI حيث أسمى ما يقرب من نصف المستجيبين مبادراتهم الخاصة بحوكمة الذكاء الاصطناعي بأنها غير ناضجة أو غير ناضجة جداً. المنطق هنا مباشر: إذا كانت البيانات المصدرية والتعريفات فوضوية، فإن زيادة القوة الحسابية لا تقلل الخطأ—بل تجعله قابلاً للتوسع. يبدأ الوكيل في الإجابة بشكل أسرع، بثقة أكبر، وعلى عدد أكبر من المهام، لكن المشاكل الهيكلية تبقى كما هي.

نتيجة لذلك، تحصل الشركة ليس على تحليلات موثوقة، بل على شكل أكثر إقناعاً من الفوضى القديمة.

حيث ينهار التحليل

تنشأ أكبر المخاطر حيث تعمل عدة أنظمة وفرق مع نفس المقاييس لكنها تفهمها بشكل مختلف. يأخذ وكيل واحد البيانات من مستودع مالي، والآخر من أداة CRM أو BI، وكلاهما يبدو أنه يجيب على نفس السؤال. إذا لم يكن هناك سياق مشترك بينهما، يتحول التناقض من خطأ نادر إلى وضع تشغيل طبيعي. هذا بالضبط السبب في أن المقالة تعرض صيغة قصيرة تصف المشكلة بشكل جيد:

« بثقة. بنظافة. بشكل خاطئ. »

وفقاً لـ AtScale، فإن الأعطال النموذجية هنا يمكن التنبؤ بها تماماً. قد يعتمد الوكيل على مصدر حيث يتم تفسير نفس المقياس بشكل مختلف عن الفريق المجاور. قد ينتج نتيجة بدون شرح واضح لكيفية الوصول إليها. قد يبني استنتاجاً على بيانات لا يجب أن يصل إليها على الإطلاق. وعندما لا يمكن ربط الإجابة بمصدر سجل خاضع للرقابة، تفقد الشركة القدرة على التحقق السريع من الخطأ، وتعيين المسؤولية، والتراجع عن القرار الخاطئ بدون تحقق يدوي.

ما هي الحراسات المطلوبة

تقترح AtScale النظر إلى الحراسات ليس كفرامل للذكاء الاصطناعي، بل كبنية تحتية تجعل الاستقلالية ممكنة في المقام الأول. في التحليلات، وفقاً لرأيهم، لا يجب أن يعمل النموذج مباشرة مع الجداول «الخام» والقواعد المحلية المختلفة للفرق، بل من خلال طبقة دلالية مشتركة. مثل هذه الطبقة لا تنسخ البيانات أو تغيرها فعلياً، بل تضع معنى موحد لمصطلحات العمل، وقواعد الحساب، وحدود الوصول لجميع التطبيقات والوكلاء.

• تعريفات موحدة للإيرادات والانقطاع والهامش والمقاييس الرئيسية الأخرى
• قيود على منطق العمل للحسابات بغض النظر عن الأداة
• رؤية المسار: من أين جاءت الإجابة وما البيانات التي دخلت فيها
• التحكم في الوصول: ما مجموعات البيانات التي يمكن للوكيل الاستعلام عنها
• توحيد المقاييس عبر الأقسام والمنصات

جوهر هذا النهج هو أن أداء النموذج ومسؤولية النظام هما مهام مختلفة. النموذج مسؤول عن التفكير، بينما تحدد طبقة الحوكمة ما يفكر فيه بالضبط وكيف يمكن التحقق من النتيجة. إذا تم تجميع هذه الطبقة بشكل صحيح، يبدأ عدة وكلاء في أنظمة مختلفة بالتحدث باللغة التجارية نفسها. إن لم يحدث ذلك، فإن كل تكامل جديد وعملية وأداة ذكاء اصطناعي إضافية تزيد فقط من تكلفة الأخطاء والفحوصات اليدوية والتحليل المكرر.

ما يعنيه هذا

يتعلق الذكاء الاصطناعي للمؤسسات بشكل متزايد بالعمارة البيانية أكثر من سباق المعاملات. بالنسبة للشركات، هذه أخبار سيئة إذا كانت تأمل في "شراء نموذج أكثر ذكاءً" وإغلاق القضية، وأخبار جيدة إذا كانت مستعدة للاستثمار في طبقة دلالية والحوكمة وإمكانية التتبع. هذه العناصر، وليس حجم النموذج في حد ذاته، هي التي ستحدد ما إذا كان يمكن الوثوق بتحليلات الذكاء الاصطناعي في العمليات التجارية الحقيقية.