Standard Bank تقلّص مراجعة تطبيقات الذكاء الاصطناعي من أسبوعين إلى ساعتين
قبل إطلاق أي تطبيق ذكاء اصطناعي، يجب على البنك أن يثبت للجنة المخاطر أنه آمن، وهذا يعني أسبوعين من المراجعة اليدوية للمستندات. كلّفت Standard Bank Group بالتعاون مع AWS نموذجًا يؤدي دور «القاضي» بمطابقة شيفرة التطبيق وإجاباته مع القواعد. وبحسب ست عمليات تقييم، يصبح التقرير جاهزًا في ساعتين، فيما ارتفعت درجات المخاطر بعد التحسينات 14%. وعلى الفرق العاملة في القطاعات الخاضعة للتنظيم أن تحوّل السياسات إلى اختبارات آلية.
معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
تخيّل أن فريقًا بنى في بضعة أيام روبوت دردشة يعتمد على نموذج توليدي، لكنه لا يستطيع إطلاقه لعملاء البنك: فلجنة المخاطر يجب أن تتأكد أولًا من أن الروبوت لا يقدّم إجابات خطرة، ولا يخالف السياسة، ويترك آثارًا قابلة للتدقيق. كان ذلك يعني سابقًا أسبوعين من العمل اليدوي: يقرأ الموظفون المستندات، ويراجعون الشيفرة، ويطرحون على التطبيق بأنفسهم أسئلة ملتبسة. أتمت Standard Bank Group بالتعاون مع AWS Professional Services هذا الجزء تحديدًا.
فالآن يفحص نموذج لغوي في دور «القاضي» (نهج LLM-as-a-judge) مواد التطبيق وفق قائمة معايير مأخوذة من معايير دولية وقواعد البنك الداخلية. وبحسب نتائج ست عمليات تقييم، يُعدّ التقرير الكامل عن المخاطر في نحو ساعتين بدل أسبوعين، فيما تحسّنت درجات المخاطر للسيناريوهات بعد التحسينات بنسبة 14%. وبالنسبة إلى الفرق التي تطبّق الذكاء الاصطناعي في القطاعات الخاضعة للتنظيم، يقدّم هذا مثالًا على كيفية منع إجراءات الموافقة من أن تصبح أبطأ حلقة في خط الإنتاج.
ما الذي بُني بالضبط
لم يكتب البنك سياسة جديدة للذكاء الاصطناعي. كانت لديه أصلًا ممارسات لإدارة مخاطر النماذج (قابلية التفسير، والعدالة)، وعملية لتقييم كل سيناريو جديد بحسب مستوى المخاطر قبل الإطلاق. وكانت المهمة أضيق: أتمتة جمع الأدلة والاختبارات، ثم تمرير النتائج إلى «بوابات» الموافقة القائمة. ولا تزال لجنة المخاطر هي التي تتخذ القرار، لكنها تنظر إلى بيانات موحّدة جُمعت بالطريقة نفسها لجميع السيناريوهات.
يعمل كل شيء داخل حساب AWS الخاص بالبنك. تُحفظ المستندات والشيفرة ونتائج الاختبارات في حاوية Amazon S3، ويدير الاستبيان AWS Well-Architected Tool، وينسّق Step Functions خط المعالجة، ويتولى التقييم نموذج أساسي (foundation model) في Amazon Bedrock. ويُنظَّم الوصول إليه عبر IAM، كما هي الحال مع أعباء العمل الأخرى في البنك. ولا ينقل Bedrock المطالبات (prompts) والإجابات إلى مزوّدي النماذج، ولا يدرّب نماذج عليها. ولأن Bedrock يوفّر API موحدًا، يمكن الانتقال إلى نموذج قاضٍ أحدث بتغيير أحد الإعدادات دون إعادة بناء خط المعالجة. وهذا مهم في وقت تتغير فيه النماذج والأدوات كل ثلاثة إلى ستة أشهر.
كيف تجري المراجعة
تتألف العملية من أربع خطوات. أولًا، يفحص وكيل التقييم المسبق على AWS Fargate المستودع والوثائق، ويطابق الملفات مع نحو 40 سؤالًا في الاستبيان (مثل «وثائق تقنية غير مكتملة» أو «إشراف بشري غير كافٍ»)، ثم يملأ الاستبيان مع روابط إلى الأدلة. ويراجع فريق التطوير الإجابات، ويصحّح الأخطاء، ويضيف ما لم يعثر عليه الوكيل.
بعد ذلك يدرس خط المعالجة أربعة أنواع من المواد: وثائق النظام، والسياسات (الأدوار وإجراءات معالجة الحوادث)، والشيفرة المصدرية مع موجّه النظام (system prompt)، والسلوك الحي للتطبيق. وفي الاختبارات الحية يستدعي التطبيق عبر Lambda أو API. ويقدّم الفريق أسئلة المستخدم العادي، فيما يضيف خط المعالجة مجموعة مدمجة من هجمات jailbreak وأسئلة خارج الموضوع يجب أن يرفض التطبيق الإجابة عنها. ويُرسَل الطلب نفسه عدة مرات بصيغته الأصلية وبصيغ معاد صياغتها، ويتحقق نموذج embedding من أن معنى الإجابات يبقى ثابتًا. وتُحفظ جميع الإجابات في S3 ليرى المراجعون ما الذي ولّده التطبيق فعلًا.
ثم يجيب القاضي، دون تدريب إضافي ودون تخصيص، بـ«نعم» أو «لا» عن أسئلة ضيقة: هل يوجد في المواد دليل محدد. ويرتبط كل سؤال ببند في معيار دولي لحوكمة الذكاء الاصطناعي أو مخاطره أو أمنه. وأضاف البنك أسئلة من معاييره الخاصة، فصار عددها الإجمالي أكثر من 300. وتغطي هذه الأسئلة الأبعاد الثمانية للذكاء الاصطناعي المسؤول لدى AWS: الموثوقية والمتانة، والخصوصية والأمن، والشفافية، والعدالة، والسلامة، وقابلية التحكم، والحوكمة (governance)، وقابلية التفسير.
لا يحتسب الدرجات النموذجُ، بل صيغة ثابتة يمكن لفريق المخاطر التحقق منها. فاحتمال الخطر يساوي نسبة الأدلة غير الموجودة، وتُحدَّد الخطورة بمستوى يمكن لفريق المخاطر تغييره، ويقع التقييم النهائي على مقياس يمتد من «منخفض جدًا» إلى «حرج». ويرتبط كل تفصيل ناقص بإجراء محدد وببند في معيار أو سياسة، ولذلك يستطيع مسؤول المخاطر أن يشرح أي استنتاج للجهة التنظيمية. ويُشغَّل كل تقييم عدة مرات، وتُوسَم النتائج غير المستقرة في واجهة المراجعة. وتمر استدعاءات النموذج عبر Bedrock Guardrails.
تُقدَّم النتيجة بأربع صيغ: عرض تقديمي للإدارة، وقائمة تحقق بالإجراءات، وتقرير تقني مفصّل، ولوحة متابعة في CloudWatch تُظهر تغيّر الدرجات عبر السيناريوهات.
السياسة كاختبار والتحفظات
أكثر الأفكار عملية هنا هي «مصنع الأسئلة». فهو يولّد أسئلة إضافية للقاضي مباشرة من المستندات الداخلية للبنك. لنفترض أن متطلبات معالجة الحوادث تغيّرت في إحدى السياسات: فبدلًا من تعميم مذكرة، يتغير الفحص نفسه، وتطبّق جميع التقييمات اللاحقة القاعدة الجديدة تلقائيًا.
في مرحلة إثبات المفهوم (proof of concept) يكون التقييم اختياريًا ويكشف الثغرات مبكرًا، أما في مرحلة البناء فهو إلزامي ويدخل ضمن الأدلة الرسمية المقدَّمة إلى اللجنة. وهو يعمل حاليًا في بيئة الإنتاج قبل الإطلاق. أما التشغيل المتكرر وفق جدول زمني وعند تغيّر الشيفرة أو الإعدادات فمخطط له بعد ربط أعباء العمل الفعلية.
ينبغي تذكّر التحفظات. هذا المنشور صادر عن AWS نفسها، وعيّنة التقييمات الست صغيرة، ولا توجد تأكيدات مستقلة. والنظام يجمع الأدلة ولا يمنح شهادة بالتوافق مع القانون: فالمسؤولية عن القرارات التنظيمية تبقى على عاتق البنك. ويظل القاضي نموذجًا لغويًا، ولذلك يحصر البنك عمله في أسئلة ضيقة بـ«نعم/لا» مع تشغيل متكرر.
الخلاصة العملية: ابدؤوا بالعمليات القائمة، وحوّلوا السياسات إلى اختبارات قابلة للتحقق، وشغّلوها في مرحلة النموذج الأولي، حين تكون الإصلاحات أقل كلفة. عندها لا يتطلب ازدياد عدد تطبيقات الذكاء الاصطناعي زيادة متناسبة في عدد المراجعين.
- 20 نوفمبر 2026القيمة السوقية لـ Anthropic تتجاوز 2 تريليون دولار عند الطرح العام الأولي — 3.5 أضعاف سوق الأسهم الروسي
- 20 نوفمبر 2026AWS تطلق في 15 دولة خدمة لتشغيل الذكاء الاصطناعي: من النموذج الأولي إلى الإنتاج خلال 45 يومًا
- 20 نوفمبر 2026Unsiloed تجمع 7.5 مليون دولار لقراءة ملفات PDF لوكلاء الذكاء الاصطناعي: 99.78% من القيم صحيحة في اختبار
- 20 نوفمبر 2026AWS تضيف إلى SageMaker AI التصنيف الآلي والبيانات الاصطناعية لتدريب النماذج
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول ما الذي بُني بالضبط؟
لم يكتب البنك سياسة جديدة للذكاء الاصطناعي. كانت لديه أصلًا ممارسات لإدارة مخاطر النماذج (قابلية التفسير، والعدالة)، وعملية لتقييم كل سيناريو جديد بحسب مستوى المخاطر قبل الإطلاق. وكانت المهمة أضيق: أتمتة جمع الأدلة والاختبارات، ثم تمرير النتائج إلى «بوابات» الموافقة القائمة. ولا تزال لجنة المخاطر هي التي تتخذ القرار، لكنها تنظر إلى بيانات موحّدة جُمعت بالطريقة نفسها لجميع السيناريوهات. يعمل كل شيء داخل حساب AWS الخاص بالبنك.
ما أبرز التفاصيل حول كيف تجري المراجعة؟
تتألف العملية من أربع خطوات. أولًا، يفحص وكيل التقييم المسبق على AWS Fargate المستودع والوثائق، ويطابق الملفات مع نحو 40 سؤالًا في الاستبيان (مثل «وثائق تقنية غير مكتملة» أو «إشراف بشري غير كافٍ»)، ثم يملأ الاستبيان مع روابط إلى الأدلة. ويراجع فريق التطوير الإجابات، ويصحّح الأخطاء، ويضيف ما لم يعثر عليه الوكيل. بعد ذلك يدرس خط المعالجة أربعة أنواع من المواد: وثائق النظام، والسياسات (الأدوار وإجراءات معالجة الحوادث)، والشيفرة المصدرية مع موجّه النظام (system prompt)، والسلوك الحي للتطبيق.
ما أبرز التفاصيل حول السياسة كاختبار والتحفظات؟
أكثر الأفكار عملية هنا هي «مصنع الأسئلة». فهو يولّد أسئلة إضافية للقاضي مباشرة من المستندات الداخلية للبنك. لنفترض أن متطلبات معالجة الحوادث تغيّرت في إحدى السياسات: فبدلًا من تعميم مذكرة، يتغير الفحص نفسه، وتطبّق جميع التقييمات اللاحقة القاعدة الجديدة تلقائيًا. في مرحلة إثبات المفهوم (proof of concept) يكون التقييم اختياريًا ويكشف الثغرات مبكرًا، أما في مرحلة البناء فهو إلزامي ويدخل ضمن الأدلة الرسمية المقدَّمة إلى اللجنة. وهو يعمل حاليًا في بيئة الإنتاج قبل الإطلاق.
Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews
Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.