AWS تقسّم تبنّي الذكاء الاصطناعي المسؤول للوكلاء إلى 3 مراحل خلال 12 أسبوعًا
يختار الوكيل أدواته بنفسه وينفّذ مهامه عبر عدة خطوات، ولذلك لا يكفي فحص النموذج وحده. تقترح AWS خطة من ثلاث مراحل على مدى 12 أسبوعًا: القواعد والسجل، ثم مشروع تجريبي بضوابط حماية، ثم فحص التحيّز. وفي شركة مالية ألمانية، تحوّل خطأ واحد في التصنيف إلى انتهاكات للسياسات في ثلاث خدمات. ابدؤوا بسجل للوكلاء يحدد لكل وكيل مالكه ومستوى المخاطر فيه.
معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
كان «الذكاء الاصطناعي المسؤول» يعني في السابق فحص النموذج نفسه في المقام الأول: يُدرَّب النموذج، ثم يُجرى عليه عدد من الاختبارات المعروفة، ثم يُطلق. ومع الوكلاء لا يكفي ذلك. فهم يستدلّون ويختارون الأدوات بأنفسهم وينفّذون المهام عبر عدة خطوات، ولذلك قد ينتشر خطأ وكيل واحد إلى خدمات أخرى.
نشرت AWS خريطة طريق موجزة لإدخال الرقابة تدريجيًا: ثلاث مراحل تندرج ضمن جدول زمني قابل للضبط مدته 12 أسبوعًا. تخيّلوا تطبيقًا عقاريًا يكتب الإعلانات اعتمادًا على البيانات التي يعثر عليها. قد يختلق لشقة ما شرفة غير موجودة.
أو وكيل دعم متصل بقاعدة معرفة داخلية قد يكشف معلومات سرية. تبيّن الخريطة أي عمليات التحقق ينبغي إدخالها وبأي ترتيب. وهذه مادة صادرة عن مزوّد، وبعض توصياتها مرتبط بخدمات Amazon Bedrock، لكن بنيتها مفيدة حتى من دون AWS.
لماذا نحتاج إلى الخريطة ولمن هي موجَّهة
تقسّم AWS الفرق إلى دورين. فريق المنصة يدير منصة مشتركة للوكلاء ويضع الحواجز الوقائية. أما فرق المنتجات (وتُسمّى أيضًا Workstream teams) فتبني وكلاءها الخاصين على هذه المنصة وتعمل ضمن الأطر المحددة. وعلى الدورين أن يتحدثا لغة واحدة وأن يدركا المرحلة التي وصلا إليها.
وبحسب تجربة عملاء AWS، تتكرر أربع مشكلات:
- سلوك غير متوقع. في شركة مالية من ألمانيا، حوّل التنسيق متعدد الوكلاء خطأً واحدًا في التصنيف إلى انتهاكات للسياسات في ثلاث خدمات لاحقة في آن واحد.
- حدود البيانات والصلاحيات. يجب أن تقتصر صلاحيات كل وكيل على المستأجرين (tenants) والبيانات والأنظمة والإجراءات الخاصة به، على ألا يستطيع هو توسيعها بنفسه.
- وتيرة التنظيم. تظهر EU AI Act وISO 42001 وNIST AI RMF أسرع مما تستطيع الحوكمة التكيّف معه. ويجب إثبات الامتثال بتقييم مستمر وفق جدول محدد مسبقًا: يوميًا أو أسبوعيًا أو شهريًا.
- غموض المسؤولية. في شركة إعلام بريطانية لم يُحدَّد تقسيم المسؤوليات بين تطوير الوكلاء وإطلاقهم. فالمنصة تضع الحواجز الوقائية وفرق المنتجات تتحايل عليها، وهذه الفرق بدورها تُلقي على المنصة ما هو من مسؤوليتها هي.
المراحل الثلاث
المرحلة 1. أساس الحوكمة. المحوران الرئيسيان: الحوكمة، والأمن مع الخصوصية. تقيّم فرق المنتجات خطر كل سيناريو مخطَّط له على مقياس «منخفض / متوسط / مرتفع / غير مقبول»، مع مراعاة متطلبات مثل EU AI Act، وتحدد التدابير التي يتضمنها كل مستوى. ويضبط فريق المنصة البنية التحتية الأساسية: المراقبة والتحكم في الوصول. وتخضع النماذج لفحص الأمان والموثوقية، ثم تُدرج المعتمدة منها في فهرس يراعي القدرات وزمن الاستجابة والتكلفة. والقاعدة الأهم: يُسجَّل كل وكيل وكل أداة وكل مهارة مع مالكه ومستوى المخاطر ونطاق الامتثال التنظيمي. وما لا يرد في السجل لن تتمكن المؤسسة من العثور عليه ولا من التحكم فيه.
المرحلة 2. المشروع التجريبي. يُطلق أول وكيل يحقق فائدة قابلة للقياس. توفر المنصة قوالب ومرشّحات لإخفاء البيانات الشخصية عند مدخلات النموذج ومخرجاته، إضافة إلى قواعد جاهزة للحواجز الوقائية. وتحدد فرق المنتجات بنفسها عتبات الإشراف على المحتوى بما يناسب سيناريوها. وهي التي تفعّل أيضًا عمليات التحقق من استناد الإجابات إلى مصادرها: فحتى مع السياق الصحيح قد يحرّف النموذج المصدر. وفي الحالات الخاضعة للتنظيم تنصح AWS باستخدام الاستدلال الآلي (automated reasoning). أما الإجراءات الخطِرة فتتطلب وجود إنسان في السلسلة: يحيل الوكيل القرار إلى مراجع عند انخفاض الثقة، أو عند تفعيل أحد الحواجز الوقائية، أو عند اتخاذ قرار مهم، وتُسجَّل هذه الإحالات في سجل لأغراض التدقيق. كما يُضاف التتبّع على مستوى الجلسات واستدعاءات الأدوات، والوصول وفق مبدأ الحد الأدنى من الامتيازات.
المرحلة 3. التقييم والتعزيز. صار لزامًا الآن عرض النتيجة على الجهة التنظيمية أو المدقق أو مجلس الإدارة. وإذا خلت بطاقة النموذج من مقاييس الإنصاف، يُفحص التحيّز بشكل مستقل باستخدام معيارَي CEB وHELM. بعد ذلك يُقيَّم توجيه الوكيل بأكمله، بما في ذلك اختيار الأدوات، ويُضبط ضبط آلي لمراقبة انحراف الإنصاف (drift) عند تحديث النماذج ومصادر البيانات. وفي قسم الشفافية تقترح AWS علامات مقروءة آليًا لمصدر المحتوى، وإفصاحًا إلزاميًا بأن المستخدم يتحدث مع ذكاء اصطناعي.
ما ينبغي مراعاته
لا يتضمن النص الأصلي تعليمات خطوة بخطوة، وهو ليس استشارة قانونية. يرافق المنشور «مهارة» لتقييم الذكاء الاصطناعي المسؤول واستبيان للتقييم الذاتي للفرق. أما الجزء الذي وصلنا من النص فينقطع عند موضوع تدقيق القرارات في قسم الشفافية.
الخلاصة العملية: أنشئوا سجلًا للوكلاء قبل أول مشروع تجريبي، وأدرجوا فيه المالك ومستوى المخاطر. حدّدوا مسبقًا الشروط التي يجب على الوكيل عندها إحالة القرار إلى إنسان. واتفقوا على طبقات الحماية التي توفرها المنصة وتلك التي تبقى على عاتق فريق المنتج. وتسوق AWS مثالًا على ذلك هو Robinhood: وكيل لمكافحة الجرائم المالية على Bedrock مع حوكمة صارمة للبيانات حقق زيادة في الكفاءة بنسبة 20% مع الالتزام بمتطلبات الجهات التنظيمية.
- 20 نوفمبر 2026Anthropic تجمع 104,8 مليار دولار من الاكتتاب العام، لكن التزاماتها للبنية التحتية تبلغ تريليون دولار
- 20 نوفمبر 2026AWS تطلق NVIDIA Dynamo مُدارًا للنماذج التي لا تتسع في خادم واحد
- 20 نوفمبر 2026Kimi Code CLI يعمل مع Amazon Bedrock دون مفتاح API منفصل
- 20 نوفمبر 2026بطولة الوكلاء في Cisco: 1200 مهندس، والفائز كتب 1220 توكنًا بدل 1430
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول لماذا نحتاج إلى الخريطة ولمن هي موجَّهة؟
تقسّم AWS الفرق إلى دورين. فريق المنصة يدير منصة مشتركة للوكلاء ويضع الحواجز الوقائية. أما فرق المنتجات (وتُسمّى أيضًا Workstream teams) فتبني وكلاءها الخاصين على هذه المنصة وتعمل ضمن الأطر المحددة. وعلى الدورين أن يتحدثا لغة واحدة وأن يدركا المرحلة التي وصلا إليها. وبحسب تجربة عملاء AWS، تتكرر أربع مشكلات: سلوك غير متوقع. في شركة مالية من ألمانيا، حوّل التنسيق متعدد الوكلاء خطأً واحدًا في التصنيف إلى انتهاكات للسياسات في ثلاث خدمات لاحقة في آن واحد. حدود البيانات والصلاحيات.
ما أبرز التفاصيل حول المراحل الثلاث؟
المرحلة 1. أساس الحوكمة. المحوران الرئيسيان: الحوكمة، والأمن مع الخصوصية. تقيّم فرق المنتجات خطر كل سيناريو مخطَّط له على مقياس «منخفض / متوسط / مرتفع / غير مقبول»، مع مراعاة متطلبات مثل EU AI Act، وتحدد التدابير التي يتضمنها كل مستوى. ويضبط فريق المنصة البنية التحتية الأساسية: المراقبة والتحكم في الوصول. وتخضع النماذج لفحص الأمان والموثوقية، ثم تُدرج المعتمدة منها في فهرس يراعي القدرات وزمن الاستجابة والتكلفة. والقاعدة الأهم: يُسجَّل كل وكيل وكل أداة وكل مهارة مع مالكه ومستوى المخاطر ونطاق الامتثال التنظيمي.
ما أبرز التفاصيل حول ما ينبغي مراعاته؟
لا يتضمن النص الأصلي تعليمات خطوة بخطوة، وهو ليس استشارة قانونية. يرافق المنشور «مهارة» لتقييم الذكاء الاصطناعي المسؤول واستبيان للتقييم الذاتي للفرق. أما الجزء الذي وصلنا من النص فينقطع عند موضوع تدقيق القرارات في قسم الشفافية. الخلاصة العملية: أنشئوا سجلًا للوكلاء قبل أول مشروع تجريبي، وأدرجوا فيه المالك ومستوى المخاطر. حدّدوا مسبقًا الشروط التي يجب على الوكيل عندها إحالة القرار إلى إنسان. واتفقوا على طبقات الحماية التي توفرها المنصة وتلك التي تبقى على عاتق فريق المنتج.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.