أضافت Amazon Bedrock التحقق الرسمي من إجابات الذكاء الاصطناعي لمهام الامتثال

تنقل شركة AWS خدمة Amazon Bedrock من أداة للتجريب مع الذكاء الاصطناعي التوليدي إلى فئة من الأنظمة التي يمكن عرضها على فريق الامتثال والتدقيق. لا تحاول آلية فحص الاستدلال الآلي الجديدة تخمين ما إذا كانت إجابة النموذج صحيحة، بل تتحقق من امتثالها للقواعد والقيود المحددة رسميًا. بالنسبة للشركات في الصناعات الخاضعة للتنظيم، هذا تحول مهم: بدلاً من الثقة الاحتمالية، تحصل على التحقق الرياضي من كل استنتاج.

المشكلة التي تعالجها AWS معروفة منذ فترة طويلة لأي شخص حاول تنفيذ نماذج اللغة الكبيرة في العمليات الحساسة. عندما يجيب النموذج على أسئلة حول تغطية التأمين أو مستويات مخاطر الذكاء الاصطناعي أو متطلبات السلامة الإشعاعية أو المعايير التنظيمية، فإن الأخطاء مكلفة. في مثل هذه السيناريوهات، تضيف الفريق عادة نموذج لغة ثانية وتجبره على تقييم النموذج الأول باستخدام نظام التقييم بواسطة نموذج اللغة.

يبدو النهج منطقيًا، لكنه يبقى احتمالياً: نظام إحصائي واحد يتحقق من نظام آخر ولا يمكنه توفير ضمان رسمي مناسب للتدقيق. ونتيجة لذلك، تستمر الشركات في قضاء أسابيع على الفحوصات اليدوية والاستشاريين الخارجيين وجمع الأدلة للمنظمين. يوفر فحص الاستدلال الآلي كجزء من Amazon Bedrock Guardrails مسارًا مختلفًا.

بدلاً من طلب النموذج لتقييم صحة النص بشكل عام، تقارن الخدمة الإجابة بمجموعة من القواعد والمتغيرات والأنواع والشروط المحددة بوضوح، ثم تقوم بتشغيلها من خلال محرك التحقق الرسمي. في الأساس، تجلب AWS إلى عالم الذكاء الاصطناعي التوليدي الطرق التي تم استخدامها لعقود من الزمن للتحقق من الأجهزة والبروتوكولات التشفيرية والبرامج الحرجة. إذا كانت الإجابة متوافقة مع السياسة، يمكن للنظام إثبات ذلك.

إن لم تكن، فيوضح القاعدة المحددة التي تم انتهاكها والسبب. يحول هذا النهج إجابة الذكاء الاصطناعي من مجرد معقول إلى قابل للتحقق رسميًا وجاهز للتدقيق. القسم الأكثر توضيحًا هو حالات الاستخدام.

قللت Amazon Logistics، التي تراجع مشاريع تثبيت محطات الشحن للمركبات الكهربائية، من مراجعة الهندسة من حوالي ثماني ساعات إلى دقائق مع الحفاظ على السيطرة الخبراء والحصول على التحقق الرسمي لكل قرار. في Lucid Motors، بالتعاون مع PwC و AWS، تم تقليل التنبؤ المالي من أسابيع إلى أقل من دقيقة، وتمكنت الشركة من توسيع نطاق 14 سيناريو ذكاء اصطناعي في 10 أسابيع. في التعليم، حققت مجموعة FETG التي تطور نظام MarsLadder تقليلاً بنسبة 80 في المائة من جهد تكوين القواعد وتقليلاً بنسبة 50 في المائة من تكاليف الامتثال المستمرة وتقليل زمن الاستجابة من 8-13 ثانية إلى 1.

5 ثانية. تناقش AWS أيضًا التطبيقات في الرعاية الصحية والطاقة والتأمين والأدوية والسيناريوهات الأخرى حيث من المهم ليس فقط توليد الإجابة بل إثبات أنها تظل ضمن القواعد المسموح بها. من الناحية العملية، يبدأ Bedrock في إغلاق ليس فقط طبقة الإنشاء بل أيضًا طبقة التحكم القابلة للتحقق رسميًا.

تربط AWS مباشرة فحص الاستدلال الآلي بنظام ذكاء اصطناعي مسؤول أوسع: RAG من خلال Knowledge Bases for Amazon Bedrock، وتتبع الامتثال من خلال AWS Audit Manager، وإدارة النماذج من خلال SageMaker AI، وبنية مرجعية حيث يتم سحب القواعد من قاعدة بيانات، وتتحقق إجابة النموذج رسميًا، وإعادة التوليد التصحيحية عند حدوث خطأ. بالنسبة لفريق المنتج والمنصة، هذه إشارة مهمة: في العمليات المنظمة، تنتقل القيمة من جودة الموجه إلى جودة القواعد الرسمية وتتبع النتائج. الخلاصة بسيطة: تحاول AWS جعل الذكاء الاصطناعي التوليدي مقبولاً للصناعات حيث ثقة النموذج غير كافية وحلقة اتخاذ القرار القابلة للتحقق ضرورية.

إذا أثبتت التكنولوجيا الاستقرار على أحمال العمل الإنتاجية الفعلية، ستتمكن الشركات من الانتقال من التجارب الملمعة إلى الأنظمة التشغيلية التي يمكن الدفاع عنها أمام المحامين والمدققين والمنظمين. بالنسبة للسوق، هذا أحد أوضح الأمثلة على كيفية أن لاعبي البنية الأساسية ينقلون الحوار حول سلامة الذكاء الاصطناعي من الوعود إلى الأدلة.