AWS وArtificial Genius تكشفان عن طريقة لخفض هلوسات نماذج LLM في القطاعين المالي والطبي

عرضت AWS، بالتعاون مع شريكتها Artificial Genius، كيفية تكييف نماذج اللغة الكبيرة مع المهام التي لا تحتمل الخطأ. يقوم النهج على Amazon Nova وSageMaker، لكن الفكرة المحورية ليست في حجم نموذج جديد، بل في الاستفادة من فهم النموذج للغة دون السماح له بتوليد الإجابة بحرية.

لماذا تُعدّ هذه مشكلة

ما زالت نماذج LLM التقليدية تبدو محفوفة بالمخاطر في الخدمات المالية والطب والتأمين والإجراءات القانونية. فهي تكتب جيدًا وتلخّص وتشرح، لكنها بطبيعتها تظل أنظمة احتمالية: النموذج يتنبأ بالرمز (token) التالي، ولا يستخرج حقيقة مضمونة الصحة. ومن هنا تنشأ الهلوسات، أي إجابات تبدو مقنعة لكنها لا تجد سندًا في البيانات المصدرية. وفي بيئة تتطلب التدقيق وإمكانية إعادة الإنتاج وتحديد المسؤولية، لا يتوافق هذا النمط من العمل مع الاستخدام الإنتاجي.

يقترح مؤلفو المقالة النظر إلى تطور الذكاء الاصطناعي عبر ثلاث مراحل. قامت الموجة الأولى على المنطق الرمزي والقواعد الصارمة: كانت تلك الأنظمة حتمية لكنها شديدة الجمود. أما الموجة الثانية، التي تنتمي إليها المحولات (transformers) الحديثة، فقد حققت قفزة هائلة في الطلاقة وفهم اللغة، لكنها جلبت معها عدم القدرة على التنبؤ بالمخرجات. وتصف Artificial Genius نهجها بأنه الجيل الثالث: فالنموذج لا يزال يفهم اللغة الطبيعية مثل أي LLM حديث، لكن الإجابة النهائية تمر عبر منطق حتمي ولا يجوز لها أن تتجاوز ما هو موجود فعلًا في السياق المُدخل.

كيف يعمل المخطط

تتمثل الفكرة الرئيسية لدى AWS وArtificial Genius في أنه يمكن استخدام النموذج التوليدي بطريقة غير توليدية تمامًا. أي أنه لا «يخمّن» الإجابة وفق احتمال الرمز التالي، بل يتحقق مما إذا كان يمكن استخراجها من المستند، وإذا لم يكن ذلك ممكنًا فإنه يمتنع عن الإجابة. ويفيد هذا النمط بوجه خاص في الأسئلة عن التواريخ والمبالغ والأسماء ومقتطفات التقارير أو تأكيد واقعة محددة.

وتصوغ المقالة ذلك بصراحة تامة:

«إذا تعذّر الإجابة عن السؤال استنادًا إلى المستند، فيجب على النموذج أن

يجيب: "Unknown"».

• اختير Amazon Nova Lite نموذجًا أساسيًا لأنه أنسب للإجابات القصيرة الدقيقة دون ثرثرة زائدة؛
• يجري الضبط الدقيق في SageMaker عبر supervised fine-tuning، كي يلتزم النموذج بقاعدة نظام واحدة: عدم اختلاق أي شيء؛
• يُستخدم في التدريب مجموعة اصطناعية من الأسئلة والأجوبة تضم أسئلة يمكن الإجابة عنها وأخرى لا يمكن الإجابة عنها قطعًا؛
• بدلًا من RAG التقليدي، الذي يظل توليديًا في النهاية، جرى التركيز على ربط أوثق بين نص المستند والسؤال المحدد؛
• يُغلَّف ذلك كله في منصة وكلاء (agents) يمكن عبرها تحويل الطلب الحر إلى مواصفة أكثر صرامة، ويبقى التحقق اليدوي الوحيد عند مرحلة هذا التحويل.

وثمة تفصيل مهم: يقابل المؤلفون منهجهم بالنصيحة المألوفة «اضبط temperature على الصفر». ففي رأيهم، لا يحل ذلك المشكلة الجذرية، لأن النموذج يواصل التوليد في كل الأحوال. أما في نهجهم فلا تتغير درجة العشوائية فحسب، بل يتغير منطق استخدام النموذج نفسه: يبقى الفهم الاحتمالي عند المدخلات، بينما يسعى النظام عند المخرجات إلى نمط ثنائي: إما أن يجيب بما يثبته النص فقط، أو أن يقول بصراحة إنه لا توجد إجابة.

ماذا أظهرت الاختبارات

يبدو المخطط من الناحية التقنية عمليًا إلى حد بعيد، وهذا ما يجعله مثيرًا للاهتمام. تُخزَّن بيانات التدريب في Amazon S3، ويجري الضبط الدقيق لنموذج Nova الأساسي في SageMaker Training Jobs، ثم تُستورد النسخة المخصصة إلى Amazon Bedrock وتُقدَّم للتطبيق عبر مسار الاستدلال (inference) القياسي. وهذا مهم لفرق المؤسسات ليس بسبب سهولة الاستخدام فحسب، بل أيضًا بسبب وضوح مسار البيانات: يسهل فهم ما دُرّب عليه النموذج، وأين جرى تعديله، وكيف نُشر لاحقًا في بيئة الإنتاج.

وكشف الفريق كذلك عن عدة استنتاجات هندسية. فقد استُخدم LoRA في الضبط الدقيق حتى لا يتضرر فهم النموذج اللغوي الأساسي. وفي تجارب سابقة على نموذج آخر، اضطُر الفريق حتى إلى إيقاف chain-of-thought قسرًا عبر الرمز الخدمي `</think>`، لأن الاستدلال المطوّل كان يعيق الإجابات الحتمية الموجزة. وفي نسخة Nova Lite جمع المؤلفون بين LoRA dropout بنسبة 50% وإيقاف مبكر يدوي (early stopping) وتوسيع المجموعة الاصطناعية إلى 30 ألف مثال. ووفق بياناتهم، أدى ذلك إلى خفض معدل الهلوسات من نسب تبلغ نسبًا مئوية وأجزاء من النسبة المئوية في التكوينات المبكرة إلى 0,03% في أفضل تكوين.

ماذا يعني ذلك

لا تهم هذه القصة مستخدمي AWS وحدهم. فهي تعكس تحولًا أوسع: بدأ السوق يبحث لا عن أكثر نماذج LLM «ذكاءً» فحسب، بل عن نماذج لها أطر سلوك محددة هندسيًا. وبالنسبة إلى البنوك وشركات التأمين والعيادات وشركات legal-tech، فهذه إشارة إلى أن تبنّي الذكاء الاصطناعي سيُبنى بشكل متزايد حول قابلية التحقق والامتناع عن الإجابة وسير العمل (workflow) الخاضع للرقابة، لا حول التوليد المبهر بأي ثمن.