Anthropic تثبت مصدر إجابة الذكاء الاصطناعي دون كشف أوزان النموذج

عندما تستدعي نموذجًا باهظ الثمن عبر واجهة برمجية تابعة لجهة أخرى، عليك أن تصدّق المزوّد بكلمته. فالواجهة تعرض اسمًا واحدًا، لكن التحقق من النموذج الذي أنتج الإجابة فعلًا يكاد يكون مستحيلًا. وفي طلب منفرد يكون الأمر مزعجًا فحسب. أما في تدقيق الكود أو الخدمات الطبية أو تقييم المخاطر التجارية، فيتحول هذا الغموض إلى مشكلة ثقة.

تبحث Anthropic في FlashProve، وهو نظام مفتوح للإثبات التشفيري لمصدر نتائج الذكاء الاصطناعي. الفكرة بسيطة: ينشر المختبر بصمة النموذج الذي أطلقه، ويمكن مرافقة كل نتيجة بإثبات رياضي. يطابق المستخدم الإثبات مع البصمة ويتأكد من أن الإجابة صدرت فعلًا عن النموذج المعلن.

كيف يبدو ذلك عمليًا

لنتخيل خدمة تبيع فحص مستودع الكود قبل الإصدار. تزعم أنها ترسل الكود إلى نموذج متقدم للبحث عن الثغرات. اليوم لا يرى العميل سوى تقرير وفاتورة، ولا أيٌّ منهما يثبت أي نظام أجرى التحليل.

مع FlashProve يمكن للخدمة أن ترفق بالتقرير إثباتًا تشفيريًا. يتحقق العميل منه على جهازه ويؤكد أن هذه النتيجة مرتبطة ببصمة النموذج المطلوب. وإذا استبدل وسيط النموذج الباهظ بآخر أرخص خلسة، فلا ينبغي أن ينجح التحقق.

وتعمل الآلية نفسها في الاتجاه المعاكس. فلن يستطيع مطوّر النموذج استبدال نسخة أقوى بالنظام أثناء عرض توضيحي لتحسين نتائج اختبار بصورة مصطنعة. فالإثبات يربط المخرجات لا بالاسم الظاهر في الواجهة، بل ببصمة منشورة محددة.

وثمة تفصيل مهم: لا يتطلب التحقق كشف الأوزان، أي المعاملات العددية الداخلية للنموذج. ولذلك يصلح المخطط من حيث المبدأ للأنظمة المفتوحة والتجارية معًا، ومنها أنظمة Anthropic وOpenAI ومختبرات أخرى. كما يصمم المؤلفون التحقق ليكون خفيفًا بما يكفي لتنفيذه محليًا دون خادم قوي مستقل.

ماذا يغيّر ذلك للمطورين والمنتجات

إذا أصبح هذا النهج معيارًا عمليًا، فستكتسب الواجهات البرمجية طبقة جديدة قابلة للتحقق. فالعقد اليوم يؤكد عادةً شكل الطلب والسعر واسم النموذج. وفي المستقبل يمكن إرفاق إثبات مصدر الإجابة بها وحفظه في سجل التدقيق.

بالنسبة إلى المطوّر، يعني ذلك القدرة على التحقق من مزوّد النموذج بدل الاعتماد على وثائقه وحدها. وبالنسبة إلى المنتج، إمكانية تأكيد النظام الذي عالج بيانات العملاء. وبالنسبة إلى المؤسس، رقابة أدق على المتعاقدين الذين يبيعون «تحليلًا بنموذج متقدم» دون إظهار ما يجري في الداخل.

ويبدو السيناريو العملي أوضح في السلاسل ذات الوسطاء المتعددين: يستدعي التطبيق منصة أتمتة، فتتوجه إلى مجمِّع، ويتوجه المجمِّع إلى المختبر. وكلما طالت السلسلة سهل فقدان اليقين بشأن النموذج الذي أنجز العمل. ويمكن للإثبات التشفيري أن يمر عبر السلسلة كلها مع النتيجة.

لماذا ما زال التطبيق مبكرًا

لا يزال FlashProve عملًا بحثيًا. وتعلن Anthropic صراحةً أن البرنامج لم يكتمل وأنه لا يُخطَّط حاليًا لتطبيقه، لا داخل الشركة ولا في مختبرات أخرى. فقد نُشرت المواصفات التقنية والكود العامل لبعض المكونات، لكنها ليست ميزة جاهزة في Claude ولا بروتوكولًا متفقًا عليه.

إضافة إلى ذلك، يتطلب المخطط مشاركة المختبرات نفسها: عليها نشر بصمات النماذج ودعم إصدار الإثباتات. ودون ذلك لن يتمكن مطوّر مستقل من إضافة تحقق كامل فوق واجهة برمجية مغلقة قائمة. كما أن الإثبات التشفيري يجيب فقط عن سؤال مصدر النتيجة. فهو لا يثبت أن الإجابة صحيحة أو آمنة أو مطابقة للمهمة المطروحة.

لذا فالخطوة العملية الآن ليست إعادة بناء بيئة الإنتاج حول FlashProve، بل دراسة المواصفات ومتابعة التجارب. وعلى الفرق التي تشتري الوصول إلى النماذج عبر وسطاء أن تسجّل منذ الآن، وبشكل منفصل، إصدارات النماذج ومعاملات الطلبات وسجلات الاستدعاء. فإذا أصبح الاستدلال القابل للإثبات معيارًا، فستوفر هذه العمليات مكانًا واضحًا للإثبات الجديد: بجانب كل نتيجة حرجة نضطر اليوم إلى قبولها على الثقة.