مهندس في Anthropic بخبرة 20 عامًا يبني قابلية الرصد لوكلاء Claude

تضم Anthropic إلى فريقها مهندسًا أمضى عشرين عامًا في الانشغال بسؤال واحد: هل يمكن الوثوق بالأرقام؟ يعمل غورميت ساران، العضو الأول (Senior Member) في IEEE، في Anthropic بسان فرانسيسكو منذ عام 2025، ويبني بنية تحتية لفهم سلوك Claude. وبحسب صياغته، تتلخص المهمة في أن تكون البيانات دقيقة ومنظَّمة وجديرة بالثقة، وأن تبقى المعلومات الخاصة خاصة. ونشرت IEEE Spectrum هذا التقرير التعريفي في 12 أكتوبر 2026.

من تعريف موحد للمقياس إلى تدقيق الوكلاء

بدأت مسيرة ساران عام 2007 في مكتب Yahoo في بنغالورو، حيث كان قائد الفريق التقني لفريق البيانات. هناك واجه مشكلة ستتكرر لاحقًا في كل شركة. كانت الفرق المختلفة تحسب «المستخدمين النشطين يوميًا للموقع» وفق منطق يختلف قليلًا، فتحصل على أرقام مختلفة. وكانت الإدارة تتخذ قرارات بشأن الموارد والمنتجات دون أن تعرف أي رقم تصدّق.

بنى الفريق مستودعًا مركزيًا للمقاييس ذات التعريفات الصارمة. ووصف ساران الأحداث التي تدخل في الحساب وطريقة معالجة الحالات الحدّية التي ينهار عندها الكود القياسي. وفوق ذلك ظهرت أداة التحليلات الداخلية Yahoo! Digits، التي استخدمتها جميع منتجات الشركة.

انتقل ساران عام 2010 إلى Intuit، حيث بنى التحليلات لمنتجَي TurboTax وQuickBooks. وفي الشركة نفسها أطلقت Intuit ميزة لكشف الإقرارات الضريبية الاحتيالية في الزمن الفعلي. وكان على النظام أن يحمي بيانات دافعي الضرائب وأن يلتزم بمتطلبات مصلحة الضرائب الأمريكية. وخرج ساران من هذا المشروع بمبدأ لا يزال يبني عمله عليه حتى اليوم: لا يمكن إضافة الخصوصية إلى نظام جاهز، بل يجب دمجها في البنية منذ اليوم الأول.

وصل ساران إلى Meta، التي كانت لا تزال تحمل اسم Facebook، عام 2016، حين اعترفت الشركة بتضخيم عدد مشاهدات الفيديو. ويرى أن السبب يكمن في بنية المقاييس. وكان ردّه نظام Metric360، حيث يحكم تعريف موحد جميع حسابات المشاهدات. وبحلول عام 2021، حين غادر إلى Wealthfront، كانت الشركة بأكملها تستخدمه.

لماذا يصعب رصد الوكلاء

في Anthropic يطبّق ساران النهج نفسه على موضوع مختلف. ويشبّه عمله بطبيب يتخذ قراراته بناءً على قراءات الأجهزة: إذا انحرف أحدها قليلًا، فسيظهر الخطأ تحديدًا في الحالات الحدّية التي يكون فيها القرار أصعب ما يكون. والأمر نفسه مع الذكاء الاصطناعي، كما يرى: يجب التأكد من أن الأجهزة تعرض الحقيقة، وأن البيانات تعني ما يُعلَن عنها.

يزيد الوكلاء المهمة تعقيدًا. فالنظام ينفذ تسلسلات من الإجراءات، وعلى المهندس أن يوثّق ثلاثة أمور:

• ما الذي فعله الوكيل بالضبط؛
• على أي معلومات استند؛
• هل تطابقت النتيجة مع توقعات المستخدم.

ومع ذلك يجب أن يتم كل ذلك دون الكشف عن بيانات الآخرين: فبحسب ساران، صُممت الأنظمة بحيث تتعرف على المعلومات الحساسة وتحميها أثناء المعالجة. ويصف ذلك بأنه مهمة قابلية رصد أصعب بكثير من أي مهمة سابقة. فلدى القطاع أدوات جيدة نسبيًا لقواعد البيانات والخدمات على الويب، أما نماذج LLM فما زالت أدواتها، على حد قوله، قيد الابتكار.

دور المعايير وما يمكن استخلاصه من هذه القصة

انضم ساران إلى IEEE في مارس 2025، ويرى في المنظمة جهة يمكن أن تضع معايير للبنية التحتية للذكاء الاصطناعي. والحجة بسيطة: توجد معايير لأكواد البناء ولاختبار البرمجيات، أما قابلية التدقيق في الذكاء الاصطناعي فلا نظير لها حتى الآن. والحجة الثانية تتعلق بإتاحة الوصول. فبحسب ساران، تعمل IEEE في دول لا يجد فيها المهندسون طريقًا سهلًا إلى المجتمع المهني العالمي، وهذا مهم حين يخرج تطوير الذكاء الاصطناعي عن نطاق بضع مؤسسات في بضع مدن.

لا يكشف التقرير عن بنية الأنظمة الداخلية في Anthropic، فهو تقرير تعريفي لا تقريرًا تقنيًا. لكن الدروس العملية المستخلصة منه تنطبق على أي فريق لديه وكلاء في بيئة الإنتاج. أولًا، ينبغي تثبيت تعريفات موحدة لمقاييس الجودة، كي لا تحسب الأقسام المختلفة «الإجابة الناجحة» بطرق مختلفة. ثم تسجيل سلاسل إجراءات الوكيل، لا الإجابات النهائية فقط. أما إخفاء البيانات الحساسة فيجب دمجه في خط أنابيب القياس عن بُعد منذ البداية، لا إضافته بعد أول حادثة. ويعدّ ساران قابلية التدقيق من أبرز المهام الهندسية في العقد المقبل، ويرى أن الحديث عنها أقل بكثير من الحديث عن قدرات النماذج.