TruLens: كيف تتوقف عن الثقة العمياء بنماذج LLM وتبدأ بقياس جودتها

يمرّ قطاع الذكاء الاصطناعي بلحظة مفارقة. فالشركات تتبنّى على نطاق واسع تطبيقات مبنية على النماذج اللغوية الكبيرة، لكن معظمها لا يملك أدنى تصوّر عن مدى جودة أداء هذه التطبيقات. أنتج النموذج إجابة، وهذا جيد، لكن هل كانت دقيقة؟ ألم يهلوس؟ هل جاءت الإجابة متوافقة مع السياق؟ تبقى هذه الأسئلة بلا جواب لدى معظم الفرق. وهذه هي المشكلة التي تعالجها TruLens، وهي إطار مفتوح المصدر يحوّل عملية عمل LLM المعتمة إلى مسار قابل للقياس والتحكم.

أصبحت مشكلة قابلية الرصد في النماذج اللغوية منذ وقت طويل من أبرز نقاط الألم في القطاع. فالبرمجيات التقليدية يمكن تغطيتها باختبارات الوحدة، وإعداد التسجيل (logging)، وربطها بأنظمة المراقبة. أما تطبيقات LLM فالأمر فيها أعقد: سلوكها غير حتمي، وتعتمد مخرجاتها على أدق تفاصيل الموجّهات (prompts)، وقد تتضمن سلاسل الاستدعاء في أنظمة RAG المعقدة عشرات الخطوات الوسيطة، من استرجاع المستندات والترتيب والتلخيص وصولًا إلى توليد الإجابة النهائية. وبدون أدوات التتبّع، لا يرى المطوّر سوى المدخل والمخرج، أما كل ما يجري بينهما فيبقى terra incognita.

تعالج TruLens هذه المشكلة من جانبين. الأول هو القياس والتتبّع (instrumentation and tracing). يتيح الإطار تغليف كل مكوّن من مكوّنات تطبيق LLM بحيث تُسجَّل جميع المدخلات والنتائج الوسيطة والإجابات النهائية في صورة سجلات تتبّع منظّمة. ولا يقتصر ذلك على الاستدعاءات المباشرة لـ OpenAI API، بل يشمل البنى الأكثر تعقيدًا، مثل سلاسل LangChain وخطوط LlamaIndex وأنظمة RAG المخصّصة. وهكذا يحصل المطوّر على صورة كاملة لما جرى في كل مرحلة من مراحل معالجة الطلب: أي المستندات استُرجعت، وكيف رُتّبت، وأي موجّه أُرسل إلى النموذج، وما الذي أعاده.

أما الجانب الثاني فهو التقييم التلقائي للجودة عبر ما يسمى دوال التغذية الراجعة (feedback functions). وهي مقاييس كمّية تُرفق بسجلات التتبّع وتقيّم جوانب مختلفة من إجابة النموذج. ومن المقاييس القياسية: ملاءمة الإجابة للطلب، ومدى استناد الإجابة إلى السياق المقدَّم (وهو أمر بالغ الأهمية في مكافحة الهلوسة)، إضافة إلى ملاءمة السياق نفسه المستخرَج من قاعدة المعرفة. ومن اللافت أن TruLens يمكنها استخدام نماذج لغوية أخرى لحساب هذه المقاييس، أي أنها تطبّق عمليًا مبدأ «LLM يقيّم LLM»، الذي يتسع استخدامه في القطاع بوصفه بديلًا عمليًا للتوسيم اليدوي المكلف.

من المهم فهم السياق الذي تظهر فيه مثل هذه الأدوات. فسوق تطبيقات LLM ينضج بسرعة. ففي عام 2023 كان يكفي عرض توضيحي مبهر لروبوت دردشة، أما في 2025-2026 فيطالب القطاع التجاري بالموثوقية وإمكانية التنبؤ والقابلية للقياس. فالعملاء من الشركات غير مستعدين لنشر أنظمة لا يمكن اختبارها ومراقبتها. والجهات التنظيمية، وخصوصًا في الاتحاد الأوروبي مع قانون AI Act، تلحّ أكثر فأكثر على شفافية القرارات الخوارزمية. وفي ظل هذه الظروف، تتحول أدوات قابلية الرصد في LLM من إضافة مستحبّة إلى ضرورة.

وTruLens ليست اللاعب الوحيد في هذا المجال. فهناك LangSmith من مطوّري LangChain، وWeights and Biases مع أداتها Weave، وArize AI، وPhoenix من فريق Arize، وكلها تقدّم مقاربات مختلفة لمراقبة تطبيقات LLM وتقييمها. غير أن TruLens تتميز بانفتاحها وتركيزها على مقاييس التقييم تحديدًا، لا على التسجيل وحده. ويوفّر الإطار لوحة معلومات (dashboard) مريحة يستطيع المطوّر من خلالها تتبّع كل سجل بصريًا، ومشاهدة التقييمات لكل مقياس، وكشف الأنماط الإشكالية بسرعة.

وتحظى هذه الأدوات باهتمام خاص لدى المطورين الروس العاملين على تطبيقات LLM. فكثير من الفرق المحلية تبني أنظمة RAG فوق قواعد المعرفة المؤسسية، وتبرز مسألة جودة الإجابات بحدّة، خصوصًا حين يتعلق الأمر ببيانات قانونية أو مالية أو طبية، حيث قد تترتب على هلوسة النموذج عواقب خطيرة. وتتوافق TruLens مع نماذج OpenAI، لكن بنيتها مرنة بما يكفي للتكامل مع مزوّدين آخرين، بما في ذلك النماذج مفتوحة المصدر المنشورة محليًا.

يعكس الاتجاه نحو قابلية الرصد في تطبيقات LLM تحوّلًا أعمق في القطاع: من التجريب المتحمّس إلى الانضباط الهندسي. فالنماذج اللغوية تكفّ عن كونها سحرًا وتصبح مكوّنات في أنظمة برمجية، بكل ما يترتب على ذلك من متطلبات الاختبار والمراقبة وضمان الجودة. والفرق التي ستتقن هذه الممارسات أبكر ستحصل على ميزة تنافسية كبيرة. ليس لأن نماذجها ستكون أذكى، بل لأنها ستعرف بدقة متى يخطئ النموذج، وستتمكن من تصحيح ذلك.