Simon Willison يصدر llm 0.31.1 لإصلاح خلل في استدعاءات الأدوات

أصدر المطوّر Simon Willison الإصدار 0.31.1 من أداته مفتوحة المصدر llm، وهي أداة سطر أوامر ومكتبة Python للتعامل مع نماذج اللغة الكبيرة عبر الطرفية.

ما الذي جرى إصلاحه

يعالج التحديث خللاً في التعامل مع نقاط الوصول (endpoints) الخاصة بـ OpenAI Chat Completion: فعندما كان النموذج يستدعي أداة (tool call) بوسائط فارغة، كان بعض المزوّدين يردّون بخطأ في تنسيق JSON بدلاً من إرجاع نتيجة صحيحة. وقد وُثّق الخلل في issue #1521 ضمن مستودع المشروع على GitHub.

كيف اكتُشف الخلل

اكتشف Willison المشكلة أثناء اختبار مشروع آخر من مشاريعه، وهو الإضافة llm-meta-ai التي تضيف إلى llm دعم نماذج Meta. تقوم أداة llm على نظام إضافات: يمكن توسيع واجهة سطر الأوامر الأساسية لدعم مزوّدين ونماذج جديدة دون تعديل النواة، ولذلك فإن أي خلل في منطق استدعاء الأدوات الأساسي يمسّ جميع الإضافات المتصلة بها في آن واحد.

ويُعرف مؤلف المشروع أيضاً بأنه مبتكر Datasette، وهي أداة مفتوحة المصدر لنشر البيانات واستكشافها، ولهذا تحظى أعماله في مجال أدوات LLM باهتمام مجتمع المطوّرين منذ فترة طويلة.

ماذا يعني ذلك

تعتمد حتى أدوات سطر الأوامر الصغيرة الخاصة بنماذج LLM بشكل متزايد على موثوقية آلية tool calling، أي استدعاء النموذج لدوال خارجية. وقد تؤدي أخطاء تنسيق JSON في مثل هذه السلاسل إلى تعطيل خطوط معالجة آلية كاملة (pipelines)، ولذلك تكتسب هذه الإصلاحات الموضعية أهمية للمطوّرين الذين يبنون وكلاء (agents) فوق واجهات API تابعة لجهات خارجية.