Simon Willison يطلق llm 0.31.1 مع إصلاح خلل استدعاء الأداة

أطلق المطور سايمون ويليسون النسخة 0.31.1 من أداته مفتوحة المصدر llm — أداة سطر أوامر ومكتبة بايثون للعمل مع نماذج اللغات الكبيرة عبر المحطة الطرفية.

ما تم إصلاحه بالضبط

يزيل التصحيح خللاً في نقاط نهاية OpenAI Chat Completion: عندما تستدعي نموذج دالة أداة (tool call) بمعاملات فارغة، كانت بعض موفري الخدمات تستجيب برسالة خطأ بصيغة JSON بدلاً من نتيجة صحيحة. تم تسجيل الخطأ في issue #1521 من مستودع المشروع على GitHub.

كيفية العثور على الخلل

اكتشف ويليسون المشكلة أثناء اختبار أحد مشاريعه الأخرى — الإضافة llm-meta-ai، التي تضيف دعم نماذج Meta إلى llm. تم تصميم أداة llm كنظام إضافات: يمكن توسيع واجهة سطر الأوامر الأساسية بدعم موفري خدمات ونماذج جديدة دون تغيير المحور الأساسي، لذلك فإن الأخطاء في منطق استدعاء الأداة الأساسي تؤثر على جميع الإضافات المتصلة مرة واحدة.

يُعرف مؤلف المشروع أيضاً بأنه مُنشئ Datasette — أداة مفتوحة لنشر واستكشاف البيانات، لذلك فإن عمله في أدوات LLM كان محل اهتمام مجتمع المطورين منذ فترة طويلة.

ما يعنيه هذا

حتى أدوات سطر الأوامر الصغيرة للعمل مع LLMs تعتمد بشكل متزايد على موثوقية آلية استدعاء الأداة — استدعاء الدوال الخارجية بواسطة النموذج. يمكن أن تؤدي أخطاء صيغة JSON في هذه السلاسل إلى كسر خطوط الأنابيب المؤتمتة بالكامل، لذلك فإن هذه التصحيحات الموجهة مهمة للمطورين الذين يبنون وكلاء على واجهات برمجية تابعة لجهات خارجية.