عدة نماذج LLM في دردشة Telegram واحدة: كيف تجمع بين Groq وGoogle AI
أنشأ مطور بوتًا على Telegram تعمل فيه عدة نماذج LLM بالتزامن داخل دردشة واحدة، منتحلةً صفة موظفي شركة. ويمكن للمستخدم التبديل بينها عند الطلب. واستُخدمت في التك
قام مطور من Habr بإنشاء روبوت تيليجرام مضحك يعمل فيه عدة نماذج LLM في وقت واحد في محادثة واحدة، وكل منها يتظاهر بأنه موظف في شركة. ظهرت الفكرة كنكتة في اجتماع مع الأصدقاء، لكنها تحولت بسرعة إلى حالة تقنية مثيرة للاهتمام حول دمج نماذج متعددة باستخدام واجهات برمجية مجانية فقط.
كيفية وضع نماذج مختلفة في محادثة واحدة
كان المفهوم الأصلي بسيطاً وخفيف الظل: إنشاء محادثة حيث تعمل عدة شبكات عصبية في وقت واحد، معتقدة أنها موظفون حقيقيون في الشركة. يحصل كل نموذج على دوره الخاص وخلفيته، ويمكن للمستخدم التبديل بينها في أي وقت، وطرح نفس السؤال على نماذج لغة كبيرة مختلفة. هذا ليس مجرد اختبار متوازي — إنه محاولة لجعل الشبكات العصبية تتعلم وتتمسك بشخصياتها ضمن حوار واحد.
أين تحصل على واجهات برمجية بدون مقابل
كانت المهمة العملية الأولى عادية لكنها حاسمة: العثور على مجموعة أدوات بحدود مجانية لائقة. أجرى المطور بحثاً واستقر على ثلاث خيارات رئيسية:
- Groq — لـ LLama بسرعة استدلال قياسية جديدة
- Google AI Studio — لـ Gemma و Gemini بمستويات مجانية لائقة
- طلبات HTTP بسيطة للتكامل بين المكونات
في المرحلة الأولية، كان الكود بسيطاً نسبياً: اختيار النموذج بأمر من المستخدم، إعادة توجيه الطلب إلى واجهة البرمجية المطلوبة، إدراج الردود في السياق العام للمحادثة. كانت المنطق في الحد الأدنى؛ كان التعقيد يكمن في إدارة الحالة والسياق لكل نموذج في وقت واحد.
عندما ينسى النموذج من يكون
قريباً ظهرت مشكلة مضحكة لكن مستمرة: عند التبديل بين النماذج، رفض أحدها التنازل عن دوره وتظاهر ببساطة بأنه الآخر، فقداناً كاملاً لهويته. حل المطور معظم المشكلة من خلال رسالة نظام مدروسة بعناية تذكّر بوضوح كل نموذج بمن يجب أن يكون في هذا الحوار. ومع ذلك، لم يتمكنوا من القضاء على المشكلة تماماً. أحياناً لا تزال النماذج تختلط بشأن أدوارها، خاصة في الحوارات الطويلة متعددة الأدوار. وفقاً لملاحظات المطور، هذا قيد أساسي في نماذج اللغة الكبيرة نفسها: فهي تولد النصوص بشكل جيد وتنسخ الأسلوب، لكنها غالباً تفقد هوية السياق أثناء تحولات الانتباه.
ما الذي يعنيه هذا
توضح الحالة أنه يمكن تجميع واجهة متعددة النماذج حتى باستخدام واجهات برمجية مجانية إذا بذلت جهداً في العمارة والصياغة. الموثوقية الكاملة في إدارة السياق والهوية لم تكن قابلة للتحقيق بعد، لكن للتجريب والنماذج الأولية والتعلم، هذا أكثر من كافٍ.