تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
بنية تحتيةتحليل · على الرادارHabr AI→ المصدر

llm-checker: أداة تكشف أي نماذج LLM يستطيع جهازك تشغيلها

ظهرت أداة مفتوحة المصدر بواجهة سطر الأوامر باسم llm-checker، تحلل التكوين العتادي للحاسوب وتحدد النماذج اللغوية التي يمكن تشغيلها محليًا عبر Ollama. تفحص الأداة بطاقة GPU والذاكرة العشوائية والمعالج، ثم تقيّم التوافق والسرعة وجودة الأداء لكل نموذج من أكثر من 35 نموذجًا، بدءًا من النماذج المدمجة ذات مليار معامل وصولًا إلى النماذج الكبيرة ذات 32 مليار معامل. تُنتقى قائمة النماذج يدويًا، ما يضمن راهنية التوصيات. وتعالج الأداة إحدى أبرز مشكلات هواة الذكاء الاصطناعي المحلي: التوقف عن التخمين ومعرفة ما يستطيع العتاد المتوفر تشغيله بدقة.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
llm-checker: أداة تكشف أي نماذج LLM يستطيع جهازك تشغيلها
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال

من أكثر الأسئلة التي يطرحها هواة تشغيل النماذج اللغوية محليًا على أنفسهم سؤال يبدو بسيطًا على نحو مخادع: هل سيتحمّل جهازي ذلك؟ وحتى الآن كان على المستخدم أن يجمع الإجابة قطعة قطعة، من اختبارات أداء متفرقة ونقاشات على Reddit وتجارب شخصية قائمة على المحاولة والخطأ. أما الأداة الجديدة مفتوحة المصدر llm-checker فتحاول حسم هذا السؤال بأمر واحد في الطرفية.

llm-checker أداة بواجهة سطر الأوامر (CLI) تفحص التكوين العتادي للحاسوب وتصدر حكمًا محددًا: أي النماذج اللغوية من منظومة Ollama يمكنك تشغيلها، وبأي سرعة وبأي جودة. تحلل الأداة ثلاثة مكونات رئيسية هي بطاقة الرسوميات والذاكرة العشوائية والمعالج، وتبني على هذه البيانات تقريرًا مخصصًا لأكثر من 35 نموذجًا، من النماذج المدمجة ذات المعامل الواحد (مليار معامل) إلى النماذج الضخمة ذات 32 مليار معامل.

ولفهم أهمية ذلك، لا بد من استحضار السياق. ففي العامين الماضيين تحولت حركة تشغيل النماذج اللغوية الكبيرة محليًا من هواية هامشية إلى اتجاه قائم بذاته. وأصبحت Ollama المعيار الفعلي لمن يريد تشغيل LLM على حاسوبه الشخصي دون اشتراكات سحابية ودون إرسال بياناته إلى خوادم الآخرين. Llama وMistral وGemma وPhi وDeepSeek وQwen: يزداد عدد النماذج المتاحة كل شهر، ولكل منها متطلباته العتادية الخاصة. والمشكلة أن هذه المتطلبات غير منظّمة في أي مكان بحسب التكوينات المحددة. فمن يملك بطاقة RTX 3060 بذاكرة فيديو 12 غيغابايت و32 غيغابايت من الذاكرة العشوائية عليه أن يكتشف بنفسه هل يستطيع تشغيل Llama 3.1 بـ8 مليارات معامل بتكميم Q4، أم أن الأفضل ألا يحاول أصلًا.

هذه الفجوة بين وفرة النماذج وغموض متطلباتها العتادية هي ما تسدّه llm-checker. تعمل الأداة بأسلوب مباشر للغاية: تشغّل الأمر، فتستعلم عن النظام وتطابق مواصفاته مع قاعدة معارف داخلية عن النماذج، ثم تعرض النتيجة. ويُقيَّم كل نموذج على ثلاثة محاور: التوافق (هل سيعمل أصلًا)، والسرعة (هل سيكون توليد الرموز سلسًا)، والجودة (هل سيضطر المستخدم إلى التضحية بالدقة مقابل الأداء). وهذه ليست درجات مجردة، بل معلومات مفيدة عمليًا توفر ساعات من التجارب.

ويستحق نهج انتقاء قائمة النماذج وقفة خاصة. فقد تخلى المطورون عمدًا عن الاستخراج الآلي لكامل كتالوج Ollama، وبدلًا من ذلك يشرفون على القائمة يدويًا. وهذا قرار مبدئي، إذ يضم كتالوج Ollama مئات النماذج متفاوتة الجودة، بينها نماذج قديمة وتجريبية وأخرى عديمة الفائدة بوضوح. والانتقاء اليدوي يعني أن المستخدم يتلقى توصيات تخص النماذج المجرَّبة والحديثة التي تستحق التشغيل فعلًا. وفي عالم يتضاعف فيه عدد نماذج LLM المفتوحة كل بضعة أشهر، يشكّل هذا المرشِّح ميزة لا قيدًا.

ومن الناحية التقنية، تحل الأداة مهمة غير بسيطة. فأداء النموذج اللغوي المحلي يتوقف على عوامل كثيرة: حجم ذاكرة الفيديو يحدد هل سيتسع النموذج بالكامل في GPU؛ وسرعة الذاكرة العشوائية تؤثر في تفريغ (offloading) الطبقات التي لم تتسع في VRAM؛ ومعمارية المعالج مهمة للنماذج التي تعمل في وضع CPU. ويضيف التكميم بُعدًا آخر: فالنموذج نفسه بصيغة Q8 قد لا يتسع في الذاكرة، وبصيغة Q4 يعمل لكن مع فقدان ملحوظ في الجودة. وتتولى llm-checker كل هذه الحسابات وتحوّلها إلى توصيات مفهومة.

وفي سياق أوسع، يشير ظهور أدوات كهذه إلى نضج منظومة الذكاء الاصطناعي المحلي. فحين تخرج التقنية من دائرة المطورين والهواة، تحتاج إلى جسور بين التعقيد والبساطة، وllm-checker أحد هذه الجسور. فهي لا تقدم شيئًا ثوريًا من الناحية التقنية، لكنها تعالج مشكلة حقيقية للمستخدمين ظلت مهملة حتى الآن.

وبالطبع للأداة قيود واضحة. فارتباطها بـOllama يعني أن مستخدمي llama.cpp أو vLLM أو غيرها من الواجهات الخلفية يبقون خارج الحسبة. كما أن الإشراف اليدوي على قائمة النماذج قوة وضعف في آن واحد، لأن الراهنية تتوقف على نشاط القائمين على صيانة المشروع. وسيختلف الأداء الفعلي دائمًا عن التوقعات، لأنه يتأثر بعشرات المتغيرات التي يستحيل احتسابها عن بُعد، من درجة حرارة GPU تحت الحمل إلى العمليات الخلفية في النظام.

ومع ذلك، تضع llm-checker الاتجاه الصحيح. فمع تحول تشغيل LLM محليًا إلى ظاهرة جماهيرية، وهو ما تشير إليه كل الاتجاهات، ستزداد الحاجة إلى أدوات تشخيص وتوصية بسيطة. واليوم هي أداة CLI للمستخدمين المتقدمين. وغدًا قد تصبح وظائف مماثلة جزءًا مدمجًا في Ollama نفسها أو في بدائلها. فأفضل طريقة لاستقطاب المستخدمين إلى الذكاء الاصطناعي المحلي هي إزالة حاجز عدم اليقين، وتقديم إجابة صريحة عن سؤال بسيط: ما الذي يمكنني تشغيله الآن تحديدًا.

القصة
ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…