Bonsai 27B من PrismML: تشغيل نموذج Qwen3-27B على هاتف ذكي لأول مرة

كشفت شركة PrismML الناشئة، التي أسسها باحثون من معهد كاليفورنيا للتقنية (Caltech)، عن Bonsai 27B، وهو أول نموذج لغوي في العالم بـ27 مليار معامل يُشغَّل بنجاح على هاتف ذكي. تقوم التقنية على أوزان 1-بت وأوزان ثلاثية القيم، ما أتاح ضغط Qwen3.6-27B بمعامل يتراوح بين 9.4 و14.2 مرة مع الحفاظ على 90–95% من الجودة الأصلية.

كيف صُمّم Bonsai 27B

لا يمثل Bonsai 27B بنية جديدة، بل نسخة محسّنة إلى أقصى حد من النموذج المفتوح Qwen3.6-27B من Alibaba. أصدرت PrismML نسختين بدرجتين مختلفتين من التكميم (quantization): نسخة ثلاثية تأخذ فيها الأوزان القيم –1 أو 0 أو +1، ونسخة ثنائية (بايناري) لا تأخذ فيها الأوزان سوى القيمتين –1 و+1. تُعرف هذه الطريقة بالتكميم بعد التدريب (post-training quantization)، أي أن الأوزان الأصلية تُضغط بعد انتهاء التدريب ودون إعادة التدريب من الصفر.

فيما يلي المواصفات الدقيقة للنسختين:

• النسخة الثلاثية: 5.9 غيغابايت، وبسرعة نحو 26 رمزًا في الثانية على حاسوب محمول عادي
• نسخة 1-بت (الثنائية): 3.9 غيغابايت، وتتسع في ذاكرة RAM الخاصة بالهاتف الذكي
• نسبة ضغط الأوزان: من 9.4 إلى 14.2 مرة قياسًا بالنموذج الأصلي
• الحفاظ على الجودة: 90–95% من جودة Qwen3.6-27B الكاملة
• المطوّر: PrismML (أسسها باحثون من Caltech)

يزن نموذج Qwen3.6-27B الأصلي بصيغة fp16 أكثر من 50 غيغابايت ويتطلب GPU من فئة الخوادم. أما Bonsai 27B بنسخة 1-بت فهو أصغر منه بـ13 مرة.

لماذا تغيّر أوزان 1-بت قواعد اللعبة؟

في النماذج اللغوية القياسية، يُخزَّن كل معامل في 16 أو 32 بت. أما الانتقال إلى تمثيل 1-بت فيعني أن «الوزن» ليس سوى صفر أو واحد حرفيًا. يقلّص ذلك حجم الذاكرة المطلوبة بصورة جذرية ويسرّع الاستدلال (inference) على الأجهزة التي لا تحتوي على GPU متخصص.

وبحسب منشور PrismML، فإن هذا النهج هو ما أتاح تشغيل النموذج على هاتف ذكي عادي دون اتصال بالسحابة، وهو أمر كان يُعدّ غير واقعي قبل عام واحد فقط لنماذج بحجم 27 مليار معامل. وقبل ذلك، اقتصرت نماذج LLM على الأجهزة المحمولة على نماذج بين 1 و7 مليارات معامل، مثل Gemma 2B من Google وPhi-3.5-mini من Microsoft.

«يُظهر

Bonsai 27B أن الحدّ الفاصل بين الحوسبة السحابية وحوسبة الحافة (edge) يتلاشى بسرعة»، بحسب الإعلان الرسمي لـ PrismML.

نُشرت نسختا النموذج في متناول الجميع على Hugging Face، ويمكن للمطورين البدء بالتجريب فورًا.

ماذا يعني ذلك؟

يمثل تشغيل نموذج بـ27 مليار معامل على هاتف ذكي عتبة تقنية مهمة: فبوسع النماذج اللغوية القوية أن تعمل على مليارات الأجهزة الموجودة أصلًا دون بنية سحابية تحتية، مع خصوصية كاملة للبيانات وفي وضع عدم الاتصال. وقد أثبتت PrismML بهذه النتيجة أن التكميم بـ1-بت انتقل من فكرة أكاديمية إلى أداة عملية.

الأسئلة الشائعة

هل يمكن تشغيل Bonsai 27B على iPhone أو Android؟

تعمل نسخة 1-بت البالغ حجمها 3.9 غيغابايت على هاتف ذكي عادي دون الاتصال بالسحابة، وهذا ما أظهرته PrismML في إعلانها.

بماذا يختلف Bonsai 27B عن Qwen3.6-27B؟

Bonsai 27B هو Qwen3.6-27B بأوزان مضغوطة إلى أقصى حد. طبّقت PrismML تكميم 1-بت والتكميم الثلاثي، فقلّصت حجم النموذج بمعامل يتراوح بين 9.4 و14.2 مرة مع الحفاظ على 90–95% من جودة النموذج الأصلي.