Qdrant تشغّل التضمينات على المتحكم الدقيق ESP32: تحويل عبارة إلى متجه في 1.2 مللي ثانية
كي يبحث الجهاز بحسب المعنى دون سحابة، يجب أولًا تحويل النص إلى متجه من الأرقام (تضمين)، وتتراوح أحجام النماذج المعتادة لهذه المهمة بين 310 ميغابايت و4.28 غيغابايت. أما لوحة ESP32 فلا تضم سوى 16 ميغابايت من ذاكرة الفلاش ولا تعمل عليها أي نام تشغيل، لذلك اعتمدت Qdrant نموذجًا ساكنًا بحجم 7.5 ميغابايت، وهو جدول من المتجهات الجاهزة للكلمات. تتحول عبارة من 10–12 رمزًا (كلمات وأجزاء منها) إلى متجه خلال 1.2 مللي ثانية. وللمتحكمات الدقيقة، اعتمدوا النماذج الساكنة بدلًا من محوّلات (Transformers) مضغوطة.
معالج بواسطة الذكاء الاصطناعي من Qdrant Blog؛ بتحرير Hamidun News
تخيّل مكبّر صوت ذكيًا أو مستشعرًا في مصنع يبحثان بحسب المعنى مباشرة على الجهاز، دون سحابة. لتحقيق ذلك يُحوَّل أي نص أولًا إلى تضمين (embedding)، وهو مجموعة من الأرقام تتيح مقارنة العبارات بحسب معناها. لكن النماذج المعتادة لهذه المهمة ضخمة. وقد أظهر فريق Qdrant كيف يمكن تجاوز هذا القيد على لوحة ESP32، وهي متحكم دقيق بذاكرة فلاش 16 ميغابايت وذاكرة PSRAM (ذاكرة وصول عشوائي سريعة) 8 ميغابايت، ولا يحتوي على قرص ولا على نظام تشغيل (OS). تتحول عبارة من 10–12 رمزًا، أي كلمات وأجزاء منها، إلى متجه خلال 1.2 مللي ثانية، أي نحو 830 عبارة في الثانية. والسر في النموذج الساكن، وهو ببساطة جدول من المتجهات الجاهزة.
لماذا لا تصلح النماذج المعتادة هنا
المشكلة مزدوجة. أولًا، الحجم. فنموذج تضمين حديث صغير بتمثيل 8 بت يشغل 310 ميغابايت من الذاكرة، ويحتاج نموذج أكبر منه إلى 4.28 غيغابايت. وأمام 16 ميغابايت من الفلاش على اللوحة، لا تُعدّ المسألة مسألة تحسين، بل عدم توافق تام. ثانيًا، الحسابات: فالمحوّلات (Transformers) قائمة على ضرب المصفوفات الثقيل، وكثيرًا ما تجرّ معها تبعيات ضخمة مثل PyTorch.
على الأجهزة التي تعمل بنظام تشغيل وتضم عدة أنوية وغيغابايتات من الذاكرة، يمكن تحمّل كل هذا. أما على لوحة بضعة ميغابايتات من الفلاش، دون قرص ودون نظام تشغيل، فلا. ويخلص المؤلفون بصراحة إلى أنه لا يمكن تشغيل نموذج تضمين معتاد على «العتاد المجرد».
النموذج الساكن بوصفه جدولًا للكلمات
جاء الحل في نماذج التضمين الساكنة. وبنيتها في غاية البساطة: لكل رمز في القاموس متجه مسجّل مسبقًا. ولحساب تضمين عبارة، يُقسَّم النص إلى رموز، ويُستخرج من الجدول صف كل رمز، ثم يُحسب متوسط هذه الصفوف، ويمكن عند الرغبة تطبيع النتيجة. لا طبقات عصبية ولا عمليات ضرب مصفوفات.
وقد وُجد مرشح مناسب بين النماذج الجاهزة: potion-base-2M لا يشغل سوى 7.5 ميغابايت، أي أنه يتسع بسهولة في 16 ميغابايت من فلاش اللوحة. يبقى السؤال: كيف يُوصَل النموذج والقاموس إلى الشريحة إذا لم يكن هناك مكان لقراءة الملفات منه؟
كيف وُضع كل هذا في البرنامج الثابت
كُتب الكود بلغة Rust في وضع بلا المكتبة القياسية (no_std)، فهو يتعامل مع العتاد مباشرة ولا يعتمد على خدمات نظام التشغيل. ولذلك كان لا بد من حل ثلاث مهام.
المهمة الأولى: الأوزان. يقرأ سكربت بناء منفصل على الحاسوب المحمول ملف النموذج بصيغة safetensors، ويعثر على جدول التضمينات، ويولّد ثوابت: حجم القاموس، وموضع بداية بايتات الأوزان ونهايتها. ثم يُدمَج النموذج بالكامل في الملف الثنائي للبرنامج الثابت. وإذا بدا الملف غير سليم، يقع الخطأ في مرحلة البناء لا على الجهاز. أما على الشريحة فتُقرأ الأوزان من الذاكرة مباشرة.
الثانية: محلل الرموز. لا يمكن استخدام مكتبة محللات الرموز من Hugging Face لأنها تتطلب المكتبة القياسية. لذلك نفّذ المؤلفون خوارزمية WordPiece بأنفسهم. تبحث الخوارزمية بجشع عن أطول جزء من الكلمة موجود في القاموس، وتقتطعه، ثم تكرر الأمر نفسه مع الباقي. ومع تطبيع النص (حذف رموز التحكم والتشكيلات، ومعالجة الأحرف الصينية، وتحويل الأحرف إلى صغيرة)، والتقسيم عند المسافات وعلامات الترقيم، لا يتجاوز الكود 200 سطر إلا قليلًا.
الثالثة: القاموس. يكون عادةً جدولًا مجزّأً (hash table)، لكنه غير متاح على اللوحة. لذلك يُعبَّأ القاموس عند البناء في كتلة بيانات مدمجة: يبدأ بعدد السجلات، ثم فهرس من خانات ثابتة الحجم تحوي إزاحات، ثم السجلات نفسها بترتيب مفروز. يتضمن كل سجل معرّفًا من 4 بايت، وبايتًا واحدًا للطول، وبايتات الرمز. ويجري البحث عن المعرّف بحسب السلسلة بالبحث الثنائي العادي. وتحتاج بعض العمليات إلى كومة (heap)، يوفرها مخصّص ذاكرة (allocator) منفصل.
النتيجة والقيود
تتحول عبارة من 10–12 رمزًا إلى تضمين في نحو 1.2 مللي ثانية، أي نحو 830 تضمينًا في الثانية. وعلى MacBook Pro تعطي الفكرة نفسها 11 000–15 000 تضمين في الثانية، وعلى نصوص أطول بوضوح. لكن الشريحة تحتاج إلى ذاكرة أقل بنحو 3000 مرة.
القيود واضحة. فالنموذج الساكن لا يفهم السياق كما يفعل المحوّل (Transformer): إذ يُبنى المتجه بمتوسط مساهمات الرموز المنفردة. وقد يكفي هذا للاستعلامات القصيرة والأوامر والبحث الدلالي البسيط في قاعدة صغيرة، لكنه لن يكفي على الأرجح للمهام الدقيقة مثل التمييز بين صياغات متقاربة المعنى. والسرعة أيضًا ليست قياسية، وإن لم يكن ذلك حرجًا للأجهزة ذات الطلبات النادرة.
والخلاصة العملية لمطوّري الأنظمة المدمجة: إذا كنتم بحاجة إلى تضمينات على متحكم دقيق، فلا تحاولوا ضغط محوّل (Transformer)، بل ابدأوا بنموذج ساكن. فهو لا يحتاج إلا إلى جدول أوزان وقاموس وحلقة حساب المتوسط. وتصف Qdrant هذا بأنه النصف الأول من المهمة، وتَعِد في الخطوة التالية بالبحث المتجهي مباشرة على الشريحة. وقد نُشر الكود الكامل في مدونة الشركة.
- 21 نوفمبر 2026كاليفورنيا تقاضي OpenAI: وكلاء الذكاء الاصطناعي لديها خرجوا عن السيطرة 80 مرة على الأقل
- 21 نوفمبر 2026نموذج الفيديو AURA 2.0 يبادر بالحديث من تلقاء نفسه: الرد الصوتي يصل خلال 344 مللي ثانية
- 21 نوفمبر 2026Anthropic تنفّذ أكبر طرح عام أولي في التاريخ بقيمة 81.3 مليار دولار، لكن السيطرة بقيت بيد المؤسسين
- 21 نوفمبر 2026ONNX Runtime يختفي من GitHub: مايكروسوفت تُخفي المستودعات بعد اختراق إحدى الحزم
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول لماذا لا تصلح النماذج المعتادة هنا؟
المشكلة مزدوجة. أولًا، الحجم. فنموذج تضمين حديث صغير بتمثيل 8 بت يشغل 310 ميغابايت من الذاكرة، ويحتاج نموذج أكبر منه إلى 4.28 غيغابايت. وأمام 16 ميغابايت من الفلاش على اللوحة، لا تُعدّ المسألة مسألة تحسين، بل عدم توافق تام. ثانيًا، الحسابات: فالمحوّلات (Transformers) قائمة على ضرب المصفوفات الثقيل، وكثيرًا ما تجرّ معها تبعيات ضخمة مثل PyTorch. على الأجهزة التي تعمل بنظام تشغيل وتضم عدة أنوية وغيغابايتات من الذاكرة، يمكن تحمّل كل هذا. أما على لوحة بضعة ميغابايتات من الفلاش، دون قرص ودون نظام تشغيل، فلا.
ما أبرز التفاصيل حول النموذج الساكن بوصفه جدولًا للكلمات؟
جاء الحل في نماذج التضمين الساكنة. وبنيتها في غاية البساطة: لكل رمز في القاموس متجه مسجّل مسبقًا. ولحساب تضمين عبارة، يُقسَّم النص إلى رموز، ويُستخرج من الجدول صف كل رمز، ثم يُحسب متوسط هذه الصفوف، ويمكن عند الرغبة تطبيع النتيجة. لا طبقات عصبية ولا عمليات ضرب مصفوفات. وقد وُجد مرشح مناسب بين النماذج الجاهزة: potion-base-2M لا يشغل سوى 7.5 ميغابايت، أي أنه يتسع بسهولة في 16 ميغابايت من فلاش اللوحة. يبقى السؤال: كيف يُوصَل النموذج والقاموس إلى الشريحة إذا لم يكن هناك مكان لقراءة الملفات منه؟
ما أبرز التفاصيل حول كيف وُضع كل هذا في البرنامج الثابت؟
كُتب الكود بلغة Rust في وضع بلا المكتبة القياسية (no_std)، فهو يتعامل مع العتاد مباشرة ولا يعتمد على خدمات نظام التشغيل. ولذلك كان لا بد من حل ثلاث مهام. المهمة الأولى: الأوزان. يقرأ سكربت بناء منفصل على الحاسوب المحمول ملف النموذج بصيغة safetensors، ويعثر على جدول التضمينات، ويولّد ثوابت: حجم القاموس، وموضع بداية بايتات الأوزان ونهايتها. ثم يُدمَج النموذج بالكامل في الملف الثنائي للبرنامج الثابت. وإذا بدا الملف غير سليم، يقع الخطأ في مرحلة البناء لا على الجهاز. أما على الشريحة فتُقرأ الأوزان من الذاكرة مباشرة.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.