ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارLanceDB Blog→ المصدر

تكميم OpenVINO يخفض زمن تشغيل CLIP لدى LanceDB بنسبة 75,4% على المعالج المركزي

للبحث في الصور، يُحوَّل كل ملف صورة إلى تمثيل متجهي (embedding)، أي مجموعة من الأرقام، وهذه الخطوة هي الأبطأ على المعالج المركزي. شغّلت LanceDB 83 صورة عبر نموذج CLIP من OpenAI على معالج Intel Core i5 لحاسوب محمول مع OpenVINO، وهي مجموعة أدوات من Intel لتسريع النماذج. أدى التحويل إلى صيغة FP16 إلى خفض الوقت بنسبة 43%، وأدى التكميم إلى 8 بتات INT8 إلى خفضه بنسبة 75,4%، ليصل إلى 13,70 ثانية. إذا كانت التمثيلات المتجهية تُحسب على المعالج المركزي (CPU)، فابدأ بالتحويل، ثم أضف التكميم.

معالج بواسطة الذكاء الاصطناعي من LanceDB Blog؛ بتحرير Hamidun News
تكميم OpenVINO يخفض زمن تشغيل CLIP لدى LanceDB بنسبة 75,4% على المعالج المركزي
المصدر: LanceDB Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليLanceDB Blog ↗
رئيس التحرير
حقيقة رئيسية #1100 صورة من مجموعة Conceptual Captions، عمل منها 83 صورة
العتادIntel Core i5-13420H، وOpenVINO 2023.2، وNNCF 2.7.0، على المعالج المركزي فقط
حقيقة رئيسية #3لم يقِس المصدر جودة البحث بعد التكميم إلى INT8

تخيّل كتالوجًا يضم آلاف الصور، وتريد البحث فيه بعبارة «حذاء رياضي أحمر على الثلج» أو «ابحث عن صورة مشابهة». قبل أي بحث، يجب تحويل كل صورة إلى تمثيل متجهي (embedding)، أي مجموعة من الأرقام تقع فيها الصور والعبارات المتقاربة في المعنى قرب بعضها. وهذه الخطوة هي الأكثر استهلاكًا للوقت على معالج عادي دون بطاقة رسوميات. أظهر فريق قاعدة البيانات المتجهية LanceDB طريقة لتسريعها: شغّل نموذج CLIP من OpenAI، الذي يفهم النص والصور معًا، عبر OpenVINO، وهي مجموعة أدوات مجانية من Intel لتسريع الشبكات العصبية. أدى التحويل البسيط إلى خفض زمن حساب التمثيلات المتجهية لـ 83 صورة بنسبة 43%، وأدى ضغط النموذج إلى أرقام من 8 بتات (التكميم INT8) إلى خفضه بنسبة 75,4%، ليصل إلى 13,70 ثانية.

ما الذي جرى اختباره بالضبط

CLIP نموذج متعدد الوسائط: يضع النص والصور في فضاء مشترك واحد. لذلك يعمل سيناريوهان: البحث عن صورة بواسطة استعلام نصي، والبحث عن صورة مشابهة بواسطة صورة أخرى. خُزّنت التمثيلات المتجهية الجاهزة في LanceDB واستُعلم عنها بحسب التشابه.

للاختبار، أُخذت مجموعة بيانات Conceptual Captions من Hugging Face واختيرت منها 100 صورة. وبعد فحص الروابط، بقيت 83 صورة صالحة للعمل. شُغّل خط المعالجة نفسه في ثلاث صيغ: نموذج PyTorch العادي من Hugging Face، والنموذج نفسه بصيغة OpenVINO FP16، وبصيغة 8 بتات INT8. أُجريت جميع القياسات على معالج Intel Core i5-13420H من الجيل الثالث عشر، دون بطاقة رسوميات، مع OpenVINO 2023.2 وNNCF 2.7.0.

ما النتيجة

خفّض التحويل إلى OpenVINO FP16 زمن الحصول على التمثيلات المتجهية لـ 83 صورة بنسبة 43%. ويصف المؤلفون ذلك بأنه تسريع بنحو 70%. وبقي كود تحميل البيانات إلى LanceDB وكود الاستعلامات كما هو: الذي يتغير هو طريقة حساب المتجهات فقط.

الخطوة الثانية هي التكميم اللاحق للتدريب عبر NNCF (Neural Network Compression Framework). تُستبدل أرقام النموذج التي كانت مخزنة بدقة 16 بتًا بأرقام من 8 بتات، ثم يُشغَّل النموذج عبر OpenVINO. استغرق الحساب للصور الـ 83 نفسها 13,70 ثانية، أي أقل بنسبة 75,4% من نسخة PyTorch. ويسمّي المؤلفون ذلك تسريعًا بنسبة 400%، أي نحو أربعة أضعاف.

والتشبيه بسيط: بدل أرقام دقيقة بكثير من الخانات العشرية، يعمل النموذج بأرقام أخشن لكنها أقصر. يقل حجم العمليات الحسابية، فيتعامل المعالج معها أسرع.

ماذا يعني هذا عمليًا

في النماذج الأولية والأدوات الداخلية والمشاريع الصغيرة التي لا تعتمد على GPU، تفيد هذه الوصفة: فيمكن فهرسة كتالوج من آلاف الصور على المعالج المركزي في وقت أقل بوضوح، ما يجعل تحديث الفهرس أسهل وأرخص. وإذا كان لديك مسار عمل قائم على CLIP وLanceDB، فابدأ بالتحويل إلى FP16، ثم أضف التكميم خطوةً ثانية.

هناك تحفظات ينبغي ذكرها بصراحة. أولًا، العينة صغيرة جدًا: 83 صورة ومعالج واحد لحاسوب محمول. وعلى عتاد الخوادم أو مع دفعات أكبر، قد تختلف الأرقام. ثانيًا، إصدارات المكتبات لم تعد حديثة، لذا ينبغي مطابقة واجهات OpenVINO وNNCF البرمجية (API) مع التوثيق الحالي. ثالثًا، يورد المصدر زمن التشغيل فقط: أما مقدار تراجع جودة البحث بعد التكميم إلى INT8 فلم يعرضه المؤلفون. وعادةً ما يغيّر التكميم التمثيلات المتجهية قليلًا، لذا قارن قبل الاعتماد بين نتائج النموذج القديم والجديد على استعلاماتك الخاصة.

الخلاصة للمطوّر: إذا كانت التمثيلات المتجهية تُحسب على معالج Intel، فخصّص أمسية للتحويل والتكميم. إنها طريقة منخفضة التكلفة لتسريع البحث متعدد الوسائط، لكن تحقق من جودة النتائج قبل الإطلاق في بيئة الإنتاج.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي جرى اختباره بالضبط؟

CLIP نموذج متعدد الوسائط: يضع النص والصور في فضاء مشترك واحد. لذلك يعمل سيناريوهان: البحث عن صورة بواسطة استعلام نصي، والبحث عن صورة مشابهة بواسطة صورة أخرى. خُزّنت التمثيلات المتجهية الجاهزة في LanceDB واستُعلم عنها بحسب التشابه. للاختبار، أُخذت مجموعة بيانات Conceptual Captions من Hugging Face واختيرت منها 100 صورة. وبعد فحص الروابط، بقيت 83 صورة صالحة للعمل. شُغّل خط المعالجة نفسه في ثلاث صيغ: نموذج PyTorch العادي من Hugging Face، والنموذج نفسه بصيغة OpenVINO FP16، وبصيغة 8 بتات INT8.

ما أبرز التفاصيل حول ما النتيجة؟

خفّض التحويل إلى OpenVINO FP16 زمن الحصول على التمثيلات المتجهية لـ 83 صورة بنسبة 43%. ويصف المؤلفون ذلك بأنه تسريع بنحو 70%. وبقي كود تحميل البيانات إلى LanceDB وكود الاستعلامات كما هو: الذي يتغير هو طريقة حساب المتجهات فقط. الخطوة الثانية هي التكميم اللاحق للتدريب عبر NNCF (Neural Network Compression Framework). تُستبدل أرقام النموذج التي كانت مخزنة بدقة 16 بتًا بأرقام من 8 بتات، ثم يُشغَّل النموذج عبر OpenVINO. استغرق الحساب للصور الـ 83 نفسها 13,70 ثانية، أي أقل بنسبة 75,4% من نسخة PyTorch.

ما أبرز التفاصيل حول ماذا يعني هذا عمليًا؟

في النماذج الأولية والأدوات الداخلية والمشاريع الصغيرة التي لا تعتمد على GPU، تفيد هذه الوصفة: فيمكن فهرسة كتالوج من آلاف الصور على المعالج المركزي في وقت أقل بوضوح، ما يجعل تحديث الفهرس أسهل وأرخص. وإذا كان لديك مسار عمل قائم على CLIP وLanceDB، فابدأ بالتحويل إلى FP16، ثم أضف التكميم خطوةً ثانية. هناك تحفظات ينبغي ذكرها بصراحة. أولًا، العينة صغيرة جدًا: 83 صورة ومعالج واحد لحاسوب محمول. وعلى عتاد الخوادم أو مع دفعات أكبر، قد تختلف الأرقام.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…