تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارAWS Machine Learning Blog→ المصدر

Exa تحسّن سرعة التضمينات وتكلفتها بنسبة 47% على رقائق AWS Inferentia2

يحوّل محرك البحث Exa صفحات الويب إلى متجهات تضمين (embeddings). ومع عشرات المليارات من الوثائق، يظهر أثر أي فرق صغير في تكلفة الصفحة الواحدة. أعاد الفريق كتابة نوى النموذج لرقائق AWS Inferentia2، فتحسّنت السرعة والتكلفة لكل مليون وثيقة بنسبة 47%. كتب الكود وكلاء الذكاء الاصطناعي، بينما منعهم اختبار آلي للدقة من الإضرار بالجودة. وعند التعامل مع تدفقات كبيرة من التضمينات، يُنصح باحتساب التكلفة لكل مليون وثيقة.

معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
Exa تحسّن سرعة التضمينات وتكلفتها بنسبة 47% على رقائق AWS Inferentia2
المصدر: AWS Machine Learning Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليAWS Machine Learning Blog ↗
رئيس التحرير
النسخة الأساسيةFP16 على inf2.xlarge، والنتيجة النهائية نحو 1,5 ضعف عدد الوثائق في الثانية
الاختبار الآليتشابه جيب التمام مع النموذج المرجعي لا يقل عن 0,999 بعد كل تعديل
حقيقة رئيسية #3أدّت إعادة فهرسة 30 مليار وثيقة إلى مضاعفة الحمل، وكانت دافعًا لإعادة النظر في العتاد

كشفت شركة البحث Exa كيف خفّضت تكلفة معالجة الوثائق: بعد التحسين لرقائق AWS Inferentia2، تحسّن الأداء والتكلفة لكل مليون وثيقة بنسبة 47% مقارنة بالنسخة الأولى. الحديث هنا عن التضمينات (embeddings): كي تظهر الصفحة في نتائج البحث الدلالي، يجب تحويلها إلى متجه من الأرقام. تخيّل أنك تغيّر النموذج في نظام RAG وعليك إعادة احتساب قاعدة المعرفة بأكملها. وإذا بلغ عدد الصفحات عشرات المليارات، فإن حتى نصف سنت زائد لكل ألف وثيقة يتحول إلى فاتورة ضخمة. الخلاصة العملية: عند التعامل مع تدفقات كبيرة من التضمينات، يكون من الأجدى تحسين الكود لعتاد محدد واحتساب التكلفة لكل مليون وثيقة، لا لكل ساعة استئجار خادم.

لماذا لزم التحسين

تبني Exa فهرسها الخاص للويب، وتقع فيه الصفحات واستعلامات المستخدمين في فضاء متجهي واحد. لذلك تحدد تكلفة التضمين اقتصاديات المنتج كله. وكان السبب المباشر لهذا العمل عملية انتقال: فقد انتقل الفريق إلى نموذج أقوى للوثائق وأعاد احتساب التضمينات لـ 30 مليار صفحة ذات أولوية. وخلال إعادة الفهرسة تضاعف الحمل مؤقتًا، إذ كان النموذج القديم يخدم الفهرس الحي بينما يملأ الجديد الفهرس الجديد. وبالنسبة للمهندسين، كانت هذه فرصة مناسبة لإعادة النظر في العتاد والتعرف على رقائق AWS Neuron: Inferentia2 وTrainium2.

كانت نقطة البداية بسيطة: نموذج بصيغة FP16 يعمل بالتوازي على عدة أنوية. وتخص كل الأرقام في المقالة أصغر نسخة، inf2.xlarge، التي تضم رقاقة واحدة ونواتين من نوع NeuronCore. تشغل كل عملية نواة واحدة، ولذلك تتوزع حاويات Kubernetes (pods) بإحكام على نسخ بأي حجم، ويبقى الأسطول متجانسًا.

كيف تحقق 47%

جرى التحسين على مراحل، وأسهمت كل مرحلة تقريبًا في النتيجة.

  • تخطيط الأوزان. نُسّق مع المجدوِل (scheduler) وبنية بقية النموذج، وأزال ذلك عمليات تبديل (transpose) المصفوفات الزائدة.
  • Autocast. يخفّض المُصرِّف (compiler) الدقة في عمليات ضرب المصفوفات. وجرى التحقق من النتيجة على بيانات مرجعية: يجب ألا يقل تشابه جيب التمام مع النموذج الأصلي عن 0,999.
  • نوى NKI الجاهزة. توفر مكتبة Neuron Kernel Interface قوالب جاهزة للطبقات الشائعة. وجلبت نواة الانتباه الجاهزة («من العلبة») الزيادة التالية في الأداء.
  • SwiGLU MLP مخصص. أظهر المُحلِّل Neuron Explorer أن البيانات تُنقل باستمرار إلى ذاكرة HBM ثم تُقرأ منها مجددًا. ولهذا ظل محرك التنسور (tensor engine) خاملًا. فكتب المهندسون نواة مدمجة خاصة بأوزان ثابتة، واختفت فترات الخمول. وكُتبت بلغة NKI عالية المستوى، ولم يُلجأ إلى ISA منخفض المستوى إلا لعمليات محددة. بهذه الطريقة يسهل قراءة الكود وتنقيحه.
  • نواة انتباه مصممة لنموذجهم. النوى العامة مصممة لأي شكل من البيانات، وتهدر الحوسبة على الحشو (padding). أعادت Exa كتابة الانتباه وفق البنية الفعلية لرؤوس النموذج، ودمجت عدة خطوات في عملية ضرب مصفوفات واحدة. قلّل ذلك الوصول إلى HBM وحقق آخر تسريع ملحوظ.

في المجموع، ارتفع عدد الوثائق المعالجة في الثانية بنحو 1,5 مرة. وبحسب حسابات Exa، يعادل ذلك تحسنًا بنسبة 47% في الأداء والتكلفة لكل مليون وثيقة قياسًا بالنسخة الأساسية. ويقرّب عنوان المقالة الأصلية النتيجة إلى «50%»، لكن الأدق الاعتماد على 47%.

الوكلاء كمهندسي نوى

كتبت وكلاء الذكاء الاصطناعي جميع التحسينات ضمن إطار بسيط على منصة Flyte. ويشغّل كل وكيل مسار العمل (workflow) الخاص به:

  1. يصرّف الملف التنفيذي NEFF.
  2. يقارن التمرير الأمامي بمجموعة البيانات المرجعية (العتبة 0,999).
  3. يحلّل أداء تمريرة واحدة.
  4. يجري اختبار حمل مدته 30 دقيقة على عتاد حقيقي.

اختير الوكلاء بحسب المهمة والميزانية. فتجرّب النماذج الخفيفة معاملات المُصرِّف. وتختبر نماذج الاستدلال الفرضيات وتبحث عن الاختناقات. أما أقوى مولّدات الكود فتكتب النوى المخصصة. ويمنع الفحص الآلي الوكلاء من التضحية بالدقة مقابل السرعة. وكانت المهارات (skills) الخاصة بالتطوير لـ Neuron مفيدة بصورة منفصلة، لأن كثيرًا من النماذج لا تعرف أحدث صياغة في NKI.

المرونة بدل الارتباط بعتاد واحد

لا تزال Exa تحسّن Inferentia2 في المنطقة us-west-2 حاليًا. تختلف إتاحة نسخ spot وon-demand من منطقة إلى أخرى، ومع الارتباط بنوع واحد من العتاد يسهل الاصطدام بنقص في القدرات. لذلك تجدول Exa الحاويات (pods) في عدة مناطق انطلاقًا من عنقود Kubernetes إداري واحد. ويقارن المجدوِل التكلفة لكل وحدة أداء ويضع الحمل على أرخص العقد. وانتقل العمل على Inferentia2 إلى Trainium2 تقريبًا دون تغييرات.

ما الذي يمكن استخلاصه

إذا كان لديكم تدفق دائم من التضمينات، فانظروا إلى التكلفة لكل مليون وثيقة. وتترك النوى العامة هامشًا من الأداء غير مستغَل إذا كانت الأشكال الدقيقة لنموذجكم معروفة. ويمكن استخدام الوكلاء في التحسين منخفض المستوى، لكن بشرط وجود اختبار آلي صارم للدقة ومقياس أداء على عتاد حقيقي.

وهناك قيود أيضًا. فقد كتبت Exa المقالة بنفسها على منصة AWS، وبالتالي فهي حالة تطبيقية أكثر منها اختبار أداء مستقلًا. ولا تتضمن المقالة أسعارًا مطلقة بالدولار، ولم يُكشف عن اسم النموذج، ووُصف الانتقال إلى Trainium2 دون أرقام.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول لماذا لزم التحسين؟

تبني Exa فهرسها الخاص للويب، وتقع فيه الصفحات واستعلامات المستخدمين في فضاء متجهي واحد. لذلك تحدد تكلفة التضمين اقتصاديات المنتج كله. وكان السبب المباشر لهذا العمل عملية انتقال: فقد انتقل الفريق إلى نموذج أقوى للوثائق وأعاد احتساب التضمينات لـ 30 مليار صفحة ذات أولوية. وخلال إعادة الفهرسة تضاعف الحمل مؤقتًا، إذ كان النموذج القديم يخدم الفهرس الحي بينما يملأ الجديد الفهرس الجديد. وبالنسبة للمهندسين، كانت هذه فرصة مناسبة لإعادة النظر في العتاد والتعرف على رقائق AWS Neuron: Inferentia2 وTrainium2.

ما أبرز التفاصيل حول كيف تحقق 47%؟

جرى التحسين على مراحل، وأسهمت كل مرحلة تقريبًا في النتيجة. تخطيط الأوزان. نُسّق مع المجدوِل (scheduler) وبنية بقية النموذج، وأزال ذلك عمليات تبديل (transpose) المصفوفات الزائدة. Autocast. يخفّض المُصرِّف (compiler) الدقة في عمليات ضرب المصفوفات. وجرى التحقق من النتيجة على بيانات مرجعية: يجب ألا يقل تشابه جيب التمام مع النموذج الأصلي عن 0,999. نوى NKI الجاهزة. توفر مكتبة Neuron Kernel Interface قوالب جاهزة للطبقات الشائعة. وجلبت نواة الانتباه الجاهزة («من العلبة») الزيادة التالية في الأداء. SwiGLU MLP مخصص.

ما أبرز التفاصيل حول الوكلاء كمهندسي نوى؟

كتبت وكلاء الذكاء الاصطناعي جميع التحسينات ضمن إطار بسيط على منصة Flyte. ويشغّل كل وكيل مسار العمل (workflow) الخاص به: يصرّف الملف التنفيذي NEFF. يقارن التمرير الأمامي بمجموعة البيانات المرجعية (العتبة 0,999). يحلّل أداء تمريرة واحدة. يجري اختبار حمل مدته 30 دقيقة على عتاد حقيقي. اختير الوكلاء بحسب المهمة والميزانية. فتجرّب النماذج الخفيفة معاملات المُصرِّف. وتختبر نماذج الاستدلال الفرضيات وتبحث عن الاختناقات. أما أقوى مولّدات الكود فتكتب النوى المخصصة. ويمنع الفحص الآلي الوكلاء من التضحية بالدقة مقابل السرعة.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…