بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

ضغط الموجّه 7 مرات خفّض دقة الاستدلال من 70% إلى 57%

كثيرًا ما تُقصَّر الموجّهات الطويلة بالتقدير الشخصي، وهذا محفوف بالمخاطر. ففي دراسة LLMLingua خفّض الضغط بمقدار 7 مرات في مهام الاستدلال (BBH) نسبة الإجابات الصحيحة من 70% إلى 57%. أما في الرياضيات (GSM8K) فلم يكلّف حتى الضغط بمقدار 20 مرة سوى 1.5 نقطة. إذا سقط من تعليمات التوصيل استثناء خاص بالشحن السريع، فستبدو إجابة النموذج معقولة لكن السعر سيكون خاطئًا. لذلك يجب اختبار كل موجّه مختصر على مجموعة بيانات تتضمن الحالات النادرة.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
ضغط الموجّه 7 مرات خفّض دقة الاستدلال من 70% إلى 57%
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
Selective Contextتقليص السياق بنسبة 50% خفّض الزمن 32% والذاكرة 36%
LLMLingua-2الدورة من الضغط حتى الإجابة أسرع بمقدار 1.6–2.9 مرة
حقيقة رئيسية #3تقليص مدخلات الرموز (tokens) بنسبة 40% يخفّض تكلفة الطلب بنحو 18% فقط

تنمو الموجّهات عادةً وفق نمط واحد: تبدأ بالمهمة، ثم الدور والقيود ومثالان، ثم فقرة إضافية «تحسبًا». وبعد نصف صفحة يصبح حذف أي شيء مخيفًا: ماذا لو كانت هذه العبارة بالذات هي ما يحمل المنطق كله؟ تُظهر الدراسات أن النص يمكن فعلًا تقليصه عدة أضعاف، لكن النتيجة تتوقف على نوع المهمة. فحين ضغط LLMLingua الموجّه 7 مرات على مجموعة BBH (مهام الاستدلال)، تراجعت نسبة الإجابات المطابقة للمرجع من 70.

07% إلى 56.85%، أي بمقدار 13.22 نقطة مئوية.

أما على مجموعة GSM8K الرياضية فلم يكلّف الضغط بمقدار 20 مرة سوى 1.52 نقطة. تخيّل تعليمات لحساب تكلفة التوصيل: إذا ضاع عند الاختصار سطر الاستثناء الخاص بالشحن السريع، فستبقى إجابة النموذج شبيهة بالصحيحة، لكن السعر سيكون خاطئًا.

لذلك لا ينبغي اختصار الموجّه إلا مع اختبار يرافقه.

ماذا أظهرت الدراسات

في Selective Context (EMNLP 2023) يقيّم نموذج مساعد مدى «المفاجأة» التي يمثلها كل مقطع من النص بالنسبة إليه، ثم يحذف المقاطع الأكثر قابلية للتوقع. عند تقليص السياق بنسبة 50% انخفض استهلاك الذاكرة 36%، وانخفض زمن معالجة الطلب (الاستدلال inference) 32%. وتراجع مقياس BERTScore، الذي يقيس القرب من المرجع، بمقدار 0.023، وتراجع تقييم الأمانة للنص الأصلي (faithfulness) بمقدار 0.038. أي أن النص الأقصر بمقدار النصف يُعالَج أسرع بنحو الثلث تقريبًا مقابل خسارة صغيرة في هذه المقاييس.

يتصرف LLMLingua (EMNLP 2023) بجرأة أكبر: يختار نموذج صغير الأجزاء التي يُبقي عليها من الموجّه، ويوزّع ميزانية الرموز (tokens) بين التعليمات والأمثلة والسؤال. أُجري الاختبار على GPT-3.5-Turbo-0301، وقيست الجودة بنسبة الإجابات المطابقة تمامًا للمرجع (Exact Match). على GSM8K ضُغط الموجّه من 2366 إلى 446 رمزًا (بمقدار 5 مرات)، وارتفعت النتيجة قليلًا من 78.85% إلى 79.08%. وعند الضغط إلى 117 رمزًا (بمقدار 20 مرة) هبطت إلى 77.33%. أما على BBH فقد أدى الضغط من 774 إلى 110 رموز (بمقدار 7 مرات) إلى انهيار النتيجة من 70.07% إلى 56.85%. أي أن التقنية نفسها تسلك سلوكًا مختلفًا باختلاف المهمة.

أما LLMLingua-2 (Findings of ACL 2024) فقد دُرِّب ليقرر لكل رمز «يُبقيه أو يحذفه»، وينظر النموذج إلى السياق من الجانبين. أعدّ GPT-4 بيانات التدريب، وجرى التحقق على خمسة اختبارات معيارية، منها MeetingBank وLongBench. ويعمل الضاغط نفسه أسرع بمقدار 3–6 مرات من الطرق المقارَنة، بينما تتسارع الدورة كاملة من الضغط حتى الإجابة بمقدار 1.6–2.9 مرة عند تقليص الموجّه بمقدار 2–5 مرات.

أين يفسد الضغط المعنى

الكلمات المتبقية مأخوذة من النص الأصلي، لكن إذا اختفت أداة النفي أو جزء من الشرط، تغيّرت القاعدة. فالصيغة المختصرة «التوصيل مجاني للطلبات من 5000 روبل» تفقد التوضيح بأن ذلك ينطبق على التوصيل العادي فقط، وأن الشحن السريع يكلّف 790 روبلًا مهما كان المبلغ. ولن تكشف إجابة صحيحة واحدة مثل هذه الخسارة: يلزم طلب يتضمن شحنًا سريعًا. لذا يجب فحص طول النص ودقة تنفيذ المهمة كلًّا على حدة.

يقترح كاتب التحليل منهجية. تؤخذ ثلاث نسخ من التعليمات: الأصلية، وصياغة مدمجة للشروط نفسها، وصياغة كثيفة استُبدلت فيها الكلمات بأسهم وتعبير شرطي ثلاثي. وتُشغَّل على GPT-4.1 Mini عبر BotHub: 12 طلبًا، بثلاث مرات تكرار لكل نسخة، أي 108 طلبات في المجموع بإعدادات temperature=0 وtop_p=1 وmax_tokens=512. يُخلط ترتيب الطلبات، ويُرسَل كل طلب في محادثة جديدة بلا سجل. ولا تُحتسب الإجابة إلا إذا كان JSON سليمًا، وتطابقت الحالة (status)، وكان السعر صحيحًا. وتُثبَّت نصوص الموجّهات قبل التشغيل حتى لا تُكيَّف مع إجابات مألوفة. ولا توجد في المادة نتائج نهائية، فهي منهجية فقط. وحتى 36 إجابة صحيحة من 36 على 12 حالة لن تكشف معدل الأخطاء المستقبلي، ولذلك ينبغي توسيع المجموعة بطلبات حقيقية.

كيف تحسب التوفير بأمانة

تختلف تكلفة رموز الإدخال عن رموز الإخراج. مثال: موجّه من 2000 رمز مقابل 1200، وإجابة من 600 رمز في الحالتين، ورمز الإخراج أغلى من رمز الإدخال بأربعة أضعاف. تكون النتيجة 4400 وحدة افتراضية مقابل 3600. انخفض الإدخال 40%، بينما انخفضت تكلفة الطلب بنحو 18% فقط. وإذا أدّت التعليمات القصيرة إلى إجابة أطول أو إلى طلب مكرر، فسيكون المكسب أقل.

ينبغي أن يشمل الحساب عمل الضاغط: إذا كان السياق جديدًا مع كل طلب، فإن الضغط يُدفع ثمنه في كل مرة. ويجب احتساب وقت التعديل اليدوي وفحص القالب، وكذلك التخزين المؤقت (cache): فقد تكون البادئة الطويلة المخزّنة مؤقتًا أرخص من بادئة قصيرة جديدة. والمقياس النهائي هو تكلفة النتيجة المقبولة: نفقات جميع الطلبات مضافًا إليها نفقات الضغط، مقسومةً على عدد الإجابات التي اجتازت الفحص. وتدخل المحاولات الفاشلة في البسط.

عمليًا، اختصر الموجّه لكن مع اختبار: البيانات نفسها، والاستثناءات والحقول المفقودة ضمن المجموعة، ونموذج واحد، وإعدادات ثابتة. وقارن أربع نتائج لكل زوج: نجحت النسختان معًا، أو الأصلية فقط، أو القصيرة فقط، أو أخطأتا معًا. أما النسخة التي فقدت القاعدة فلا تصلح مهما وفّرت من الرموز.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ماذا أظهرت الدراسات؟

في Selective Context (EMNLP 2023) يقيّم نموذج مساعد مدى «المفاجأة» التي يمثلها كل مقطع من النص بالنسبة إليه، ثم يحذف المقاطع الأكثر قابلية للتوقع. عند تقليص السياق بنسبة 50% انخفض استهلاك الذاكرة 36%، وانخفض زمن معالجة الطلب (الاستدلال inference) 32%. وتراجع مقياس BERTScore، الذي يقيس القرب من المرجع، بمقدار 0.023، وتراجع تقييم الأمانة للنص الأصلي (faithfulness) بمقدار 0.038. أي أن النص الأقصر بمقدار النصف يُعالَج أسرع بنحو الثلث تقريبًا مقابل خسارة صغيرة في هذه المقاييس.

ما أبرز التفاصيل حول أين يفسد الضغط المعنى؟

الكلمات المتبقية مأخوذة من النص الأصلي، لكن إذا اختفت أداة النفي أو جزء من الشرط، تغيّرت القاعدة. فالصيغة المختصرة «التوصيل مجاني للطلبات من 5000 روبل» تفقد التوضيح بأن ذلك ينطبق على التوصيل العادي فقط، وأن الشحن السريع يكلّف 790 روبلًا مهما كان المبلغ. ولن تكشف إجابة صحيحة واحدة مثل هذه الخسارة: يلزم طلب يتضمن شحنًا سريعًا. لذا يجب فحص طول النص ودقة تنفيذ المهمة كلًّا على حدة. يقترح كاتب التحليل منهجية.

ما أبرز التفاصيل حول كيف تحسب التوفير بأمانة؟

تختلف تكلفة رموز الإدخال عن رموز الإخراج. مثال: موجّه من 2000 رمز مقابل 1200، وإجابة من 600 رمز في الحالتين، ورمز الإخراج أغلى من رمز الإدخال بأربعة أضعاف. تكون النتيجة 4400 وحدة افتراضية مقابل 3600. انخفض الإدخال 40%، بينما انخفضت تكلفة الطلب بنحو 18% فقط. وإذا أدّت التعليمات القصيرة إلى إجابة أطول أو إلى طلب مكرر، فسيكون المكسب أقل. ينبغي أن يشمل الحساب عمل الضاغط: إذا كان السياق جديدًا مع كل طلب، فإن الضغط يُدفع ثمنه في كل مرة.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…