NVIDIA تعلن عن KVTC: تقنية لضغط ذاكرة KV-cache في النماذج اللغوية الكبيرة بمعدل 20 ضعفًا لتسريع عمل الشبكات العصبية

# NVIDIA تعلن عن KVTC: تقنية لضغط ذاكرة KV-cache في النماذج اللغوية الكبيرة بمعدل 20 ضعفًا لتسريع عمل الشبكات العصبية

تواجه صناعة الذكاء الاصطناعي مفارقة لافتة: كلما ازدادت النماذج اللغوية قوة، ازداد عملها بطئًا. وقد حدّد باحثو NVIDIA مصدر هذا التباطؤ واقترحوا حلًا جذريًا. فبنية KVTC الجديدة تضغط الذاكرة المؤقتة المساعدة للبيانات بمعدل عشرين ضعفًا، وتزيل بذلك عنق الزجاجة الرئيسي الذي يعرقل معالجة الطلبات الموجهة إلى الشبكات العصبية الحديثة. ويمكن أن يغيّر هذا التطوير اقتصاديات الذكاء الاصطناعي السحابي، إذ يتيح للشركات خدمة عدد أكبر بعدة أضعاف من المستخدمين على خادم واحد.

تكمن المشكلة في بنية المحوّلات (Transformers) نفسها، وهي البنية التي تقوم عليها ChatGPT وClaude وGemini وبقية النماذج اللغوية الكبيرة. فعندما يعالج النموذج نصًا ما، ينشئ ذاكرة KV-cache خاصة تخزّن المفاتيح والقيم لكل رمز (token)، وهي بيانات لازمة لحساب الانتباه في مراحل التوليد اللاحقة. قد يبدو الأمر تقنيًا، لكن جوهره بسيط: إنها بيانات وسيطة لا يستطيع النموذج من دونها مواصلة الحوار.

ومع نمو النموذج وزيادة السياق (عدد الكلمات التي يتذكرها)، تنمو هذه الذاكرة المؤقتة نموًا أسيًا. وفي النماذج اللغوية المتقدمة التي تبلغ عشرات المليارات من المعاملات، قد تشغل KV-cache عشرات الغيغابايتات من ذاكرة الفيديو في وحدة GPU. وعند العمل مع مستندات طويلة، أو في السيناريوهات التي يجب فيها على الخادم خدمة مئات المستخدمين في وقت واحد، تمتلئ الذاكرة بالكامل ويبدأ النظام بالتجمّد.

اقترح فريق NVIDIA استخدام الترميز التحويلي لضغط هذه الذاكرة المؤقتة دون خسارة في جودة الإجابات. ويعمل KVTC كضاغط ذكي: إذ يحلل النظام أجزاء KV-cache التي تُعد حاسمة فعلًا للدقة، وأيها يمكن التخلص منه أو تكميمه بأمان. وفي الاختبارات العملية، حققت الطريقة ضغطًا بمعدل 20 ضعفًا مع انخفاض طفيف في أداء النموذج. وهذا ليس مجرد تقليص للذاكرة، بل مراجعة جذرية لطريقة تخزين البيانات المساعدة في المحوّلات.

يصعب المبالغة في أهمية هذا الإنجاز. فوفقًا لبعض الدراسات، تستحوذ خدمة النماذج اللغوية الكبيرة في السحابة على ما يصل إلى 60% من تكاليف الذاكرة والحوسبة في مراكز البيانات. وإذا مكّنت KVTC الشركة من استيعاب عدد أكبر بأربعة أضعاف من الطلبات المتزامنة على العتاد نفسه، فهذا يعني خفضًا بمقدار أربعة أضعاف في تكلفة الرمز الواحد. وبالنسبة إلى خدمة مثل ChatGPT أو Claude التي تعالج ملايين الطلبات يوميًا، يعني ذلك وفورات تبلغ مئات الملايين من الدولارات. وفي الوقت نفسه، سيحصل المستخدمون على توليد أسرع للنصوص، لأن الذاكرة المؤقتة المخزّنة في ذاكرة أسرع تُعالج بسرعة أكبر بشكل ملحوظ.

وسيوسّع اعتماد KVTC أيضًا نطاق إتاحة الذكاء الاصطناعي. فالشركات التي لا تستطيع تحمّل كلفة العناقيد الضخمة المزوّدة بوحدات GPU باهظة الثمن ستتمكن من تشغيل نماذج قوية على عتاد أكثر تواضعًا. ويكتسب ذلك أهمية خاصة للشركات الناشئة والشركات الواقعة خارج مراكز التكنولوجيا. وقد شارك باحثو NVIDIA بالفعل وثائق مفصلة عن الطريقة، مما سيتيح للمجتمع التقني دمج KVTC بسرعة في أطر العمل الشائعة مثل vLLM وTensorRT-LLM.

ورغم أن KVTC تعالج مهمة تقنية محددة، فإنها تشير إلى اتجاه أوسع في صناعة الذكاء الاصطناعي: المستقبل لمن يعرف كيف يجعل النماذج أكثر كفاءة، لا أكبر وأكثر تعقيدًا. فحين يبلغ حجم النماذج حدودًا مادية واقتصادية، تتحول الكفاءة إلى ميزة تنافسية. وتُظهر NVIDIA أن في طليعة الذكاء الاصطناعي ما زالت هناك مساحة لابتكارات قيّمة فعلًا، ليس في بنية النماذج، بل في كيفية تشغيلها عمليًا في العالم الواقعي.