SemanticZip: لماذا اصطدمت محاولة ضغط المعاني 14 مرة بجدار الواقع
قدّم مطوّر نموذجًا أوليًا باسم SemanticZip، وهو خوارزمية تضغط النص 14 مرة عبر حذف المعلومات «القابلة للاستنتاج». ولا يعمل النظام على مستوى البايتات، بل يستند إلى نظرية التعقيد الكولموغوروفي وإلى قدرة نماذج LLM على استكمال السياق. تبدو الفكرة سحرية، لكن المشروع اصطدم عمليًا بمشكلة جوهرية: فالشبكات العصبية «تهلوس» كثيرًا عند استعادة البيانات المكدّسة بكثافة. وفي النهاية أقرّ المؤلف بأن RAG (البحث في قاعدة المعرفة) التقليدي أكثر كفاءة وموثوقية. وهذا درس مهم للقطاع: فتكرار المعلومات في النص ليس نفايةً أحيانًا، بل هو ضمانة لازمة ضد أخطاء الذكاء الاصطناعي.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
اعتدنا قياس التقدّم في الشبكات العصبية بحجم نافذة السياق. بدأنا بـ 4 آلاف رمز (توكن)، ثم وصلنا إلى 128 ألفًا، والآن تَعِد Google بملايين الرموز. لكن ماذا لو كنا نقارب المشكلة من الطرف الخطأ؟ فبدلًا من بناء «مخازن» ضخمة للبيانات، حاول مطوّر النموذج الأولي SemanticZip أن يجعل البيانات نفسها فائقة الكثافة. الفكرة بسيطة وأنيقة: لماذا نخزّن في النص كلمات تستطيع الشبكة العصبية تخمينها بسهولة؟ إنها محاولة لنقل نظرية المعلومات عند شانون والتعقيد الكولموغوروفي إلى عالم النماذج اللغوية الكبيرة، وتحويل الذكاء الاصطناعي إلى ما يشبه أداة أرشفة للمعاني.
يقوم SemanticZip على مفهوم إزالة التكرار الزائد. فإذا قلنا «عاصمة فرنسا هي...»، فلا يحتاج أي خوارزمية حديثة إلى كلمة «باريس» لفهم مغزى الرسالة. وهذا بالضبط ما فعله النموذج الأولي: نظّف النص من كل ما بدا له بديهيًا، وأبقى النواة الدلالية الفريدة فقط. ونظريًا، كان ذلك يتيح تقليص حجم المعلومات المنقولة 14 مرة. تخيّلوا أنكم تمرّرون إلى الشبكة العصبية كُتيّبًا رفيعًا بدلًا من «الحرب والسلم»، فتعيد هي في اللحظة نفسها بناء كل استطرادات تولستوي الفلسفية. يبدو ذلك كأنه التفرّد التكنولوجي الذي كان ينبغي أن يحلّ بالأمس.
لكن عند «تحليل الرحلة»، تبيّن أن النموذج الرياضي الجميل يتحطّم أمام عدم قابلية النماذج اللغوية الحديثة للتنبؤ. تكمن المشكلة في عملية فك الضغط. فعندما نفكّ أرشيف ZIP العادي، نحصل على الملف الأصلي بتطابق كامل بتًّا ببت. أما في «الضغط الدلالي» فنطلب من الشبكة العصبية أن تخمّن ما الذي حُذف بالضبط. وهنا تبدأ الفوضى. يكفي أن يخطئ النموذج في صفة رئيسية واحدة أو في أداة عطف، حتى ينقلب معنى الجملة كله إلى عكسه. وتبيّن أن النماذج الحديثة لا تملك بعدُ درجة الحتمية (الثبات في النتائج) اللازمة للعمل مع البيانات فائقة الكثافة.
وأقرّ مؤلف المشروع بصراحة: الاستعارات الجميلة عن «ضغط المعاني» تخسر أمام RAG (التوليد المعزّز بالاسترجاع) المملّ والواقعي. فـ RAG لا يحاول حشر معرفة العالم كلها في ثلاثة أسطر، بل يذهب ببساطة إلى قاعدة البيانات ويستخرج المقطع المطلوب بصيغته الأصلية المكرَّرة. صحيح أن ذلك يتطلب ذاكرة وقدرات حاسوبية أكبر، لكنه يعمل. ويشهد قطاع الذكاء الاصطناعي حاليًا اتجاهًا واضحًا نحو التبسيط: فبدلًا من الطبقات المعقدة المضافة فوق منطق النماذج، يختار المطوّرون طرقًا موثوقة لإيصال السياق. وتبيّن أن التكرار الذي حاولنا بكل جهد التخلص منه أساسي لتحقيق الدقة.
وقد سلّطت هذه التجربة الضوء على مشكلة مهمة: ما زلنا لا نفهم جيدًا كيف تخزّن الشبكات العصبية المعلومات وتستخرجها. نحاول أن نفرض عليها منطق الضغط البشري، بينما هي تعمل بالاحتمالات. وما دام احتمال الخطأ عند «فك» المعنى لا يساوي الصفر، ستظل هذه الأنظمة مجرد ألعاب مثيرة للاهتمام لدى الهواة. فمحاولة التوفير في الرموز أدّت إلى تراجع قيمة المعلومات نفسها بسبب خطر التحريف. ويذكّرنا هذا بحالة JPEG: عند الضغط الشديد تبقى الصورة مألوفة، لكن التفاصيل تتحوّل إلى كتلة مشوّشة. وفي النص قد تكون هذه «الكتلة المشوّشة» باهظة الثمن.
الأرجح أن المستقبل ليس لأدوات الأرشفة السحرية، بل لتحسين بنى النماذج نفسها. أما الآن فعلينا التسليم بأن نقل فكرة معقدة يتطلب كلمات كثيرة. فمحاولة خداع الرياضيات وإجبار الذكاء الاصطناعي على «التفكير نيابةً عنا» لا تُنتج حتى الآن سوى نماذج أولية جميلة لكنها عديمة الفائدة. ما زلنا في عصر تتحول فيه الكمية إلى جودة، ولا تُستبدل بها.
الخلاصة: التكرار الزائد ليس عيبًا بل ميزة تضمن استقرار الذكاء الاصطناعي. فهل سنتمكن يومًا من الوثوق بالمعاني «المضغوطة» كما نثق بأرشيفات ZIP؟
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.