فاصلة صينية واحدة حوّلت DeepSeek إلى الصينية في 94% من الإجابات
استبدل الفاصلة العادية في التحية بفاصلة صينية كاملة العرض، يردّ DeepSeek بالصينية رغم أن معنى الموجّه لم يتغيّر. في اختبار على واجهة API الرسمية، جاءت 188 إجابة من أصل 200 (94%) بالصينية مع الفاصلة كاملة العرض، ولم تأتِ أي إجابة بالصينية مع الفاصلة العادية. تفحص المرشّحات الحروف والرموز، بينما يرى النموذج البايتات والأجزاء الفرعية من الكلمات. لذلك ينبغي اختبار الحماية على مستوى الرموز (tokens)، لا على مستوى النص وحده.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
أرسل إلى DeepSeek العبارة «hello,deepseek» تحصل على ردّ بالإنجليزية. استبدل بفاصلة ASCII الفاصلة كاملة العرض «,» فينتقل النموذج في معظم الحالات إلى الصينية. معنى الموجّه نفسه، ولا يوجد أي جيلبريك، بل رمز واحد من ثلاثة بايتات فقط. وإذا كنت تبني روبوت دردشة أو وكيلًا ذكيًا أو مرشّح حماية أمام LLM، فهذا درس مهم: سلوك النموذج يتحدد قبل طبقات الانتباه، عند المدخل، حيث تتحول السلسلة النصية إلى رموز (tokens).
كيف تغيّر الفاصلة لغة الإجابة
أجرى كاتب التحليل ثلاثة اختبارات. بدأ بتجربة عاملية على واجهة API الرسمية لـDeepSeek: نوعان من الفاصلة، مع مسافة وبدونها، بواقع 100 طلب لكل صيغة، وبدرجة حرارة 0.7 ودون موجّه نظام. مع الفاصلة العادية لم تظهر الصينية ولو مرة واحدة (0 من 200). ومع الفاصلة كاملة العرض ظهرت في 95 إجابة من 100 بدون مسافة، وفي 93 من 100 مع المسافة، أي في 94% من الحالات. المسافة لا تؤثر في النتيجة.
ثم أعاد الكاتب التجربة محليًا على DeepSeek-R1-Distill-Qwen-7B لاستبعاد تأثير الموجّهات الوسيطة في API. تحولت التحيات القصيرة مثل «hi» و«hello» إلى الصينية في 44–100% من التشغيلات. أما العبارة الإنجليزية الأطول «good morning» فصمدت، ولم يحدث أي تحوّل.
أكثر ما يلفت النظر يظهر في الرمز الأول. فإذا نظرنا إلى الخيار الأرجح فقط، يواصل النموذج كتابة «Hello». لكن الاحتمال الإجمالي للرموز التي تبدأ بأحرف صينية ارتفع من 0.3% إلى نحو 50%. فالخيار الأول (Top-1) يخفي الانزياح الحاصل داخل التوزيع. وفي التنبؤ الخام دون قالب الدردشة تتكرر الصورة: ارتفع احتمال أن يكون الرمز التالي علامة ترقيم صينية من 0.26% إلى 26.17% بدون مسافة، وإلى 58.43% مع المسافة. ولاحظ الكاتب سلوكًا مشابهًا في واجهتي الويب لـClaude وChatGPT.
ثغرات المرشّحات بسبب تقسيم النص إلى رموز
مصدر المشكلة هو الفجوة بين ما يراه الإنسان أو المرشّح وما يصل إلى النموذج. يقسّم مجزّئ مثل tiktoken النص أولًا بالتعابير النمطية، ثم يحوّله إلى بايتات UTF-8 ويطبّق قواعد دمج مُتعلَّمة مسبقًا. وقد تصبح الفاصلة كاملة العرض رمزًا واحدًا (كما في o200k_base) أو ثلاث قطع بايتية مبتورة (كما في r50k_base القديم).
ومن ذلك تنشأ هجمات محددة:
- تضخيم الرموز. أضاف عنقود واحد مكوّن من الرمز «#» و94 علامة قابلة للتركيب والرمز «<» ما مقداره 96 نقطة رمزية و179 رمزًا. وارتفع طلب من 64 حرفًا من 10 إلى 189 رمزًا. وإذا كان مصنّف سريع قائم على مشفّر شبيه بـBERT يقتطع المدخل عند 512 رمزًا، أمكن إخفاء تعليمات خبيثة خلف هذه العتبة، ومع ذلك ستقرؤها LLM الرئيسية ذات النافذة الأكبر. وتؤدي الإضافات نفسها إلى إثقال KV-cache وإطالة المسافة بين التعليمات في تضمينات المواضع.
- الحروف المتشابهة (الهوموغليف). استخدام «о» السيريلية بدل اللاتينية يعطي «amazоn.com». يرى الإنسان في خطوة التأكيد علامة تجارية مألوفة، بينما تتجه الشبكة عبر Punycode إلى نطاق آخر. في المجزّئ o200k_base يتكوّن «amazon.com» من رمزين، أما النسخة المزوّرة فمن أربعة. ولا يدمج تطبيع NFKC هذه التوائم العابرة للأبجديات. المطلوب فحص «الهياكل» وفق المعيار UTS #39 ومنع خلط الأبجديات عند تنفيذ الأدوات.
- فئات Unicode. يعدّ المرشّح القائم على فئة «Other Punctuation» الفاصلة وعلامة الاستفهام التعجبية (interrobang) فئة واحدة، لكن في o200k_base تُرمَّز الأولى برمز واحد والثانية برمزين. فالفحص على مستوى النقاط الرمزية يختلف عن الواقع البايتي الذي يتعامل معه النموذج.
لماذا تضلّل مجسّات التضمين
يتناول الجزء الثاني من التحليل باحثي قابلية التفسير. فهم كثيرًا ما يبحثون عن «اتجاهات» المفاهيم في مصفوفة التضمين ويثقون بالحساب المتجهي king − man + woman = queen. اختبر الكاتب ذلك على GloVe وعدة نماذج حديثة، ووجد أربعة فخاخ.
أولًا، في قواميس BPE يُعدّ «king» و« king» مع المسافة البادئة رمزين مختلفين. في Qwen3-8B تحتل «queen» بلا مسافة المرتبة 1733، وتحتل المرتبة الأولى مع المسافة. ثانيًا، تُلوّث النتائج اختلافات حالة الأحرف وصيغ الكتابة. ثالثًا، لا توجد قاعدة مرجعية للمقارنة: في Qwen2.5-7B وGloVe 300d تكون «queen» أصلًا أقرب جار لـ«king» قبل أي عملية حسابية، أما في DeepSeek 7B فالمعادلة لا تحرّك الرتبة إطلاقًا. فالقياس «الناجح» ليس سوى تجاور الكلمات.
ماذا نفعل عمليًا
تحقّق من الطول والحدود بعدد رموز النموذج، لا بعدد الأحرف أو البايتات. اختبر المرشّحات على صيغ Unicode المختلفة: علامات الترقيم كاملة العرض، والعلامات القابلة للتركيب، والأبجديات المختلطة. وتحقّق من استدعاءات الأدوات بمحلّل حتمي عند المخرج، لا بطلب في موجّه النظام. وإذا كنت تشغّل نموذجًا متعدد اللغات، فأضف إلى اختباراتك فحص انحدار للغة الإجابة، فقد تتغيّر بسبب رمز واحد.
وينبغي أيضًا تذكّر القيود. أُجريت تجربة الفاصلة على تحيات قصيرة، أما العبارة الإنجليزية الطويلة فصمدت. وتخصّ أرقام API نموذجًا واحدًا ودرجة حرارة واحدة. وهذا هو الجزء الأول من سلسلة، ويعد الكاتب في الأجزاء التالية بتتبّع الرمز عبر طبقات الانتباه وكتل MLP.
- 18 نوفمبر 2026الذكاء الاصطناعي يكتشف ثغرات مجهولة في V8 بتكلفة $4,24 وخلال 13 دقيقة، بعد أن أخفق في فبراير رغم إنفاق $350
- 18 نوفمبر 2026وكلاء الذكاء الاصطناعي أصدروا 228 إصدارًا من لعبة دون مراجعة بشرية، والاختبارات أعادت 25% من المهام
- 18 نوفمبر 2026Tencent Hy4 flash تحصد 2,79 من 4 مقابل 2,81 لنموذج Haiku 5.5، وتكلفة المهمة أقل بـ18 مرة
- 18 نوفمبر 2026الضبط الدقيق لنموذج NER يرفع نسبة أسرار الصفقات المخفية بالكامل من 39,5% إلى 91,8%
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول كيف تغيّر الفاصلة لغة الإجابة؟
أجرى كاتب التحليل ثلاثة اختبارات. بدأ بتجربة عاملية على واجهة API الرسمية لـDeepSeek: نوعان من الفاصلة، مع مسافة وبدونها، بواقع 100 طلب لكل صيغة، وبدرجة حرارة 0.7 ودون موجّه نظام. مع الفاصلة العادية لم تظهر الصينية ولو مرة واحدة (0 من 200). ومع الفاصلة كاملة العرض ظهرت في 95 إجابة من 100 بدون مسافة، وفي 93 من 100 مع المسافة، أي في 94% من الحالات. المسافة لا تؤثر في النتيجة. ثم أعاد الكاتب التجربة محليًا على DeepSeek-R1-Distill-Qwen-7B لاستبعاد تأثير الموجّهات الوسيطة في API.
ما أبرز التفاصيل حول ثغرات المرشّحات بسبب تقسيم النص إلى رموز؟
مصدر المشكلة هو الفجوة بين ما يراه الإنسان أو المرشّح وما يصل إلى النموذج. يقسّم مجزّئ مثل tiktoken النص أولًا بالتعابير النمطية، ثم يحوّله إلى بايتات UTF-8 ويطبّق قواعد دمج مُتعلَّمة مسبقًا. وقد تصبح الفاصلة كاملة العرض رمزًا واحدًا (كما في o200k_base) أو ثلاث قطع بايتية مبتورة (كما في r50k_base القديم). ومن ذلك تنشأ هجمات محددة: تضخيم الرموز. أضاف عنقود واحد مكوّن من الرمز «#» و94 علامة قابلة للتركيب والرمز «<» ما مقداره 96 نقطة رمزية و179 رمزًا. وارتفع طلب من 64 حرفًا من 10 إلى 189 رمزًا.
ما أبرز التفاصيل حول لماذا تضلّل مجسّات التضمين؟
يتناول الجزء الثاني من التحليل باحثي قابلية التفسير. فهم كثيرًا ما يبحثون عن «اتجاهات» المفاهيم في مصفوفة التضمين ويثقون بالحساب المتجهي king − man + woman = queen. اختبر الكاتب ذلك على GloVe وعدة نماذج حديثة، ووجد أربعة فخاخ. أولًا، في قواميس BPE يُعدّ «king» و« king» مع المسافة البادئة رمزين مختلفين. في Qwen3-8B تحتل «queen» بلا مسافة المرتبة 1733، وتحتل المرتبة الأولى مع المسافة. ثانيًا، تُلوّث النتائج اختلافات حالة الأحرف وصيغ الكتابة.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.