تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارAPI / منتج · جاهز للعملHabr AI→ المصدر

فاصلة صينية واحدة حوّلت DeepSeek إلى الصينية في 94% من الإجابات

استبدل الفاصلة العادية في التحية بفاصلة صينية كاملة العرض، يردّ DeepSeek بالصينية رغم أن معنى الموجّه لم يتغيّر. في اختبار على واجهة API الرسمية، جاءت 188 إجابة من أصل 200 (94%) بالصينية مع الفاصلة كاملة العرض، ولم تأتِ أي إجابة بالصينية مع الفاصلة العادية. تفحص المرشّحات الحروف والرموز، بينما يرى النموذج البايتات والأجزاء الفرعية من الكلمات. لذلك ينبغي اختبار الحماية على مستوى الرموز (tokens)، لا على مستوى النص وحده.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
فاصلة صينية واحدة حوّلت DeepSeek إلى الصينية في 94% من الإجابات
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1عنقود غير مرئي من علامات التشكيل ضخّم الطلب من 10 إلى 189 رمزًا
حقيقة رئيسية #2حرف «о» السيريلي في amazon.com يقسّم الكلمة إلى 4 رموز بدلًا من 2
حقيقة رئيسية #3في Qwen2.5-7B تكون «queen» أصلًا أقرب جار لـ«king» دون أي عملية حسابية على المتجهات

أرسل إلى DeepSeek العبارة «hello,deepseek» تحصل على ردّ بالإنجليزية. استبدل بفاصلة ASCII الفاصلة كاملة العرض «,» فينتقل النموذج في معظم الحالات إلى الصينية. معنى الموجّه نفسه، ولا يوجد أي جيلبريك، بل رمز واحد من ثلاثة بايتات فقط. وإذا كنت تبني روبوت دردشة أو وكيلًا ذكيًا أو مرشّح حماية أمام LLM، فهذا درس مهم: سلوك النموذج يتحدد قبل طبقات الانتباه، عند المدخل، حيث تتحول السلسلة النصية إلى رموز (tokens).

كيف تغيّر الفاصلة لغة الإجابة

أجرى كاتب التحليل ثلاثة اختبارات. بدأ بتجربة عاملية على واجهة API الرسمية لـDeepSeek: نوعان من الفاصلة، مع مسافة وبدونها، بواقع 100 طلب لكل صيغة، وبدرجة حرارة 0.7 ودون موجّه نظام. مع الفاصلة العادية لم تظهر الصينية ولو مرة واحدة (0 من 200). ومع الفاصلة كاملة العرض ظهرت في 95 إجابة من 100 بدون مسافة، وفي 93 من 100 مع المسافة، أي في 94% من الحالات. المسافة لا تؤثر في النتيجة.

ثم أعاد الكاتب التجربة محليًا على DeepSeek-R1-Distill-Qwen-7B لاستبعاد تأثير الموجّهات الوسيطة في API. تحولت التحيات القصيرة مثل «hi» و«hello» إلى الصينية في 44–100% من التشغيلات. أما العبارة الإنجليزية الأطول «good morning» فصمدت، ولم يحدث أي تحوّل.

أكثر ما يلفت النظر يظهر في الرمز الأول. فإذا نظرنا إلى الخيار الأرجح فقط، يواصل النموذج كتابة «Hello». لكن الاحتمال الإجمالي للرموز التي تبدأ بأحرف صينية ارتفع من 0.3% إلى نحو 50%. فالخيار الأول (Top-1) يخفي الانزياح الحاصل داخل التوزيع. وفي التنبؤ الخام دون قالب الدردشة تتكرر الصورة: ارتفع احتمال أن يكون الرمز التالي علامة ترقيم صينية من 0.26% إلى 26.17% بدون مسافة، وإلى 58.43% مع المسافة. ولاحظ الكاتب سلوكًا مشابهًا في واجهتي الويب لـClaude وChatGPT.

ثغرات المرشّحات بسبب تقسيم النص إلى رموز

مصدر المشكلة هو الفجوة بين ما يراه الإنسان أو المرشّح وما يصل إلى النموذج. يقسّم مجزّئ مثل tiktoken النص أولًا بالتعابير النمطية، ثم يحوّله إلى بايتات UTF-8 ويطبّق قواعد دمج مُتعلَّمة مسبقًا. وقد تصبح الفاصلة كاملة العرض رمزًا واحدًا (كما في o200k_base) أو ثلاث قطع بايتية مبتورة (كما في r50k_base القديم).

ومن ذلك تنشأ هجمات محددة:

  • تضخيم الرموز. أضاف عنقود واحد مكوّن من الرمز «#» و94 علامة قابلة للتركيب والرمز «<» ما مقداره 96 نقطة رمزية و179 رمزًا. وارتفع طلب من 64 حرفًا من 10 إلى 189 رمزًا. وإذا كان مصنّف سريع قائم على مشفّر شبيه بـBERT يقتطع المدخل عند 512 رمزًا، أمكن إخفاء تعليمات خبيثة خلف هذه العتبة، ومع ذلك ستقرؤها LLM الرئيسية ذات النافذة الأكبر. وتؤدي الإضافات نفسها إلى إثقال KV-cache وإطالة المسافة بين التعليمات في تضمينات المواضع.
  • الحروف المتشابهة (الهوموغليف). استخدام «о» السيريلية بدل اللاتينية يعطي «amazоn.com». يرى الإنسان في خطوة التأكيد علامة تجارية مألوفة، بينما تتجه الشبكة عبر Punycode إلى نطاق آخر. في المجزّئ o200k_base يتكوّن «amazon.com» من رمزين، أما النسخة المزوّرة فمن أربعة. ولا يدمج تطبيع NFKC هذه التوائم العابرة للأبجديات. المطلوب فحص «الهياكل» وفق المعيار UTS #39 ومنع خلط الأبجديات عند تنفيذ الأدوات.
  • فئات Unicode. يعدّ المرشّح القائم على فئة «Other Punctuation» الفاصلة وعلامة الاستفهام التعجبية (interrobang) فئة واحدة، لكن في o200k_base تُرمَّز الأولى برمز واحد والثانية برمزين. فالفحص على مستوى النقاط الرمزية يختلف عن الواقع البايتي الذي يتعامل معه النموذج.

لماذا تضلّل مجسّات التضمين

يتناول الجزء الثاني من التحليل باحثي قابلية التفسير. فهم كثيرًا ما يبحثون عن «اتجاهات» المفاهيم في مصفوفة التضمين ويثقون بالحساب المتجهي king − man + woman = queen. اختبر الكاتب ذلك على GloVe وعدة نماذج حديثة، ووجد أربعة فخاخ.

أولًا، في قواميس BPE يُعدّ «king» و« king» مع المسافة البادئة رمزين مختلفين. في Qwen3-8B تحتل «queen» بلا مسافة المرتبة 1733، وتحتل المرتبة الأولى مع المسافة. ثانيًا، تُلوّث النتائج اختلافات حالة الأحرف وصيغ الكتابة. ثالثًا، لا توجد قاعدة مرجعية للمقارنة: في Qwen2.5-7B وGloVe 300d تكون «queen» أصلًا أقرب جار لـ«king» قبل أي عملية حسابية، أما في DeepSeek 7B فالمعادلة لا تحرّك الرتبة إطلاقًا. فالقياس «الناجح» ليس سوى تجاور الكلمات.

ماذا نفعل عمليًا

تحقّق من الطول والحدود بعدد رموز النموذج، لا بعدد الأحرف أو البايتات. اختبر المرشّحات على صيغ Unicode المختلفة: علامات الترقيم كاملة العرض، والعلامات القابلة للتركيب، والأبجديات المختلطة. وتحقّق من استدعاءات الأدوات بمحلّل حتمي عند المخرج، لا بطلب في موجّه النظام. وإذا كنت تشغّل نموذجًا متعدد اللغات، فأضف إلى اختباراتك فحص انحدار للغة الإجابة، فقد تتغيّر بسبب رمز واحد.

وينبغي أيضًا تذكّر القيود. أُجريت تجربة الفاصلة على تحيات قصيرة، أما العبارة الإنجليزية الطويلة فصمدت. وتخصّ أرقام API نموذجًا واحدًا ودرجة حرارة واحدة. وهذا هو الجزء الأول من سلسلة، ويعد الكاتب في الأجزاء التالية بتتبّع الرمز عبر طبقات الانتباه وكتل MLP.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول كيف تغيّر الفاصلة لغة الإجابة؟

أجرى كاتب التحليل ثلاثة اختبارات. بدأ بتجربة عاملية على واجهة API الرسمية لـDeepSeek: نوعان من الفاصلة، مع مسافة وبدونها، بواقع 100 طلب لكل صيغة، وبدرجة حرارة 0.7 ودون موجّه نظام. مع الفاصلة العادية لم تظهر الصينية ولو مرة واحدة (0 من 200). ومع الفاصلة كاملة العرض ظهرت في 95 إجابة من 100 بدون مسافة، وفي 93 من 100 مع المسافة، أي في 94% من الحالات. المسافة لا تؤثر في النتيجة. ثم أعاد الكاتب التجربة محليًا على DeepSeek-R1-Distill-Qwen-7B لاستبعاد تأثير الموجّهات الوسيطة في API.

ما أبرز التفاصيل حول ثغرات المرشّحات بسبب تقسيم النص إلى رموز؟

مصدر المشكلة هو الفجوة بين ما يراه الإنسان أو المرشّح وما يصل إلى النموذج. يقسّم مجزّئ مثل tiktoken النص أولًا بالتعابير النمطية، ثم يحوّله إلى بايتات UTF-8 ويطبّق قواعد دمج مُتعلَّمة مسبقًا. وقد تصبح الفاصلة كاملة العرض رمزًا واحدًا (كما في o200k_base) أو ثلاث قطع بايتية مبتورة (كما في r50k_base القديم). ومن ذلك تنشأ هجمات محددة: تضخيم الرموز. أضاف عنقود واحد مكوّن من الرمز «#» و94 علامة قابلة للتركيب والرمز «<» ما مقداره 96 نقطة رمزية و179 رمزًا. وارتفع طلب من 64 حرفًا من 10 إلى 189 رمزًا.

ما أبرز التفاصيل حول لماذا تضلّل مجسّات التضمين؟

يتناول الجزء الثاني من التحليل باحثي قابلية التفسير. فهم كثيرًا ما يبحثون عن «اتجاهات» المفاهيم في مصفوفة التضمين ويثقون بالحساب المتجهي king − man + woman = queen. اختبر الكاتب ذلك على GloVe وعدة نماذج حديثة، ووجد أربعة فخاخ. أولًا، في قواميس BPE يُعدّ «king» و« king» مع المسافة البادئة رمزين مختلفين. في Qwen3-8B تحتل «queen» بلا مسافة المرتبة 1733، وتحتل المرتبة الأولى مع المسافة. ثانيًا، تُلوّث النتائج اختلافات حالة الأحرف وصيغ الكتابة.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…