CoSTA يضغط الرموز الكلامية في Step-Audio 2 mini عبر BPE: إضافة من 10K إلى 320K وحدة
اقترح باحثون من معهد الأتمتة التابع لـ CAS أسلوب CoSTA، وهو تدريب إضافي يجعل Step-Audio 2 mini يولّد الكلام بوحدات BPE مضغوطة. يوسَّع القاموس بمقدار 10K–320K وحدة، ثم تُفكّ هذه الوحدات بصورة حتمية إلى الرموز الأصلية قبل التوليف الصوتي، ولذلك لا يتغير المفكِّك. تقلّ خطوات التوليد، وتبقى جودة الردود في التقييمات الآلية والبشرية كما هي. • علاقة الضغط بحجم القاموس لوغاريتمية-خطية على 8 مُرمِّزات • المرحلة الأولى: 50% من البيانات، ويجري تدريب التضمينات ورأس LM فقط • نُقل الأسلوب إلى معمارية ثانية، وجُمع مع المُرمِّزات منخفضة التردد
معالج بواسطة الذكاء الاصطناعي من Hugging Face Daily Papers؛ بتحرير Hamidun News
تولّد نماذج الحوار الكلامي الرد على شكل تسلسلات طويلة من الرموز الكلامية المنفصلة، ويكلّف كل رمز خطوة انحدار ذاتي واحدة. اقترح باحثون من معهد الأتمتة التابع للأكاديمية الصينية للعلوم ومن كلية الذكاء الاصطناعي في جامعة CAS أسلوب CoSTA لتقليل عدد هذه الخطوات دون المساس بالمُرمِّز الكلامي الأصلي ولا بالمفكِّك الذي يحوّل الرموز إلى صوت. ولهذا الغرض يضيف الأسلوب إلى قاموس Step-Audio 2 mini ما بين 10K و320K وحدة BPE، وتحلّ كل وحدة محل زوج شائع من الرموز الكلامية المتجاورة أو سلسلة شائعة منها. يُدرَّب النموذج على إخراج هذه الوحدات المضغوطة، ثم تُفكّ بصورة حتمية إلى الرموز الأصلية قبل التوليف الصوتي.
لماذا تُضغط الرموز الكلامية بسهولة؟
في معظم نماذج الحوار الكلامي يخدم فضاء الرموز نفسه التوليد والتوليف الصوتي معًا. ينتج عن ذلك تسلسلات طويلة: تتباطأ الردود، ويصعب أكثر مواءمة النص مع الكلام، ويُستنفد حد التوليد أسرع. وهذا يحدّ من مدة المحادثة ومن طول الرد المنطوق.
والبديل هو المُرمِّزات ذات التردد الأقل للرموز. لكن خفض التردد بشدة يضرّ بالجودة، وقد يتطلب استبدال المُرمِّز في نموذج جاهز إعادة تدريب المُرمِّز نفسه والمفكِّك المقترن به والنموذج ذاته. كما يبقى التوليد والتوليف الصوتي مرتبطين بتمثيل واحد.
لاحظ المؤلفون أن الرموز الكلامية تحتوي على كثير من الأنماط المحلية المتكررة، ولذلك تصلح لها تقنية BPE (byte pair encoding)، إذ تُدمج الأزواج المتجاورة الشائعة في وحدات جديدة. والضغط هنا قابل للعكس: يعيد التفكيك التسلسل الأصلي دون أي فقد. واختبر الباحثون الأثر على ثماني تهيئات للمُرمِّزات باستخدام كلام حواري صيني، فدرّبوا قاموس BPE على جزء التدريب وثبّتوه للعيّنة المحجوزة. وكلما زادت الوحدات المضافة قصر التسلسل، والعلاقة تقريبًا لوغاريتمية-خطية. وتبقى هذه العلاقة قائمة عبر مصادر بيانات ولغات مختلفة.
كيف يُكيَّف النموذج الجاهز؟
يتألف CoSTA من ثلاث خطوات في مرحلة ما بعد التدريب. تبدأ الخطوات بتوسيع القاموس، وتُهيّأ التضمينات وصفوف رأس LM للوحدات الجديدة بمتوسط صفوف الرموز الأصلية التي تتكوّن منها الوحدة. يمنح ذلك نقطة انطلاق أكثر استقرارًا من التهيئة العشوائية، وتبقى معاملات القاموس الأصلي دون تغيير.
ثم تأتي مواءمة النطق على بيانات TTS مضغوطة. يتناوب Step-Audio 2 mini بين الرموز النصية والرموز الكلامية، ولذلك يُطبَّق BPE على الكلامية فقط ولا تُمسّ النصية. والتدريب مرحلي: في المرحلة الأولى، وعلى 50% من البيانات، تُضبط التضمينات ورأس LM فقط وتبقى المعاملات الأخرى مجمّدة، وهذا يعايِر الصفوف الجديدة في القاموس. وفي المرحلة الثانية تتسع المواءمة لتشمل بقية النموذج. أما الخطوة الأخيرة فهي المواءمة للحوار على بيانات مضغوطة بصيغة «كلام ← كلام».
وعند الاستدلال لا يُدرَج قبل المفكِّك الكلامي غير المتغيّر سوى تفكيك BPE خفيف وحتمي. ويبقى المُرمِّز الأصلي والمفكِّك كما هما، ولذلك يُحفظ التوافق مع خط المعالجة القائم.
ماذا أظهرت التجارب؟
اختُبر الأسلوب على معماريتين من نماذج الحوار الكلامي. في Step-Audio 2 mini يرفع CoSTA سرعة توليد الرموز الكلامية الموسّعة بالصينية والإنجليزية، مع الحفاظ على جودة الردود بحسب التقييمات الآلية والبشرية. ويؤدي ذلك إلى زمن تأخير أقل للرد الكامل، وإنتاجية أعلى، وتفاعل أطول ضمن ميزانية توليد محدودة. ولا ترد معاملات التسريع الدقيقة في الجزء المتاح من النص.
يحدد حجم القاموس مفاضلة عملية بين درجة الضغط وكفاءة فك الترميز والجودة، ولذلك ينبغي اختياره بعناية. وأظهرت التجارب على المعمارية الأخرى إمكانية نقل الأسلوب وتوافقه مع الترميز منخفض التردد، أي أنه يمكن الجمع بين طريقتين لتقصير التسلسلات.
نُشر الكود على GitHub في المستودع yingzhuodeng/CoSTA.
أسئلة وأجوبة حول الخبر
لماذا تُضغط الرموز الكلامية بسهولة؟
في معظم نماذج الحوار الكلامي يخدم فضاء الرموز نفسه التوليد والتوليف الصوتي معًا. ينتج عن ذلك تسلسلات طويلة: تتباطأ الردود، ويصعب أكثر مواءمة النص مع الكلام، ويُستنفد حد التوليد أسرع. وهذا يحدّ من مدة المحادثة ومن طول الرد المنطوق. والبديل هو المُرمِّزات ذات التردد الأقل للرموز. لكن خفض التردد بشدة يضرّ بالجودة، وقد يتطلب استبدال المُرمِّز في نموذج جاهز إعادة تدريب المُرمِّز نفسه والمفكِّك المقترن به والنموذج ذاته. كما يبقى التوليد والتوليف الصوتي مرتبطين بتمثيل واحد. لاحظ المؤلفون أن الرموز الكلامية تحتوي على كثير من الأنماط المحلية المتكررة، ولذلك تصلح لها تقنية BPE (byte
كيف يُكيَّف النموذج الجاهز؟
يتألف CoSTA من ثلاث خطوات في مرحلة ما بعد التدريب. تبدأ الخطوات بتوسيع القاموس، وتُهيّأ التضمينات وصفوف رأس LM للوحدات الجديدة بمتوسط صفوف الرموز الأصلية التي تتكوّن منها الوحدة. يمنح ذلك نقطة انطلاق أكثر استقرارًا من التهيئة العشوائية، وتبقى معاملات القاموس الأصلي دون تغيير. ثم تأتي مواءمة النطق على بيانات TTS مضغوطة. يتناوب Step-Audio 2 mini بين الرموز النصية والرموز الكلامية، ولذلك يُطبَّق BPE على الكلامية فقط ولا تُمسّ النصية. والتدريب مرحلي: في المرحلة الأولى، وعلى 50% من البيانات، تُضبط التضمينات ورأس LM فقط وتبقى المعاملات الأخرى مجمّدة، وهذا يعايِر الصفوف الجديدة في
ماذا أظهرت التجارب؟
اختُبر الأسلوب على معماريتين من نماذج الحوار الكلامي. في Step-Audio 2 mini يرفع CoSTA سرعة توليد الرموز الكلامية الموسّعة بالصينية والإنجليزية، مع الحفاظ على جودة الردود بحسب التقييمات الآلية والبشرية. ويؤدي ذلك إلى زمن تأخير أقل للرد الكامل، وإنتاجية أعلى، وتفاعل أطول ضمن ميزانية توليد محدودة. ولا ترد معاملات التسريع الدقيقة في الجزء المتاح من النص. يحدد حجم القاموس مفاضلة عملية بين درجة الضغط وكفاءة فك الترميز والجودة، ولذلك ينبغي اختياره بعناية. وأظهرت التجارب على المعمارية الأخرى إمكانية نقل الأسلوب وتوافقه مع الترميز منخفض التردد، أي أنه يمكن الجمع بين طريقتين لتقصير ا
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.