ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصداركود / SDK · جاهز للعملХабр: NLP→ المصدر

Glas يعيد تدريب نموذج التعرف على الكلام GigaAM-v3: المصطلحات التقنية تُكتب صحيحة في 87% من الحالات بدل 44%

كان تطبيق الإملاء Glas، المبني على نموذج التعرف على الكلام GigaAM-v3، يكتب Docker على هيئة «докер»، ويحوّل جملة «Мой ИИ редко ошибается» (أي «ذكائي الاصطناعي نادرًا ما يخطئ») إلى «Мои редко ошибается». وبعد إعادة التدريب على 25 ساعة من الكلام الحي، ارتفعت نسبة المصطلحات التقنية المكتوبة بشكل صحيح من 43,8% إلى 86,7%، وانخفضت نسبة الكلمات الخاطئة (WER) من 8,81% إلى 5,76%. لكن هذا الإصدار تجريبي (بيتا)، وقد وُسمت بيانات الاختبار بالخط الآلي نفسه الذي وُسمت به بيانات التدريب، لذا يُستحسن التحقق من النتيجة على بياناتكم الخاصة.

معالج بواسطة الذكاء الاصطناعي من Хабр: NLP؛ بتحرير Hamidun News
Glas يعيد تدريب نموذج التعرف على الكلام GigaAM-v3: المصطلحات التقنية تُكتب صحيحة في 87% من الحالات بدل 44%
المصدر: Хабр: NLP. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليХабр: NLP ↗
رئيس التحرير
حقيقة رئيسية #1أُعيد تدريب نموذج RNNT العامل دون تغيير بنيته أو صيغة أوزانه
العيبيتخطى الكلمات بوتيرة أعلى، ويأتي أداؤه في ضبط حالة الأحرف أسوأ في الكلام العادي
العتادRTX A2000 بسعة 12 غيغابايت، والسرعة لم تتغير تقريبًا

إذا كنتم تُملون مراجعات الشيفرة أو ملاحظات العمل، فأنتم تعرفون هذه المشكلة: التعرف على الكلام يتعامل بسهولة مع عبارة «привет, как дела»، لكنه يتعثر في كلمات حياة المطوّر اليومية. يعمل تطبيق الإملاء Glas على GigaAM-v3، وهو نموذج للتعرف على الكلام الروسي، وكان يتعثر تحديدًا في المفردات التقنية: يتحول Docker إلى «докер» وPython إلى «Пайтон». أعاد فريق Glas تدريب النموذج على 25 ساعة من الكلام الحي، فارتفعت نسبة المصطلحات التقنية المكتوبة بشكل صحيح من 43,8% إلى 86,7%، أي من «أقل من النصف» إلى «في الغالب دائمًا». وفي الوقت نفسه انخفضت النسبة الإجمالية للكلمات الخاطئة (WER) من 8,81% إلى 5,76%، أي بنحو 35% نسبةً إلى القيمة الأصلية.

ما الذي كان يتعطل بالضبط

كان النموذج الأساسي يفهم الكلام الروسي العادي جيدًا، لكنه عجز عن التعامل مع ثلاث مجموعات من الكلمات: الأسماء الإنجليزية (Docker وKubernetes)، والكلمات الإنجليزية المتوطنة مثل «дашборд»، والاختصار «ИИ». وكانت كلمات كاملة تسقط أحيانًا. فجملة «Мой ИИ редко ошибается» سجّلها النموذج على هيئة «Мои редко ошибается».

لا يفيد قاموس الاستبدال هنا إلا جزئيًا. ففي الاختبارات وحدها، تحوّل Kubernetes إلى «Кьюбернит» و«Куберните» و«кубернетис» و«Gubernitis» و«Qubernit». ولا يمكن إدراج كل هذه الصيغ في قاموس. أما مع «ИИ» فالأمر أعقد: يصعب تمييز الاختصار عن حرف العطف «и» الممدود من النص وحده، ولا بد من الصوت. لذلك يجب إصلاح النموذج نفسه، لا المعالجة اللاحقة.

كيف جرى إعادة التدريب وماذا كانت النتيجة

GigaAM عائلة من نماذج التعرف على الكلام ببنية Conformer. يستخدم الفريق نسخة برأس RNNT يُخرج نصًا بحالة الأحرف وعلامات الترقيم مباشرة. على الخادم يعمل المُشفّر (encoder) بدقة FP16، ورأس RNNT بدقة FP32. وتُقطَّع التسجيلات الطويلة عند فترات الصمت بواسطة Silero VAD، وتُعالَج المقاطع القصيرة على دفعات. فك الترميز جشع (greedy) ودون نموذج لغوي خارجي، والعتاد بطاقة رسومات RTX A2000 بسعة 12 غيغابايت.

لم تكن هناك حاجة لتغيير المُرمِّز (tokenizer): فقاموسه البالغ 1024 رمزًا يضم أصلًا الأحرف اللاتينية، والأسماء المطلوبة تُرمَّز دون التفافات. كما أبقى الفريق على البنية وشيفرة النموذج وصيغة الأوزان كما هي، ليتسنى استبدال النسخة المُعاد تدريبها بالقديمة دون إعادة بناء الخادم.

جرى التدريب النهائي على 25 ساعة من الكلام الحي. وأعطى الاختبار على 525 تسجيلًا قصيرًا مستبعدًا من التدريب الأرقام التالية:

  • انخفضت نسبة WER من 8,81% إلى 5,76%؛
  • ارتفعت نسبة المصطلحات المكتوبة بشكل صحيح من 43,8% إلى 86,7%؛
  • لم تتغير سرعة العمل تقريبًا.

وفي بيئة الإنتاج لا يقل البند الأخير أهمية عن الأولين: تحسّنت الجودة دون تكاليف إضافية على وحدات GPU.

درس المحاولة الأولى الفاشلة

بدأ الفريق بنسخة CTC من GigaAM وجمع 4,4 ساعة من البيانات: نحو 1100 جملة اصطناعية تحوي مصطلحات تقنية، وما يقارب العدد نفسه من التسجيلات من الجزأين الروسي والإنجليزي في مجموعة البيانات FLEURS. جُمّدت الطبقات الاثنتا عشرة السفلى من المُشفّر، ودُرّبت الطبقات الأربع العليا ورأس CTC.

في اختبار من 12 جملة اصطناعية قفزت نسبة المصطلحات الصحيحة من 6% إلى 86%. لكن المقارنة بنموذج RNNT العامل على 150 تسجيلًا حيًا من FLEURS أظهرت صورة مختلفة. والخلاصة العملية: النتيجة الجيدة على اختبار اصطناعي لا تضمن شيئًا، ولا بد من التحقق على كلام حي.

قيود يقرّ بها الفريق

يصف المطورون الإصدار بأنه 0.01 وبيتا، ولا يخفون عيوبه. فالنموذج المُعاد تدريبه يتخطى الكلمات بوتيرة أعلى، ويضبط حالة الأحرف وعلامات الترقيم بشكل أسوأ في الكلام العادي. إضافة إلى ذلك، وُسمت عينة الاختبار بالخط الآلي نفسه الذي وُسمت به عينة التدريب، مع مراجعة يدوية انتقائية. وقد يعود جزء من المكسب إلى تطابق أسلوب الوسم لا إلى تحسّن حقيقي في التعرف.

ماذا نفعل بهذا

إذا كنتم تبنون إدخالًا صوتيًا أو تفريغًا لمكالمات الفيديو أو مساعدًا للمطورين، فيمكن استخلاص عدة قواعد من هذه التجربة:

  • قبل كتابة قاموس استبدال، اجمعوا قائمة بالأخطاء الفعلية: إذا كُتب مصطلح واحد بخمس طرق، فالإصلاح يجب أن يكون في النموذج؛
  • قد تضاعف إعادة التدريب على عشرات الساعات من الكلام الحي دقة المصطلحات دون تغيير البنية ودون زيادة الحمل على العتاد؛
  • حافظوا على توافق صيغة الأوزان، كي يستغرق استبدال النموذج أو التراجع عنه دقائق؛
  • ضعوا وسوم الاختبار بشكل مستقل عن عينة التدريب، وإلا فأنتم تقيسون مدى الاتفاق مع خطّكم الآلي نفسه؛
  • راقبوا الآثار الجانبية: فتحسّن دقة المصطلحات قد يكلّف كلمات متخطّاة وعلامات ترقيم متضررة.

أما في المفردات المتخصصة الضيقة كالمصطلحات التقنية، فتبدو إعادة تدريب نموذج جاهز أكثر منطقية من محاولات سدّ المشكلة بالقواميس.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي كان يتعطل بالضبط؟

كان النموذج الأساسي يفهم الكلام الروسي العادي جيدًا، لكنه عجز عن التعامل مع ثلاث مجموعات من الكلمات: الأسماء الإنجليزية (Docker وKubernetes)، والكلمات الإنجليزية المتوطنة مثل «дашборд»، والاختصار «ИИ». وكانت كلمات كاملة تسقط أحيانًا. فجملة «Мой ИИ редко ошибается» سجّلها النموذج على هيئة «Мои редко ошибается». لا يفيد قاموس الاستبدال هنا إلا جزئيًا. ففي الاختبارات وحدها، تحوّل Kubernetes إلى «Кьюбернит» و«Куберните» و«кубернетис» و«Gubernitis» و«Qubernit». ولا يمكن إدراج كل هذه الصيغ في قاموس.

ما أبرز التفاصيل حول كيف جرى إعادة التدريب وماذا كانت النتيجة؟

GigaAM عائلة من نماذج التعرف على الكلام ببنية Conformer. يستخدم الفريق نسخة برأس RNNT يُخرج نصًا بحالة الأحرف وعلامات الترقيم مباشرة. على الخادم يعمل المُشفّر (encoder) بدقة FP16، ورأس RNNT بدقة FP32. وتُقطَّع التسجيلات الطويلة عند فترات الصمت بواسطة Silero VAD، وتُعالَج المقاطع القصيرة على دفعات. فك الترميز جشع (greedy) ودون نموذج لغوي خارجي، والعتاد بطاقة رسومات RTX A2000 بسعة 12 غيغابايت.

ما أبرز التفاصيل حول درس المحاولة الأولى الفاشلة؟

بدأ الفريق بنسخة CTC من GigaAM وجمع 4,4 ساعة من البيانات: نحو 1100 جملة اصطناعية تحوي مصطلحات تقنية، وما يقارب العدد نفسه من التسجيلات من الجزأين الروسي والإنجليزي في مجموعة البيانات FLEURS. جُمّدت الطبقات الاثنتا عشرة السفلى من المُشفّر، ودُرّبت الطبقات الأربع العليا ورأس CTC. في اختبار من 12 جملة اصطناعية قفزت نسبة المصطلحات الصحيحة من 6% إلى 86%. لكن المقارنة بنموذج RNNT العامل على 150 تسجيلًا حيًا من FLEURS أظهرت صورة مختلفة.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…