سلسلة T-one وGigaAM: مسودة الترجمة النصية أثناء الاجتماع ونسخة نهائية بعده

اختبر مؤلف خدمة للاجتماعات الفردية (واحد لواحد) إمكانية الانتقال من Deepgram السحابي إلى خادم خاص بلا بطاقة رسوميات، مع الحصول في الوقت نفسه على ترجمة نصية حيّة ونص نهائي عالي الجودة. وقد بنى لذلك سلسلة من نموذجين. أثناء المكالمة يحوّل T-one الكلام إلى مسودة بتأخير أقل من 2 ثانية. وبعد الاجتماع يراجع GigaAM المسودة، ويصحّح الأخطاء، ويُخرج نسخة نهائية بعلامات الترقيم. نجحت الفكرة، واستغرقت القياسات ثلاثة أيام. لكن نتيجتين فاجأتا المؤلف أكثر من النماذج نفسها: فقد أخطأ مرجع الجودة في كل موضع خلافي رابع، أما الأسلوب الشائع «نموذج ثانٍ يصحّح المصطلحات» فلم يحقق شيئًا يُذكر في اجتماعاته.

من أين جاءت فكرة السلسلة

في الجزء الأول تبيّن للمؤلف أن عدد vCPU لا يكشف الكثير عن الأداء. فمعالج Xeon من عام 2013 بلا AVX2 يتحمّل عددًا أقل من المسارات الحيّة بمقدار 6–8 مرات مقارنة بمعالج حديث بعدد أنوية مماثل. أما جهازه B (6 vCPU من طراز Xeon E5-2680 v2، و11 ГБ من RAM) فيتحمّل اجتماعين في وقت واحد: يُخرج T-one العبارة بعد 1,08 ث (p50) و1,2 ث (p95) من انتهاء الوقفة.

ولدى T-one نقاط ضعف. فهو لا يضع علامات الترقيم، ويتأخر في دقة الكلمات عن السحابة وعن GigaAM. أما GigaAM فيعمل على التسجيل الجاهز فقط. وتسدّ السلسلة الثغرتين معًا. وقد دفعه إليها @pahaz، الذي نشر في اليوم نفسه مقالًا عن سلسلة GigaAM + Parakeet للتفريغ النصي دون اتصال، ونصح بإضافة Parakeet إلى المقارنة.

بقيت المتطلبات كما هي: تصل مسارات المشاركين منفصلة، ولذلك لا حاجة إلى تمييز المتحدثين (diarization)، ويجب أن تظهر العبارة في الترجمة النصية في موعد لا يتجاوز 2 ث (p95)، ولا يغادر الصوت الخادم في روسيا. وأُضيف مطلب جديد: نص نهائي بعلامات الترقيم لا يقل جودة عن النص السحابي، حيث تكون المبالغ والمواعيد والأسماء هي الأهم.

المرجع الذي انحاز

في الجزء الأول كان Deepgram هو المرجع، وكان المؤلف نفسه يعدّ ذلك نقطة ضعف. أما الآن فقد وسّع العيّنة وراجع المرجع يدويًا. وتبيّن أن المرجع السابق أخطأ في كل موضع خلافي رابع، وانحاز إلى النماذج التي بُني منها. ويعني هذا أن WER المحسوب على مثل هذا المرجع يبالغ في تقدير جودة الأنظمة «القريبة منه».

وتتعلق النتيجة الثانية بتصحيح المصطلحات. فعند @pahaz خفّض النموذج الثاني الذي يصحّح المصطلحات WER بمقدار 5 نقاط مئوية. أما في اجتماعات المؤلف العملية فلم يغيّر ذلك شيئًا في أفضل الأحوال، وأضاف 7 نقاط مئوية في أسوئها. فالمكسب من السلسلة يعتمد بقوة على المجال وعلى جودة التسجيل.

ما الذي قيس بالضبط

بيانات الاختبار:

• 51 ثانية من مركز اتصال ضمن حزمة T-one • جلسة كوتشينغ مدتها 29 دقيقة • 4 تسجيلات لمكالمات عمل: 2 س 21 دقيقة، 14 970 كلمة

المراجع المعتمدة: اتفاق المحرّكات على العيّنة، ونص Deepgram nova-3 على الجلسة، والنص المتفق عليه بين ثلاثة أنظمة مع تصحيح يدوي للمصطلحات واستماع انتقائي.

في الجزء الأول قورن T-one وGigaAM-v3 وVosk وDeepgram nova-2 وnova-3. وفي الثاني:

• T-one بوضع greedy ومع نموذج اللغة KenLM • GigaAM-v3 e2e • Parakeet TDT 0.6B v3 • Deepgram nova-3

المقاييس: WER وWERx والأخطاء في الأرقام ودقة المصطلحات وعلامات الترقيم. وفحص المؤلف على حدة ما الذي يُحمّل CPU في الزمن الحقيقي، وكيف يمكن توزيع العمل بين النموذجين، وكم يكلّف ذلك.

الخلاصة العملية

من يبني نظام تفريغ نصي خاصًا به فعليه أن يبدأ بالمرجع لا بالنماذج. فإذا بُني المرجع من مخرجات الأنظمة نفسها التي تقارنها، فستكون الأرقام متفائلة. ولا بد من مراجعة يدوية للمواضع الخلافية على الأقل، ومن الاستماع، خاصة حيث ترد المبالغ والتواريخ والأسماء.

وتتعلق الخلاصة الثانية بالسلاسل. فمكسب الـ5 نقاط مئوية الذي حققه غيرك بنموذج مصحّح لا ينتقل تلقائيًا إلى محادثاتك، لذا اختبره على تسجيلاتك أنت. أما تقسيم الأدوار بين نموذجين فمبرَّر بمنطق المهمة نفسه: نموذج سريع وخشن للترجمة النصية الحيّة، وآخر بطيء ودقيق للوثيقة بعد الاجتماع. وبالنسبة إلى خدمة صغيرة، يعني هذا أن تشغيل مكالمتين متزامنتين على Xeon قديم بستة أنوية أمر واقعي تمامًا، إذا بقي الجزء الحيّ على نموذج خفيف وأُجّل العمل الثقيل إلى ما بعد الاجتماع.