كاتب على Habr ينقّي إملاءه من «يعني» و«كذا» باستخدام Whisper محلي ونموذج LLM

كاتب يكتب خلال يومه عشرات الرسائل والبريد الإلكتروني والمهام الموجهة إلى الشبكات العصبية انتقل إلى الإملاء الصوتي، لأن الكلام أسرع من الطباعة. لكن لهذه الطريقة ثمنًا. فقد يفرّغ Whisper العبارة دون خطأ واحد، ومع ذلك تبقى قراءتها متعبة، لأن الكلام الحي المدوَّن كلمةً بكلمة مليء بـ«يعني» و«كذا» والتكرار والانقطاع. يعالج صاحب المنشور على Habr هذه المشكلة بربط Whisper، المشغَّل على حاسوبه الشخصي، بوسيط صغير يمرر النص المفرَّغ إلى نموذج لغوي لتحريره.

تنبيه مهم: الجزء المتاح من المادة يصف المشكلة فقط. أما التنفيذ الفعلي للوسيط واختيار النموذج والتعليمات (prompts) فبقيت خلف قسم «اقرأ المزيد»، ولا نعيد سردها هنا. ما يلي مستخلص من البنية المعلنة، مع اعتبارات عامة حول طريقة عمل هذه الحلول عمليًا.

دقة التعرف على الكلام ووضوح النص مقياسان مختلفان

Whisper نموذج مفتوح للتعرف على الكلام من OpenAI، صدر في سبتمبر 2022 برخصة MIT. دُرّب على نحو 680 ألف ساعة من المواد الصوتية الموسومة، ويدعم قرابة مئة لغة، منها الروسية. مقياس هذا النموذج هو نسبة الكلمات التي حُدِّدت خطأً. فإذا دوّن Whisper كل ما قيل، فلا أخطاء.

المشكلة أن الإنسان لا يتكلم كما يكتب. ففي الكلام حشو وتصحيح ذاتي («يوم الأربعاء، أي لا، يوم الخميس») وتراكيب غير مكتملة. والتفريغ الحرفي يحتفظ بذلك كله بأمانة. وعند استخدام النص في رسالة أو مهمة لشبكة عصبية أو فصل من كتاب، يضطر الكاتب إلى تصحيحه يدويًا، فيضيع جزء من مكسب الإملاء.

لماذا نحتاج إلى وسيط

تبدو البنية المذكورة في العنوان على النحو التالي: يتحول الكلام إلى نص محليًا، ثم يمرر برنامج صغير وسيط هذا النص إلى نموذج LLM مع تعليمة بحذف الزوائد وإعادة نسخة نظيفة. فالتعرف على الكلام والتحرير منفصلان، ولكل خطوة مهمتها.

ما يُعرف عن النظام من الجزء المتاح من المنشور:

• يتولى Whisper التعرف على الكلام، وهو مشغَّل على حاسوب الكاتب؛
• يقع وسيط صغير بين التعرف على الكلام والنموذج اللغوي؛
• مهمة LLM: حذف «يعني» و«كذا» وسائر الضوضاء مع الحفاظ على المعنى؛
• سيناريو الاستخدام: الرسائل والبريد الإلكتروني والمهام الموجهة إلى الشبكات العصبية؛
• يكتب الكاتب بالإملاء معظم نصه اليومي.

أين تفشل مثل هذه الحلول

الخطر الرئيسي في المعالجة اللاحقة من هذا النوع أن يبدأ النموذج اللغوي بالتحرير بدل التنقية. فقد يلطّف نبرة الكاتب، أو يستبدل كلمة بأخرى أكثر «صحة»، أو يضيف ما لم يُقَل. وهذا حرج بالنسبة إلى الكاتب، لأن الأسلوب يقوم على مثل هذه التفاصيل الصغيرة. لذلك ينبغي أن تحظر تعليمة النموذج صراحةً إضافة الوقائع وإعادة الصياغة، ويُستحسن الاحتفاظ بالتفريغ الأصلي إلى جانب النسخة المنقّاة.

والمسألة الثانية تتعلق بالخصوصية. فتشغيل Whisper محليًا يعني أن الصوت لا يخرج إلى السحابة. لكن إذا لجأ الوسيط إلى LLM خارجي، فإن النص هو ما يُرسَل، وقد يتضمن أسماءً وتفاصيل عمل ومسودات كتب. ولا تكون البنية مستقلة تمامًا إلا مع نموذج لغوي محلي.

ما الذي يمكن تجربته بنفسك

إذا أردت تكرار هذا النهج، فتحقق أولًا من التعرف على الكلام. لتشغيله على حاسوب عادي يوجد whisper.cpp الذي يعمل على المعالج، وfaster-whisper المبني على CTranslate2. ويُختار حجم النموذج بحسب العتاد: النسخ الأصغر أسرع، لكنها تخطئ أكثر في الروسية.

ثم ابنِ وسيطًا بسيطًا: يستلم النص، ويضيف تعليمة قصيرة، ويرسله إلى LLM، ويعيد النتيجة. ابدأ بقاعدة واحدة: «احذف الحشو والتكرار، ولا تضف شيئًا ولا تغيّر الصياغات». جرّب عشرات من إملاءاتك الحقيقية وقارن النتيجة بالأصل سطرًا بسطر. وبعد ذلك فقط وسّع التعليمة: علامات الترقيم والفقرات والتنسيق بحسب الرسالة أو المحادثة. أما التنفيذ الكامل لدى الكاتب فمن الأفضل الاطلاع عليه في المقال الأصلي على Habr.