النماذج

الشبكة العصبية المتكررة (Recurrent Neural Network / RNN)

الشبكة العصبية المتكررة (RNN) هي شبكة عصبية تعالج البيانات المتسلسلة بالحفاظ على متجه حالة مخفية يتم تحديثه في كل خطوة زمنية، مما يسمح للمعلومات من المدخلات السابقة بالتأثير على التنبؤات اللاحقة.

في الشبكة العصبية المتكررة، يتم حساب الحالة المخفية h_t على النحو التالي h_t = f(W_h · h_{t-1} + W_x · x_t + b)، حيث f هي دالة تفعيل غير خطية، W_h و W_x مصفوفات أوزان مُتعلمة، و x_t هو المدخل الحالي. لأن مخرجات كل خطوة تعتمد على الحالة المخفية السابقة، فإن الشبكة نظرياً لديها وصول إلى السجل الكامل للتسلسل، مما يجعلها ملاءمة طبيعية لنمذجة اللغة، والتعرف على الكلام، والتنبؤ بالسلاسل الزمنية.

تعاني شبكات RNN الفانيليا من التدرجات المتلاشية والمتفجرة أثناء الانتشار العكسي عبر الزمن: تميل التدرجات إلى الانكماش أو الانفجار بشكل كبير مع انتشارها عبر خطوات عديدة، مما يصعب تعلم التبعيات طويلة المدى. معمارات Long Short-Term Memory (LSTM، Hochreiter & Schmidhuber، 1997) و Gated Recurrent Unit (GRU، Cho et al.، 2014) تتعامل مع هذا بآليات بوابة مُتعلمة — بوابات النسيان والإدخال والإخراج — التي تتحكم في المعلومات المحتفظ بها أو المتخلى عنها، مما يتيح استمرار السياق ذي الصلة عبر مئات الخطوات.

هيمنت شبكات RNN على نمذجة التسلسلات طوال عقد 2010، وشكلت أساس الأنظمة الرئيسية مثل Google Translate (المستندة إلى LSTM حتى 2017)، وخطوط معالجة التعرف على الكلام، والتعرف على الكتابة اليدوية. طبيعتها المتكررة تعني أن الاستدلال متسلسل بطبيعته ولا يمكن موازاته بالكامل عبر الزمن، مما يحد من نسبة التدريب مقارنة بـ Transformers.

بحلول 2026، تم استبدال شبكات RNN و LSTMs إلى حد كبير بـ Transformers ونماذج الفضاء الحالتي لمعظم مهام NLP والكلام. تحتفظ بدور في التطبيقات محدودة الموارد أو حساسة للكمون — الأجهزة المدمجة، معالجة الصوت في الوقت الفعلي، وأنظمة التحكم — حيث تكون بصمة الذاكرة الثابتة لديها لكل خطوة استدلال ميزة على نماذج الانتباه التي تزداد ذاكرتها مع طول السياق.

مثال

يستخدم جهاز طبي قابل للارتداء نموذجاً قائماً على GRU للتصنيف المستمر لإشارات تخطيط القلب في الوقت الفعلي، وتحديث التنبؤ بالرجفان من خلال كل عينة نبض دون تخزين سلسلة الإشارة الكاملة في الذاكرة.

مصطلحات مرتبطة

← المسرد