رياضيات RNN: لماذا تُربك الأسئلة «الطفولية» المهندسين

اعتدنا النظر إلى الشبكات العصبية بوصفها صندوقًا أسود يعمل ببساطة متى زوّدناه بقدر كافٍ من البيانات والقدرات الحاسوبية. لكن ما إن نتعمق قليلًا تحت مستوى مكتبات PyTorch أو TensorFlow، حتى يتبين أن الأساس الذي يقوم عليه الذكاء الاصطناعي الحديث يستند إلى أمور كثيرًا ما نسلّم بها دون تمحيص. تبدو الشبكات العصبية المتكررة (RNN) اليوم من مخلفات الماضي في ظل هيمنة المحوّلات، لكن بنيتها تحمل بالذات المبادئ الرياضية التي لا يمكن من دونها فهم تطور التعلم العميق. فقد كانت RNN هي التي علّمت الآلات يومًا ما التعامل مع المتسلسلات، وفهم «ما تحت غطائها» ليس مجرد تمرين أكاديمي، بل وسيلة لفهم لماذا أصبحت النماذج الحديثة على ما هي عليه.

تقوم كل شبكة RNN على فكرة نقل الحالة من الماضي إلى المستقبل. وتبدو الصياغة الرياضية أنيقة ما لم تبدأ بحساب المشتقات. فمعظم الكتب الدراسية تقدم لنا الصيغ الجاهزة بسخاء، لكنها نادرًا ما تشرح كيف يجري اشتقاق متجه بالنسبة إلى مصفوفة بالضبط. وهذه لحظة الحقيقة بالنسبة إلى كثير من المهندسين: إذ يتضح أن القواعد المألوفة من مقرر التفاضل في المدرسة تعمل هنا بصورة مختلفة، وتتحول إلى عمليات مرهقة تتضمن المصفوفات اليعقوبية. وكثيرًا ما نخشى طرح الأسئلة «الطفولية»، مثل: لماذا تُجمع التدرجات (gradients) عند الانتشار العكسي للخطأ، لا تُضرب، في بعض عقد الرسم الحسابي؟ وتكمن الإجابات عن هذه الأسئلة في طبيعة قاعدة السلسلة نفسها، وفي طريقة تدفق المعلومات عبر طبقات الخلايا العصبية.

يرتبط سياق نشأة RNN ارتباطًا وثيقًا بمحاولات محاكاة الذاكرة البشرية. غير أن الباحثين اصطدموا سريعًا في الممارسة العملية بمشكلة التدرجات المتلاشية والمتفجرة. وهذه ليست مجرد علة تقنية، بل نتيجة مباشرة للبنية الرياضية للتكرار. فحين تضرب مصفوفة في نفسها عشرات المرات أو مئاتها خلال الانتشار العكسي للخطأ عبر الزمن (BPTT)، فإن أي انحراف في القيم الذاتية عن الواحد يؤدي إما إلى انعدام الإشارة وإما إلى نموها بلا حدود. وقد دفع هذا المأزق الرياضي الصناعة إلى البحث عن بدائل، فأفضى أولًا إلى ظهور LSTM وGRU بنظام «البوابات» المعقد، ثم إلى آليات الانتباه التي شكّلت أساس معمارية GPT.

يكشف تحليل أبسط شبكة RNN، شبيهة بتلك التي شاعت على يد أندريه كارباثي، عن مفارقة في الصناعة: فنحن نبني أنظمة هائلة على مبادئ لا تزال تفاصيل تطبيقها موضع جدل. فعلى سبيل المثال، لا تزال مسألة كيفية تهيئة الأوزان لتجنب انهيار التدريب في الثواني الأولى منه أقرب إلى الفن منها إلى العلم الصارم. فنحن نستخدم قواعد تجريبية تعمل، لكننا لا نستطيع دائمًا تفسير «السبب» انطلاقًا من المبدأ الأول. ويشبه ذلك فضول الطفل الذي يفكك لعبته ليعرف ما بداخلها، فيجد فيها أجزاء لا يعرف حتى الكبار وظيفتها.

يدفعنا تحليل هذه الأسس إلى إعادة النظر في الطفرة الحالية للشبكات العصبية. فحين ندرك مدى صعوبة جعل RNN تتذكر عشر كلمات فقط في جملة، نبدأ بتقدير العبقرية الهندسية الكامنة وراء نوافذ السياق الحديثة التي تبلغ ملايين الرموز (tokens). لكن المشكلات القديمة لم تختفِ، بل تنكّرت فحسب. فمسألتا كفاءة الحوسبة واستقرار التدرجات لا تزالان قائمتين حتى في العناقيد الضخمة من H100. وتتيح العودة إلى الجذور ومعالجة الأسئلة «الطفولية» حول الاشتقاق وانتشار الخطأ التخلّي عن غرور المطور الأول، ورؤية الشيفرة لا بوصفها مجرد استدعاء للدالة .backward()، بل رقصة معقدة وهشّة للأعداد.

الخلاصة: يُثبت الفهم الأساسي لرياضيات RNN أنه لا سحر في الذكاء الاصطناعي، بل سلاسل طويلة من المشتقات التي تتصرف أحيانًا على نحو غير متوقع بسبب ولعنا بالتبسيط.