Habr AI يشرح الانحدار التدريجي بلغة C++ وCUDA من خلال تدريب نموذج على MNIST

صدر على Habr AI الجزء الرابع من سلسلة «من MNIST إلى Transformer»، وينتقل الكاتب فيه إلى المرحلة الأكثر عملية، وهي تدريب النموذج عبر الانحدار التدريجي (gradient descent). تبيّن المادة كيف يمكن بناء حلقة تدريب أساسية بلغة C++ وCUDA دون PyTorch، ثم الوصول بالنموذج إلى التعرف على الأرقام المكتوبة بخط اليد.

عن ماذا يتحدث هذا الجزء

تُبنى السلسلة كمسار يبدأ من أمثلة بسيطة وينتهي ببنية الشبكات العصبية الحديثة. وبدل الاعتماد على أطر العمل الجاهزة، يتناول الكاتب المستوى المنخفض بالتدريج: نوى CUDA، والذاكرة، والحوسبة على GPU، والرياضيات التي تتحكم بكل ذلك. وفي الجزء الرابع ينتقل التركيز إلى gradient descent، وهي الآلية التي لا يتعلّم النموذج بدونها، بل يكتفي بتوقعات عشوائية. وهذه خطوة مهمة، لأن أجزاء الشيفرة المتفرقة تتحول عندها إلى عملية تدريب متكاملة.

الفكرة الرئيسية للمقال هي إزالة أثر «الصندوق الأسود» عن أدوات الذكاء الاصطناعي المألوفة. فحين يعمل المطوّر عبر المكتبات عالية المستوى فقط، غالبًا ما تبقى عمليات تحديث الأوزان وحساب الخطأ والتحرك على سطح دالة الخسارة خفية عنه. أما هنا فيقترح الكاتب بناء كل شيء يدويًا: فهم مصدر التدرّج (gradient)، وكيف يؤثر في المعاملات، ولماذا يتطلب حتى النموذج البسيط عناية دقيقة بالبيانات والذاكرة. ولمن يريد فهم أساس LLM، يبقى هذا النهج أنفع من notebook جاهز آخر.

كيف يجري التدريب

يتمحور المقال حول تطبيق عملي لتدريب نموذج على مجموعة بيانات MNIST. ولا يكتفي الكاتب بصيغة الانحدار التدريجي، بل يربط الرياضيات بالشيفرة: كيف يُحسب الخطأ، وكيف تُحدَّث الأوزان، وكيف تُنفَّذ هذه العمليات بلغة C++ وCUDA. وبذلك يجمع المقال بين شرح الخوارزمية ودليل هندسي تفصيلي لبناء حلقة تدريب خاصة.

• شرح آلية gradient descent دون تجريد
• تدريب نموذج على التعرف على أرقام MNIST
• تنفيذ الخطوات الأساسية بلغة C++ وCUDA
• العمل مع الذاكرة والحوسبة على GPU
• الربط بين الرياضيات والشيفرة وبنية المسرّع

ومن الجوانب القيّمة تأكيد المقال أن التدريب ليس معادلة واحدة، بل سلسلة من القرارات المترابطة. فلا بد من تنظيم البيانات بشكل صحيح، وعدم إهدار الأداء في عمليات النسخ، وفهم كلفة كل عملية على GPU، ومتابعة تغيّر معاملات النموذج من خطوة إلى أخرى. وعلى هذا النطاق يتضح جيدًا سبب التعقيد الداخلي الكبير لأطر ML الحديثة: فهي لا تؤتمت السحر، بل حجمًا هائلًا من الأعمال الهندسية الروتينية.

لماذا الانتقال إلى المستوى المنخفض

قد يبدو MNIST مثالًا بسيطًا جدًا للجمهور الواسع، لكن هذا هو المقصود. ففي مسألة صغيرة يسهل رؤية المبادئ الأساسية التي تتسع لاحقًا إلى معماريات أكثر جدية، ومنها Transformer. وإذا فهمتَ كيف يُحسب التدرّج، وكيف تُحدَّث الأوزان، وكيف يُنفَّذ ذلك على GPU، لم تعد كثير من الخصائص «السحرية» للنماذج الكبيرة تبدو عصيّة على التفسير. والمقال يذكّر عمليًا بأن الطريق إلى LLM لا يبدأ من هندسة الأوامر (prompt engineering)، بل من فهم الأساس الحسابي.

«بهذه الطريقة فقط يمكن فهم كيفية عمل LLM وما يقف خلفها فعلًا».

كما تلبّي المادة الطلب على التعليم الهندسي في مجال الذكاء الاصطناعي. فالسوق اليوم مليء بأدوات تعطي نتيجة سريعة، لكنها نادرًا ما تشرح البنية الداخلية. وتفعل سلسلة «من MNIST إلى Transformer» العكس: تبطّئ العملية وتدفع القارئ إلى النظر في التفاصيل، من بنية الذاكرة إلى منطق تحديث المعاملات. وهذا الشكل مفيد للطلاب ومهندسي ML ومطوّري backend الذين يهمّهم فهم قيود العتاد.

ماذا يعني ذلك

يتزايد الاهتمام بتطوير الذكاء الاصطناعي على المستوى المنخفض، فلم يعد كافيًا للمطوّرين استدعاء نموذج عبر API. وتعكس مثل هذه المواد تحولًا نحو فهم أعمق لتدريب الشبكات العصبية، حيث تعود C++ وCUDA والرياضيات لتكون مهارات أساسية لا اختيارية.