الحيل الرياضية لـ AI غير مفيدة للحوسبة العلمية

لقد غيّرت ثورة الذكاء الاصطناعي ليس فقط طريقة تواصلنا مع الحواسيب، بل أيضاً طريقة إجراء الحواسيب للعمليات الحسابية على المستوى الأساسي الأكثر — مستوى تمثيل الأعداد. في السنوات الأخيرة، ولّدت الصناعة عشرات الصيغ الرقمية الجديدة المحسّنة لمهام التعلم الآلي. لكن محاولات تطبيق هذه الصيغ خارج نطاق الذكاء الاصطناعي كشفت عن مشكلة أساسية: ما يعمل بشكل مثالي للشبكات العصبية يثبت أنه غير مناسب تماماً للحسابات العلمية.

لعقود من الزمن، عاشت صناعة الحاسوب وفقاً لقاعدة بسيطة: يتم تمثيل كل عدد بـ 64 بت، وكان هذا أكثر من كافٍ. كان المستخدمون يشترون أجهزة حاسوب جديدة كل بضع سنوات ويحصلون على تحسنات في الأداء، عملياً مجاناً. لكن منذ حوالي عشر سنوات، انتهت تلك الحقبة. تباطأ قانون مور، بينما نما الطلب على نماذج الذكاء الاصطناعي بشكل أسي. بدأت الشركات تبحث عن أي طريقة لتوفير الموارد الحسابية والطاقة، وأثبت أن واحداً من أكثرها فعالية هو تقليل عرض البت للأعداد. إذا كانت الشبكات العصبية لا تحتاج إلى كل 64 بت من الدقة، فلماذا هدرها؟ هكذا ظهرت صيغ بـ 16 و 8 وحتى 2 بت، تتيح تدريب وتشغيل النماذج بسرعة أكبر وبتكلفة أقل.

المشكلة تكمن في أن معيار IEEE 754، الذي يحدّد تمثيل الأعداد العشرية ذات الفاصلة العائمة بـ 64 بت، لا يتسع بشكل جيد أصلاً إلى عروض بت أصغر. معماريته زائدة عن الحاجة لعدد صغير من البتات، والقص المباشر يؤدي إلى فقدان الخصائص المهمة. لذلك، تم تطوير صيغ متخصصة مثل bfloat16 من Google و FP8 من NVIDIA للذكاء الاصطناعي، مصممة لتوزيع الأعداد النموذجي للشبكات العصبية. في التعلم الآلي، عادة ما تتركز القيم حول نطاق معين، ولا تكون هناك حاجة لدقة عالية جداً في الأطراف.

لكن الحساب العلمي يعمل وفقاً لقواعد مختلفة تماماً. تشغل الفيزياء الحسابية والديناميكا المائية والنمذجة البيولوجية والمحاكاة الهندسية أعداداً موزعة على نطاق ضخم: من المقاييس دون الذرية إلى المسافات الكونية. وهناك حاجة لنفس الدقة العالية لكل من الكميات الكبيرة جداً والصغيرة جداً. كان هذا الفجوة بالذات بين احتياجات الذكاء الاصطناعي والعلوم هي نقطة البداية لعمل لاسلو هونهولد، الذي دافع مؤخراً عن أطروحة دكتوراه في علوم الحاسوب في جامعة كولونيا وانضم إلى شركة Openchip الناشئة في برشلونة كمهندس معجلات الذكاء الاصطناعي.

طوّر هونهولد صيغة رقمية تسمى takum، بناءً على الصيغة posit السابقة. توزع Posit تمثيلات الأعداد بشكل غير متساوٍ: القيم المستخدمة بشكل أكثر تحصل على مزيد من مجموعات البتات وبالتالي دقة أعلى. بالنسبة للذكاء الاصطناعي، يعمل هذا بشكل رائع: تركز Posit كثافة التمثيل حول الوحدة، حيث تتركز القيم النموذجية لأوزان الشبكات العصبية. لكن بالنسبة للحساب العلمي، هذا النهج كارثي: تنخفض الدقة بشكل حاد عند الانتقال إلى أعداد كبيرة أو صغيرة، وهي بالذات الأعداد الحرجة لنمذجة العمليات الفيزيائية.

يحل Takum هذه المشكلة بأناقة. حلّل هونهولد النطاقات الفعلية للقيم المستخدمة في الحساب العلمي في جميع التخصصات الرئيسية وصمّم الصيغة بحيث لا ينضغط النطاق الديناميكي مع انخفاض عدد البتات. هذا يعني أن العلماء والمهندسين يمكنهم محتملاً الانتقال إلى تمثيلات أعداد أكثر إحكاماً، مما يوفر الطاقة والوقت الحسابي دون التضحية بالقدرة على التعامل مع الكميات الشديدة. وفقاً لهونهولد، حتى كسب بنسبة عشرة في المائة في كفاءة الصيغة الرقمية ينتج عنه توفير بنسبة عشرة في المائة لجميع التطبيقات، وعلى نطاق قوة الحوسبة العالمية، هذا يعني توفيراً ضخماً للطاقة.

تتجاوز أهمية هذا العمل التمرين الأكاديمي. مع تزايد استهلاك الحواسيب الفائقة وعناقيد البحث للكهرباء، تصبح التحسينات على مستوى تمثيل الأعداد أحد الرافعات القليلة المتبقية لتحسين الكفاءة دون زيادة الطاقة الحسابية. جدير بالملاحظة أن هونهولد يشير إلى: في السنوات الأخيرة، تمت اقتراح عشرات الصيغ الرقمية الجديدة، لكن takum يبقى الوحيد المصمم عن قصد خصيصاً للحساب العلمي. جميع الابتكارات الأخرى في هذا المجال تخدم صناعة التعلم الآلي حصراً.

قصة takum بمثابة تذكير بأن طفرة الذكاء الاصطناعي، بكل قوتها التحويلية، لا ينبغي أن تطغى على احتياجات بقية العلم الحسابي. الشبكات العصبية ليست البرامج الوحيدة التي تحتاج إلى الكفاءة. الفيزيائيون الذين يحاكون المناخ والمهندسون الذين يصممون الجسور وعلماء الأحياء الذين يحاكون طي البروتينات يستحقون نفس الابتكارات في الحسابات الأساسية. وإذا حققت صيغة takum اعتماداً واسع النطاق، فقد تصبح ذلك الأساس غير المرئي الذي على أساسه ستصبح الحسابات العلمية للعقد القادم أسرع وأرخص وأكثر صداقة للبيئة.