Karpathy يقدّر: نحو 5000 شخص فقط لديهم وصول إلى أكثر أنظمة الذكاء الاصطناعي تقدمًا

قدّر أندريه Karpathy، أحد مؤسسي OpenAI والمدير السابق للذكاء الاصطناعي في Tesla، في منشور له عدد الأشخاص على كوكب الأرض الذين يملكون فعلًا وصولًا إلى أكثر أنظمة الذكاء الاصطناعي الداخلية تقدمًا: نحو 5000 شخص. وللمقارنة، يستخدم ChatGPT وما يماثله مئات الملايين من الأشخاص يوميًا. وبحسب هذا التقدير، فإن الفجوة بين ما يراه الجمهور وما يعمل به موظفو المختبرات الرائدة هائلة.

التقدير يعود إلى Karpathy نفسه. فلا توجد منهجية للحساب، ولا تأكيدات من المختبرات. ويصلح الرقم بوصفه مؤشرًا على رتبة الحجم أكثر منه رقمًا دقيقًا. لكنه لفت الانتباه لأن Karpathy نادرًا ما يتحدث عن أمور كهذه جزافًا، فقد اطّلع على الكواليس الداخلية في OpenAI وفي Tesla معًا.

ما الذي يجري داخل المختبرات

بحسب وصف Karpathy، لم يعد الأمر داخل مختبرات frontier مجرد مساعد واحد يعاون مطوّرًا واحدًا. فآلاف الوكلاء تتجمع في مجموعات تعاونية وتعمل بلا انقطاع لأسابيع. وهذا نمط مختلف عن الدردشة المعتادة، حيث يطرح المستخدم سؤالًا وينتظر الجواب خلال ثوانٍ.

وتبدو قائمة المهام التي يذكرها على النحو التالي:

• مشاريع برمجية كبيرة ينفّذها الوكلاء على مدى أسابيع؛
• البحث عن ثغرات اليوم الصفري، أي الثغرات التي لا يعلم بها المطوّرون؛
• المشاركة في الهجمات السيبرانية والدفاع السيبراني بسرعة الآلة؛
• الإسهام في الاكتشافات العلمية؛
• العمل على مسائل الرياضيات في الحدود المتقدمة.

وتستحق المدد الزمنية وقفة خاصة. فالعمل المتواصل لأسابيع يعني أن الوكلاء يحتفظون بسياق المشروع، ويوزّعون المهام الفرعية فيما بينهم، ويصحّحون أخطاءهم بأنفسهم، ولا يحتاجون إلى تدخل بشري في كل خطوة. أما المنتجات العامة القائمة على الوكلاء فتعمل في الغالب حتى الآن ضمن نطاق ساعات وسيناريوهات محدودة.

لماذا يهم رقم 5000

إذا كان التقدير قريبًا من الواقع، فنحن أمام دائرة ضيقة من الأشخاص يشكّلون تصوّر الآخرين عن الذكاء الاصطناعي. وهم موظفو المختبرات، وعدد قليل من الباحثين من الخارج ممن لديهم وصول خاص، وجزء من العاملين في الجهات الحكومية والأمنية. أما الجميع فيحكمون على التقدم من خلال النماذج العامة، التي تصدر متأخرة وعادةً بقدرات مقلَّصة.

وتترتب على ذلك عدة نتائج. فالنقاشات حول المخاطر والفوائد تجري بمستويات متفاوتة من الاطلاع: بعضهم يتجادل حول روبوتات الدردشة، وآخرون يعملون مع مجموعات من الوكلاء. ويصعب على الجهات التنظيمية تقييم ما لا تراه. وتجد الشركات التي تبني منتجاتها فوق واجهات API العامة صعوبة في وضع خارطة طريق، ما دام السقف الحقيقي للقدرات محجوبًا.

وللأمن السيبراني وضع خاص. فإذا كان الوكلاء يعثرون فعلًا على ثغرات zero-day ويعملون في الدفاع والهجوم بسرعة الآلة، فلن يعود زمن استجابة المحللين البشريين هو العامل الحاسم. وهذه فرصة للمدافعين لسد الثغرات بسرعة أكبر، وهي كذلك فرصة للمهاجمين. أيّ الأثرين سيغلب؟ لا يمكن الجزم بذلك من منشور واحد.

كيف يمكن الاستفادة من هذه المعلومات

من المفيد التعامل مع مثل هذه التصريحات بوصفها إشارة، لا حقيقة مثبتة. وفيما يلي خطوات عملية للفرق والمطوّرين:

1. افترضوا في خططكم أن الوكلاء العامين سيبلغون القدرات الداخلية الحالية بتأخر زمني، وصمّموا المنتجات بحيث يمكن تحويلها إلى نموذج أقوى دون إعادة كتابتها. 2. ابدؤوا الآن ببناء بنية تحتية للوكلاء طويلي العمل: تسجيل الإجراءات، وتقييد الصلاحيات، والتراجع عن التغييرات. وخلال عام أو عامين سيصبح ذلك إلزاميًا. 3. إذا كنتم مسؤولين عن الأمن، فأعيدوا النظر في نموذج التهديدات. وانطلقوا من أن البحث عن الثغرات يتحول إلى عملية آلية، وأن دورة «عثروا على ثغرة — كتبوا exploit» تقصر. 4. تابعوا المصادر الأولية: تصريحات المختبرات، وبطاقات النظام (system cards) الخاصة بالنماذج، وتقارير المقيِّمين المستقلين. فأقوال الخبراء المنفردين، ومنهم Karpathy، تظل مجرد رأي إلى أن تؤكدها البيانات.

والسؤال الرئيسي في المرحلة القريبة: إلى أي مدى ستصبح القدرات المغلقة عامة بسرعة، ومن سيتمكن من الاستعداد لها.