ThunderKittens من Together AI: لغة جديدة لكتابة GPU kernels بكفاءة

أطلقت Together AI ThunderKittens، وهي لغة برمجة مدمجة لكتابة GPU kernels المحسّنة. وعلى شريحة H100، يكون أداؤها أسرع بشكل ملحوظ من FlashAttention2 الكلاسيكي. والواجهة شبيهة بـ PyTorch، لذلك يستطيع مهندسو ML التعامل معها بسرعة. ويقول المؤلفون بصراحة إنها مشروع تجريبي. والكود مفتوح المصدر بالكامل ومتكامل بالفعل مع NanoGPT لمساعدة المطورين على التعلّم.