ThunderKittens من Together AI: لغة جديدة لكتابة GPU kernels بكفاءة
أطلقت Together AI ThunderKittens، وهي لغة برمجة مدمجة لكتابة GPU kernels المحسّنة. وعلى شريحة H100، يكون أداؤها أسرع بشكل ملحوظ من FlashAttention2 الكلاسيكي. وا
◐ استمع للمقال
أطلقت Together AI ThunderKittens، وهي لغة برمجة مدمجة لكتابة GPU kernels المحسّنة. وعلى شريحة H100، يكون أداؤها أسرع بشكل ملحوظ من FlashAttention2 الكلاسيكي. والواجهة شبيهة بـ PyTorch، لذلك يستطيع مهندسو ML التعامل معها بسرعة. ويقول المؤلفون بصراحة إنها مشروع تجريبي. والكود مفتوح المصدر بالكامل ومتكامل بالفعل مع NanoGPT لمساعدة المطورين على التعلّم.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.