Together AI: كيف تسد تحسينات النوى الفجوة بين النماذج ووحدات GPU
عدّل فريق Together AI نوى CUDA لوحدات Blackwell GPU الجديدة خلال أسبوع — وهو عمل عملت عليه NVIDIA لمدة عام. وكل ذلك بفضل FlashAttention (2022) وThunderKittens.
◐ استمع للمقال
عدّل فريق Together AI نوى CUDA لوحدات Blackwell GPU الجديدة خلال أسبوع — وهو عمل عملت عليه NVIDIA لمدة عام. وكل ذلك بفضل FlashAttention (2022) وThunderKittens. وهذا يسد الفجوة بين رياضيات النماذج والقوة الفعلية للعتاد.