Nouveau NVIDIA CompileIQ découvre le potentiel caché des cœurs GPU via l'ajustement des paramètres du compilateur
NVIDIA a présenté CompileIQ — un outil qui découvre les accélérations cachées dans le code GPU grâce à la sélection automatique des paramètres du compilateur. Q
◐ Écouter l'article
NVIDIA a présenté CompileIQ — un outil qui découvre les accélérations cachées dans le code GPU grâce à la sélection automatique des paramètres du compilateur. Quand les développeurs ont déjà optimisé les tailles de batch, appliqué la quantification, utilisé flash attention et fusionné les noyaux — CompileIQ trouve toujours des gains de performance de 5-10% grâce au réglage basé sur le ML des drapeaux du compilateur.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.