Nouveau NVIDIA CompileIQ découvre le potentiel caché des cœurs GPU via l'ajustement des paramètres du compilateur

NVIDIA a présenté CompileIQ — un outil qui découvre les accélérations cachées dans le code GPU grâce à la sélection automatique des paramètres du compilateur. Quand les développeurs ont déjà optimisé les tailles de batch, appliqué la quantification, utilisé flash attention et fusionné les noyaux — CompileIQ trouve toujours des gains de performance de 5-10% grâce au réglage basé sur le ML des drapeaux du compilateur.