KernelEvo : un framework russe automatise par l'IA la création de kernels GPU

Écrire des kernels GPU rapides a toujours été l'apanage de quelques élus. Un cercle restreint d'ingénieurs capables de jongler avec les modèles mémoire, les schémas d'accès et les contraintes de chaque backend matériel a longtemps dicté le rythme du calcul haute performance. L'Institut russe AIRI veut briser ce cercle vicieux avec KernelEvo, un framework qui transforme le processus pénible d'optimisation manuelle des kernels GPU en une recherche automatisée.

Le problème que résout KernelEvo est familier à quiconque a déjà tenté de tirer le maximum d'un accélérateur graphique. Le cycle classique de développement d'un kernel ressemble à peu près à ceci : l'ingénieur écrit du code, l'exécute, tombe sur une erreur de compilation ou un comportement inattendu à l'exécution, retourne au code, le réécrit, le revérifie. Ce processus itératif peut s'étirer sur des jours, voire des semaines, et son résultat dépend directement de la qualification du développeur. Or le gain d'un kernel sur mesure bien optimisé par rapport à une implémentation générique peut être colossal : il s'agit parfois d'une accélération de plusieurs fois.

L'équipe « Intelligence computationnelle » d'AIRI propose une approche radicalement différente. Au lieu de s'appuyer sur l'intuition et l'expertise humaines, KernelEvo met en place une boucle de recherche automatique. Le framework prend en entrée le code source et cherche de lui-même des implémentations efficaces en CUDA et en Triton, les deux principales plateformes de programmation GPU. Le mot clé est « cherche » : le système ne se contente pas de produire une seule variante de code, il parcourt méthodiquement l'espace des solutions possibles et vérifie pour chacune la correction et les performances.

Techniquement, l'approche repose sur l'emploi de grands modèles de langage dans la boucle d'optimisation. Le modèle génère des variantes de kernels, le système les compile et les teste, puis les résultats retournent au modèle comme retour d'information pour l'itération suivante. Au fond, c'est le cycle que suit un ingénieur humain, mais exécuté automatiquement et avec une vitesse d'exploration bien supérieure. Les développeurs indiquent qu'une tâche d'optimisation consomme de l'ordre d'un million de tokens. Converti en coût d'appels d'API vers les modèles de langage actuels, cela représente des sommes tout à fait acceptables, surtout comparées au temps de travail d'un ingénieur CUDA hautement qualifié.

Il faut comprendre le contexte dans lequel arrive KernelEvo. L'industrie connaît un véritable boom de la demande en calcul GPU optimisé. L'entraînement et l'inférence des grands réseaux de neurones exigent toujours plus de ressources, et les accélérateurs coûtent cher. Chaque pour cent d'optimisation au niveau du kernel se traduit en économies réelles, que ce soit en temps d'entraînement, en coûts d'infrastructure cloud ou en consommation électrique du datacenter. Dans le même temps, la pénurie de spécialistes capables d'écrire du code bas niveau efficace pour GPU reste l'un des principaux goulots d'étranglement du secteur. Automatiser ce processus n'est pas qu'un confort, c'est une nécessité stratégique.

KernelEvo s'inscrit dans une tendance plus large qui prend de l'ampleur depuis un an et demi. Plusieurs groupes de recherche dans le monde travaillent sur des outils permettant aux modèles de langage d'optimiser du code bas niveau. Google développe activement des approches similaires pour ses TPU, et NVIDIA investit dans l'automatisation de l'optimisation des kernels CUDA. Mais la plupart de ces solutions restent fermées et liées à des écosystèmes précis. L'arrivée d'un framework ouvert issu d'un institut russe est notable, car elle élargit l'accès à ces technologies au-delà des grands groupes.

Bien sûr, la génération automatique de kernels ne remplacera pas entièrement les ingénieurs expérimentés. Les décisions d'architecture complexes, les configurations matérielles atypiques et les algorithmes radicalement nouveaux exigent toujours une compréhension humaine. Mais des outils comme KernelEvo peuvent dès aujourd'hui prendre en charge l'optimisation de routine, qui représente une part importante du travail des programmeurs GPU. Le rôle de l'ingénieur glisse ainsi du codage vers la formulation des tâches et la validation des résultats, un déplacement que l'on observe dans presque tous les domaines où arrive l'IA générative.

KernelEvo d'AIRI confirme une fois de plus que l'avenir du calcul haute performance se définira non seulement par la puissance du matériel, mais aussi par l'intelligence des outils logiciels qui l'exploitent. Le framework n'en est qu'à ses débuts, mais l'approche elle-même, la recherche automatique d'implémentations optimales à l'aide de modèles de langage, semble une direction appelée à se renforcer.