KernelEvo: российский фреймворк автоматизирует создание GPU-ядер с помощью ИИ

Написание быстрых GPU-ядер всегда считалось уделом избранных. Узкий круг инженеров, способных жонглировать моделями памяти, паттернами доступа и ограничениями конкретных аппаратных бэкендов, определял темпы развития высокопроизводительных вычислений. Российский Институт AIRI решил разорвать этот порочный круг, представив KernelEvo — фреймворк, который превращает мучительный процесс ручной оптимизации GPU-ядер в автоматизированный поиск.

Проблема, которую решает KernelEvo, знакома каждому, кто хоть раз пытался выжать максимум из графического ускорителя. Классический цикл разработки ядра выглядит примерно так: инженер пишет код, запускает его, натыкается на ошибку компиляции или неожиданное поведение во время выполнения, возвращается к коду, переписывает, снова проверяет. Этот итеративный процесс может растянуться на дни и недели, а результат напрямую зависит от квалификации разработчика. При этом выигрыш от хорошо оптимизированного кастомного ядра по сравнению с универсальной реализацией бывает колоссальным — иногда речь идёт о кратном ускорении вычислений.

Команда «Вычислительный интеллект» из AIRI предложила принципиально иной подход. Вместо того чтобы полагаться на человеческую интуицию и экспертизу, KernelEvo выстраивает автоматический поисковый цикл. Фреймворк принимает на вход исходный код и самостоятельно ищет эффективные реализации на CUDA и Triton — двух основных платформах для программирования GPU. Ключевое слово здесь — «ищет»: система не просто генерирует один вариант кода, а методично перебирает пространство возможных решений, проверяя каждое на корректность и производительность.

Технически подход опирается на использование больших языковых моделей в контуре оптимизации. Модель генерирует варианты ядер, система их компилирует и тестирует, результаты обратной связи возвращаются модели для следующей итерации. По сути, это тот же цикл, который проходит живой инженер, но выполняемый автоматически и с гораздо большей скоростью перебора. Разработчики указывают, что на одну задачу оптимизации уходит порядка миллиона токенов. Если перевести это в стоимость API-вызовов к современным языковым моделям, речь идёт о вполне приемлемых суммах — особенно если сравнивать с оплатой рабочего времени высококвалифицированного CUDA-инженера.

Важно понимать контекст, в котором появляется KernelEvo. Индустрия переживает настоящий бум спроса на оптимизированные GPU-вычисления. Обучение и инференс крупных нейросетей требуют всё больших вычислительных ресурсов, а аппаратные ускорители стоят дорого. Каждый процент оптимизации на уровне ядер транслируется в реальную экономию — будь то время обучения модели, расходы на облачную инфраструктуру или энергопотребление дата-центра. При этом дефицит специалистов, способных писать эффективный низкоуровневый код для GPU, остаётся одним из главных узких мест отрасли. Автоматизация этого процесса — не просто удобство, а стратегическая необходимость.

KernelEvo вписывается в более широкий тренд, который набирает обороты в последние полтора года. Несколько исследовательских групп по всему миру работают над инструментами, позволяющими языковым моделям оптимизировать низкоуровневый код. Google активно развивает подобные подходы для своих TPU, а NVIDIA инвестирует в автоматизацию оптимизации CUDA-ядер. Однако большинство этих решений остаются закрытыми и привязанными к конкретным экосистемам. Появление открытого фреймворка от российского института — событие примечательное, поскольку оно расширяет доступ к подобным технологиям за пределы крупных корпораций.

Разумеется, автоматическая генерация ядер не заменит опытных инженеров целиком. Сложные архитектурные решения, нестандартные аппаратные конфигурации, принципиально новые алгоритмы — всё это по-прежнему требует человеческого понимания. Но рутинную оптимизацию, составляющую значительную часть работы GPU-программистов, инструменты вроде KernelEvo способны взять на себя уже сегодня. Это смещает роль инженера от кодирования к постановке задач и валидации результатов — сдвиг, который мы наблюдаем практически во всех областях, куда приходит генеративный ИИ.

KernelEvo от AIRI — ещё одно подтверждение того, что будущее высокопроизводительных вычислений будет определяться не только мощностью железа, но и интеллектом программных инструментов, которые это железо используют. Фреймворк пока находится на ранних стадиях, но сам подход — автоматический поиск оптимальных реализаций с использованием языковых моделей — выглядит как направление, которое будет только набирать силу.