La red neuronal STST-JEPA aprendió a determinar la edad biológica a partir del EEG

Исследователи представили STST-JEPA (Shallow-Target Spatio-Temporal Joint Embedding Prediction Architecture) — трансформер на основе self-supervised learning для обработки электроэнцефалографии (ЭЭГ) как в состоянии покоя, так и при выполнении когнитивных задач.

Как работает модель

Модель использует латентное предсказание — предсказание маскированных token-представлений против цели, обновляемой экспоненциальной скользящей средней. К этому добавляется вспомогательный сигнал реконструкции для 30-секундных окон многоканального ЭЭГ с пространственно-временными маскировками блоков. Архитектура основана на трансформерах, что позволяет модели захватывать долгосрочные зависимости в сигналах мозга.

Обучение проводилось на двух больших корпусах ЭЭГ-данных: brain.space и Healthy Brain Network (HBN), что в сумме составляет 47,703 сессии.

Результаты: предсказание биологического возраста

Предсказание brain age (биологического возраста) — это одно из ключевых приложений. На 3,367 тестовых сессиях модель достигала средней абсолютной ошибки (MAE) 3,06 лет при корреляции r = 0,924. Для сравнения, базовый подход (угадывание среднего значения) даёт ошибку примерно 10 лет.

Применение лёгкого fine-tuning финальных слоёв позволило модели занять первое место в public leaderboard NeuralBench на задачах:

• Классификация пола: balanced accuracy 0,911
• Предсказание возраста: r = 0,749
• Регрессия психопатологических композитов: r = 0,215

Интересно, что остаток ошибки в предсказании возраста модели отрицательно коррелирует с когнитивной эффективностью на нескольких протестированных задачах.

Почему это важно для медицины

Отклонение биологического возраста от хронологического — это биомаркер, который может указывать на неврологические и психические расстройства, ускоренное старение мозга или, напротив, исключительное здоровье. ЭЭГ привлекательна для такого скрининга тем, что она дешёвая, портативная и богата временной информацией.

Однако ЭЭГ-модели сталкиваются с рядом проблем: гетерогенность монтажа между лабораториями (разные конфигурации электродов), малые размеченные когорты, доминирующая нестационарность на уровне субъекта (нестабильность сигнала во времени). STST-JEPA решает эти проблемы благодаря обучению на большом корпусе данных в self-supervised режиме.

Что это значит

Robotics и нейровизуализация — это честные тесты для AI. Если модель может предсказать биологический возраст с точностью ±3 года по ЭЭГ в полном диапазоне от детей до пожилых людей, это показывает реальную ценность foundation models в медицинском применении. Следующий шаг — использование STST-JEPA для диагностики конкретных заболеваний (депрессия, аутизм, деменция) на основе отклонения brain age от нормы.