MIT обучил климатический эмулятор на синтетике: вместо 6–8 прогонов физмодели хватило одного

Знакомая история для всех, кто строит суррогатные модели: настоящий симулятор точный, но медленный и дорогой, а быстрая нейросеть-замена ломается, как только её просят выйти за пределы обучающих примеров. Исследователи из MIT сделали шаг к решению этой проблемы в климатическом моделировании. Работа вышла в Proceedings of the National Academy of Sciences.

В чём проблема

Климатологи считают долгосрочные прогнозы на моделях земной системы (ESM). Это огромные физические модели, которые описывают климат в мельчайших деталях. Минус очевиден: один сценарий будущего может считаться месяцами на кластере суперкомпьютеров.

Поэтому появились климатические эмуляторы — ИИ-модели, которые копируют поведение ESM, но отвечают за секунды. Это позволяет перебирать тысячи сценариев: что будет с температурой или уровнем моря, если по-разному менять выбросы. Но у эмуляторов есть слабое место. Их обычно обучают на шести-восьми «реалистичных» траекториях выбросов, и каждую из них приходится прогонять через дорогую ESM. Кроме того, как выяснили сами авторы раньше, такие эмуляторы плохо справляются с незнакомыми сценариями.

Как это работает

Идея контринтуитивная: обучающие данные не обязаны выглядеть реалистично. Алгоритм стартует с произвольного сценария, который считает простая и быстрая климатическая модель. Затем проверяется, насколько хорошо эмулятор воспроизводит результат эталонной ESM, и это даёт оценку ошибки. Благодаря особенностям построения обучающего конвейера данные можно итеративно подправлять, чтобы ошибка падала. Например, алгоритм может резко поднять выбросы CO2 в 2050 году или быстро снизить выбросы метана в 2037-м. Цикл продолжается, пока ошибка не опустится до заданного порога.

В итоге получаются сценарии не с плавными кривыми, а с быстрыми скачками и колебаниями. По словам ведущего автора Кристофера Уомака, такие «высокочастотные зигзаги» позволяют эмулятору вытянуть из системы гораздо больше информации. Самое приятное для бюджета: полную ESM нужно запустить всего один раз, а не шесть-восемь.

Можно провести аналогию с инженерным тестированием. Если вы проверяете систему только на типичных нагрузках, вы узнаете, как она работает в обычный день. Если вы подаёте резкие ступени и импульсы, вы быстрее выясняете, как она реагирует вообще на что угодно. Здесь принцип тот же: «неестественные» входы лучше раскрывают динамику системы.

На проверке эмулятор, обученный по новой методике на заметно меньшем объёме тщательно подобранных синтетических данных, точно предсказывал исходы сценариев, которых не видел при обучении. Традиционные эмуляторы с этим не справились. Пример из статьи: политика контроля локального загрязнителя, когда один вид выбросов сокращается, а остальные продолжают расти. Именно такой кейс важен для практических решений, и именно он обычным эмуляторам не давался.

Ограничения и практический вывод

Пока это результат с оговорками. Авторы сами пишут, что хотят проверить метод на сценарии, сгенерированном полной ESM, а не только на упрощённой модели. Также им предстоит применить его к другим типам климатических моделей. Выводы про машинное обучение в целом и компьютерное зрение пока остаются планами, а не результатами.

Тем не менее урок выходит далеко за пределы климата. Если вы строите суррогат для дорогого симулятора, будь то физика, CFD, финансовое моделирование или цифровой двойник производства, не стоит слепо брать «реалистичные» данные. Часто выгоднее поставить задачу как оптимизацию самого обучающего набора: подбирать входы, которые лучше всего снижают ошибку модели на новых условиях.

Для продактов и основателей здесь тоже есть сигнал. Главное узкое место в таких инструментах — не архитектура сети, а стоимость данных и время на обновление. По словам руководительницы работы Ноэль Селин, обучение эмулятора может занимать месяцы и даже годы, из-за чего готовые инструменты быстро устаревают. Если удастся сократить этот цикл, свежие модели быстрее попадут к исследователям и тем, кто принимает решения.

Исследование выполнено в рамках проекта Bringing Computation to the Climate Challenge при поддержке Schmidt Sciences.