TerraAgent проверяет, смотрит ли ИИ на снимок: галлюцинации упали с 17,1% до 9,8%

Авторы TerraAgent взялись за проблему, которую обычная точность не видит: модель может верно ответить на вопрос по спутниковому снимку, ни разу не опершись на сам снимок. Фреймворк (в тексте статьи он назван AVA) оборачивает замороженную мультимодальную модель для дистанционного зондирования тремя модулями и не требует дообучения. На бенчмарках RSVQA-LR, RSVQA-HR, VRSBench и LHRS-Bench средняя точность выросла максимум на 2,40 пункта относительно сильнейших базовых методов в сопоставимых условиях. Доля ответов, построенных только на априорных знаниях, упала с 46,2% до 21,7%. Доля галлюцинаций снизилась с 17,1% до 9,8%.

Точность, которая ничего не доказывает

В RS-VQA вопросы вроде «есть ли рядом с дорогой водоём» часто имеют предсказуемые ответы. Модель знает, как обычно выглядят города и сельская местность, и угадывает по статистике. Метрика accuracy такую удачу засчитывает как успех. Авторы выделяют три источника проблем. Примеры для in-context обучения, подобранные из разных источников, плохо совпадают по разрешению (GSD), типу сенсора и городской текстуре. Реальные запросы тянут длинный визуальный контекст: тайлы разного масштаба, кадры в разное время, найденные справочные данные. Улики в нём размываются, а ошибки накапливаются по цепочке рассуждений. И наконец, ответ без опоры на изображение стандартные метрики просто не фиксируют.

Три модуля вокруг одной модели

GDR отвечает за подбор демонстраций. Он группирует кандидатов по GSD, ищет их по сценным графам и отбрасывает те, чьи ответы не подтверждаются собственными изображениями. Плохой пример перестаёт задавать модели неверный ориентир.

MACE разбивает запрос на ориентированный ациклический граф подвопросов, у каждого из которых указан тип нужных улик. Подвопросы уходят к подходящим инструментам восприятия. Проверенные результаты с указанием происхождения записываются в общий реестр улик, а повторное восприятие ограничено по числу попыток. Так длинный контекст превращается в набор коротких проверяемых шагов.

CVA работает как аудитор. Он берёт улики, на которые сослался финальный ответ, и возмущает их: удаляет или подменяет. Если ответ при этом не меняется, значит, он держится не на картинке. Из этого считается оценка визуальной зависимости, которая используется для калибровки уверенности и запуска повторного запроса с принудительным обращением к уликам.

Что показали измерения

• Средняя точность: до +2,40 пункта к сильнейшим базовым методам в тех же условиях.
• Visual-dependency score: с 0,28 до 0,49.
• Доля prior-only ответов: с 46,2% до 21,7%.
• Доля галлюцинаций: с 17,1% до 9,8%.
• Стоимость: 2,6x от одного прохода базовой модели.
• Обучение: не требуется, базовая MLLM остаётся замороженной.

Прирост точности скромный. Основной результат в другом: почти вдвое меньше ответов, которые модель даёт, не глядя на снимок.

Где это пригодится и что проверить

Наиболее очевидные сценарии: мониторинг инфраструктуры, оценка ущерба после наводнений и пожаров, сельское хозяйство, городское планирование. Там ответ «по привычке» может стоить дорого, а журнал улик и оценка визуальной зависимости дают основание для аудита. Подход можно переносить на другие замороженные модели, если нужна проверка опоры на изображение без дообучения.

Ограничения тоже есть. Результаты получены на четырёх академических бенчмарках, а не на закрытых производственных данных. Цена в 2,6 прохода заметна при массовой обработке снимков. Контрфактическая проверка полезна только настолько, насколько точно модель указывает, на какие улики опиралась. Перед внедрением стоит измерить visual-dependency на собственных данных и сравнить выигрыш в надёжности с ростом задержки и стоимости.