Британия расширит поиск уязвимостей с помощью ИИ: 407 дыр за £13 000

Правительство Великобритании расширит программу, в которой передовые ИИ-модели ищут уязвимости в собственных системах государства. Пилот за месяц выявил 407 слабых мест в девяти правительственных организациях. На токены ушло около £13 000. Помимо расширения, власти рассмотрят законодательные меры: обязательную отчётность об ИИ-инцидентах и регулирование риска потери контроля над ИИ-системами.

Что показал пилот

Цифры пилота легко пересчитать. £13 000 на 407 находок дают около £32 за одну уязвимость. На каждую из девяти организаций приходится в среднем около 45 находок и порядка £1 440 расходов. Для государственного ИТ-ландшафта, где проверка безопасности обычно измеряется человеко-днями, это очень низкая цена входа.

Оговорки нужны. В доступном фрагменте материала не раскрыто, какие модели использовались и как найденное распределялось по критичности. Неизвестно и то, сколько находок подтвердили инженеры. Среднюю стоимость нельзя сравнивать с ценой критической уязвимости. Из 407 записей часть наверняка составляют малозначимые недочёты конфигурации. Но сам масштаб показывает, что модели пригодны для широкого первичного сканирования.

Две части пакета

Пакет мер состоит из двух разных по природе решений.

Первое операционное: расширение программы. Государство превращает эксперимент в рабочий инструмент и направляет передовые модели на собственные системы. Это самый прямой способ проверить, на что способна технология, пока ею не воспользовался кто-то другой.

Второе регуляторное, и оно мягче по формулировке. Власти «рассмотрят» законодательство об отчётности по ИИ-инцидентам и о риске потери контроля. Обязательств пока нет, есть намерение изучить вопрос. Но его вынесли в один пакет с кибербезопасностью. Логика прочитывается: если модель способна находить дыры в госсистемах, то и сбои самих моделей должны попадать в поле зрения регулятора. Опыт других отраслей, например обязательных уведомлений о киберинцидентах, показывает, что без единого формата отчётности статистику собрать невозможно.

Экономика защиты

Главный вывод пилота экономический. Если поиск уязвимостей стоит десятки фунтов за находку, то тот же расчёт верен и для атакующих. Доступ к передовым моделям не привилегия государства, а значит, окно между появлением дыры и её эксплуатацией сужается для всех. Защите остаётся одно: искать раньше и дешевле, чем это сделает противник.

Ключевые параметры пилота:

• 407 найденных уязвимостей за один месяц;
• 9 государственных организаций в выборке;
• около £13 000 затрат на токены;
• около £32 на одну находку;
• в среднем 45 находок на организацию.

Что делать командам безопасности

Государственным и корпоративным командам стоит повторить расчёт на собственных данных. Для этого нужно взять ограниченный периметр и месяц времени, а затем измерить три вещи: долю подтверждённых находок, стоимость верификации одной из них и долю ложных срабатываний. Именно верификация, а не токены, скорее всего, станет основной статьёй расходов.

Второе: заранее продумать, как фиксировать инциденты с участием ИИ-систем. Если отчётность в Великобритании станет обязательной, компании, у которых уже есть формат записи сбоев, потеряют меньше времени на адаптацию. Третье: следить за формулировками будущего законопроекта о потере контроля. Пока непонятно, какие системы под него попадут и какие пороги определят для «передовых» моделей. От ответа на этот вопрос зависит, коснётся ли регулирование только лабораторий или и тех, кто встраивает их модели в продукты.