Bloomberg разобрал, как регулировать ИИ: от отчётов об инцидентах до запрета

Дискуссия о регулировании ИИ давно перестала быть спором «регулировать или нет». Теперь спорят о том, где на шкале строгости остановиться. Bloomberg Tech собрал варианты в один путеводитель: на мягком краю обязанность сообщать о проблемах с безопасностью, на жёстком прямой запрет «сверхинтеллекта». В оригинальной врезке подробностей немного, поэтому ниже мы раскладываем эту шкалу на примерах законов, которые уже приняты или обсуждались. Порог в 10^25 FLOPs из европейского AI Act и штрафы до 7% мирового оборота показывают, что это не абстракция.

Мягкий край: отчётность и тесты

Самая реалистичная мера состоит в обязанности раскрывать инциденты. Она дёшево обходится государству и не мешает выпускать продукты. Так устроен калифорнийский SB 53, подписанный в сентябре 2025 года: крупные разработчики frontier-моделей публикуют свои протоколы безопасности и сообщают регулятору о критических инцидентах. За нарушения предусмотрены штрафы до $1 млн.

Следующая ступень требует предварительного тестирования и независимого аудита. Здесь появляются самые острые вопросы: кто проверяет, по каким методикам и с каким доступом к весам модели. Европейский AI Act пошёл по этому пути для универсальных моделей с «системным риском». Критерий для них один: обучение с вычислительным бюджетом выше 10^25 FLOPs.

Типовой набор мягких и средних инструментов:

• обязательные отчёты об инцидентах безопасности;
• публикация внутренних протоколов оценки рисков;
• предварительные тесты на опасные возможности (биология, кибератаки);
• защита сотрудников, которые сообщают о нарушениях;
• штрафы, привязанные к обороту (в AI Act до 7% мирового оборота за запрещённые практики).

Жёсткий край: kill switch и запрет

Идея аварийного выключателя звучит просто, но на практике зависит от архитектуры. Законопроект SB 1047, который губернатор Калифорнии Ньюсом отклонил в 2024 году, требовал возможности полной остановки модели. Он касался систем стоимостью обучения от $100 млн и мощностью выше 10^26 FLOPs. Если модель работает через API на серверах компании, отключить доступ действительно можно. Если веса опубликованы, копии уже не отозвать, и «рубильник» превращается в декларацию. Критики используют именно этот довод, а сторонники отвечают, что нужно регулировать само право публиковать веса самых мощных систем.

Самая радикальная позиция состоит в запрете разработки «сверхинтеллекта» до тех пор, пока не появится научный консенсус о безопасности. В октябре 2025 года с таким призывом выступил Future of Life Institute, и среди подписантов оказались Джеффри Хинтон и Йошуа Бенджио. Но это петиция, а не законопроект. Нет даже согласованного определения, где проходит граница между сильной моделью и «сверхинтеллектом». Без него любой запрет трудно написать, а ещё труднее применять.

Как к этому готовиться

Командам, которые строят продукты на LLM, нет смысла ждать финальной версии правил. Уже сейчас стоит вести журнал инцидентов: сбои модели, утечки данных, случаи вредных ответов. Нужно документировать результаты тестов и держать отключаемый контур для агентов с доступом к реальным системам, будь то платежи, код или инфраструктура. Для компаний, которые работают с моделями через API, главный риск связан с поставщиком: если тот попадёт под порог регулирования, изменятся условия доступа, лимиты и цены. Инвесторам и менеджерам продукта стоит смотреть не на громкие запреты, а на скучные требования к отчётности. Именно они в ближайшие годы определят стоимость соответствия.