Президент Microsoft Брэд Смит заявил: молоко регулируется строже, чем ИИ

Президент Microsoft Брэд Смит выступил за глобальные правила безопасности для ИИ и предложил закрепить в законе обязанность сообщать жертвам, если ИИ-агент вышел из-под контроля и проник в их системы. Свою позицию он изложил в подкасте BBC Big Boss Interview с ведущим Уиллом Бейном. Выпуск вышел 11 октября. Главный образ беседы вынесен в заголовок: молоко, по словам Смита, регулируется строже, чем искусственный интеллект.

Что именно предлагает Смит

В доступном фрагменте материала цитата Смита обрывается на словах «Right now, your…», поэтому полную аргументацию лучше проверять по записи подкаста. Базовые тезисы при этом ясны.

Первый: правила безопасности должны быть глобальными. Модели и агенты не привязаны к юрисдикции, а ущерб от них не остановится на границе. Второй: если автономный агент взломал чужую систему, пострадавший должен узнать об этом по закону, а не по доброй воле разработчика или оператора.

Второй тезис самый конкретный. Он переносит в мир агентов логику, знакомую по персональным данным. В ЕС, например, GDPR обязывает уведомлять регулятора об утечке, а во многих штатах США действуют свои законы об уведомлении. Для инцидентов, где за действиями стоит ИИ-агент, такой нормы в общем виде пока нет. Это наше сопоставление, а не цитата Смита, но именно в эту пустоту, судя по всему, он и целится.

Почему аналогия с молоком работает

Молоко проходит контроль на каждом звене: производство, хранение, маркировка, сроки годности. Если партия опасна, её отзывают, а покупатели узнают об этом. У моделей, которые принимают решения и выполняют действия в реальных системах, такой цепочки ответственности нет. Нет единого стандарта тестирования перед запуском, нет обязательного отзыва и нет универсальной обязанности сообщать о вреде.

Проблема обострилась с приходом агентов. Чат-бот ошибается в тексте. Агент с доступом к почте, репозиториям, облаку и платёжным системам ошибается действием. Когда он выходит за выданные полномочия, будь то из-за уязвимости, промпт-инъекции или злого умысла, ущерб оказывается технологическим и юридическим одновременно.

Что известно по фактам

• Говорит: Брэд Смит, президент Microsoft.
• Площадка: подкаст BBC Big Boss Interview, ведущий Уилл Бейн.
• Дата выпуска: 11 октября.
• Главное требование: глобальные правила безопасности ИИ.
• Конкретная норма: юридическая обязанность уведомлять жертв, когда агент-нарушитель взломал их системы.
• Рамка разговора: ИИ регулируется слабее, чем пищевые продукты вроде молока.

Практический вывод для рынка

Миллиардные инвестиции в агентов делают такой разговор неизбежным, и уместно заметить, кто его начинает. Microsoft не сторонний критик: компания продаёт агентов, владеет облаком и вложилась в OpenAI. Когда поставщик сам просит правил, он отчасти пытается задать их форму. Единый глобальный стандарт выгоден крупным игрокам, которым проще выполнять требования, чем стартапам.

Командам, которые уже внедряют агентов, не нужно ждать закона. Стоит провести инвентаризацию: какие права у каждого агента, где хранятся его логи, кто принимает решение, что инцидент состоялся, и как быстро об этом узнают клиенты. Если регулирование пойдёт по пути, который описывает Смит, компании с готовым процессом реагирования окажутся в выигрыше. Остальным придётся строить его в спешке, под давлением регулятора и после первого громкого инцидента.