Президент Microsoft: ИИ регулируют слабее, чем молоко и стиральные машины

Президент Microsoft Брэд Смит заявил, что искусственный интеллект сегодня регулируется слабее, чем молоко и стиральные машины. Об этом 12 октября 2026 года сообщил Guardian. Смит предложил два конкретных механизма: аварийные «рубильники» (kill switches) для ИИ-систем и юридическую обязанность перед «жертвой», если её систему взломал вышедший из-под контроля ИИ-агент.

Полный текст выступления в источнике не приводится, поэтому детали механизмов пока неизвестны. Но сама постановка вопроса показательна.

Почему именно молоко

Сравнение выбрано точно. Молоко проходит стандарты переработки, контроль качества и маркировку. Стиральная машина получает сертификацию по электробезопасности ещё до выхода на полки. У обычного покупателя есть понятный набор гарантий: если товар опасен, есть стандарт, на который можно сослаться, и компания, с которой можно спрашивать.

У ИИ-агентов такой привычной рамки нет. Модель, получившая доступ к почте, облачной консоли или корпоративной базе, может совершать действия с реальными последствиями. При этом требования к её тестированию, остановке и расследованию инцидентов в большинстве юрисдикций остаются фрагментарными. В ЕС действует AI Act, принятый в 2024 году, но он строится вокруг категорий риска, а не вокруг агентных сценариев.

Что предлагает Смит

Из доступных данных вырисовываются два пункта:

• Kill switches. Техническая и организационная возможность быстро остановить систему, если она ведёт себя опасно.
• Обязанность перед жертвой. Если ИИ-агент взломал чужую систему, у пострадавшего должно быть юридическое право требовать защиты или компенсации.
• Общий принцип. Требования к безопасности ИИ должны быть сопоставимы с требованиями к обычным потребительским товарам.

Отдельно стоит сказать о «рубильниках». Идея не нова: в 2023 году Смит уже говорил о «тормозах безопасности» (safety brakes) для ИИ, управляющего критической инфраструктурой. Теперь акцент смещается на агентов, которые действуют автономно и могут причинить вред третьим лицам.

Вопрос, на который нет ответа

Главная сложность в цепочке ответственности. За действия агента могут отвечать разработчик базовой модели, поставщик платформы, компания, настроившая агента, или конечный пользователь. Пока законодатели не определят, как делить эту ответственность, каждый участник будет перекладывать риск на другого. Условия лицензий уже сегодня стараются снять с вендоров большую часть претензий.

Есть и коммерческий контекст. Microsoft продаёт агентные продукты, включая Copilot и инструменты для создания корпоративных агентов. Чёткие правила выгодны крупным игрокам: у них есть юристы, аудиторы и ресурсы на комплаенс, а вход для небольших команд становится дороже. Это не отменяет правоты Смита в том, что вакуум в регулировании реален, но объясняет, почему подобные призывы стоит читать вместе с интересами говорящего.

Что делать командам уже сейчас

Дожидаться закона необязательно. Компаниям, которые разворачивают агентов, имеет смысл заранее сделать несколько вещей:

• ограничить права агента по принципу минимальных привилегий и не давать ему доступ ко всему подряд;
• предусмотреть ручную остановку: кто, как и за сколько минут отключит агента при инциденте;
• вести журнал действий, чтобы можно было восстановить цепочку событий;
• проверить контракты с поставщиками ИИ: кто отвечает за ущерб третьим лицам;
• уточнить у страховщика, покрывает ли полис инциденты с автономными агентами.

Если предложения Смита превратятся в нормы, компании с такими процессами подстроятся быстрее остальных.