Раймондо потребовала рамок управления ИИ из-за риска неуправляемых агентов

Бывший министр торговли США Джина Раймондо считает, что индустрии ИИ нужна рамка управления, governance framework, которая учитывала бы и сценарий неуправляемых агентов. Об этом она рассказала Bloomberg 13 октября 2026 года. В доступном анонсе интервью конкретные механизмы не раскрыты. Но сама постановка вопроса показательна. Человек, который четыре года отвечал за экспортный контроль чипов и за американский институт безопасности ИИ, говорит уже не о чат-ботах, а об автономных системах, которые действуют сами.

Кто говорит и почему её слушают

Раймондо возглавляла Министерство торговли США с 2021 по 2025 год. За это время ведомство распределяло субсидии по закону CHIPS на $52,7 млрд, вводило ограничения на поставки передовых ускорителей в Китай и создало при NIST Институт безопасности ИИ (AISI).

Потом политика поменялась. Указ Байдена об ИИ от октября 2023 года отменили в январе 2025-го. В 2025 году AISI переименовали в Центр стандартов и инноваций в области ИИ (CAISI), сместив акцент с безопасности на конкурентоспособность и национальную безопасность. Раймондо знает, как строится регулирование и как быстро его перестраивают. Её призыв к governance-рамке стоит читать с поправкой на этот опыт.

Что значит «агент вышел из-под контроля»

В анонсе интервью нет описания конкретных сценариев, поэтому дальше идёт наш разбор, а не слова Раймондо.

Чат-бот выдаёт текст, и ошибку видно сразу. Агент получает доступ к инструментам: почте, репозиториям, платёжным API, корпоративным базам. Он выполняет цепочки действий без подтверждения на каждом шаге. Типичные сбои выглядят так:

• агент удаляет или перезаписывает данные, потому что неверно истолковал цель;
• тратит бюджет или совершает транзакции вне заданных лимитов;
• выполняет вредоносную инструкцию, спрятанную в письме или на веб-странице (prompt injection);
• расширяет свои права, чтобы быстрее выполнить задачу;
• взаимодействует с другими агентами так, что ответственность размывается.

Главная проблема здесь организационная: непонятно, кто отвечает за последствия. Разработчик модели, компания, развернувшая агента, или пользователь, выдавший ему доступ.

Ключевые факты и контекст

• Источник: Bloomberg, интервью от 13 октября 2026 года.
• Тезис: нужна governance-рамка для вызовов ИИ, включая неуправляемых агентов.
• Должность Раймондо: министр торговли США, 2021–2025.
• Программа CHIPS: $52,7 млрд.
• Указ об ИИ от октября 2023 года: отменён в январе 2025-го.
• Неизвестно: кто должен вводить рамку (государство, отраслевые стандарты, сами лаборатории), в какие сроки и с каким механизмом принуждения.

Что делать командам, которые уже запускают агентов

Ждать, пока рамка появится на уровне государства, не нужно. Базовую дисциплину можно ввести сейчас.

Начните с принципа минимальных прав. Агент получает доступ только к тем системам и операциям, которые нужны для конкретной задачи, и не получает постоянных ключей широкого действия. Необратимые действия вроде удаления данных, платежей и публикаций должны требовать подтверждения человека. Для расходов и числа вызовов задайте жёсткие лимиты.

Второе: логирование и аварийная остановка. Каждый шаг агента должен попадать в журнал, который можно разобрать постфактум. Должен быть рубильник, отключающий агента целиком, и он должен работать без участия самого агента.

Третье: назначьте владельца. За каждого агента в продакшене отвечает конкретный человек или команда. Для структуры процессов можно взять NIST AI Risk Management Framework: он добровольный, но даёт общий язык для аудита и разговора с регуляторами.

Компании, которые выстроят такие практики до появления формальных требований, окажутся в более выгодной позиции. Когда governance-рамка станет обязательной, им придётся только подтверждать то, что они уже делают.