Основатель Moderna потребовал срочно регулировать ИИ-агентов до первой катастрофы

Нубар Афеян, сооснователь Moderna и миллиардер из мира биотеха, призвал срочно регулировать ИИ-агентов, которых технологические компании уже продают клиентам. Его довод взят из опыта собственной отрасли: если ждать катастрофы, чтобы потом писать правила, повторится история лекарственной индустрии. Об этом сообщает Bloomberg.

Заметка короткая. Что именно предлагает Афеян (какие требования, какой регулятор, в какие сроки), в доступном тексте не раскрыто. Поэтому ниже только то, что известно наверняка, и объяснение, почему сравнение с фармой выбрано не случайно.

Кто говорит и почему к нему прислушаются

Афеян — сооснователь и председатель Moderna, а также основатель венчурной студии Flagship Pioneering. Он знает, как выглядит путь продукта от лаборатории до массового рынка под надзором таких регуляторов, как FDA. Среди компаний Flagship есть и те, что применяют ИИ в разработке лекарств. Это голос человека из жёстко регулируемой отрасли, который при этом заинтересован в развитии технологии.

Чему учит история фармы

Фармацевтические нормы редко появлялись заранее. Обычно им предшествовала трагедия.

• 1937 год, США: препарат Elixir Sulfanilamide, растворитель в котором был токсичным, унёс более сотни жизней. Следом приняли закон 1938 года, обязавший производителей доказывать безопасность до выхода на рынок.
• Конец 1950-х, начало 1960-х: талидомид вызвал пороки развития у тысяч детей по всему миру. В США ответом стали поправки Кефовера и Харриса 1962 года, добавившие требование доказывать эффективность препарата.

В обоих случаях система надзора создавалась по следам вреда. Афеян, судя по сообщению Bloomberg, предлагает не дожидаться такого же сценария для ИИ.

Почему агенты отличаются от чат-ботов

Чат-бот выдаёт текст, и человек решает, что с ним делать. Агент действует сам: совершает покупки, пишет и запускает код, отправляет письма, получает доступ к корпоративным системам и учётным записям. Ошибка модели здесь превращается в действие, которое не всегда удаётся отменить. Чем больше полномочий получает агент, тем выше цена сбоя, и тем сложнее разобраться, кто за него отвечает: разработчик модели, поставщик платформы или компания, которая внедрила продукт.

Специальных требований именно к агентам в большинстве юрисдикций пока немного. Общие рамки для ИИ существуют, но они писались для моделей и систем в целом, а не для программ, которые самостоятельно выполняют цепочки действий.

Ключевые факты

• Кто: Нубар Афеян, сооснователь Moderna, основатель Flagship Pioneering.
• Что требует: срочного регулирования ИИ-агентов, которых продают технологические компании.
• Аргумент: ожидание катастрофы повторит ошибки фармы.
• Источник: Bloomberg, 13 октября 2026 года.
• Не раскрыто: конкретные меры, регулятор и сроки.

Что делать компаниям, которые уже внедряют агентов

Дожидаться закона необязательно, фарма подсказывает рабочие практики и сейчас.

Первое: ограничивайте права. Агент должен получать минимум доступов, а необратимые операции вроде платежей, удаления данных и отправки внешних писем должны требовать подтверждения человека.

Второе: ведите журнал. Каждое действие агента нужно записывать так, чтобы после сбоя можно было восстановить цепочку решений.

Третье: запускайте поэтапно. По аналогии с фазами клинических испытаний начинайте с узкой задачи и ограниченной группы пользователей, а расширяйте зону ответственности только после проверки на реальных данных.

Четвёртое: заранее определите, кто отвечает за ущерб, и пропишите это в договорах с поставщиками. Если регулирование придёт, компании с готовым аудитом и понятной ответственностью окажутся в выигрыше.