Амодеи согласился: государство должно иметь право блокировать опасные ИИ

Дарио Амодеи, генеральный директор Anthropic, на этой неделе сделал неожиданное заявление: правительства должны иметь право ограничивать распространение определённых ИИ-моделей, если они представляют потенциальную угрозу для безопасности. Это признание стало заметным сдвигом позиции компании.

Что изменилось в позиции

Anthropic Раньше Anthropic получила известность именно отказом от сотрудничества с властями. Компания отклонила контракты с Пентагоном и другими государственными организациями, ссылаясь на этические соображения и необходимость защиты публичных интересов. Амодеи позиционировал фирму как принципиального защитника от государственной машины. Но сейчас лидер компании признал, что абсолютное сопротивление любому государственному вмешательству — неправильный подход. Амодеи указывает на то, что в отношении действительно опасных ИИ-моделей нужно делать исключения из общего правила невмешательства. Речь идёт о балансе между инновациями и безопасностью.

Какие ИИ требуют государственного ограничения

По словам Амодеи, опасными и подлежащими ограничению считаются модели, которые: Могут быть использованы для биохимического синтеза опасных патогенов или разработки оружия Содержат критические уязвимости, позволяющие пользователям обойти встроенные ограничения безопасности Способны управлять критической инфраструктурой (энергосистемы, водоснабжение, транспорт, связь) Демонстрируют нежелательные способности, которые невозможно исправить после развёртывания Амодеи отметил, что в 2026 году такие модели — всё ещё редкость, но по мере масштабирования ИИ число потенциальных рисков неизбежно растёт. Именно поэтому сейчас важно выработать правильный подход к регулированию.

Государство против рисков: как регулировать, не цензурируя

Признание необходимости госконтроля вызывает сложный вопрос: как отличить справедливое регулирование от цензуры и политического контроля? Амодеи предлагает компромиссный механизм — прозрачный процесс с участием независимых экспертов и открытыми критериями, по которым модель может быть заблокирована. Такой подход отличается от секретных «чёрных списков», которые критики часто называют инструментом подавления. В идеальном сценарии Амодеи компании и правительства работают совместно на основе согласованных стандартов безопасности.

«Мы не можем позволить себе игнорировать реальные риски только потому, что боялись государственного контроля», — говорит

Амодеи.

Что это значит для индустрии

Этот сдвиг позиции от главы Anthropic сигнализирует о растущей зрелости ИИ-индустрии. Эпоха, когда компании действовали как полностью независимые игроки, заканчивается. Ожидается, что в течение 2026 года к аналогичным выводам придут OpenAI, Google DeepMind и другие лаборатории.