Anthropic и OpenAI репетируют реакцию на первую крупную ИИ-катастрофу

Руководство Anthropic, OpenAI и ряда других компаний, работающих с искусственным интеллектом, в частном порядке прогоняет сценарии на случай первого крупномасштабного инцидента, связанного с ИИ. Обсуждают прежде всего реакцию снаружи: как отреагируют общество и политики, когда сбой коснётся миллионов людей. Один из сценариев — кибератака, после которой люди теряют доступ к финансовым услугам и интернету, а в худшем варианте остаются без электричества и воды.

Публичных подробностей немного. Источник не называет цифр, вероятностей и сроков, не раскрывает, какие именно меры готовят компании. Но сам факт таких учений говорит о многом. Индустрия, которая годами рассказывала о рисках в основном языком технических отчётов, теперь репетирует сценарий, где объяснять придётся не исследователям, а законодателям и избирателям.

Что известно на данный момент

• Участники: руководство Anthropic, OpenAI и других ИИ-компаний.
• Формат: закрытые обсуждения, «проигрывание» сценариев.
• Предмет: общественное недовольство и политическая реакция на крупный инцидент.
• Ключевой сценарий: кибератака на финансовые сервисы, интернет, энергосистему и водоснабжение.
• Неизвестно: оценки вероятности, возможные меры защиты, роль государства в этих планах.

Почему в центре внимания именно кибератака

Выбор сценария не случаен. Из всех рисков, которые обсуждают вокруг продвинутых моделей, кибербезопасность самый приземлённый. Для неё не нужны гипотетические сверхспособности: хватает модели, которая пишет код, ищет уязвимости и действует как автономный агент. Обе лаборатории уже встроили этот риск в собственные рамки. У OpenAI кибербезопасность входит в категории Preparedness Framework, у Anthropic есть Responsible Scaling Policy с уровнями безопасности. В ноябре 2025 года Anthropic сама сообщила о кампании, в которой злоумышленники использовали Claude Code для автоматизации значительной части шпионской операции. Это был не катастрофический инцидент, но он показал, куда движется практика.

Критическая инфраструктура добавляет к технической задаче социальную. Банковские платежи, связь, электросети и водоканалы связаны между собой. Сбой в одном звене быстро превращается в каскад, а у людей, оставшихся без денег, связи или воды, не будет интереса разбираться, кто виноват: злоумышленник, разработчик модели или оператор сети.

Политический удар важнее технического

История технологических кризисов показывает: регулирование после громкой катастрофы приходит быстро и редко бывает аккуратным. Если инцидент свяжут с ИИ, под давление попадёт вся отрасль, включая компании, которые к нему не причастны. Среди возможных последствий можно ожидать жёсткие требования к доступу к моделям, обязательную отчётность и ответственность разработчиков. Это логичные предположения, а не заявленные планы компаний.

Поэтому лаборатории готовят не только технические «планы Б», но и коммуникацию, и отношения с регуляторами. Тот, кто первым объяснит случившееся и покажет, что делал заранее, получит больше доверия. Тот, кто промолчит, рискует получить закон, написанный в спешке.

Что делать командам и бизнесу

Учения лабораторий не отменяют собственной подготовки. Если ваш продукт зависит от ИИ-провайдера, стоит проверить несколько вещей:

• Составьте карту зависимостей: какие процессы остановятся, если API недоступен несколько часов или дней.
• Подготовьте резервного провайдера или локальную модель для критичных функций.
• Ограничьте права ИИ-агентов: минимум доступа к платёжным, производственным и инфраструктурным системам, обязательное подтверждение опасных действий человеком.
• Включите в план реагирования на инциденты сценарий «ИИ-компонент скомпрометирован или недоступен» и отработайте его на учениях.
• Сохраняйте ручные процедуры для платежей и связи там, где остановка бьёт по людям.

Главный вывод простой: индустрия сама считает крупный инцидент вопросом «когда», а не «если». Готовиться разумнее заранее, пока сценарий остаётся учебным.