OpenAI предупреждает о новой эре «постоянных» кибератак со стороны ИИ

Старший руководитель OpenAI призвал готовиться к защите от «непрерывных, настойчивых» кибератак со стороны искусственного интеллекта: передовые модели обретают способность самостоятельно планировать и проводить наступательные операции. Заявление Криса Лихейна, директора компании по глобальным вопросам, публикует The Guardian.

«Мы входим в другую главу»

«Мы входим в другую главу, в другой момент развития ИИ — с точки зрения того, на что способна эта технология», — сказал Лихейн в интервью изданию. По его словам, новые стандарты безопасности нужно внедрять уже сейчас, не дожидаясь первых масштабных инцидентов.

Вес заявлению придаёт контекст: на той же неделе OpenAI объявила о паузе в разработке своих самых продвинутых внутренних моделей — на фоне растущих опасений по поводу безопасности. Когда лидер гонки добровольно притормаживает флагманское направление и одновременно публично говорит об ИИ-атаках, это уже не абстрактная футурология, а оценка возможностей систем, которые компания видит в собственных лабораториях.

• Прогноз OpenAI: атаки ИИ станут «непрерывными и настойчивыми»
• Передовые модели учатся планировать и выполнять наступательные операции
• OpenAI одновременно приостановила разработку наиболее продвинутых внутренних моделей

Атакующий ИИ против защищающегося

Сценарий, о котором говорит Лихейн, отличается от привычной киберпреступности масштабом и автономией. Классическая атака ограничена временем и вниманием людей; ИИ-агент способен вести разведку, подбирать уязвимости и адаптировать тактику круглосуточно, параллельно против тысяч целей — и цена одной попытки стремится к нулю.

Индустрия уже выстраивается по обе стороны этой линии фронта. Anthropic на той же неделе направила свою самую мощную модель на задачи киберобороны, предложив защитникам результаты её работы. Складывается симметричная гонка: одни и те же способности моделей усиливают и нападение, и защиту — вопрос лишь в том, кто внедрит их быстрее.

Критики, которых цитирует The Guardian, видят в происходящем горькую иронию: по их оценке, сами AI-компании действуют «безрассудно», выпуская всё более способные системы, — и теперь предупреждают мир об угрозах, которые сами же создают.

Что это значит

Кибербезопасность становится первой отраслью, где ущерб от автономного ИИ перестаёт быть гипотетическим — и первой, где придётся на практике решать, как регулировать технологии двойного назначения. Для бизнеса вывод прикладной: защита, рассчитанная на человеческий темп атак, устареет быстрее, чем ожидалось, и AI-инструменты в обороне из экзотики превращаются в необходимость.

Частые вопросы

Что именно предсказывает OpenAI?

Переход от разовых атак с использованием ИИ к «непрерывным, настойчивым» кампаниям, которые автономные системы ведут без постоянного участия человека — планируя и адаптируя атаки самостоятельно.

Почему OpenAI приостановила разработку внутренних моделей?

Компания сослалась на растущие опасения безопасности вокруг самых продвинутых систем. Пауза совпала с публичными предупреждениями о наступательных способностях ИИ — деталей OpenAI не раскрывает.