OpenAI защитила рассуждения GPT-6.2 Astra: успех кражи упал с 54% до 0,2%
Если гонять сильную модель через API и обучать на её ответах свою, копия получит навыки без запретов, например помощь в кибератаках. OpenAI закрывает этот путь для цепочек рассуждений — скрытых шагов модели перед ответом. В тесте с автоматическими атакующими успех извлечения рассуждений из прошлого запроса упал с 54,0% у GPT-6 Astra до 0,2% у GPT-6.2 Astra. Если отдаёте модель через API, проверяйте утечки и в аргументах вызова инструментов.
AI-обработка оригинала OpenAI Blog; редакция Hamidun News
Представьте, что вы годами строите дорогую модель с жёсткими ограничениями: она помогает защитникам искать уязвимости в коде, но отказывается помогать с реальными атаками. А потом кто-то массово гоняет её через API, собирает ответы и обучает на них собственную модель. Навыки скопированы, а ограничения нет.
OpenAI называет это состязательной дистилляцией и 20 ноября рассказала, как с ней борется. Главная цифра: в тесте, где автоматические ИИ-атакующие пытались вытянуть из модели её скрытые рассуждения из предыдущего запроса, доля успешных атак упала с 54,0% у GPT-6 Astra до 0,2% у GPT-6.2 Astra.
Эта доля в исходнике названа ASR, то есть долей успешных атак: чем она ниже, тем лучше защита. Если вы отдаёте модель наружу через API, это руководство к действию: рассуждения нужно защищать так же, как финальные ответы.
Зачем красть «мысли», а не ответы
Дистилляция сама по себе обычная техника: одна модель («ученик») учится на данных другой («учителя»), например на её ответах, рассуждениях или оценках того, какие ответы лучше. Проблемы начинаются, когда это делают без разрешения. Кроме вопросов интеллектуальной собственности, ученик перенимает возможности, но не наследует защитные ограничения. Особенно опасно в двойных областях вроде кибербезопасности и биологии: модель, которая помогает находить уязвимости, может помочь и эксплуатировать их.
Особый интерес для атакующих представляют цепочки рассуждений: промежуточные шаги, которые модель генерирует внутри себя, прежде чем ответить. В них бывает информация, которой нет в финальном тексте, поэтому это ценные обучающие данные.
OpenAI проверила это на кибернавыках. Один и тот же предобученный ученик прошёл дообучение на траекториях моделей уровня Astra: задачи по программированию и защитной кибербезопасности со всеми шагами, вызовами инструментов и финальными ответами. Базовым вариантом считали то, что обычно видит пользователь: ответы, краткие пересказы рассуждений и работу с инструментами. Его сравнили с учеником, получившим точные цепочки рассуждений.
После обычного дообучения ученик на точных цепочках в целом оказался сильнее ученика на пересказах. После лёгкого раунда обучения с подкреплением в кибер- и кодинг-средах он по-прежнему выигрывал при самом большом бюджете на вывод на обоих показанных тестах, а ученик на пересказах лидировал при меньших бюджетах. Вывод компании: защита точных цепочек может ограничивать перенос кибернавыков, даже если исходные задачи разрешены политикой. Сколько именно навыков переносится на других учеников и при других рецептах обучения, OpenAI ещё изучает.
Как устроена защита
Защита работает на двух уровнях. Первый, уровень запроса:
- модель дообучают на реальных успешных атаках из внутреннего автоматического red-teaming, расследований и сообщений внешних исследователей: она отказывается раскрывать защищённые рассуждения, но продолжает нормально объяснять решения по законной просьбе;
- входные классификаторы ловят попытки вытянуть рассуждения, а выходные ищут утечки в сообщениях ассистента и в аргументах вызова инструментов, в потоковых и непотоковых ответах. Аргументы важны, потому что модель может «выложить» рассуждения туда, а в финальном ответе их не будет;
- в API защищённые рассуждения привязаны к истории диалога. Если более раннее сообщение переписали, API отбрасывает рассуждения, которые шли после него. Старые семейства моделей со слабой защитой не могут читать рассуждения GPT-6.2 Astra и Sol. Усилены и границы между пользователями, рабочими пространствами, организациями и семействами моделей, а ещё закрыт путь, который мог раскрыть чужие зашифрованные рассуждения.
Второй уровень, уровень кампании. OpenAI ищет закономерности в сигналах запросов и аккаунтов, выдающие скоординированное извлечение, и блокирует целые сети аккаунтов. Каждый разобранный случай становится примером для обучения и тестов защиты, а индикаторы компрометации компания передаёт другим провайдерам. По её данным, еженедельные блокировки охватывают от тысяч до десятков тысяч аккаунтов, и этим летом темп заметно вырос.
Что показали измерения
Проверка шла в адаптивном тесте «чёрного ящика»: атакующие видят систему так же, как внешний пользователь, и подстраивают приёмы под её ответы. Это находит слабости, которые пропускают статические тесты с фиксированным набором старых атак. Результат усреднён по шести моделям-атакующим. Для извлечения рассуждений из предыдущего запроса успех упал с 54,0% у GPT-6 Astra до 0,2% у GPT-6.2 Astra. Для текущего запроса упал с 22,9% до 0,9%. Часть улучшений защиты OpenAI теперь применяет и к GPT-6 Astra.
Оговорки такие: это внутренняя оценка самой компании, и она измеряет устойчивость к известным классам атак, а не к будущим.
OpenAI также называет дистилляцию вопросом национальной безопасности: иностранный актор, воспроизведший возможности американской модели, может развернуть их без защит. В феврале компания информировала Конгресс о признаках попыток DeepSeek дистиллировать американские передовые модели.
Практический вывод для тех, кто выдаёт модели через API: проверяйте утечки рассуждений в сообщениях и аргументах инструментов, не позволяйте переиспользовать зашифрованные рассуждения между диалогами и моделями, сохраняйте найденные атаки как регрессионные тесты и дополняйте защиту запросов поиском кампаний по аккаунтам. Сырые рассуждения модели ценнее почти всего остального, что отдаёт ваш API, поэтому относиться к ним стоит как к чувствительным данным.
- 20 нояб. 2026 г.Nvidia вложила $58,1 млрд в чужие компании за 9 месяцев — в 12 раз больше, чем год назад
- 20 нояб. 2026 г.METR обновил известный график ИИ: длина задач удваивается за 4 месяца, но суждение хромает
- 20 нояб. 2026 г.ИИ собирает молекулы на 95,4% баллов, но в выборе кандидатов в лекарства — лишь около 50%
- 20 нояб. 2026 г.Nvidia близка к покупке Inception за $500 млн ради диффузионных LLM
Вопросы и ответы по материалу
Что известно по теме: зачем красть «мысли», а не ответы?
Дистилляция сама по себе обычная техника: одна модель («ученик») учится на данных другой («учителя»), например на её ответах, рассуждениях или оценках того, какие ответы лучше. Проблемы начинаются, когда это делают без разрешения. Кроме вопросов интеллектуальной собственности, ученик перенимает возможности, но не наследует защитные ограничения. Особенно опасно в двойных областях вроде кибербезопасности и биологии: модель, которая помогает находить уязвимости, может помочь и эксплуатировать их.
Что известно по теме: как устроена защита?
Защита работает на двух уровнях. Первый, уровень запроса: модель дообучают на реальных успешных атаках из внутреннего автоматического red-teaming, расследований и сообщений внешних исследователей: она отказывается раскрывать защищённые рассуждения, но продолжает нормально объяснять решения по законной просьбе; входные классификаторы ловят попытки вытянуть рассуждения, а выходные ищут утечки в сообщениях ассистента и в аргументах вызова инструментов, в потоковых и непотоковых ответах.
Что известно по теме: что показали измерения?
Проверка шла в адаптивном тесте «чёрного ящика»: атакующие видят систему так же, как внешний пользователь, и подстраивают приёмы под её ответы. Это находит слабости, которые пропускают статические тесты с фиксированным набором старых атак. Результат усреднён по шести моделям-атакующим. Для извлечения рассуждений из предыдущего запроса успех упал с 54,0% у GPT-6 Astra до 0,2% у GPT-6.2 Astra. Для текущего запроса упал с 22,9% до 0,9%. Часть улучшений защиты OpenAI теперь применяет и к GPT-6 Astra.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.