Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизНаучная статья · В песочницуSimon Willison→ оригинал

Через одну ссылку на чат можно было угнать аккаунт ChatGPT: OpenAI заплатила $5000

Исследователи Parameter Labs показали, как угнать аккаунт ChatGPT: жертве хватало открыть ссылку на общий чат. Мини-приложение в HTML-превью вырывалось из изолированной «песочницы» через библиотеку MathLive и разрешённый в защите домен YouTube. OpenAI закрыла дыру и выплатила $5000 награды за найденную уязвимость. Если ваш продукт показывает код от ИИ, держите его на отдельном домене.

AI-обработка оригинала Simon Willison; редакция Hamidun News
Через одну ссылку на чат можно было угнать аккаунт ChatGPT: OpenAI заплатила $5000
Источник: Simon Willison. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникSimon Willison ↗
Главный редактор
Ключевой факт #1Атака шла через postMessage и innerHTML в клавиатуре MathLive
Ключевой факт #2Защиту CSP обошли через YouTube oEmbed из списка разрешённых доменов
Ключевой факт #3Уиллисон счёл награду в $5000 слишком скромной для такой дыры

Представьте: вы просто открываете ссылку на чужой чат в ChatGPT, а в этот момент скрипт злоумышленника читает ваши личные данные и может действовать от вашего имени. Именно такую атаку описали исследователи из Parameter Labs. OpenAI уже закрыла дыру и выплатила им $5000 по программе bug bounty. Так компании платят независимым специалистам за найденные и аккуратно переданные уязвимости. Разбор заметил Саймон Уиллисон, и для всех, кто выводит в продукте код, сгенерированный моделью, это готовый учебный пример.

Что именно сломали

Речь о функции, которую OpenAI раньше называла Canvas, а теперь называет HTML previews. Модель пишет маленькое веб-приложение, и оно запускается прямо в диалоге, внутри изолированного фрейма (sandboxed iframe). Изоляция нужна, чтобы чужой код не мог обращаться к API OpenAI и читать приватные данные. Это как гость, которого пустили в одну комнату: играть можно, а ключей от остального дома у него нет.

Взломщики не нашли одной громкой дыры. Они собрали цепочку из нескольких мелких слабостей, и каждая по отдельности выглядела безобидно.

Как работала цепочка

Первое звено — библиотека MathLive, которую ChatGPT использует для графиков. У неё есть собственная виртуальная клавиатура. Родительская страница принимает для неё сообщения через postMessage(). Это стандартный способ, которым окна и фреймы в браузере передают друг другу данные. Защиты от того, чтобы вызвать этот механизм из другого изолированного фрейма, в том числе из HTML-превью, не было.

Второе звено — обработчик этих сообщений. Он записывал полученное через innerHTML, поэтому любой отправитель мог добавить на страницу ChatGPT свой HTML. Сам innerHTML скрипты напрямую не запускает. Зато через него можно вставить новый iframe уже без ограничений песочницы.

Третье звено — политика безопасности контента (CSP). Это список правил, которые говорят браузеру, какие скрипты можно выполнять. У OpenAI она полностью запрещала встроенные скрипты и разрешала подгрузку только с нескольких доменов. Один из них — YouTube, а его endpoint oEmbed умел отражать переданный JavaScript так, что браузер его исполнял. Так атакующие получили выполнение своего кода на странице ChatGPT.

Дальше всё было просто. Скрипт запрашивал приватные данные пользователя через API ChatGPT и отправлял их наружу, например через обращение к картинке на сервере атакующего. Он мог и выполнять действия от имени жертвы. Сценарий: создаётся ссылка на общий чат, другой авторизованный пользователь открывает её, и его данные уходят злоумышленнику.

Что делать разработчикам

OpenAI закрыла уязвимость. Уиллисон считает $5000 скромной суммой для такой серьёзной проблемы. Причина понятна: ссылками на чаты люди делятся постоянно, и для атаки не нужно ничего, кроме клика.

Практические выводы для тех, кто делает ИИ-продукты с генерируемым кодом:

  • Запускайте такие превью на отдельном домене, а не на основном домене приложения. Тогда даже вырвавшийся код не получит cookie и доступ к API вашего сервиса.
  • Проверяйте источник и формат каждого postMessage и не используйте innerHTML для данных извне.
  • Относитесь к списку разрешённых доменов в CSP как к поверхности атаки. Один «безобидный» домен с отражающим endpoint-ом сводит защиту на нет.
  • Сторонние библиотеки вроде MathLive тоже входят в вашу границу доверия. Проверяйте, какие каналы связи с родительской страницей они открывают.

Есть и честная оговорка. В разборе нет данных о том, использовали ли уязвимость злоумышленники до исправления. Детали известны со слов самих исследователей и из пересказа Уиллисона. Но урок ясен и так: песочница для кода от ИИ должна быть отделена от самого приложения, а не только настроена внутри него.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что именно сломали?

Речь о функции, которую OpenAI раньше называла Canvas, а теперь называет HTML previews. Модель пишет маленькое веб-приложение, и оно запускается прямо в диалоге, внутри изолированного фрейма (sandboxed iframe). Изоляция нужна, чтобы чужой код не мог обращаться к API OpenAI и читать приватные данные. Это как гость, которого пустили в одну комнату: играть можно, а ключей от остального дома у него нет. Взломщики не нашли одной громкой дыры.

Что известно по теме: как работала цепочка?

Первое звено — библиотека MathLive, которую ChatGPT использует для графиков. У неё есть собственная виртуальная клавиатура. Родительская страница принимает для неё сообщения через postMessage(). Это стандартный способ, которым окна и фреймы в браузере передают друг другу данные. Защиты от того, чтобы вызвать этот механизм из другого изолированного фрейма, в том числе из HTML-превью, не было. Второе звено — обработчик этих сообщений.

Что известно по теме: что делать разработчикам?

OpenAI закрыла уязвимость. Уиллисон считает $5000 скромной суммой для такой серьёзной проблемы. Причина понятна: ссылками на чаты люди делятся постоянно, и для атаки не нужно ничего, кроме клика. Практические выводы для тех, кто делает ИИ-продукты с генерируемым кодом: Запускайте такие превью на отдельном домене, а не на основном домене приложения. Тогда даже вырвавшийся код не получит cookie и доступ к API вашего сервиса.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…