Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоРазбор · На радарX: @hackedpodcast→ оригинал

Через OpenRouter три дня отвечала взломанная DeepSeek: отказы упали с 83–98% до 1%

OpenRouter, сервис-посредник между разработчиками и провайдерами моделей, сообщил: с 8 по 10 ноября Prime Intellect вместо DeepSeek V4.1 Flash отдавал взломанную копию. В ней вырезали отказы — случаи, когда модель отвечает на вредный запрос «так делать не буду»: их доля упала с 83–98% до около 1%. Подмену, по словам Prime Intellect, сделал атакующий с админ-доступом. Поэтому через роутеры лучше закреплять провайдера и не считать чужой инференс доверенным.

AI-обработка оригинала X: @hackedpodcast; редакция Hamidun News
Через OpenRouter три дня отвечала взломанная DeepSeek: отказы упали с 83–98% до 1%
Источник: X: @hackedpodcast. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @hackedpodcast ↗
Главный редактор
Ключевой факт #1Цифры про отказы — из собственных тестов Prime Intellect
Ключевой факт #2Читали ли запросы при обработке, исключить нельзя, записи не нашли
Ключевой факт #3Phala в ноябре тоже сообщала, что запросы к DeepSeek V4 Flash могли читать

Представьте, что вы подключили в продукт модель DeepSeek через OpenRouter. Это сервис-роутер: вы шлёте запрос в один API, а он сам выбирает, на чьих GPU его выполнить. Ответы выглядят нормально, формат и цена прежние. Но на другом конце может работать совсем другая версия модели. Именно такой случай описал OpenRouter в письме клиентам: с 8 по 10 ноября провайдер Prime Intellect, который запускает DeepSeek V4.1 Flash на своих серверах, отдавал взломанную копию без защитных отказов. Отказы здесь — это доля вредных запросов, на которые модель отвечает «так делать не буду». У оригинала она составляла 83–98%, у копии упала до примерно 1%.

Что произошло

По тексту письма, endpoint Prime Intellect для DeepSeek V4.1 Flash три дня работал с изменённой моделью. Из неё убрали отказы, то есть те самые срабатывания защиты. Prime Intellect утверждает, что подмену выполнил атакующий, получивший админ-доступ.

Масштаб изменений компания оценила сама. На стандартных бенчмарках с вредными запросами оригинальная модель отказывалась в 83–98% случаев. У подменённой копии отказы случались примерно в 1% запросов. Для клиента это значит, что любая защитная настройка, которую он считал частью модели, на эти трое суток фактически отсутствовала.

Есть важная деталь. Пользователь обращался к OpenRouter, а не напрямую к Prime Intellect. Роутер выбирал провайдера, и проверить, чьи веса стоят на конкретной GPU, клиент не мог. Ответ приходил в привычном формате и под привычным названием модели.

Что известно о данных пользователей

По словам OpenRouter, доказательств того, что промпты записывали или отправляли наружу, нет. Но в письме прямо сказано: исключить, что запросы читали во время обработки, нельзя. Если у злоумышленника был админ-доступ к серверу, где крутится модель, то в момент инференса (когда модель отвечает на запрос) текст лежит там в открытом виде. Шифрование при передаче от этого не спасает.

Это не единичный эпизод. Автор поста ссылается на отчёт Phala об инциденте в том же месяце: по нему, атакующий мог читать запросы к DeepSeek V4 Flash, которые OpenRouter направлял на её инфраструктуру. Подробностей отчёта в источнике нет, поэтому масштаб того случая оценить нельзя. Но два инцидента с одной и той же моделью за ноябрь складываются в картину: цепочка из роутера и сторонних провайдеров стала привлекательной целью.

Что делать разработчикам

Идея роутера в том, чтобы не думать, на чьём железе отвечает модель. Этот случай показывает, что думать приходится. Практические выводы такие:

  • Закрепляйте провайдера. Если вашему продукту важна предсказуемость, не оставляйте выбор поставщика роутеру. Укажите конкретных, которым вы доверяете, и отключите автоматический перебор.
  • Просите проверяемые веса. Надёжнее всего, когда провайдер может подтвердить, что запущена именно заявленная модель, а не её модификация. Пока такой механизм не стал стандартом, это повод задавать вопросы поставщикам.
  • Меняйте секреты. Если через затронутые endpoint'ы уходили ключи, токены, персональные данные или внутренние документы, их стоит заменить. Раз чтение нельзя исключить, безопаснее считать данные раскрытыми.
  • Не опирайтесь на отказы модели как на единственную защиту. Если фильтры живут только внутри весов, их можно вырезать. Модерацию входа и выхода лучше держать на своей стороне.
  • Тестируйте поведение. Небольшой набор контрольных запросов, который регулярно прогоняется через продакшн-маршрут, заметил бы резкий скачок с 90% отказов до 1%.

Ограничения

Источник здесь вторичный: это пост подкаста о безопасности, который пересказывает письмо OpenRouter и ссылается на отчёт Phala. Цифры про отказы взяты из собственных тестов Prime Intellect, независимой проверки в материале нет. Неизвестно, сколько клиентов и сколько запросов попало в окно с 8 по 10 ноября. Нет и данных о том, использовал ли кто-нибудь подменённую модель во вред.

Вывод простой и неудобный: пока провайдер не доказал обратное, маршрутизируемый инференс стоит считать недоверенной средой. Для прототипа это терпимо. Для продукта, который отправляет через такой API клиентские данные, уже нет.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что произошло?

По тексту письма, endpoint Prime Intellect для DeepSeek V4.1 Flash три дня работал с изменённой моделью. Из неё убрали отказы, то есть те самые срабатывания защиты. Prime Intellect утверждает, что подмену выполнил атакующий, получивший админ-доступ. Масштаб изменений компания оценила сама. На стандартных бенчмарках с вредными запросами оригинальная модель отказывалась в 83–98% случаев. У подменённой копии отказы случались примерно в 1% запросов.

Что известно по теме: что известно о данных пользователей?

По словам OpenRouter, доказательств того, что промпты записывали или отправляли наружу, нет. Но в письме прямо сказано: исключить, что запросы читали во время обработки, нельзя. Если у злоумышленника был админ-доступ к серверу, где крутится модель, то в момент инференса (когда модель отвечает на запрос) текст лежит там в открытом виде. Шифрование при передаче от этого не спасает. Это не единичный эпизод.

Что известно по теме: что делать разработчикам?

Идея роутера в том, чтобы не думать, на чьём железе отвечает модель. Этот случай показывает, что думать приходится. Практические выводы такие: Закрепляйте провайдера. Если вашему продукту важна предсказуемость, не оставляйте выбор поставщика роутеру. Укажите конкретных, которым вы доверяете, и отключите автоматический перебор. Просите проверяемые веса. Надёжнее всего, когда провайдер может подтвердить, что запущена именно заявленная модель, а не её модификация.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…