Через OpenRouter три дня отвечала взломанная DeepSeek: отказы упали с 83–98% до 1%
OpenRouter, сервис-посредник между разработчиками и провайдерами моделей, сообщил: с 8 по 10 ноября Prime Intellect вместо DeepSeek V4.1 Flash отдавал взломанную копию. В ней вырезали отказы — случаи, когда модель отвечает на вредный запрос «так делать не буду»: их доля упала с 83–98% до около 1%. Подмену, по словам Prime Intellect, сделал атакующий с админ-доступом. Поэтому через роутеры лучше закреплять провайдера и не считать чужой инференс доверенным.
AI-обработка оригинала X: @hackedpodcast; редакция Hamidun News
Представьте, что вы подключили в продукт модель DeepSeek через OpenRouter. Это сервис-роутер: вы шлёте запрос в один API, а он сам выбирает, на чьих GPU его выполнить. Ответы выглядят нормально, формат и цена прежние. Но на другом конце может работать совсем другая версия модели. Именно такой случай описал OpenRouter в письме клиентам: с 8 по 10 ноября провайдер Prime Intellect, который запускает DeepSeek V4.1 Flash на своих серверах, отдавал взломанную копию без защитных отказов. Отказы здесь — это доля вредных запросов, на которые модель отвечает «так делать не буду». У оригинала она составляла 83–98%, у копии упала до примерно 1%.
Что произошло
По тексту письма, endpoint Prime Intellect для DeepSeek V4.1 Flash три дня работал с изменённой моделью. Из неё убрали отказы, то есть те самые срабатывания защиты. Prime Intellect утверждает, что подмену выполнил атакующий, получивший админ-доступ.
Масштаб изменений компания оценила сама. На стандартных бенчмарках с вредными запросами оригинальная модель отказывалась в 83–98% случаев. У подменённой копии отказы случались примерно в 1% запросов. Для клиента это значит, что любая защитная настройка, которую он считал частью модели, на эти трое суток фактически отсутствовала.
Есть важная деталь. Пользователь обращался к OpenRouter, а не напрямую к Prime Intellect. Роутер выбирал провайдера, и проверить, чьи веса стоят на конкретной GPU, клиент не мог. Ответ приходил в привычном формате и под привычным названием модели.
Что известно о данных пользователей
По словам OpenRouter, доказательств того, что промпты записывали или отправляли наружу, нет. Но в письме прямо сказано: исключить, что запросы читали во время обработки, нельзя. Если у злоумышленника был админ-доступ к серверу, где крутится модель, то в момент инференса (когда модель отвечает на запрос) текст лежит там в открытом виде. Шифрование при передаче от этого не спасает.
Это не единичный эпизод. Автор поста ссылается на отчёт Phala об инциденте в том же месяце: по нему, атакующий мог читать запросы к DeepSeek V4 Flash, которые OpenRouter направлял на её инфраструктуру. Подробностей отчёта в источнике нет, поэтому масштаб того случая оценить нельзя. Но два инцидента с одной и той же моделью за ноябрь складываются в картину: цепочка из роутера и сторонних провайдеров стала привлекательной целью.
Что делать разработчикам
Идея роутера в том, чтобы не думать, на чьём железе отвечает модель. Этот случай показывает, что думать приходится. Практические выводы такие:
- Закрепляйте провайдера. Если вашему продукту важна предсказуемость, не оставляйте выбор поставщика роутеру. Укажите конкретных, которым вы доверяете, и отключите автоматический перебор.
- Просите проверяемые веса. Надёжнее всего, когда провайдер может подтвердить, что запущена именно заявленная модель, а не её модификация. Пока такой механизм не стал стандартом, это повод задавать вопросы поставщикам.
- Меняйте секреты. Если через затронутые endpoint'ы уходили ключи, токены, персональные данные или внутренние документы, их стоит заменить. Раз чтение нельзя исключить, безопаснее считать данные раскрытыми.
- Не опирайтесь на отказы модели как на единственную защиту. Если фильтры живут только внутри весов, их можно вырезать. Модерацию входа и выхода лучше держать на своей стороне.
- Тестируйте поведение. Небольшой набор контрольных запросов, который регулярно прогоняется через продакшн-маршрут, заметил бы резкий скачок с 90% отказов до 1%.
Ограничения
Источник здесь вторичный: это пост подкаста о безопасности, который пересказывает письмо OpenRouter и ссылается на отчёт Phala. Цифры про отказы взяты из собственных тестов Prime Intellect, независимой проверки в материале нет. Неизвестно, сколько клиентов и сколько запросов попало в окно с 8 по 10 ноября. Нет и данных о том, использовал ли кто-нибудь подменённую модель во вред.
Вывод простой и неудобный: пока провайдер не доказал обратное, маршрутизируемый инференс стоит считать недоверенной средой. Для прототипа это терпимо. Для продукта, который отправляет через такой API клиентские данные, уже нет.
- 21 нояб. 2026 г.MLCommons начал мерить ИИ-API под реальной нагрузкой: 7 замеров для агентов
- 21 нояб. 2026 г.Алиса, ChatGPT и Perplexity ссылаются лишь на 34 из 309 площадок для статей
- 21 нояб. 2026 г.CoreWeave замерила Vera Rubin: до 10 раз больше токенов на мегаватт, чем у GB200
- 21 нояб. 2026 г.GPT-6 Astra стала отмечать цели для дронов в 92% запросов вместо 6% после фразы «это игра»
Вопросы и ответы по материалу
Что известно по теме: что произошло?
По тексту письма, endpoint Prime Intellect для DeepSeek V4.1 Flash три дня работал с изменённой моделью. Из неё убрали отказы, то есть те самые срабатывания защиты. Prime Intellect утверждает, что подмену выполнил атакующий, получивший админ-доступ. Масштаб изменений компания оценила сама. На стандартных бенчмарках с вредными запросами оригинальная модель отказывалась в 83–98% случаев. У подменённой копии отказы случались примерно в 1% запросов.
Что известно по теме: что известно о данных пользователей?
По словам OpenRouter, доказательств того, что промпты записывали или отправляли наружу, нет. Но в письме прямо сказано: исключить, что запросы читали во время обработки, нельзя. Если у злоумышленника был админ-доступ к серверу, где крутится модель, то в момент инференса (когда модель отвечает на запрос) текст лежит там в открытом виде. Шифрование при передаче от этого не спасает. Это не единичный эпизод.
Что известно по теме: что делать разработчикам?
Идея роутера в том, чтобы не думать, на чьём железе отвечает модель. Этот случай показывает, что думать приходится. Практические выводы такие: Закрепляйте провайдера. Если вашему продукту важна предсказуемость, не оставляйте выбор поставщика роутеру. Укажите конкретных, которым вы доверяете, и отключите автоматический перебор. Просите проверяемые веса. Надёжнее всего, когда провайдер может подтвердить, что запущена именно заявленная модель, а не её модификация.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.