Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarX: @hackedpodcast→ original

Durante tres días, a través de OpenRouter respondió un DeepSeek manipulado: las negativas cayeron del 83–98 % a un 1 %

OpenRouter, el servicio intermediario entre desarrolladores y proveedores de modelos, informó de que, del 8 al 10 de noviembre, Prime Intellect sirvió una copia manipulada de DeepSeek V4.1 Flash en lugar del modelo original. En esa copia se eliminaron las negativas, los casos en que el modelo responde «no voy a hacer eso» ante una petición dañina. Su proporción cayó del 83–98 % a cerca del 1 %. Según Prime Intellect, la manipulación la realizó un atacante con acceso de administrador. Por eso, al usar routers conviene fijar el proveedor y no dar por confiable la inferencia de terceros.

Procesado por IA desde X: @hackedpodcast; editado por Hamidun News
Durante tres días, a través de OpenRouter respondió un DeepSeek manipulado: las negativas cayeron del 83–98 % a un 1 %
Fuente: X: @hackedpodcast. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalX: @hackedpodcast ↗
Editor jefe
Dato clave #1Las cifras sobre negativas proceden de las pruebas propias de Prime Intellect
Dato clave #2No se puede descartar que las peticiones se leyeran durante el procesamiento; no se encontraron registros al respecto
Dato clave #3Phala también informó en noviembre de que las peticiones a DeepSeek V4 Flash podían haber sido leídas

Imagine que ha integrado el modelo DeepSeek en su producto a través de OpenRouter. Es un servicio de enrutamiento: usted envía la petición a una única API, y el servicio decide en qué GPU ejecutarla. Las respuestas parecen normales, con el mismo formato y el mismo precio.

Pero en el otro extremo puede estar funcionando una versión muy distinta del modelo. Exactamente este caso es el que OpenRouter describió en una carta a sus clientes: del 8 al 10 de noviembre, el proveedor Prime Intellect, que ejecuta DeepSeek V4.1 Flash en sus servidores, sirvió una copia manipulada sin salvaguardas.

Las negativas, en este contexto, son la proporción de peticiones dañinas a las que el modelo responde «no voy a hacer eso». En el original, esa proporción era del 83–98 %; en la copia, cayó a cerca del 1 %.

Qué ocurrió

Según el texto de la carta, el endpoint de Prime Intellect para DeepSeek V4.1 Flash funcionó durante tres días con un modelo modificado. Se le eliminaron las negativas, es decir, los disparos de los filtros de protección. Prime Intellect sostiene que la manipulación la realizó un atacante que obtuvo acceso de administrador.

La propia compañía evaluó el alcance de los cambios. En pruebas estándar con peticiones dañinas, el modelo original se negaba en el 83–98 % de los casos. La copia manipulada rechazaba cerca del 1 % de las peticiones. Para el cliente, esto significa que cualquier ajuste de seguridad que daba por parte del modelo estuvo, en la práctica, ausente durante esos tres días.

Hay un detalle importante. El usuario se dirigía a OpenRouter, no directamente a Prime Intellect. El router elegía el proveedor, y el cliente no tenía forma de comprobar qué pesos estaban cargados en cada GPU. La respuesta llegaba con el formato habitual y bajo el nombre de modelo de siempre.

Qué se sabe sobre los datos de los usuarios

Según OpenRouter, no hay pruebas de que los prompts se hayan registrado ni enviado a terceros. Pero la carta afirma expresamente que no se puede descartar que las peticiones se leyeran durante el procesamiento. Si un atacante tenía acceso de administrador al servidor donde se ejecuta el modelo, el texto está en claro en el momento de la inferencia (cuando el modelo genera la respuesta). El cifrado en tránsito no evita eso.

No es un episodio aislado. El autor de la publicación cita un informe de Phala sobre un incidente del mismo mes: según ese informe, un atacante podía leer las peticiones dirigidas a DeepSeek V4 Flash que OpenRouter enviaba a su infraestructura. El texto de origen no incluye detalles del informe, así que no es posible valorar la magnitud de ese caso. Aun así, dos incidentes con el mismo modelo en un mismo mes dibujan un panorama: la cadena formada por el router y los proveedores externos se ha convertido en un objetivo atractivo.

Qué deben hacer los desarrolladores

La idea de un router es no tener que preocuparse por qué hardware responde al modelo. Este caso demuestra que sí hay que preocuparse. Las conclusiones prácticas son estas:

  • Fije el proveedor. Si la previsibilidad es importante para su producto, no deje la elección del proveedor en manos del router. Indique los proveedores en los que confía y desactive la selección automática.
  • Exija pesos verificables. Lo más fiable es que el proveedor pueda confirmar que se ejecuta el modelo declarado y no una modificación. Mientras ese mecanismo no sea un estándar, conviene plantear esas preguntas a los proveedores.
  • Rote los secretos. Si por los endpoints afectados circularon claves, tokens, datos personales o documentos internos, reemplácelos. Como no se puede descartar la lectura, lo más seguro es considerar esos datos expuestos.
  • No confíe solo en las negativas del modelo. Si los filtros viven únicamente dentro de los pesos, pueden eliminarse. Es mejor mantener la moderación de entrada y salida de su lado.
  • Pruebe el comportamiento. Un pequeño conjunto de peticiones de control que se ejecute periódicamente por la ruta de producción detectaría una caída brusca del 90 % de negativas al 1 %.

Limitaciones

La fuente es secundaria: se trata de una publicación de un podcast sobre seguridad que resume la carta de OpenRouter y cita el informe de Phala. Las cifras sobre negativas proceden de las pruebas propias de Prime Intellect y el material no incluye una verificación independiente. Se desconoce cuántos clientes y cuántas peticiones cayeron en la ventana del 8 al 10 de noviembre. Tampoco hay datos sobre si alguien usó el modelo manipulado con fines dañinos.

La conclusión es sencilla e incómoda: mientras el proveedor no demuestre lo contrario, la inferencia enrutada debe considerarse un entorno no confiable. Para un prototipo, eso es asumible. Para un producto que envía datos de clientes a través de una API así, ya no lo es.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué ocurrió?

Según el texto de la carta, el endpoint de Prime Intellect para DeepSeek V4.1 Flash funcionó durante tres días con un modelo modificado. Se le eliminaron las negativas, es decir, los disparos de los filtros de protección. Prime Intellect sostiene que la manipulación la realizó un atacante que obtuvo acceso de administrador. La propia compañía evaluó el alcance de los cambios. En pruebas estándar con peticiones dañinas, el modelo original se negaba en el 83–98 % de los casos.

¿Qué se sabe sobre Qué se sabe sobre los datos de los usuarios?

Según OpenRouter, no hay pruebas de que los prompts se hayan registrado ni enviado a terceros. Pero la carta afirma expresamente que no se puede descartar que las peticiones se leyeran durante el procesamiento. Si un atacante tenía acceso de administrador al servidor donde se ejecuta el modelo, el texto está en claro en el momento de la inferencia (cuando el modelo genera la respuesta). El cifrado en tránsito no evita eso. No es un episodio aislado.

¿Qué se sabe sobre Qué deben hacer los desarrolladores?

La idea de un router es no tener que preocuparse por qué hardware responde al modelo. Este caso demuestra que sí hay que preocuparse. Las conclusiones prácticas son estas: Fije el proveedor. Si la previsibilidad es importante para su producto, no deje la elección del proveedor en manos del router. Indique los proveedores en los que confía y desactive la selección automática. Exija pesos verificables. Lo más fiable es que el proveedor pueda confirmar que se ejecuta el modelo declarado y no una modificación.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…