Una sola coma china hizo que DeepSeek respondiera en chino en el 94% de los casos
Si en un saludo se sustituye la coma normal por una coma china de ancho completo, DeepSeek responde en chino aunque el sentido del prompt no cambie. En una prueba con la API oficial, la coma de ancho completo provocó 188 respuestas en chino de 200 (94%); con la coma normal, ninguna. Los filtros comprueban caracteres, pero el modelo ve bytes y subpalabras. Por eso las defensas hay que probarlas a nivel de tokens y no solo de texto.
Procesado por IA desde Habr AI; editado por Hamidun News
Envíe a DeepSeek «hello,deepseek» y recibirá una respuesta en inglés. Sustituya la coma ASCII por la coma de ancho completo «,» y, en la mayoría de los casos, el modelo pasará al chino. El sentido del prompt es el mismo, no hay jailbreaks: solo un carácter de tres bytes. Si construye un chatbot, un agente o un filtro de seguridad delante de un LLM, la lección es importante: el comportamiento del modelo se decide antes de las capas de atención, en la entrada, donde la cadena de texto se convierte en tokens.
Cómo una coma cambia el idioma de la respuesta
El autor del análisis realizó tres pruebas. La primera fue un experimento factorial con la API oficial de DeepSeek: dos tipos de coma, con espacio y sin él, 100 consultas por variante, temperatura 0,7 y sin prompt de sistema. Con la coma normal, el chino no apareció ni una sola vez (0 de 200). Con la de ancho completo apareció en 95 de 100 respuestas sin espacio y en 93 de 100 con espacio, es decir, en el 94% de los casos. El espacio no influye en el resultado.
Después reprodujo el experimento en local con DeepSeek-R1-Distill-Qwen-7B para descartar el efecto de los enrutadores intermedios de la API. Los saludos cortos como «hi» y «hello» cambiaron al chino entre el 44% y el 100% de las ejecuciones. La frase inglesa más larga «good morning» resistió: no hubo ningún cambio.
Lo más interesante se ve en el primer token. Si solo se mira la opción más probable, el modelo sigue escribiendo «Hello». Sin embargo, la probabilidad total de los tokens que empiezan por ideogramas pasó del 0,3% a casi el 50%. El top-1 oculta el desplazamiento dentro de la distribución. En la predicción en bruto, sin plantilla de chat, el panorama es similar: la probabilidad de que el siguiente token sea puntuación china subió del 0,26% al 26,17% sin espacio y al 58,43% con espacio. El autor observó un comportamiento parecido en las interfaces web de Claude y ChatGPT.
Huecos en los filtros por culpa de la tokenización
El origen del problema es la brecha entre lo que ve una persona o un filtro y lo que recibe el modelo. Un tokenizador como tiktoken primero trocea el texto con expresiones regulares, luego lo convierte en bytes UTF-8 y aplica reglas de fusión aprendidas de antemano. La coma de ancho completo puede acabar en un solo token (como en o200k_base) o en tres fragmentos de bytes rotos (como en el antiguo r50k_base).
De ahí se derivan ataques concretos:
- Inflado de tokens. Un único clúster formado por el símbolo «#», 94 signos combinables y «<» añadió 96 puntos de código y 179 tokens. Una consulta de 64 caracteres pasó de 10 a 189 tokens. Si un clasificador rápido basado en un codificador tipo BERT trunca la entrada en 512 tokens, es posible esconder la instrucción maliciosa más allá de ese umbral: el LLM principal, con una ventana mayor, la leerá igualmente. Esas mismas inserciones sobrecargan la KV-cache y alargan la distancia entre instrucciones en los embeddings posicionales.
- Homoglifos. Una «о» cirílica en lugar de la latina produce «amazоn.com». La persona que confirma la acción ve una marca conocida, pero la red, a través de Punycode, acaba en otro dominio. En el tokenizador o200k_base, «amazon.com» son dos tokens y la versión falsificada, cuatro. La normalización NFKC no unifica estos dobles entre alfabetos. Hace falta comprobar los «esqueletos» según el estándar UTS #39 y prohibir la mezcla de alfabetos al ejecutar herramientas.
- Categorías Unicode. Un filtro basado en la categoría «Other Punctuation» trata la coma y el interrobang como una misma clase, pero en o200k_base la primera cuesta un token y el segundo, dos. La comprobación de puntos de código y la realidad en bytes del modelo no coinciden.
Por qué los sondeos de embeddings engañan
La segunda parte del análisis se dirige a los investigadores de interpretabilidad. Con frecuencia buscan «direcciones» de conceptos en la matriz de embeddings y confían en la aritmética vectorial king − man + woman = queen. El autor lo comprobó en GloVe y en varios modelos actuales, y encontró cuatro trampas.
Primera: en los vocabularios BPE, «king» y « king» (con espacio inicial) son tokens distintos. En Qwen3-8B, «queen» sin espacio aparece en el puesto 1733, mientras que con espacio ocupa el primero. Segunda: los resultados se contaminan con mayúsculas y minúsculas y con variantes ortográficas. Tercera: falta una base de control. En Qwen2.5-7B y en GloVe 300d, «queen» ya es el vecino más cercano de «king» antes de cualquier aritmética, y en DeepSeek 7B la fórmula ni siquiera mueve el ranking. La analogía que «funciona» es simple vecindad entre palabras.
Qué hacer en la práctica
Compruebe la longitud y los límites en tokens del modelo, no en caracteres ni en bytes. Pruebe los filtros con variantes de Unicode: puntuación de ancho completo, signos combinables y alfabetos mezclados. Valide las llamadas a herramientas con un parser determinista a la salida, no con una petición en el prompt de sistema. Si usa un modelo multilingüe, añada a las pruebas una regresión sobre el idioma de la respuesta: puede cambiar por un solo carácter.
Conviene tener presentes también las limitaciones. El experimento de la coma se hizo con saludos cortos, y la frase inglesa larga resistió. Las cifras de la API corresponden a un único modelo y a una única temperatura. Esta es la primera parte de una serie: el autor promete seguir después el recorrido de un token a través de las capas de atención y los bloques MLP.
- 18 nov 2026Una IA encuentra una vulnerabilidad desconocida en V8 por $4,24 y en 13 minutos; en febrero no la halló con $350
- 18 nov 2026Agentes de IA publicaron 228 releases de un juego sin revisión humana; los tests devolvieron el 25% de las tareas
- 18 nov 2026Tencent Hy4 flash obtiene 2,79 sobre 4 frente a 2,81 de Haiku 5.5 y cuesta 18 veces menos por tarea
- 18 nov 2026El ajuste fino de un modelo NER elevó del 39,5% al 91,8% la proporción de secretos comerciales ocultos
Preguntas frecuentes sobre la noticia
Cómo una coma cambia el idioma de la respuesta?
El autor del análisis realizó tres pruebas. La primera fue un experimento factorial con la API oficial de DeepSeek: dos tipos de coma, con espacio y sin él, 100 consultas por variante, temperatura 0,7 y sin prompt de sistema. Con la coma normal, el chino no apareció ni una sola vez (0 de 200). Con la de ancho completo apareció en 95 de 100 respuestas sin espacio y en 93 de 100 con espacio, es decir, en el 94% de los casos. El espacio no influye en el resultado.
¿Qué se sabe sobre Huecos en los filtros por culpa de la tokenización?
El origen del problema es la brecha entre lo que ve una persona o un filtro y lo que recibe el modelo. Un tokenizador como tiktoken primero trocea el texto con expresiones regulares, luego lo convierte en bytes UTF-8 y aplica reglas de fusión aprendidas de antemano. La coma de ancho completo puede acabar en un solo token (como en o200k_base) o en tres fragmentos de bytes rotos (como en el antiguo r50k_base). De ahí se derivan ataques concretos: Inflado de tokens.
¿Qué se sabe sobre Por qué los sondeos de embeddings engañan?
La segunda parte del análisis se dirige a los investigadores de interpretabilidad. Con frecuencia buscan «direcciones» de conceptos en la matriz de embeddings y confían en la aritmética vectorial king − man + woman = queen. El autor lo comprobó en GloVe y en varios modelos actuales, y encontró cuatro trampas. Primera: en los vocabularios BPE, «king» y « king» (con espacio inicial) son tokens distintos. En Qwen3-8B, «queen» sin espacio aparece en el puesto 1733, mientras que con espacio ocupa el primero.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.