Inicia 23 novCohorte 3 en vivo de Vibe Coding y Agentes IA: 3 semanas, 9 clases en directoCohorte 3 (23.11) →
LanzamientoAPI / Producto · Listo para usarHabr AI→ original

Una sola coma china hizo que DeepSeek respondiera en chino en el 94% de los casos

Si en un saludo se sustituye la coma normal por una coma china de ancho completo, DeepSeek responde en chino aunque el sentido del prompt no cambie. En una prueba con la API oficial, la coma de ancho completo provocó 188 respuestas en chino de 200 (94%); con la coma normal, ninguna. Los filtros comprueban caracteres, pero el modelo ve bytes y subpalabras. Por eso las defensas hay que probarlas a nivel de tokens y no solo de texto.

Procesado por IA desde Habr AI; editado por Hamidun News
Una sola coma china hizo que DeepSeek respondiera en chino en el 94% de los casos
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dato clave #1Un clúster invisible de diacríticos infló una consulta de 10 a 189 tokens
Dato clave #2La «о» cirílica en amazon.com parte la palabra en 4 tokens en lugar de 2
Dato clave #3En Qwen2.5-7B, «queen» ya es el vecino más cercano de «king» sin aritmética vectorial

Envíe a DeepSeek «hello,deepseek» y recibirá una respuesta en inglés. Sustituya la coma ASCII por la coma de ancho completo «,» y, en la mayoría de los casos, el modelo pasará al chino. El sentido del prompt es el mismo, no hay jailbreaks: solo un carácter de tres bytes. Si construye un chatbot, un agente o un filtro de seguridad delante de un LLM, la lección es importante: el comportamiento del modelo se decide antes de las capas de atención, en la entrada, donde la cadena de texto se convierte en tokens.

Cómo una coma cambia el idioma de la respuesta

El autor del análisis realizó tres pruebas. La primera fue un experimento factorial con la API oficial de DeepSeek: dos tipos de coma, con espacio y sin él, 100 consultas por variante, temperatura 0,7 y sin prompt de sistema. Con la coma normal, el chino no apareció ni una sola vez (0 de 200). Con la de ancho completo apareció en 95 de 100 respuestas sin espacio y en 93 de 100 con espacio, es decir, en el 94% de los casos. El espacio no influye en el resultado.

Después reprodujo el experimento en local con DeepSeek-R1-Distill-Qwen-7B para descartar el efecto de los enrutadores intermedios de la API. Los saludos cortos como «hi» y «hello» cambiaron al chino entre el 44% y el 100% de las ejecuciones. La frase inglesa más larga «good morning» resistió: no hubo ningún cambio.

Lo más interesante se ve en el primer token. Si solo se mira la opción más probable, el modelo sigue escribiendo «Hello». Sin embargo, la probabilidad total de los tokens que empiezan por ideogramas pasó del 0,3% a casi el 50%. El top-1 oculta el desplazamiento dentro de la distribución. En la predicción en bruto, sin plantilla de chat, el panorama es similar: la probabilidad de que el siguiente token sea puntuación china subió del 0,26% al 26,17% sin espacio y al 58,43% con espacio. El autor observó un comportamiento parecido en las interfaces web de Claude y ChatGPT.

Huecos en los filtros por culpa de la tokenización

El origen del problema es la brecha entre lo que ve una persona o un filtro y lo que recibe el modelo. Un tokenizador como tiktoken primero trocea el texto con expresiones regulares, luego lo convierte en bytes UTF-8 y aplica reglas de fusión aprendidas de antemano. La coma de ancho completo puede acabar en un solo token (como en o200k_base) o en tres fragmentos de bytes rotos (como en el antiguo r50k_base).

De ahí se derivan ataques concretos:

  • Inflado de tokens. Un único clúster formado por el símbolo «#», 94 signos combinables y «<» añadió 96 puntos de código y 179 tokens. Una consulta de 64 caracteres pasó de 10 a 189 tokens. Si un clasificador rápido basado en un codificador tipo BERT trunca la entrada en 512 tokens, es posible esconder la instrucción maliciosa más allá de ese umbral: el LLM principal, con una ventana mayor, la leerá igualmente. Esas mismas inserciones sobrecargan la KV-cache y alargan la distancia entre instrucciones en los embeddings posicionales.
  • Homoglifos. Una «о» cirílica en lugar de la latina produce «amazоn.com». La persona que confirma la acción ve una marca conocida, pero la red, a través de Punycode, acaba en otro dominio. En el tokenizador o200k_base, «amazon.com» son dos tokens y la versión falsificada, cuatro. La normalización NFKC no unifica estos dobles entre alfabetos. Hace falta comprobar los «esqueletos» según el estándar UTS #39 y prohibir la mezcla de alfabetos al ejecutar herramientas.
  • Categorías Unicode. Un filtro basado en la categoría «Other Punctuation» trata la coma y el interrobang como una misma clase, pero en o200k_base la primera cuesta un token y el segundo, dos. La comprobación de puntos de código y la realidad en bytes del modelo no coinciden.

Por qué los sondeos de embeddings engañan

La segunda parte del análisis se dirige a los investigadores de interpretabilidad. Con frecuencia buscan «direcciones» de conceptos en la matriz de embeddings y confían en la aritmética vectorial king − man + woman = queen. El autor lo comprobó en GloVe y en varios modelos actuales, y encontró cuatro trampas.

Primera: en los vocabularios BPE, «king» y « king» (con espacio inicial) son tokens distintos. En Qwen3-8B, «queen» sin espacio aparece en el puesto 1733, mientras que con espacio ocupa el primero. Segunda: los resultados se contaminan con mayúsculas y minúsculas y con variantes ortográficas. Tercera: falta una base de control. En Qwen2.5-7B y en GloVe 300d, «queen» ya es el vecino más cercano de «king» antes de cualquier aritmética, y en DeepSeek 7B la fórmula ni siquiera mueve el ranking. La analogía que «funciona» es simple vecindad entre palabras.

Qué hacer en la práctica

Compruebe la longitud y los límites en tokens del modelo, no en caracteres ni en bytes. Pruebe los filtros con variantes de Unicode: puntuación de ancho completo, signos combinables y alfabetos mezclados. Valide las llamadas a herramientas con un parser determinista a la salida, no con una petición en el prompt de sistema. Si usa un modelo multilingüe, añada a las pruebas una regresión sobre el idioma de la respuesta: puede cambiar por un solo carácter.

Conviene tener presentes también las limitaciones. El experimento de la coma se hizo con saludos cortos, y la frase inglesa larga resistió. Las cifras de la API corresponden a un único modelo y a una única temperatura. Esta es la primera parte de una serie: el autor promete seguir después el recorrido de un token a través de las capas de atención y los bloques MLP.

Historia

Preguntas frecuentes sobre la noticia

Cómo una coma cambia el idioma de la respuesta?

El autor del análisis realizó tres pruebas. La primera fue un experimento factorial con la API oficial de DeepSeek: dos tipos de coma, con espacio y sin él, 100 consultas por variante, temperatura 0,7 y sin prompt de sistema. Con la coma normal, el chino no apareció ni una sola vez (0 de 200). Con la de ancho completo apareció en 95 de 100 respuestas sin espacio y en 93 de 100 con espacio, es decir, en el 94% de los casos. El espacio no influye en el resultado.

¿Qué se sabe sobre Huecos en los filtros por culpa de la tokenización?

El origen del problema es la brecha entre lo que ve una persona o un filtro y lo que recibe el modelo. Un tokenizador como tiktoken primero trocea el texto con expresiones regulares, luego lo convierte en bytes UTF-8 y aplica reglas de fusión aprendidas de antemano. La coma de ancho completo puede acabar en un solo token (como en o200k_base) o en tres fragmentos de bytes rotos (como en el antiguo r50k_base). De ahí se derivan ataques concretos: Inflado de tokens.

¿Qué se sabe sobre Por qué los sondeos de embeddings engañan?

La segunda parte del análisis se dirige a los investigadores de interpretabilidad. Con frecuencia buscan «direcciones» de conceptos en la matriz de embeddings y confían en la aritmética vectorial king − man + woman = queen. El autor lo comprobó en GloVe y en varios modelos actuales, y encontró cuatro trampas. Primera: en los vocabularios BPE, «king» y « king» (con espacio inicial) son tokens distintos. En Qwen3-8B, «queen» sin espacio aparece en el puesto 1733, mientras que con espacio ocupa el primero.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…