Un experimento con LLM muestra cómo surge la «personalidad» de un modelo en el espacio latente

En un nuevo informe sobre un experimento con una arquitectura modular de LLM, el autor mostró que un vector latente separado puede almacenar no solo el estilo, sino también rasgos estables de la forma de expresarse. Esta capa se considera el germen de lo que podría llamarse un «embedding de personalidad» del modelo.

El problema de la respuesta media

En un modelo autorregresivo clásico, el siguiente paso de generación es una distribución de probabilidad sobre el vocabulario. Por eso una misma frase puede tener muchas continuaciones válidas, y la temperatura solo cambia la forma de elegir dentro de una distribución ya aprendida.

En el esquema modular que describe el autor, la situación es distinta: el núcleo debe producir un único vector latente siguiente, que luego se decodifica a texto. Por ello, en una sola representación compacta hay que comprimir varias variantes posibles de respuesta.

En la práctica, esto lleva a un promedio. El modelo deja de elegir una opción vívida y concreta y opta por la continuación «media», en la que se suavizan la entonación, el carácter y la manera de explicar. Aquí aparece la idea de separar el contenido de la forma de expresarlo. Si la semántica determina lo que dice el modelo, un latente de estilo aparte debe determinar cómo se dice: con sequedad o viveza, con seguridad o cautela, paso a paso o en flujo libre.

Cómo se montó el experimento

Para comprobar la hipótesis, el autor entrenó el modelo con textos de usuarios reales para que extraiga un vector compacto que describe no el significado, sino una manera de hablar estable. Ese vector puede pasarse después al modelo principal mediante cross-attention. Durante el entrenamiento, el estilo se toma de la respuesta objetivo, mientras que en la inferencia puede fijarse por separado. En esencia, en lugar de un único mando, la temperatura, aparece un conjunto de reguladores más precisos del comportamiento del modelo.

El investigador subraya que la tarea no consistía en reconocer a un autor concreto. El objetivo era otro: obtener un espacio de rasgos continuo donde queden cerca los textos de personas con una manera de hablar parecida, aunque escriban sobre temas distintos. En ese espacio empezaron a aparecer varios ejes controlables:

• formalidad frente a coloquialidad
• seguridad frente a cautela
• estructura frente a espontaneidad
• presentación «de ingeniería» frente a una más humanista
• tono neutro frente a tono con carga emocional

Qué muestran las métricas

Según el autor, en un benchmark sintético el modelo ya distingue con bastante seguridad contrastes de estilo individuales. La formalidad frente a la coloquialidad se detecta con una balanced accuracy de 0.93, la seguridad frente a la inseguridad con 0.94, la presentación empática frente a la fría con 0.93, y la exposición libre frente a la paso a paso con 0.92. En el modo mixto, con muchos factores a la vez, los resultados son lógicamente más bajos, pero siguen siendo significativos: la manera léxica y el semantic bias se mantienen en 0.85 y 0.84, los rasgos de edad en 0.72, la empatía en 0.73 y la estructura en 0.70.

También resulta interesante que el espacio de rasgos no se desmorona al combinar varios desplazamientos de estilo. La coincidencia media entre la composición predicha y la real de tales desplazamientos llegó, según el autor, a cos = 0.97. Esto significa que el modelo puede moverse a la vez, por ejemplo, hacia una respuesta más formal, más segura y más técnica.

Sin embargo, el trabajo no ha terminado: en el latente persiste un sesgo notable por la longitud del texto, y las señales sociales como la edad, el género o la profesión parecen, por ahora, más un perfil probabilístico que un reconocimiento fiable.

«El estilo realmente vive en el latente».

Qué significa

Para los equipos de producto, esto parece un paso desde el ajuste tosco de la temperatura hacia un control más preciso de la manera de responder: formal, suave, técnica, explicativa. Si el enfoque escala, los LLM podrán no solo generar texto, sino mantener de forma estable un carácter de comunicación definido sin copiar el contenido de un autor concreto. Eso convierte la idea del «embedding de personalidad» en una hipótesis de ingeniería plenamente viable, no en una metáfora.