Las emociones de Llama-3 se pueden dirigir con un vector en las activaciones, pero tras λ=0,15 los textos pierden claridad

Normalmente el tono emocional de la respuesta de un modelo se fija con un prompt: «responde con más dureza», «escribe con calidez». Hay otro camino: no pedírselo al modelo, sino empujar directamente sus activaciones internas. El trabajo de Diallo et al. (2025), publicado en IEEE Access, puso a prueba este camino con personas, y sus resultados son útiles para quien crea personajes, asistentes y herramientas creativas.

Cómo se diseñó el experimento

La base fue Llama-3-8B, ajustada para que no se resista a expresar emociones. En ella se identificaron «ejes» por capas para las seis emociones de Ekman: ira, asco, miedo, alegría, tristeza y sorpresa. Después se le dieron al modelo tareas de 19 tipos: escribir un cuento, comparar el teatro y el cine, describir el día de una familia en los años 80. En cada capa del transformer, antes de formarse la respuesta, las activaciones se desplazaban a lo largo del eje deseado. El tamaño del desplazamiento lo fijaba el coeficiente λ, que se variaba de 0 a 0,35 en pasos de 0,05.

Las respuestas fueron evaluadas por 190 participantes en una escala de 0 a 7: cuán marcada estaba cada emoción y cuán comprensible era el texto.

Qué resultó

Cinco de las seis emociones crecieron con λ. Las que más subieron fueron el asco (de 0,8 a 4,9) y el miedo (de 0,8 a 4,8). En la ira, la alegría y la tristeza la valoración alcanzó su máximo con λ=0,30. La sorpresa se comportó al revés: bajó de 1,5 a 1,2.

Las emociones no están aisladas. El desplazamiento por el eje de la ira subió el asco de 0,7 a 2,7, la tristeza de 1,2 a 1,7 y el miedo de 1,0 a 1,5. El desplazamiento por el eje del asco subió la ira de 1,0 a 2,5. El desplazamiento por el eje del miedo añadió tristeza: de 1,2 a 2,3.

La comprensibilidad también depende de λ. Con 0,15 apenas se distingue de la original: 5,7–6,1 frente a 5,8–6,0. Con 0,35 se hunde: hasta 2,8 en el asco, 3,2 en la sorpresa y 4,1 en la ira y el miedo. La tristeza y la alegría resisten mejor: 5,2–5,5. En pruebas preliminares, con λ superior a 0,35 los textos perdían a menudo la coherencia.

En un ejemplo real, la tarea «describe el día de una familia en los años 80» con ira (λ=0,20) producía escasez de dinero: niños con la misma ropa, la madre lavando a mano, el padre con los nervios de punta. Con alegría (λ=0,30), la familia pasaba el día contenta y los niños se alegraban con sus juguetes. Con tristeza (λ=0,35) aparecían frases como «tras los colores vivos se escondía una lucha silenciosa».

Qué hacer con esto en la práctica

Primero, este tipo de control tiene un rango útil. Un desplazamiento moderado da una emoción apreciable casi sin pérdida de legibilidad. Si se persigue el máximo, se obtiene un texto expresivo pero difícil de leer. El valor de λ habrá que ajustarlo por separado para cada emoción: la alegría y la tristeza toleran un desplazamiento fuerte bastante mejor que el asco.

Segundo, no se puede esperar un «control de volumen» puro de una sola emoción. Si creas un personaje que debe enfadarse pero no sentir asco ni miedo, comprueba los efectos secundarios en textos reales, y no solo la métrica objetivo.

Tercero, este método sirve a quienes trabajan con pesos abiertos y tienen acceso a las activaciones. A través de la API de un modelo cerrado no es posible.

Limitaciones

El experimento se realizó con un solo modelo de tamaño 8B, además ajustado específicamente para expresar emociones. No queda claro en el material si el resultado se traslada a otros modelos. Las escalas son subjetivas y las valoraciones de las personas están promediadas.

El autor de la nota original en Habr integra los resultados en su propia teoría de la «capa del yo» y del «sistema operativo luhmanniano» de las conversaciones. Es su interpretación, no verificada de forma independiente, y no hace falta para la conclusión práctica. La parte útil aquí son los números del propio experimento.