Habr lanzó la segunda parte de la guía de Activation Steering—repeng, pyreft y vector exacto

El autor de un blog técnico en Habr lanzó la segunda parte de una guía sobre activation steering—una técnica para controlar el comportamiento del modelo de lenguaje cambiando directamente sus activaciones internas—y explica cómo encontrar un vector de control más precisamente usando las bibliotecas repeng y pyreft.

Qué No Funcionó en la Primera Parte

En la primera parte de la guía, que se titulaba "Tíralo hacia donde necesitas: Tutorial de Activation Steering", el autor implementó la idea básica de steering de tres maneras—a través de ganchos PyTorch sin procesar, a través de la biblioteca nnsight y a través de la biblioteca pyvene. La idea del steering en sí es agregar un vector especial a las activaciones de la red neuronal intermedia y desplazar su respuesta en la dirección deseada sin modificar los pesos del modelo.

• Tres métodos de la primera parte: ganchos PyTorch sin procesar, biblioteca nnsight, biblioteca pyvene
• El enfoque básico funcionó—el modelo respondió al vector de control
• Pero el resultado estuvo lejos de ser ideal: el vector resultó estar invertido, el efecto fue moderado y en algunos prompts no hubo efecto en absoluto

"¿Funcionó nuestra base?

Sí—lo vimos. ¿Fue normal? No—y eso también lo vimos: el vector resultó estar invertido, el efecto fue moderado y en algunos prompts no hubo efecto", escribe el autor de la guía sobre activation steering en Habr.

Qué Herramientas Se Prueban en la Segunda Parte

En la segunda parte de la guía, el autor se mueve de herramientas de interpretabilidad universal a bibliotecas diseñadas específicamente para encontrar un vector de control más preciso—repeng, pyreft y otros métodos. El tema de la segunda parte es exactamente cómo corregir las deficiencias encontradas en la primera parte y cómo implementarlo en Python.

La diferencia en el enfoque es fundamental: si nnsight y pyvene son bibliotecas universales para trabajar con estados internos del modelo, entonces repeng y pyreft fueron creados específicamente para la tarea de encontrar un vector de control, lo que significa que potencialmente dan resultados más predecibles donde el método básico dio un vector invertido o efecto débil.

El simple hecho de que el autor necesitara una segunda parte de la guía muestra: implementar steering "de frente" a través de ganchos PyTorch sin procesar no es suficiente para resultados estables—la metodología requiere instrumentación separada específicamente para búsqueda de vectores, no solo para aplicarlo a las activaciones del modelo.

Qué Significa Esto

El activation steering sigue siendo un área donde la idea básica—desplazar las activaciones internas de un modelo en la dirección deseada—se implementa a través de un conjunto constantemente creciente de herramientas; la elección de la biblioteca afecta directamente qué tan predecible y preciso funciona el control del modelo.

Preguntas Frecuentes

¿Qué

Problemas Tenía el Enfoque Básico del Activation Steering?

En la primera parte de la guía, el vector de control encontrado usando el método básico resultó estar invertido, dio solo efecto moderado y no funcionó en absoluto en algunos prompts.

¿Qué Herramientas se Usaron en la Primera Parte de la Guía?

Tres métodos: ganchos PyTorch sin procesar, biblioteca nnsight y biblioteca pyvene—todos básicos, sin especialización en encontrar un vector de control.

¿En

Qué Se Diferencian repeng y pyreft de las Herramientas de la Primera Parte?

Fueron creados específicamente para buscar y ajustar un vector de control, no para trabajo general con activaciones internas del modelo como nnsight y pyvene—este es el tema de la segunda parte de la guía.