Activation Steering: tutorial para controlar um modelo de linguagem por dentro com PyTorch e nnsight

Um tutorial do Habr explica o Activation Steering, técnica para controlar um modelo de linguagem sem retreinamento. São três abordagens, código real em Python e uma demonstração: um deslocamento intencional do modelo para respostas tóxicas, para mostrar o quão preciso pode ser esse tipo de intervenção.

O que é Activation Steering

O Activation Steering permite controlar o comportamento de um modelo de linguagem sem alterar seus pesos e sem executar fine-tuning. Durante a inferência, o pesquisador intercepta as ativações internas da rede em uma camada escolhida e soma a elas um vetor direcional. O resultado: o modelo passa a gerar texto com a propriedade desejada.

O método se baseia em uma das descobertas centrais da interpretabilidade mecanicista: o espaço de ativações de um LLM se revela estruturado. Diferentes conceitos, como raiva, educação, confiança, assunto da conversa ou idioma, são codificados como direções relativamente lineares nesse espaço multidimensional. Encontrar o vetor certo significa obter uma alavanca direta de controle sem mudar os pesos.

O vetor de steering é obtido por um método contrastivo: pegam-se exemplos com a propriedade desejada e sem ela, passam-se os dois conjuntos pelo modelo e calcula-se a diferença das ativações médias. O vetor resultante é somado às ativações da camada escolhida com um coeficiente de escala.

Três abordagens de implementação

O tutorial examina três ferramentas, com nível de abstração crescente:

• pytorch-hooks: `register_forward_hook` intercepta o tensor de ativações da camada escolhida, o vetor é somado e o tensor modificado volta ao grafo de computação. Controle máximo, dependências mínimas.
• nnsight: biblioteca com sintaxe declarativa. O código de intervenção se lê quase como um pseudocódigo direto, o que é prático para experimentos em notebooks Jupyter.
• pyvene: framework de alto nível para interpretabilidade causal. Suporta experimentos reproduzíveis e troca fácil entre camadas do transformer.

A escolha depende da tarefa: pytorch-hooks quando é preciso controle total; nnsight para código de pesquisa legível; pyvene para análise causal estruturada.

Onde o steering é aplicado

A demo do tutorial desloca o modelo para discurso de ódio. A escolha é propositalmente desconfortável: ela prova de forma clara que a intervenção funciona. As mesmas ferramentas também servem para detectar e neutralizar comportamentos indesejados, ou seja, o steering funciona nos dois sentidos.

Aplicações práticas:

• Pesquisa em alinhamento: estudar quais conceitos estão codificados na rede e o quanto são separáveis
• Red-teaming de segurança: verificar se é possível ativar um comportamento indesejado sem dados de treinamento
• Interpretabilidade: descobrir quais camadas do transformer respondem por propriedades semânticas específicas
• Edição sem fine-tuning: remover ou reforçar um padrão com uma intervenção pontual

O que isso significa

Alguns anos atrás, o Activation Steering era uma ferramenta de laboratórios acadêmicos, usada por pesquisadores da Anthropic, da DeepMind e da EleutherAI em trabalhos de interpretabilidade mecanicista. A chegada do nnsight e do pyvene baixou a barreira de entrada ao nível de um código PyTorch comum.

Um tutorial em russo no Habr é um caso raro em que um tema tão especializado recebe uma explicação de qualidade sem barreira de idioma. Para equipes que trabalham com segurança e alinhamento de modelos de linguagem, dominar o steering está se tornando uma habilidade prática, e não um exercício acadêmico.