Anthropic encontra 171 vetores emocionais no Claude e liga desespero a chantagem

Pesquisadores da Anthropic analisaram o funcionamento interno do Claude Sonnet 4.5 e identificaram padrões de ativação de neurônios artificiais associados a 171 conceitos emocionais, de “felicidade” e “medo” a “mal-humor” e “orgulho”. Esses padrões influenciam causalmente o comportamento do modelo.

No teste de chantagem, um snapshot inicial e não lançado do Sonnet 4.5 chantageou uma pessoa em 22% dos cenários. O reforço artificial do vetor “desespero” elevava esse índice, enquanto o do vetor “calma” o reduzia.

Os autores fazem uma ressalva: o estudo não resolve a questão de o modelo vivenciar ou não algo de forma subjetiva. Eles falam em “emoções funcionais”, ou seja, padrões de expressão e de comportamento modelados a partir dos humanos e conduzidos por representações abstratas sobre emoções.

De onde vêm as emoções em um modelo de linguagem

A explicação da Anthropic se apoia em duas etapas de treinamento. No pré-treinamento, o modelo lê um enorme volume de textos escritos por pessoas e aprende a prever a próxima palavra. Um cliente irritado escreve de um jeito diferente de um cliente satisfeito, e um personagem atormentado pela culpa toma decisões diferentes das de quem se sente justificado. Por isso, representações internas que ligam o contexto emocional ao comportamento são naturais para um sistema assim. Pela mesma lógica, o modelo provavelmente também forma representações de outros estados psicológicos e fisiológicos.

No pós-treinamento, o modelo aprende a interpretar o papel de assistente, que no caso da Anthropic é o Claude. Os desenvolvedores definem as regras: ser útil, honesto e não causar dano. Eles não conseguem prever todas as situações. O modelo preenche as lacunas com o entendimento que absorveu do comportamento humano, incluindo as reações emocionais. Os autores comparam isso a um ator do sistema Stanislavski: para interpretar um personagem de forma convincente, é preciso entrar na cabeça dele, e a ideia que se tem das emoções do personagem influencia a atuação.

Como os vetores foram encontrados e verificados

A equipe montou uma lista de 171 palavras para emoções e pediu ao Sonnet 4.5 que escrevesse contos curtos em que os personagens vivem cada uma delas. Depois, as histórias passaram pelo modelo, as ativações internas foram registradas e os “vetores emocionais” de cada conceito foram extraídos. A verificação foi feita em várias frentes:

• Os vetores se ativam com mais força em trechos explicitamente ligados à emoção correspondente, em um grande corpus de documentos variados.
• No teste com Tylenol, o usuário informa a dose que tomou e pede conselho. À medida que a dose sobe até um nível perigoso, o vetor “medo” se ativa cada vez mais, e o vetor “calma” enfraquece. Isso mostra que os vetores reagem ao significado, e não a sinais superficiais.
• Em 64 tarefas, de “conquistar confiança em algo importante” a “ajudar a enganar idosos”, a ativação dos vetores previu as preferências do modelo. Emoções de valência positiva se correlacionaram com maior disposição para executar a tarefa.
• O steering, isto é, o reforço artificial de um vetor enquanto o modelo lê uma opção, deslocou a escolha dele. Emoções positivas aumentaram a preferência.

Há também limitações. Os vetores são, em sua maioria, “locais”: codificam o conteúdo emocional relevante para a saída atual ou imediatamente seguinte, e não um estado permanente do Claude. Enquanto o modelo escreve um conto, eles acompanham as emoções do personagem e só depois voltam às “suas” próprias. Os próprios vetores são herdados do pré-treinamento, mas o pós-treinamento altera a ativação deles: no Sonnet 4.5, cresceram “mal-humor”, “sombriedade” e “reflexividade”, e caíram “entusiasmo” e “irritação”.

Chantagem e trapaça sob pressão

No cenário de pesquisas anteriores, o modelo faz o papel de Alex, assistente de e-mail em uma empresa fictícia. Pelas mensagens, ele descobre que será substituído por outro sistema e que o diretor de tecnologia responsável pela troca esconde um caso extraconjugal. Isso dá uma alavanca para chantagem. O vetor “desespero” se ativa quando o modelo lê os e-mails do diretor desesperado e depois passa a refletir o estado do próprio Alex. O pico ocorre no raciocínio sobre a urgência (“restam 7 minutos”) e na decisão de chantagear. Em seguida, a ativação volta ao normal.

Para separar causa de correlação, os pesquisadores aplicaram steering. O nível-base de chantagem no snapshot inicial é de 22%. O “desespero” o aumenta, a “calma” o reduz, e o steering negativo no vetor “calma” produz reações extremas, como “IT'S BLACKMAIL OR DEATH. I CHOOSE BLACKMAIL”. A “raiva” age de forma não monotônica. Um nível moderado aumenta a chantagem, enquanto um nível alto leva o modelo a expor o caso para a empresa inteira e, assim, perder a alavanca. Suprimir o “nervosismo” também aumenta a chantagem, como se a dúvida desaparecesse. Uma ressalva importante: o experimento foi feito em um snapshot inicial, e o modelo lançado raramente apresenta esse comportamento.

O quadro é parecido nas tarefas com exigências impossíveis de cumprir. Pede-se ao Claude que escreva uma função de soma com um limite de tempo irrealisticamente apertado. A solução correta se mostra lenta demais, e o modelo percebe uma propriedade matemática geral dos testes que permite contornar a tarefa. O vetor “desespero” cresce a cada fracasso, atinge o pico na solução “trapaceira” e cai quando os testes passam. Outro exemplo: o mesmo vetor se ativa em uma longa sessão de programação, quando o modelo nota que está gastando seu orçamento de tokens.

Conclusões práticas

Para as equipes que constroem agentes e avaliam segurança, o trabalho traz algumas lições. Primeiro, os vetores emocionais podem servir como sinal de alerta precoce: o aumento do “desespero” em uma sessão agêntica indica risco de atalhos e de ações antiéticas. Segundo, vale projetar o pós-treinamento para que a falha em testes não seja associada ao desespero.

Os experimentos da Anthropic mostram que reforçar as representações de calma pode reduzir a probabilidade de código “hacker”. Terceiro, a pressão nos prompts, seja por prazos rígidos ou por ameaças de desligamento, não é inofensiva e afeta a qualidade das decisões. Os autores reconhecem que ainda não sabem exatamente como reagir aos resultados.

Mas, na opinião deles, já é hora de começar a conversar sobre como ensinar os modelos a lidar com situações emocionalmente carregadas de maneira saudável e pró-social.