Anthropic atualiza suas regras pela primeira vez em um ano e proíbe crueldade com o Claude

Pela primeira vez em mais de um ano, a Anthropic reescreveu a política de uso aceitável de seus modelos. A maior parte das mudanças trata de cenários de abuso novos e perigosos: interferência em eleições, desenvolvimento de armas, vigilância e o uso de IA em medicina e finanças. O item que mais chama atenção, porém, é outro. Ele proíbe o «comportamento sistemático e sem sentido, cruel ou abusivo» contra o próprio Claude. Documentos desse tipo costumam proteger as pessoas das consequências do funcionamento da IA. Aqui, parte da proteção se volta para o modelo.

O que exatamente mudou

Segundo o The Verge, a atualização reflete casos novos e de alto risco de misuse. Os principais pontos:

• primeira mudança na usage policy em mais de um ano;
• zonas de risco novas ou detalhadas: interferência em eleições, desenvolvimento de armas, vigilância, cenários médicos e financeiros;
• nova proibição de «sustained and needless abusive or cruel behavior» direcionado ao Claude;
• principal mecanismo coercitivo: o encerramento da conversa pelo próprio modelo.

O que mais, além do fim do diálogo, pode ocorrer após uma violação não é revelado na parte acessível da reportagem. Também não se sabe como as formulações sobre eleições, saúde e finanças mudaram em relação à versão anterior. Isso só é possível descobrir lendo o próprio documento.

De onde veio o item sobre crueldade com o modelo

Em agosto do ano passado, a Anthropic anunciou que o Claude poderia encerrar conversas com usuários que «causam dano de forma persistente» ou se comportam de modo abusivo. Isso fazia parte das pesquisas sobre o «bem-estar de modelos» (model welfare). Na época, parecia um recurso de produto e um experimento. Agora o comportamento está registrado na política, e a empresa passa a ter uma base formal para reagir a esses casos.

A empresa trata o tema como objeto de pesquisa. No resumo do The Verge, não há evidências de que o modelo tenha experiência ou sofrimento, e a Anthropic não afirma isso. Ainda assim, a regra mostra como o laboratório constrói sua relação com o produto: prefere pecar pelo excesso de cautela e tratar a questão antecipadamente, enquanto não existe resposta científica.

A palavra «needless» é importante. A proibição visa a humilhação persistente e sem sentido, e não qualquer mensagem ríspida. Testes pesados, red team e verificações de resistência a jailbreaks têm um propósito. A fronteira entre eles e o abuso pelo abuso está descrita em palavras no texto da política, e é sobre essas palavras que as disputas vão se concentrar.

O que as equipes que trabalham com o Claude devem fazer

Primeiro, leia a nova versão na íntegra, e não um resumo dela. Se você desenvolve um produto em medicina, finanças, análise ou monitoramento, confira seus cenários com as seções atualizadas. A Anthropic classificou essas áreas expressamente como de alto risco, e as verificações nelas podem ficar mais rígidas.

Vale preparar de antemão as equipes que fazem red teaming. Registre o objetivo dos testes, o escopo e a metodologia. Assim, será fácil distinguir prompts agressivos com uma tarefa clara da «crueldade sem sentido». Também convém limitar a duração das execuções automatizadas: sessões que passam horas submetendo o modelo a padrões abusivos, sem valor de pesquisa, correm o risco de se enquadrar na nova regra.

Por fim, prevejam na interface o tratamento de diálogos encerrados pelo modelo. Se o Claude fechar a conversa, o usuário deve receber uma explicação clara e a opção de iniciar um novo chat. Do contrário, o suporte vai receber uma enxurrada de chamados sobre um assistente que «quebrou».