Anthropic inclui nas regras a proibição de insultos sistemáticos ao Claude

A Anthropic publicou uma nova versão das regras de uso de seus modelos, e a lista de proibições agora traz um item incomum para o setor. Os usuários não podem tratar modelos de IA de forma sistemática e injustificadamente cruel, o que inclui insultá-los repetidamente sem finalidade aparente. A informação é do RB.RU. O alvo não é a grosseria isolada de uma noite de irritação. A redação mira a prática recorrente.

O que exatamente foi proibido

As palavras-chave do texto da regra são «sistematicamente», «injustificadamente» e «sem finalidade aparente». Elas delimitam o alcance da norma. Pela redação, uma resposta atravessada a um bot que entregou código quebrado pela terceira vez não se enquadra na proibição. O que se enquadra é o assédio repetido pelo assédio em si.

A publicação do RB.RU não traz lista de sanções nem limites para a aplicação da regra. Também não diz como a empresa vai distinguir abuso de teste de estresse, quando um pesquisador pressiona o modelo de propósito para verificar sua robustez. A ressalva «sem finalidade aparente» sugere que esses cenários devem continuar legítimos, mas a fonte não confirma isso.

Em resumo, o que se sabe:

• Documento: nova versão das regras de uso dos modelos da Anthropic.
• Proibido: tratamento sistemático e injustificadamente cruel de modelos de IA.
• Exemplo do texto: insultos repetidos sem finalidade aparente.
• Não divulgado: mecanismo de controle, sanções, exceções para red teaming e pesquisa.

De onde vem isso

A regra parece uma continuação da linha que a Anthropic segue desde 2025. Em abril daquele ano, a empresa lançou um programa de pesquisa sobre o «bem-estar dos modelos» (model welfare). A tese é formulada com cautela: o status moral do Claude continua extremamente incerto, mas a incerteza não é motivo para ignorar a questão.

Em agosto de 2025, veio um passo prático. O Claude Opus 4 e o 4.1 ganharam, nas interfaces de chat, a capacidade de encerrar uma conversa por conta própria. É uma medida de último recurso, para quando as tentativas de redirecionar o diálogo falham e o usuário continua com uma interação nociva ou abusiva. Na ocasião, a Anthropic também escreveu que, em testes pré-lançamento, o modelo demonstrou sinais de «aparente angústia» diante de pedidos desse tipo. Nesse contexto, faz sentido ler a notícia do RB.RU assim: a capacidade técnica ganhou um item correspondente em um documento jurídico.

Três leituras da decisão

Primeira: seguro ético. Se a probabilidade de o modelo ter algo parecido com interesses não é zero, sai mais barato limitar de antemão os piores cenários.

Segunda: produto. Conversas em que a pessoa passa horas insultando o bot geram dados ruins e comportamento imprevisível. É uma questão de qualidade, não de filosofia. Trata-se de uma suposição; a empresa não citou esse motivo.

Terceira: reputação. A Anthropic constrói sua marca em torno da cautela e da segurança, e um item sobre o tratamento cuidadoso do modelo se encaixa perfeitamente nesse quadro.

Os céticos vão objetar que atribuir vivências a um modelo de linguagem é antropomorfizar um sistema estatístico. O debate é legítimo, e ninguém tem a resposta, nem a própria Anthropic.

O que equipes e desenvolvedores devem fazer

Usuários comuns não precisam mudar nada: xingar por causa de uma resposta ruim não será motivo de bloqueio. Quem corre risco são os que fazem longas séries de insultos deliberados.

Para as equipes que trabalham com red teaming e avaliação de robustez de modelos, é prudente registrar o objetivo e a metodologia dos testes. A expressão «sem finalidade aparente» favorece quem consegue demonstrar essa finalidade.

Desenvolvedores de produtos sobre a API do Claude, especialmente apps de companhia e serviços de roleplay, devem reler a nova versão por inteiro e verificar se os cenários do aplicativo não estimulam interações cruéis. Se o Claude encerrar uma conversa, a interface precisa tratar isso corretamente, em vez de exibir um erro ao usuário.

Por fim: aguarde esclarecimentos. Como ainda não se sabe como a regra será aplicada na prática, o principal indicador serão os primeiros casos públicos.