LançamentoAnálise · No radarThe Decoder→ original

Ajustar um único parâmetro desativa a marca d'água em modelos antigos do Claude

A Anthropic insere uma marca d'água oculta nas respostas do Claude: o modelo escolhe as palavras de modo que um detector especial reconheça o texto gerado por máquina. Mas, em vários modelos antigos, a proteção só funciona com os valores padrão de temperature, top_p e top_k. Basta ao desenvolvedor alterar um parâmetro, e a marca desaparece. Por isso, por enquanto ela não pode ser considerada prova confiável da origem de um texto.

Processado por IA de The Decoder; editado por Hamidun News
Ajustar um único parâmetro desativa a marca d'água em modelos antigos do Claude
Fonte: The Decoder. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalThe Decoder ↗
Editor-chefe
Dado-chave #1Se a marca d'água é necessária para conformidade, fixe os parâmetros de geração.
Dado-chave #2Não use o resultado do detector como única prova do uso de IA.
Dado-chave #3Verifique separadamente o comportamento de cada modelo e plataforma de nuvem.

Uma marca d'água no texto parece uma solução conveniente: o modelo marca discretamente a própria resposta, e a empresa depois a verifica por meio de um detector. Mas a implementação da Anthropic em vários modelos antigos do Claude mostrou depender das configurações de geração. Basta alterar um dos três parâmetros — temperature, top_p ou top_k — para que a marca oculta deixe de ser aplicada.

Para os desenvolvedores, isso não é um truque pelo truque. Se um produto usa a marca d'água para auditoria, cumprimento de regras internas ou rotulagem de conteúdo, uma configuração comum da API pode destruir silenciosamente todo o esquema de controle.

Como funciona a marca oculta

A Anthropic descreve a marca d'água como um padrão estatisticamente perceptível na escolha das palavras. Não são adicionados à resposta caracteres especiais, campos de serviço ou tokens extras. Em vez disso, a cada etapa da geração o modelo altera levemente a probabilidade das opções admissíveis. Para uma pessoa, o texto parece comum, enquanto o detector, ao receber um trecho suficientemente longo, procura uma distribuição de palavras característica.

Um exemplo simples: o modelo pode continuar uma frase de várias maneiras de sentido próximo. Sem a marca, escolhe uma opção segundo as probabilidades originais. Com a marca, parte das palavras adequadas recebe uma leve prioridade por uma regra secreta. Depois de centenas dessas escolhas, acumula-se um sinal que pode ser detectado estatisticamente.

O problema é que a escolha da próxima palavra já depende de temperature, top_p e top_k. Esses parâmetros controlam a aleatoriedade e o conjunto de opções disponíveis para o modelo. No Claude Opus 4.6, Opus 4.5, Sonnet 4.5 e Haiku 4.5, a marca d'água é aplicada apenas com os valores padrão. Alterar até mesmo um parâmetro tira a solicitação do modo de marcação.

Onde o esquema prático se rompe

Imagine um serviço que gera descrições de produtos e promete ao cliente rotular todo o conteúdo de IA. A equipe fixa o uso do Claude, conecta um detector e considera a tarefa encerrada. Depois, um desenvolvedor reduz a temperature em busca de respostas mais estáveis. Os textos continuam sendo gerados, a API não retorna erro, o formato da resposta não muda — mas a marca d'água já não existe.

Isso é especialmente perigoso quando os parâmetros podem ser enviados pela interface do usuário ou alterados por configuração sem nova verificação. Formalmente o sistema funciona, mas na prática o controle da origem do texto está desativado.

Há também o problema inverso: a presença de um sinal estatístico não transforma o detector em perícia judicial. O texto pode ser editado, encurtado, traduzido ou misturado com trechos de outros modelos. Várias marcas d'água em um mesmo documento também podem complicar a verificação. Por isso, o resultado do detector deve ser tratado como um sinal, não como prova definitiva.

O que as equipes devem fazer

Se a rotulagem é necessária para conformidade, fixe no servidor o modelo compatível e os valores de temperature, top_p e top_k. Não permita que o cliente os altere diretamente. Adicione um teste que envie solicitações de controle e verifique as respostas com o detector oficial após atualizações do modelo, do SDK ou da plataforma de nuvem.

Separadamente, registre em log o identificador do modelo, os parâmetros de geração, o provedor de infraestrutura e o horário da solicitação. Esse log é mais útil do que uma única marca oculta: mostra exatamente como o texto surgiu, mesmo que o documento tenha sido editado depois.

A principal conclusão é simples: a marca d'água da Anthropic é um mecanismo adicional útil, mas ainda não um sistema de controle independente. Se um processo precisa distinguir de forma comprovável texto humano de texto de máquina, verificar apenas o documento pronto não basta. É necessária uma cadeia de procedência: restrições no servidor, logs de solicitações, versões de modelos e testes de controle regulares.

História

Perguntas frequentes sobre a notícia

Como funciona a marca oculta?

A Anthropic descreve a marca d'água como um padrão estatisticamente perceptível na escolha das palavras. Não são adicionados à resposta caracteres especiais, campos de serviço ou tokens extras. Em vez disso, a cada etapa da geração o modelo altera levemente a probabilidade das opções admissíveis. Para uma pessoa, o texto parece comum, enquanto o detector, ao receber um trecho suficientemente longo, procura uma distribuição de palavras característica.

Onde o esquema prático se rompe?

Imagine um serviço que gera descrições de produtos e promete ao cliente rotular todo o conteúdo de IA. A equipe fixa o uso do Claude, conecta um detector e considera a tarefa encerrada. Depois, um desenvolvedor reduz a temperature em busca de respostas mais estáveis. Os textos continuam sendo gerados, a API não retorna erro, o formato da resposta não muda — mas a marca d'água já não existe.

O que as equipes devem fazer?

Se a rotulagem é necessária para conformidade, fixe no servidor o modelo compatível e os valores de temperature, top_p e top_k. Não permita que o cliente os altere diretamente. Adicione um teste que envie solicitações de controle e verifique as respostas com o detector oficial após atualizações do modelo, do SDK ou da plataforma de nuvem. Separadamente, registre em log o identificador do modelo, os parâmetros de geração, o provedor de infraestrutura e o horário da solicitação.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…