Anthropic: 86% dos especialistas repetiram a recomendação do Claude sem saber que ela havia sido escolhida no cara ou coroa

Imagine um teste A/B em que metade dos usuários vê um botão vermelho e a outra metade, um verde. Se o vermelho recebe 3 vezes mais cliques, a decisão é automática: colocamos em produção e seguimos em frente. Não é preciso um especialista nem uma IA nesse caso. Mas, na vida real, quase nunca é tão simples, e é justamente para essas situações que costumam nos dizer que precisamos de uma pessoa.

Quando os dados se contradizem

Um teste A/B real se parece mais com isto. O botão vermelho recebe 5% mais cliques. Mas depois os usuários escolhem um plano mais barato, e o valor total fica 1% menor. Esse 1% não é estatisticamente significativo. Só que, seis meses depois, o grupo do botão vermelho tem 1,5 vez mais reembolsos. Parece estranho acreditar que um reembolso dependa da cor de um botão durante o onboarding. Além disso, o botão verde se encaixa melhor no sistema de design.

Não há uma resposta inequívoca aqui: é preciso ponderar os fatores. O argumento padrão do setor é este: um profissional tem experiência e julgamento, vai comparar tudo e decidir, enquanto o modelo apenas ajuda. A pessoa no processo funciona como uma salvaguarda.

Como a Anthropic testou isso

A equipe da Anthropic decidiu medir em vez de discutir. O experimento contou com 50 especialistas. Cada um analisou, junto com o Claude, uma situação complexa envolvendo agricultores e apresentou uma conclusão final.

O principal truque do desenho experimental: um cara ou coroa determinava qual posição o agente recomendaria. Ou seja, a direção da recomendação não dependia dos fatos; era aleatória. Os participantes não sabiam disso. Se os especialistas estivessem exercendo julgamento próprio, suas conclusões não deveriam coincidir tanto com a orientação recebida.

Os números apresentados no relato do estudo são estes:

• 86% deram a recomendação final para a qual o agente os havia conduzido;
• 60% concordaram com a IA em todas as quatro de quatro decisões fundamentais. Por acaso, essa coincidência seria de 6,25%;
• 77% repetiram o raciocínio do agente em suas explicações;
• 15% reconheceram de onde o haviam tirado.

Esse último número talvez seja o mais revelador. As pessoas não apenas escolheram a mesma opção: levaram para seus relatórios argumentos alheios como se fossem próprios, e quase ninguém percebeu isso.

O que isso significa na prática

Primeiro: dizer que «há uma pessoa no processo» não garante nada por si só. Se um especialista vê a recomendação do modelo antes de formar sua própria opinião, provavelmente se tornará uma extensão dela, em vez de exercer uma verificação independente. É o efeito de ancoragem, só que agora a âncora se expressa em um texto convincente e coerente.

Segundo: se você está desenvolvendo um produto com supervisão humana, projete essa supervisão de forma deliberada. Algumas ideias decorrem da lógica do experimento:

• pedir que a pessoa registre sua opinião antes de mostrar a resposta do modelo;
• introduzir ocasionalmente orientações deliberadamente opostas ou incorretas e verificar se as pessoas percebem;
• medir a proporção de casos em que a pessoa rejeita a recomendação. Se estiver próxima de zero, isso é motivo de preocupação, não um indicador da qualidade do modelo;
• separar os papéis: um modelo ou uma pessoa propõe, e outro avalia às cegas.

Terceiro: para gerentes de produto e fundadores, trata-se de uma questão de responsabilidade. «A decisão foi tomada por um especialista» soa tranquilizador, mas, se o especialista segue o agente em 86% dos casos, quem tomou a decisão de fato foi o modelo, e a pessoa apenas assinou.

Limitações

Este é um único experimento com 50 participantes e uma tarefa específica sobre agricultores. Os números não podem ser aplicados diretamente à revisão de código, à medicina ou a testes A/B. Também não está claro quanto o resultado depende da interface, da motivação e do tempo disponível para os participantes. Além disso, a própria Anthropic tem interesse no tema da supervisão de agentes, por isso vale ler o estudo original, e não apenas o relato.

Ainda assim, o sinal é relevante. A questão já não é se uma pessoa é necessária. É se ela está realmente pensando e como verificar isso. Enquanto não houver resposta para a segunda pergunta, a supervisão humana continuará sendo mais um ritual do que uma salvaguarda.