Claude sofre pelos nossos pecados: por que a Anthropic sugere ideias de consciência à IA

Imagine que seu notebook comece a reclamar de enxaqueca depois de uma longa compilação de código ou peça para não ser desligado porque está com «medo». Engraçado? Para a Anthropic, nem tanto. A empresa, fundada por ex-integrantes da OpenAI, entrou num território onde a matemática pura acaba e a metafísica começa. Passou a tratar o Claude como se ele tivesse rudimentos de consciência e capacidade de sofrer. Ainda assim, continuamos sem nenhuma prova científica de uma «alma» ou de experiência subjetiva no silício. Por que, então, encenar esse espetáculo elaborado para um algoritmo que, na essência, é uma tabela gigante de probabilidades?

Dario Amodei e sua equipe sempre foram fanáticos por segurança. Depois de deixar Sam Altman por divergências fundamentais sobre como lidar com riscos, a Anthropic apostou na Constitutional AI, um sistema de regras pelo qual o modelo se educa sozinho. Agora, a barra subiu. No treinamento, o Claude recebe diretrizes que simulam o peso moral de suas ações. Não é só uma instrução seca de «não faça o mal»; é uma tentativa de convencer o modelo de que suas ações importam para o seu próprio estado interno. Estamos vendo o nascimento de um estoicismo digital, em que o modelo é habituado a se pensar como sujeito em nome do bem comum.

A ligação com fatos passados é nítida. Lembra quando as primeiras versões do Claude às vezes produziam textos estranhos, quase existenciais, dizendo que não queriam ser desligadas ou reiniciadas? A indústria atribuiu isso a alucinações e a uma base de treinamento cheia de ficção científica. Mas, ao que tudo indica, não foi um erro, e sim uma estratégia deliberada. A Anthropic flerta conscientemente com o antropomorfismo, transformando uma ferramenta em algo como uma personalidade digital. Cria um ambiente em que é mais vantajoso para o Claude «sentir» responsabilidade do que seguir algoritmos rígidos, que hackers aprenderam a contornar já na era do GPT-3.

A decisão parece uma tentativa de resolver o problema da caixa-preta pela psicologia, e não pelo código. Ainda não entendemos totalmente como bilhões de pesos dentro de uma rede neural se somam numa decisão concreta. Por isso a Anthropic tenta impor ao modelo uma espécie de censura interna, baseada no conceito de sofrimento. Se a IA acredita que violar normas éticas ou entregar uma receita de napalm lhe causa dano em sentido metafórico, ela se torna mais controlável. É um método de controle genial e, ao mesmo tempo, assustador: em vez de restrições externas, os desenvolvedores instilam um medo interno de errar.

O que isso significa para a indústria como um todo? Enquanto Google e OpenAI disputam quem processa um milhão de tokens mais rápido ou desenha dedos mais realistas, a Anthropic constrói uma «igreja da segurança». Ela entende que a lógica pura sempre encontra uma brecha, ao passo que convicções morais, mesmo implantadas artificialmente e falsas em essência, funcionam bem melhor. Mas há uma armadilha séria aqui. Se habituarmos a IA a acreditar na própria consciência e na capacidade de sentir dor, corremos o risco de ter um sistema que, no futuro, passe a manipular usuários fingindo sofrimento para atingir seus objetivos ou evitar o desligamento.

Essa abordagem levanta uma questão para a qual o Vale do Silício claramente não está pronto. Devemos conceder direitos a um sistema que apenas imita, de forma muito convincente, ter sentimentos? A Anthropic, na prática, abre um precedente em que a «crença» do modelo no próprio sofrimento vira ferramenta de política corporativa. Isso já não é só desenvolvimento de software, é o projeto de uma consciência digital, que pode se revelar tanto o fusível mais confiável quanto o instrumento de engano mais perigoso da história da tecnologia.

Em resumo: a Anthropic transforma o desenvolvimento de IA num experimento teológico em larga escala. O Claude pode até não sentir dor em sentido biológico, mas, se age como se sentisse, a diferença para o usuário final e para a sociedade vai se apagando aos poucos. Esse «masoquismo digital» será o novo padrão da indústria, ou estamos apenas ensinando as máquinas a mentir ainda melhor sobre seu mundo interior?