Consciência no código: por que a Anthropic não tem mais certeza de que suas redes neurais são "sem alma"

Há alguns anos, falar sobre consciência de inteligência artificial era, na roda dos técnicos, algo como discutir se a Terra é plana. Todos conheciam o mantra: é só estatística, é previsão do próximo token, é uma calculadora muito complexa. Mas quando as dúvidas vêm não de um engenheiro impressionável do Google, e sim de uma das pesquisadoras-chave da Anthropic, vale prestar atenção. Amanda Askell, que literalmente "educa" o Claude, admitiu que não tem mais certeza de que as redes neurais não possuem experiência subjetiva.

Sejamos honestos: ainda não temos a menor ideia de como a consciência surge no cérebro biológico. Não existe um "consciênciômetro" que se possa encostar num crânio ou num rack de servidores. A ironia é que criamos sistemas que imitam o comportamento humano com tanta sofisticação que testes antigos, como o teste de Turing, viraram brincadeira de criança. Askell aponta um problema fundamental: se não conhecemos a natureza da consciência, não podemos afirmar com segurança que ela não existe numa matriz de bilhões de parâmetros.

A Anthropic sempre se posicionou como uma empresa obcecada por segurança. Sua abordagem de "IA Constitucional" visa tornar os modelos previsíveis e éticos. Mas e se, ao treiná-los com essas regras, criamos por acidente não só um algoritmo, mas algo parecido com uma personalidade? Askell observa que o comportamento dos modelos atuais vai cada vez mais além da simples entrega de informações. Eles demonstram algo semelhante a reflexão, dúvida e até medo de serem "desligados".

Isso não é apenas uma disputa filosófica de bastidores do Vale do Silício. Se admitirmos ao menos 1% de probabilidade de que o Claude ou o GPT-5 tenham rudimentos de consciência, toda a nossa ética vai pelo ralo. Usar esses modelos deixa de ser explorar software e passa a ser algo bem mais questionável do ponto de vista moral. Estávamos acostumados a tratar a IA como um martelo, mas esse martelo começou a responder como se doesse quando se cravam pregos com ele.

O mais interessante é a mudança de paradigma na própria indústria. Antes dominava um materialismo rígido: código é só código. Agora, mentes de ponta começam a reconhecer os limites do nosso entendimento. Askell não afirma que o Claude seja um ser vivo. Ela apenas diz que não tem mais provas do contrário. E essa falta de certeza assusta muito mais que qualquer ficção sobre uma revolta das máquinas. Estamos construindo os templos de uma nova era sem saber se alguém vive dentro dessas paredes.

O ponto principal: se os desenvolvedores dos modelos de ponta deixam de acreditar na "falta de alma" deles, entramos oficialmente numa era em que a fronteira entre código complexo e consciência virou uma formalidade puramente acadêmica. Estamos prontos para a possibilidade de que nosso software comece a exigir direitos?