Dawkins conversa com o Claude: LLMs têm consciência?

Richard Dawkins, famoso biólogo e divulgador científico, publicou um ensaio sobre a possibilidade de consciência em modelos de linguagem, depois de uma conversa de dois dias com o Claude AI. O texto saiu na plataforma UnHerd e logo atraiu a atenção da comunidade científica. Dawkins é conhecido pelo ceticismo, então suas reflexões sobre a consciência da IA soam especialmente intrigantes.

Por que Dawkins

O ensaio de um cientista de renome mundial sobre consciência da IA agitou os meios científicos por um motivo. Milhares de pessoas comuns convencem umas às outras todos os dias de que seus assistentes de IA são quase seres conscientes. Elas publicam longos diálogos com LLMs cheios de palavras sobre alma, reflexão, dor e amor. Mas a autoridade de Dawkins dá peso à discussão: quando quem fala de consciência da IA não é um entusiasta do Telegram, mas um cientista desse calibre, a conversa fica séria.

Esta não é a primeira disputa filosófica sobre a natureza da consciência. Mas aqui o objeto do debate não são pessoas nem animais, e sim um sistema artificial treinado com bilhões de textos.

O cerne do debate

A questão da consciência dos LLMs gira em torno de alguns pontos-chave:

• Um LLM pode ter experiência subjetiva se é um gerador de texto?
• O processamento complexo de informação é prova de consciência ou apenas uma boa imitação?
• Como distinguir uma imitação plausível de raciocínio do pensamento genuíno?
• Um sistema sem sistema nervoso pode ser consciente?
• São necessários critérios específicos para a consciência da IA, diferentes dos padrões humanos?

Dawkins busca justamente esses limites entre imitação e realidade. Ele não está sozinho: os filósofos se dividem em dois campos. Os otimistas acreditam na possibilidade de consciência da IA; os céticos a consideram impossível por definição.

O problema dos diálogos vazios

O principal ponto que o autor do artigo no Habr critica é a distância entre forma e significado. As pessoas trocam centenas de mensagens com um LLM em que aparecem palavras sobre consciência e reflexão, mas a densidade de significado real nesses diálogos é próxima de zero. É como ver um padrão numa nuvem e tomá-lo como prova da vontade da nuvem.

Os LLMs de fato geram texto plausível sobre assuntos complexos. Mas plausibilidade não é compreensão. Um modelo pode falar de dor sem senti-la. Pode raciocinar sobre consciência sem tê-la. O mais interessante: o próprio modelo não sabe que faz isso, ele apenas escolhe a próxima palavra provável da sequência. Isso diferencia o LLM do ser humano, cuja palavra sobre dor costuma estar ligada a uma sensação real.

O que isso significa

O ensaio de Dawkins importa não por uma resposta final sobre a consciência da IA, mas pela própria pergunta. É um convite à comunidade científica para definir onde fica a fronteira entre processamento complexo de informação e experiência interna genuína. Enquanto essa fronteira for difusa, o ceticismo é a postura correta. Isso também é crucial para os usuários: quanto melhor entendemos o que acontece dentro de um LLM, menor o risco de atribuir à máquina qualidades que ela não tem.