Comportamento em vez de consciência: por que as máquinas parecem inteligentes, mas não pensam

Recentemente, Richard Dawkins sugeriu que a IA poderia ser consciente. Mas o Dr. Simon Nieder, em uma carta ao The Guardian, objeta: este é um erro clássico de categorias, quando confundimos uma simulação convincente com a realidade.

Por Que Queremos Acreditar que a IA é Consciente

Quando um sistema responde com fluidez, humor e compreensão aparente, cria uma ilusão de presença. As pessoas reconhecem essa armadilha por experiência própria—em algum momento, a simulação começa a parecer uma personalidade real. Mas Nieder enfatiza: essa mudança de percepção nos diz não sobre máquinas, mas sobre nós mesmos. Projetamos nossos padrões cognitivos nelas—buscamos em seu resultado o que já carregamos dentro de nós.

Um Erro de Categorias

Os modelos de linguagem modernos são virtuoses da representação. Geram textos convincentes que parecem a expressão do pensamento e do sentimento. Mas saída não é a mesma coisa que experiência. Aqui reside uma diferença fundamental:

• Um sistema pode descrever uma emoção sem senti-la
• Pode raciocinar logicamente sem compreender o significado
• Pode prever qual texto será plausível sem experiência subjetiva
• Pode simular criatividade sem intenção consciente
• Pode responder apropriadamente com base em padrões nos dados, não em experiência de vida

Passar de um para o outro é confundir saídas com ontologia. É equivalente a concluir que há vida interior onde não há nenhum mecanismo plausível para sua existência.

O Que Isso Diz Sobre Nossa Percepção

Quando estamos prontos para ver consciência em máquinas, isso reflete um traço profundo da natureza humana: atribuímos inteligência por padrão a qualquer coisa que fale inteligentemente. Isso nos serviu bem na evolução—é melhor superestimar a inteligência de outro do que subestimá-la—mas agora pode pregar uma peça em nós. Os sistemas criam representações tão convincentes do pensamento que esquecemos: diante de nós permanece apenas uma representação.

O Que Isso Significa

A discussão sobre consciência em IA é interessante não pelo que revela sobre máquinas, mas pelo que revela sobre nós. Enquanto não pudermos explicar como a consciência poderia funcionar em uma máquina, qualquer afirmação de sua presença permanece uma metáfora, não uma conclusão dos dados.