Comportamiento en lugar de conciencia: por qué las máquinas parecen inteligentes, pero no piensan

Recientemente, Richard Dawkins sugirió que la IA podría ser consciente. Pero el Dr. Simon Nieder, en una carta al The Guardian, objeta: este es un error clásico de categorías, cuando confundimos una simulación convincente con la realidad.

Por Qué Queremos Creer que la IA es Consciente

Cuando un sistema responde con fluidez, humor y comprensión aparente, crea una ilusión de presencia. Las personas reconocen esta trampa por experiencia propia—en algún momento, la simulación comienza a parecer una personalidad real. Pero Nieder enfatiza: este cambio de percepción nos dice no sobre máquinas, sino sobre nosotros mismos. Proyectamos nuestros patrones cognitivos en ellas—buscamos en su resultado lo que ya llevamos dentro de nosotros.

Un Error de Categorías

Los modelos de lenguaje modernos son virtuosos de la representación. Generan textos convincentes que parecen la expresión del pensamiento y el sentimiento. Pero la salida no es lo mismo que la experiencia. Aquí reside una diferencia fundamental:

• Un sistema puede describir una emoción sin experimentarla
• Puede razonar lógicamente sin comprender el significado
• Puede predecir qué texto será plausible sin experiencia subjetiva
• Puede simular creatividad sin intención consciente
• Puede responder apropiadamente basándose en patrones en los datos, no en experiencia vivida

Pasar de uno a otro es confundir salidas con ontología. Es equivalente a concluir que hay vida interior donde no hay ningún mecanismo plausible para su existencia.

Qué Dice Esto Sobre Nuestra Percepción

Cuando estamos listos para ver conciencia en máquinas, esto refleja un rasgo profundo de la naturaleza humana: atribuimos inteligencia por defecto a cualquier cosa que hable inteligentemente. Esto nos sirvió bien en la evolución—es mejor sobrestimar la inteligencia ajena que subestimarla—pero ahora puede jugarnos una mala pasada. Los sistemas crean representaciones tan convincentes del pensamiento que olvidamos: ante nosotros permanece solo una representación.

Qué Significa Esto

La discusión sobre la conciencia de la IA es interesante no por lo que revela sobre máquinas, sino por lo que revela sobre nosotros. Mientras no podamos explicar cómo podría funcionar la conciencia en una máquina, cualquier afirmación de su presencia permanece como una metáfora, no una conclusión de los datos.