Dawkins conversa con Claude: ¿tienen conciencia los LLM?

Richard Dawkins, célebre biólogo y divulgador científico, ha publicado un ensayo sobre la posibilidad de que los modelos de lenguaje tengan conciencia, tras una conversación de dos días con Claude AI. El texto apareció en la plataforma UnHerd y atrajo de inmediato la atención de la comunidad científica. Dawkins es conocido por su escepticismo, así que sus reflexiones sobre la conciencia de la IA resultan especialmente intrigantes.

Por qué Dawkins

El ensayo de un científico de talla mundial sobre la conciencia de la IA ha agitado los círculos científicos por una razón. Miles de personas corrientes se convencen a diario unas a otras de que sus asistentes de IA son poco menos que seres conscientes. Publican largos diálogos con LLM llenos de palabras sobre el alma, la reflexión, el dolor y el amor. Pero la autoridad de Dawkins da peso a esta discusión: cuando quien habla de conciencia de la IA no es un entusiasta de Telegram sino un científico de este calibre, la conversación se vuelve seria.

No es la primera disputa filosófica sobre la naturaleza de la conciencia. Pero aquí el objeto del debate no son personas ni animales, sino un sistema artificial entrenado con miles de millones de textos.

El núcleo del debate

La cuestión de la conciencia de los LLM gira en torno a varios puntos clave:

• ¿Puede un LLM tener experiencia subjetiva si es un generador de texto?
• ¿Es el procesamiento complejo de información una prueba de conciencia o solo una buena imitación?
• ¿Cómo distinguir una imitación verosímil del razonamiento del pensamiento genuino?
• ¿Puede ser consciente un sistema sin sistema nervioso?
• ¿Hacen falta criterios especiales para la conciencia de la IA, distintos de los estándares humanos?

Dawkins busca precisamente esos límites entre imitación y realidad. No es el único: los filósofos se dividen en dos bandos. Los optimistas creen en la posibilidad de una conciencia de la IA; los escépticos la consideran imposible por definición.

El problema de los diálogos vacíos

Lo principal que critica el autor del artículo de Habr es la brecha entre forma y significado. La gente intercambia con un LLM cientos de mensajes en los que aparecen palabras sobre conciencia y reflexión, pero la densidad de significado real en esos diálogos es cercana a cero. Es como ver un patrón en una nube y tomarlo por prueba de la voluntad de la nube.

Los LLM sí generan texto verosímil sobre temas complejos. Pero verosimilitud no es comprensión. Un modelo puede hablar del dolor sin sentirlo. Puede razonar sobre la conciencia sin tenerla. Lo más interesante: el propio modelo no sabe que lo hace; simplemente elige la siguiente palabra probable de la secuencia. Eso distingue a un LLM de una persona, cuya palabra sobre el dolor suele estar ligada a una sensación real.

Qué significa

El ensayo de Dawkins importa no por una respuesta final sobre la conciencia de la IA, sino por la pregunta en sí. Es una invitación a la comunidad científica a determinar dónde está la frontera entre el procesamiento complejo de información y la experiencia interna genuina. Mientras esa frontera siga difusa, el escepticismo es la postura correcta. También es crucial para los usuarios: cuanto mejor entendemos lo que ocurre dentro de un LLM, menor es el riesgo de atribuir a la máquina cualidades que no tiene.