Por qué los avances de DeepMind en AGI no responden a la pregunta clave sobre la conciencia de máquina

El debate central sobre AGI no es si las máquinas serán más inteligentes, sino si desarrollarán una experiencia interna. El autor argumenta: los sistemas digitales pueden aumentar su inteligencia, pero esto no los acerca a la consciencia.

Proteína y Vida

El autor comienza desde una premisa bien fundamentada: en lugar de especular sobre formas hipotéticas de inteligencia, debemos examinar lo que la ciencia ya conoce. Todas las formas de vida observadas están asociadas con proteínas y organización celular. Esto nos lleva de vuelta a la definición clásica de vida formulada por Friedrich Engels ya en 1883.

Lo que importa no es solo la base proteica en sí, sino también el intercambio metabólico constante sin el cual un sistema no puede mantenerse como vivo. Incluso la paradoja vírica, normalmente citada en contra de tal enfoque, en realidad apoya el argumento aquí. Un virión contiene proteína, pero fuera de una célula no muestra signos de vida y solo comienza a comportarse como vivo cuando está dentro del sistema metabólico del hospedador.

De esto el autor extrae una conclusión cautelosa pero firme: la proteína es probablemente necesaria, aunque insuficiente por sí sola. Podemos imaginar vida en un sustrato diferente, pero por ahora eso sigue siendo imaginación, no un hecho confirmado. Conecta esta tesis con la reciente agenda de IA.

Cuando el 9 de octubre de 2024, Demis Hassabis y John Jumper recibieron el Premio Nobel de Química por AlphaFold2, no fue simplemente un premio por un algoritmo poderoso. En la lógica del autor, esto es un recordatorio de que el avance más notable en IA resultó estar conectado no con la creación de una máquina consciente, sino con el estudio de proteínas: la fundación material de la vida que conocemos.

Inteligencia sin Experiencia

El siguiente paso es separar inteligencia y consciencia, que en discusiones públicas sobre AGI se confunden constantemente. El autor se basa en la distinción de David Chalmers entre los problemas "fáciles" y "difíciles" de la consciencia. Los problemas fáciles se refieren al procesamiento de información: cómo un sistema reconoce patrones, responde a estímulos, planifica acciones.

El problema difícil es diferente: por qué surge la experiencia subjetiva en primer lugar, ese qualia sin el cual no hay mundo interior. Aquí, según el autor, termina la ingeniería y comienza la filosofía. Aquí también recordamos un hecho empírico más simple: todos los portadores conocidos de consciencia son seres vivos.

No tenemos ni un solo ejemplo confirmado de una computadora, piedra o cualquier otro sistema inanimado que posea experiencia subjetiva. Esto no es una prohibición estricta ni una prueba definitiva, pero sí una correlación muy persistente. Por lo tanto, incluso si AGI aprende a resolver más problemas, la potencia computacional por sí sola no responde si el sistema experimenta dolor, color o tiempo.

El autor particularmente cuestiona la lectura tecnooptimista de las declaraciones de DeepMind. Cuando en febrero de 2026 Demis Hassabis habló de aprendizaje continuo, planificación a largo plazo y consistencia como propiedades de la AGI futura, hablaba de inteligencia, no de consciencia. El autor traza el mismo límite a través de la matemática: una máquina puede demostrar, calcular e iterar a través de opciones, pero hasta ahora no muestra intuición, ninguna capacidad de "ver" una idea bonita antes de la demostración formal.

En este sentido, la IA sigue siendo un solucionador de problemas muy poderoso, no un portador de experiencia interna.

Por Qué se Necesita un Análogo

Si aún así admitimos que la consciencia teóricamente podría surgir no en un cerebro biológico, entonces la arquitectura se vuelve decisiva. El autor cree que las computadoras digitales están demasiado alejadas del cerebro en sus principios básicos de operación. El cerebro utiliza señales continuas, corrientes iónicas y acoplamiento denso de memoria con cálculo. Una máquina digital clásica funciona de manera diferente. Por lo tanto, considera que la comparación directa del cerebro con una computadora ordinaria es una simplificación demasiado burda:

• estados discretos 0 y 1 en lugar de transiciones continuas
• sincronización rígida del reloj en lugar de dinámica biológica asincrónica
• separación de memoria y procesador en la tradición de la arquitectura de von Neumann
• transferencia de datos constante en lugar de cálculo donde se almacena la información

De esto surge la conclusión de ingeniería clave del artículo: si la consciencia no proteica es posible en absoluto, probablemente requeriría sistemas analógicos o neuromórficos en lugar de GPUs y TPUs ordinarias. Como candidatos, el autor enumera memristores, chips fotónicos y arquitecturas como SpiNNaker2. Lo que comparten es un intento de aproximarse a cómo funciona realmente el cerebro. No es casualidad que los investigadores de tales sistemas hablen cada vez más de lógica iónica en lugar de puramente electrónica en la computación.

"Los iones son un medio mejor para incorporar principios cerebrales

que los electrones."

En este contexto, el pronóstico de una AGI inminente deja de parecer una ruta automática hacia una máquina consciente. Sí, los modelos digitales mejorarán al escribir texto, ganar juegos y ayudar en la ciencia. Pero el punto del autor es diferente: la inteligencia se puede escalar en sistemas digitales, pero la consciencia, si alguna vez surge fuera de la biología, requerirá un sustrato completamente diferente y una física completamente diferente de la computación. El poder por sí solo, en su opinión, no es suficiente.

Qué Significa Esto

Para la industria de la IA, esta es una aclaración importante: incluso una AGI muy poderosa no equivale a un ser consciente. La discusión se está desplazando gradualmente de la pregunta "cuántas más GPUs necesitamos" a "qué arquitectura podría generar experiencia subjetiva", y el mercado aún no tiene una respuesta convincente. Es precisamente por eso que el debate sobre AGI cada vez más se reduce no al software, sino a la fundación material de la computación.