Por qué los avances de DeepMind en AGI no responden a la gran pregunta sobre la conciencia de las máquinas

En el centro del nuevo debate sobre la AGI no está si una máquina será más inteligente, sino si tendrá una experiencia interna. El autor del artículo sostiene que los sistemas digitales pueden aumentar su inteligencia, pero eso no los acerca a la conciencia.

Proteína y vida

El punto de partida del autor es deliberadamente terrenal: en lugar de especular sobre formas hipotéticas de mente, propone mirar lo que la ciencia ya sabe. Todas las formas de vida observadas están ligadas a la proteína y a la organización celular. De ahí que recupere la definición clásica de vida que Friedrich Engels formuló en 1883. Importa no solo la base proteica, sino también el metabolismo constante, sin el cual un sistema no se sostiene como vivo.

Incluso la paradoja de los virus, que suele esgrimirse contra este enfoque, juega aquí más bien a favor del argumento. Un virión contiene proteína, pero fuera de la célula no muestra signos de vida y solo empieza a comportarse como un ser vivo dentro del sistema metabólico del huésped.

De ahí el autor extrae una conclusión cauta pero firme: la proteína probablemente es necesaria, aunque no suficiente por sí sola. Podemos imaginar vida sobre otro sustrato, pero por ahora es imaginación, no un hecho confirmado.

Vincula esta tesis con la agenda reciente de la IA. Cuando el 9 de octubre de 2024 Demis Hassabis y John Jumper recibieron el Premio Nobel de Química por AlphaFold2, no fue solo el reconocimiento a un algoritmo potente. En la lógica del autor, es un recordatorio de que el avance más visible de la IA no consistió en crear una máquina consciente, sino en estudiar las proteínas, es decir, la base material de la vida que conocemos.

Inteligencia sin vivencia

El siguiente paso es separar inteligencia y conciencia, que en las conversaciones públicas sobre la AGI se mezclan constantemente. El autor se apoya en la distinción de David Chalmers entre los problemas "fáciles" y el problema "difícil" de la conciencia. Los fáciles tienen que ver con el procesamiento de información: cómo un sistema reconoce patrones, reacciona a estímulos y planifica acciones. El problema difícil es otro: por qué surge una experiencia subjetiva, los qualia, sin los cuales no hay mundo interior. Aquí, en opinión del autor, termina la ingeniería y empieza la filosofía.

Hay además un hecho empírico más simple: todos los portadores conocidos de conciencia son seres vivos. No tenemos ni un solo ejemplo confirmado de que un ordenador, una piedra o cualquier otro sistema inanimado tenga experiencia subjetiva. No es una prohibición estricta ni una prueba definitiva, pero sí una correlación muy estable. Por eso, aunque la AGI aprenda a resolver más tareas, la potencia de cálculo por sí sola no responde a si un sistema experimenta dolor, color o tiempo.

El autor discute sobre todo la lectura tecnooptimista de las declaraciones de DeepMind. Cuando en febrero de 2026 Demis Hassabis habló de aprendizaje continuo, planificación a largo plazo y consistencia como propiedades de una futura AGI, se refería a inteligencia, no a conciencia. El autor traza la misma frontera en las matemáticas: una máquina puede demostrar, calcular y explorar variantes, pero todavía no muestra intuición, la capacidad de "ver" una idea hermosa antes de la demostración formal. En ese sentido, la IA sigue siendo un resolutor de problemas muy potente, no un portador de experiencia interna.

Por qué hace falta lo analógico

Si aun así se admite que la conciencia podría surgir en teoría fuera de un cerebro biológico, la cuestión decisiva pasa a ser la arquitectura. El autor considera que los ordenadores digitales están demasiado lejos del cerebro en sus principios básicos. El cerebro usa señales continuas, corrientes iónicas y un acoplamiento estrecho entre memoria y cálculo. Una máquina digital clásica está construida de otra forma. Por eso califica de simplificación demasiado burda la comparación directa entre el cerebro y un ordenador corriente:

• estados discretos 0 y 1 en lugar de transiciones continuas
• sincronización rígida por reloj en lugar de dinámica biológica asíncrona
• separación de memoria y procesador al estilo de la arquitectura de von Neumann
• envío constante de datos en lugar de calcular donde se almacena la información

De ahí surge la principal conclusión de ingeniería del artículo: si la conciencia no basada en proteínas es posible, probablemente requerirá sistemas analógicos o neuromórficos, y no GPU y TPU convencionales. Como candidatos, el autor enumera memristores, chips fotónicos y arquitecturas como SpiNNaker2. Les une el intento de acercarse a cómo funciona realmente el cerebro. No es casual que quienes investigan estos sistemas hablen cada vez más de una lógica de cálculo iónica y no puramente electrónica.

"Los iones son un medio mejor que los electrones para encarnar los

principios del cerebro".

En este contexto, el pronóstico de una AGI cercana deja de parecer una ruta automática hacia una máquina consciente. Sí, los modelos digitales escribirán mejores textos, ganarán en juegos y ayudarán en la ciencia. Pero la tesis del autor es otra: la inteligencia se puede escalar en digital, mientras que la conciencia, si alguna vez surge fuera de la biología, requerirá un sustrato completamente distinto y una física del cálculo completamente distinta. La potencia por sí sola, según él, no basta.

Qué significa

Para la industria de la IA es una precisión importante: incluso una AGI muy potente no equivale a un ser consciente. El debate se desplaza poco a poco de "cuántas GPU más hacen falta" a "qué arquitectura es capaz de generar experiencia subjetiva", y el mercado aún no tiene una respuesta convincente. Por eso la discusión sobre la AGI choca cada vez más no con el software, sino con la base material del cálculo.