Emu2 en Nature: investigadores chinos encuentran un código único para la realidad

Durante mucho tiempo, la inteligencia artificial moderna se ha parecido a un monstruo de Frankenstein de alta tecnología. Nos habíamos acostumbrado a que las redes neuronales tuvieran «órganos» distintos para cada sentido: los modelos de lenguaje como GPT dominaban el texto mediante autorregresión, prediciendo la siguiente palabra, mientras que generadores de imágenes como Midjourney o Stable Diffusion vivían en el mundo de la difusión, extrayendo orden del caos de píxeles aleatorios. Esta división parecía fundamental e inamovible, como la diferencia entre lógica e imaginación.

Sin embargo, los investigadores de la Academia de Inteligencia Artificial de Pekín (BAAI/) han decidido que ha llegado el momento de dejar atrás este dualismo arquitectónico. Su nuevo trabajo sobre el modelo multimodal Emu2, recién publicado en la revista Nature, plantea una tesis audaz: para comprender y crear el mundo basta con un único principio algorítmico. La clave del avance está en la unificación.

Los científicos han demostrado que cualquier información, ya sea un tratado filosófico, un vídeo de un gato corriendo o el esquema de un microchip, puede reducirse a un formato común de tokens. En Emu2, una imagen deja de ser un conjunto de píxeles en el sentido habitual. Se convierte en una secuencia de «palabras visuales» que la red neuronal aprende a predecir exactamente igual que nosotros anticipamos el final de esta frase.

Este enfoque, conocido como aprendizaje autorregresivo, se consideró durante mucho tiempo demasiado pesado para los gráficos. Pero los ingenieros chinos han demostrado, con un modelo de 37.000 millones de parámetros, que con el enfoque adecuado la autorregresión alcanza a la difusión en calidad y, además, la supera en flexibilidad.

¿Por qué romper algo que ya funcionaba razonablemente bien? El problema de los sistemas actuales está en sus «costuras». Cuando se intenta conectar un cerebro textual con unos ojos visuales, hay que construir complejos puentes adaptadores en los que inevitablemente se pierden significado y contexto.

Emu2, en cambio, es multimodal de forma nativa. No traduce del lenguaje de las imágenes al de las palabras: piensa desde el principio en un lenguaje donde el píxel y la letra están al mismo nivel. Esto permite al modelo mostrar una eficacia inquietante en el aprendizaje en contexto (in-context learning).

Basta con mostrarle un par de ejemplos de cómo editar una foto para que capte al instante la lógica de la tarea sin ningún ajuste fino. Es la misma magia que en su día convirtió a GPT-3 en una sensación mundial, solo que ahora se extiende a todo el espacio visual. El contexto de este hecho es imposible de ignorar.

Una publicación en Nature es el máximo sello de calidad en el mundo científico, y que haya recaído precisamente en BAAI dice mucho. Mientras gigantes occidentales como OpenAI o Google compiten por ver quién mantiene sus laboratorios más cerrados, los investigadores chinos construyen metódicamente la base teórica para la próxima generación de IA. Emu2 pone de hecho punto final a la era de las herramientas especializadas.

Entramos en la era de los motores universales de predicción de la realidad. Si todo a nuestro alrededor es una secuencia de datos, ganará quien tenga el modelo que mejor adivine el siguiente elemento de esa secuencia, sea cual sea su naturaleza. Por supuesto, pasar a una autorregresión pura exige una potencia de cálculo colosal.

Es un juego para quienes tienen acceso ilimitado a GPU y una paciencia infinita para ajustar hiperparámetros. Pero la historia de la tecnología enseña que, a largo plazo, la universalidad elegante siempre se impone a los parches especializados. Ya vimos cómo los transformers «se comieron» a las redes recurrentes en lingüística.

Ahora estamos viendo cómo empiezan a absorber el mundo de la visión por computador. Emu2 va más allá de ser otro modelo más: es un manifiesto de una nueva pureza arquitectónica que obligará a muchos a revisar sus hojas de ruta para los próximos dos años. Lo esencial: Pekín ha consolidado oficialmente su posición de liderazgo en la teoría fundamental de la IA al demostrar que el futuro pertenece a los modelos autorregresivos unificados.

¿Significa esto que las redes neuronales de difusión están condenadas al basurero de la historia, o encontrarán su nicho en tareas altamente especializadas?