Emu2 dans Nature : des chercheurs chinois trouvent un code unique pour décrire la réalité

Pendant longtemps, l'intelligence artificielle moderne a ressemblé à un monstre de Frankenstein high-tech. Nous nous étions habitués à ce que les réseaux de neurones disposent d'« organes » distincts pour chaque sens : les modèles de langage comme GPT excellaient sur le texte grâce à l'autorégression, en prédisant le mot suivant, tandis que les générateurs d'images comme Midjourney ou Stable Diffusion vivaient dans l'univers de la diffusion, en extrayant de l'ordre à partir d'un chaos de pixels aléatoires. Cette séparation semblait fondamentale et immuable, comme la différence entre la logique et l'imagination.

Les chercheurs de l'Académie d'intelligence artificielle de Pékin (BAAI/) ont pourtant estimé qu'il était temps de reléguer ce dualisme architectural au passé. Leurs nouveaux travaux sur le modèle multimodal Emu2, tout juste publiés dans la revue Nature, avancent une affirmation audacieuse : un seul et unique principe algorithmique suffit pour comprendre ce monde et le créer. Le cœur de l'avancée tient à l'unification.

Les chercheurs ont démontré que toute information, qu'il s'agisse d'un traité de philosophie, d'une vidéo de chat qui court ou du schéma d'une puce, peut se ramener à un format unique de tokens. Dans Emu2, une image n'est plus un ensemble de pixels au sens habituel. Elle devient une séquence de « mots visuels » que le réseau apprend à prédire exactement comme nous anticipons la fin de cette phrase.

Cette approche, appelée apprentissage autorégressif, a longtemps été jugée trop lourde pour le graphisme. Mais avec un modèle de 37 milliards de paramètres, les ingénieurs chinois ont montré que, bien maîtrisée, l'autorégression ne se contente pas de rattraper la diffusion en qualité : elle la dépasse en flexibilité. Pourquoi casser ce qui fonctionnait déjà correctement ?

Le problème des systèmes actuels réside dans leurs « coutures ». Pour faire cohabiter un cerveau textuel et des yeux visuels, il faut bâtir des ponts et des adaptateurs complexes, où le sens et le contexte se perdent inévitablement. Emu2, à l'inverse, est nativement multimodal.

Il ne traduit pas du langage des images vers celui des mots : il pense d'emblée dans un langage où pixel et lettre sont à égalité. Le modèle affiche ainsi une efficacité saisissante en apprentissage « en contexte » (in-context learning). Montrez-lui quelques exemples de retouche photo, et il saisit instantanément la logique de la tâche, sans aucun fine-tuning.

C'est précisément cette magie qui avait fait de GPT-3 une sensation mondiale, désormais étendue à tout l'espace visuel. Le contexte de cette publication ne peut être ignoré. Une parution dans Nature constitue le gage de qualité suprême dans le monde scientifique, et le fait qu'elle revienne au BAAI en dit long.

Tandis que les géants occidentaux comme OpenAI ou Google rivalisent dans le secret de leurs laboratoires, les chercheurs chinois posent méthodiquement les bases théoriques de la prochaine génération d'IA. Emu2 tire de fait un trait sur l'ère des outils spécialisés. Nous entrons dans celle des moteurs universels de prédiction de la réalité.

Si tout ce qui nous entoure n'est qu'une séquence de données, l'emportera celui dont le modèle devine le mieux l'élément suivant de cette séquence, quelle que soit sa nature. Bien sûr, passer à l'autorégression pure exige une puissance de calcul colossale. C'est un jeu réservé à ceux qui disposent d'un accès illimité aux GPU et d'une patience infinie pour régler les hyperparamètres.

Mais l'histoire des technologies nous l'enseigne : sur le long terme, l'universalité élégante finit toujours par l'emporter sur les béquilles spécialisées. Nous avons déjà vu les transformers « dévorer » les réseaux récurrents en linguistique. Nous les voyons désormais commencer à absorber la vision par ordinateur.

Ce n'est pas un modèle de plus : c'est le manifeste d'une nouvelle pureté architecturale, qui poussera nombre d'acteurs à revoir leur feuille de route pour les deux prochaines années. L'essentiel : Pékin s'est officiellement imposé comme leader de la théorie fondamentale de l'IA, en démontrant que l'avenir appartient aux modèles autorégressifs unifiés. Faut-il pour autant envoyer les réseaux de diffusion aux oubliettes de l'histoire, ou trouveront-ils leur niche dans des tâches hautement spécialisées ?