Liquid AI défie la course à la taille : l'architecture hybride LFM2 veut changer les règles

Ces dernières années, l'industrie des grands modèles de langage a suivi un principe simple : plus de paramètres, de meilleurs résultats. OpenAI a fait grossir GPT, Google a gonflé Gemini, Meta a agrandi Llama*. Mais en 2026, cette approche se heurte de plus en plus à des limites physiques : consommation énergétique des centres de données, coût de la mémoire, vitesse d'inférence. La start-up bostonienne Liquid AI estime avoir trouvé une issue à l'impasse, et son nouveau modèle LFM2-24B-A2B n'est pas, selon elle, une sortie de plus, mais une tentative de révolution architecturale.

Liquid AI est issue de recherches du MIT sur les « réseaux de neurones liquides » (liquid neural networks), inspirés des systèmes nerveux biologiques. Contrairement aux transformeurs classiques, où chaque couche exécute une opération fixe, les réseaux liquides peuvent adapter leur calcul en fonction des données d'entrée. C'est une approche fondamentalement différente du traitement de l'information, que l'équipe développe de façon constante depuis plusieurs années. LFM2-24B-A2B est l'aboutissement de ce travail : un modèle de 24 milliards de paramètres bâti sur une architecture hybride qui associe le mécanisme d'attention classique (attention) à des opérations de convolution (convolutions).

Pour comprendre l'enjeu, il faut cerner le problème. Les transformeurs standard, qui sous-tendent GPT, Claude et d'autres modèles, reposent sur un mécanisme d'auto-attention qui permet à chaque token de « regarder » tous les autres tokens du contexte. C'est un outil puissant, mais sa complexité de calcul croît de façon quadratique avec la longueur du contexte. Doublez la fenêtre de contexte et le coût de calcul est multiplié par quatre. C'est pourquoi le traitement de longs documents reste l'une des tâches les plus gourmandes en ressources pour les LLM actuels. Les couches convolutives, elles, traitent l'information localement et passent à l'échelle de façon linéaire, mais elles ont longtemps été jugées moins expressives pour le langage.

L'approche hybride de Liquid AI cherche à tirer le meilleur des deux mondes. Les composants convolutifs prennent en charge les motifs locaux : structures syntaxiques, dépendances courtes, schémas répétitifs. Le mécanisme d'attention intervient là où il faut saisir des liens à longue distance dans le texte : renvois à des entités mentionnées plus tôt, chaînes logiques, raisonnements complexes. La mention « A2B » dans le nom du modèle renvoie à une configuration précise de cet équilibre entre blocs d'attention et de convolution. En somme, le modèle décide lui-même du type de traitement à appliquer à chaque fragment de données, ce qui rend le calcul nettement plus efficace.

Vingt-quatre milliards de paramètres, c'est un chiffre relativement modeste pour 2026, alors que les modèles phares manipulent des centaines de milliards, voire des milliers de milliards de paramètres. Mais c'est justement la thèse centrale de Liquid AI : l'efficacité architecturale compte plus que la force brute. Si un modèle de 24 milliards de paramètres peut rivaliser avec des modèles plusieurs fois plus gros, pour un coût d'inférence nettement inférieur, c'est l'économie de toute la filière qui change. Moins de GPU pour répondre aux requêtes, c'est un coût d'API plus bas. Une consommation d'énergie moindre facilite le déploiement du modèle sur des appareils en périphérie. Une inférence plus rapide, c'est une meilleure expérience utilisateur.

Pour l'industrie dans son ensemble, la sortie de LFM2-24B-A2B s'inscrit dans une tendance plus large. De plus en plus de groupes de recherche et d'entreprises concluent que l'ère du « passage à l'échelle brutal » touche à sa fin. Mamba et d'autres architectures à espace d'états, les travaux sur les modèles parcimonieux de type Mixture of Experts, la quantification et la distillation sont autant de tentatives d'extraire plus d'intelligence de moins de calcul. Liquid AI trace sa propre voie, et son approche hybride apparaît comme l'une des solutions les plus élégantes au problème.

Un scepticisme sain reste pourtant de mise. Les benchmarks complets de LFM2-24B-A2B doivent encore être examinés et reproduits de manière indépendante. Les innovations architecturales paraissent souvent impressionnantes sur le papier, mais se heurtent à des problèmes inattendus lors du passage à l'échelle en production, de la complexité de l'entraînement à la compatibilité avec l'infrastructure d'optimisation existante. L'écosystème d'outils autour des transformeurs s'est construit pendant des années, et toute architecture alternative devra prouver sa viabilité ailleurs qu'en laboratoire.

Malgré tout, la direction que prend Liquid AI semble inévitable. L'industrie de l'intelligence artificielle est arrivée à un point où l'ajout de paramètres offre des rendements décroissants, tandis que les exigences d'efficacité énergétique et de vitesse ne cessent de croître. Les entreprises qui trouveront comment faire plus avec moins de ressources écriront le prochain chapitre de l'IA. Et des architectures hybrides comme LFM2 pourraient bien en être la clé.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.