Liquid AI lance LFM2.5-350M : un modèle de 350 M de paramètres entraîné par RL à grande échelle

Le 31 mars 2026, Liquid AI a publié LFM2.5-350M, un modèle de langage compact de 350 millions de paramètres, entraîné de façon complémentaire sur un corpus de données élargi et un important volume d'apprentissage par renforcement (reinforcement learning, RL). Comme le rapporte MarkTechPost, cette sortie remet en cause une règle bien établie de l'IA générative, les scaling laws : l'idée que plus de paramètres signifie presque toujours plus d'« intelligence » pour un modèle.

Pourquoi remettre en cause les scaling laws

Ces dernières années, l'industrie des grands modèles de langage a suivi pour l'essentiel le même scénario : pour obtenir un modèle plus performant, il faut augmenter le nombre de paramètres, le volume de données d'entraînement et les ressources de calcul. Cette logique, connue sous le nom de scaling laws, a nourri la course des grands laboratoires à des modèles phares toujours plus gros. Le problème : les modèles de plusieurs centaines de milliards de paramètres coûtent cher à entraîner comme à exploiter, et sont difficiles à faire tourner en local, sur des appareils aux ressources limitées ou là où une faible latence de réponse compte.

Liquid AI présente LFM2.5-350M non comme une tentative de concurrencer les modèles phares en taille absolue, mais comme une étude de cas technique sur la « densité d'intelligence » (intelligence density) : combien de capacités utiles peut-on concentrer dans un modèle de taille fixe et relativement modeste, si l'on investit dans la qualité et le volume de l'entraînement ultérieur plutôt que dans l'échelle.

Ce qui a changé dans l'entraînement du modèle

Les principaux leviers techniques qui permettent à Liquid AI d'améliorer les capacités du modèle sans augmenter son nombre de paramètres sont le préentraînement supplémentaire et l'apprentissage par renforcement à grande échelle. Le volume de données de préentraînement a presque triplé : de 10 000 milliards à 28 000 milliards de tokens. Élargir le corpus d'entraînement à taille de modèle inchangée revient à parier qu'un modèle de capacité fixe peut être entraîné plus densément, en tirant d'un plus grand volume de texte davantage de régularités utiles qu'auparavant avec moins de données.

Principales caractéristiques de la sortie :

• Nom du modèle : LFM2.5-350M
• Taille : 350 millions de paramètres
• Données de préentraînement : passées de 10 000 milliards à 28 000 milliards de tokens
• Étape supplémentaire : apprentissage par renforcement à grande échelle (large-scale reinforcement learning)
• Positionnement : étude de cas technique sur la « densité d'intelligence », et non tentative de battre un record de taille

Le nom même du modèle, LFM2.5-350M, annonce d'emblée sa caractéristique clé : 350 millions de paramètres, c'est plusieurs ordres de grandeur de moins que les modèles phares actuels, qui en comptent des dizaines ou des centaines de milliards. C'est ce contraste qui rend la sortie intéressante sur le plan technique.

Liquid AI ne cherche pas à masquer la taille modeste du modèle ; elle l'affiche au contraire dans le nom comme point de départ de l'expérience : quelles capacités peut-on extraire d'un nombre fixe et réduit de paramètres grâce à un entraînement plus long et de meilleure qualité. Le second levier est l'apprentissage par renforcement à grande échelle, appliqué par-dessus le préentraînement élargi. Si le préentraînement sert surtout à doter le modèle de connaissances étendues sur le langage et le monde, l'étape de RL sert généralement à orienter son comportement vers des réponses plus utiles, plus précises et plus contrôlables.

Ces dernières années, cette étape est devenue la principale façon d'améliorer la qualité des modèles sans augmenter leur taille.

Pourquoi les modèles compacts reviennent au premier plan

La sortie de LFM2.5-350M s'inscrit dans une tendance plus large de 2026 : en parallèle de la course aux plus gros modèles phares, une autre course vise les modèles compacts les plus performants, capables de tourner sur téléphones, ordinateurs portables, appareils embarqués et environnements aux ressources de calcul limitées, sans passer par une API cloud. Pour les développeurs, cela signifie un coût d'inférence plus bas, un fonctionnement hors ligne et une latence de réponse réduite, ce qui est crucial pour les applications en temps réel.

Si l'approche de Liquid AI se confirme en pratique, c'est-à-dire si un modèle de 350 millions de paramètres démontre réellement des capacités jusqu'ici réservées à des modèles bien plus gros, elle viendra appuyer l'idée que les progrès de l'IA n'exigent pas forcément une croissance sans fin du nombre de paramètres et peuvent venir d'un entraînement meilleur et plus long des architectures existantes.