Liquid AI lance LFM3 : six modèles multimodaux de 2B avec un contexte de 256K

Liquid AI a lancé LFM3, une génération de modèles construite autour d'une idée : l'intelligence spécialisée doit vivre à côté de l'application, pas dans le cloud. Six modèles de classe 2B couvrent le texte, la vision, le son, le mode omni et les réponses calibrées. Tous dérivent de la même base, LFM3-1.7B-Base, et chacun peut être affiné sur une seule GPU. Le modèle texte LFM3-1.7B devance l'ancien LFM2.5-2.6B avec 35% de paramètres en moins, occupe environ 1 Go en quantification 4 bits et gère un contexte de 256K tokens.

Trois types de couches au lieu de deux

LFM2 a montré qu'un hybride de convolutions courtes et d'attention tourne vite sur l'appareil sans perte de qualité. Pour LFM3, l'équipe a relancé une recherche d'architecture avec retour matériel (hardware-in-the-loop), cette fois sur 14 combinaisons d'appareils et de backends : des téléphones et du Raspberry Pi 5 aux ordinateurs portables, CPU cloud, GPU et NPU Qualcomm Hexagon. L'objectif : offrir aux agents plus de capacités par paramètre et une inférence rapide sur contexte long.

LFM3-1.7B-Base compte 24 couches, organisées ainsi :

• 13 convolutions courtes à porte (gated) avec un noyau de 7, contre 3 dans LFM2 ;
• 5 couches d'attention à fenêtre glissante de 256 tokens ;
• 6 couches d'attention globale ;
• un gating de l'attention par tête : une sigmoïde met à l'échelle la sortie de chaque tête, et une tête peut s'éteindre quand elle n'a rien à ajouter. Cela aide à atténuer les valeurs aberrantes d'activation, qui gênent la quantification ;
• un RoPE partiel dans les couches globales : seule la moitié haute fréquence de chaque tête est soumise à la rotation, tandis que l'autre moitié apparie le contenu indépendamment de la distance ;
• une sandwich norm : normalisation à l'entrée comme à la sortie du bloc.

Le gain se manifeste avec la longueur. Sur des prompts courts, LFM3-1.7B égale LFM2-1.2B sur appareil, à nombre de paramètres comparable, et elle s'exécute environ 25% plus vite à 8K tokens de contexte. Le pré-entraînement a porté sur 22T de tokens, avec un vocabulaire de 128K, comme LFM2.5-8B-A1B. Les derniers 3,5T de tokens ont servi au mid-training sur des données sélectionnées, avec une part accrue de traces d'agents et d'appels d'outils ; le contexte y a aussi été étendu à 256K.

Six modèles et deux nouveaux encodeurs

Plutôt qu'un grand modèle universel, Liquid propose de choisir celui qui correspond aux données d'entrée :

• LFM3-1.7B : texte en entrée et en sortie, basé sur LFM3-1.7B-Base ;
• LFM3-VL-2B : texte, images et vidéo en entrée, texte en sortie ; le premier modèle de vision de Liquid à gérer la vidéo ;
• LFM3-Audio-2B : texte et son en entrée, texte et parole en sortie ; 18 langues ;
• LFM3-Omni-2B : texte, images, vidéo et son en entrée, texte et parole en sortie ; le premier modèle omni de l'entreprise ;
• d1-2B : basé sur LFM3-VL-2B, il produit des réponses calibrées ;
• d1-omni-2B : même principe, basé sur LFM3-Omni-2B, avec de l'audio en entrée.

L'encodeur visuel de 164M de paramètres associe convolutions et attention, et demande trois fois moins de calcul que SigLIP2, utilisé dans les précédents modèles VL. Sa précision égale celle de l'encodeur de Qwen3.5-2B, mais il consomme 2,2 fois moins de FLOPs (mesure réalisée sur le même backbone de langage, LFM2.5-230M). Pour la vidéo, une paire d'images sélectionnées est fusionnée en une seule tranche temporelle, ce qui divise par deux la longueur de la séquence.

L'encodeur audio combine attention glissante et convolutions courtes, et il est entièrement causal : le modèle remplit le prefill pendant que l'utilisateur parle encore. Le temps avant le premier token démarre à 50 ms. Le nouveau tokenizer LiquidCodec convertit les tokens en parole environ 87 fois plus vite que le temps réel sur un seul thread CPU d'Apple M4 Max, et prend en charge le décodage en streaming.

Les chiffres qui comptent pour les agents

Sur WebArena-Verified, LFM3-1.7B obtient 38,42 contre 3,02 pour LFM2.5-2.6B. Sur les tâches longues dans le navigateur et les applications métier, elle devance Qwen3.5-9B. Le modèle a été affiné pour les environnements d'agents Hermes Agent, Pi et OpenClaw.

LFM3-VL-2B (1,9B de paramètres contre 3,1B pour LFM2.5-VL-3B) fait passer la moyenne sur 62 benchmarks visuels de 57,6 à 71,4, et rivalise avec Gemma 4 12B, pourtant plus de six fois plus grand. Le modèle raisonne pas à pas, localise des objets et évalue leur position relative, ce qui sert en robotique. LFM3-Audio-2B améliore la qualité de synthèse de 3,22 à 3,83 sur UTMOSv2 par rapport à LFM2.5-Audio-1.5B, et ajoute la compréhension audio ainsi que l'appel d'outils à partir de requêtes vocales. Sur Daily-Omni, WorldSense et AV-SpeakerBench, LFM3-Omni-2B surpasse des modèles allant jusqu'à 10,7B, dont Qwen2.5-Omni-7B.

Par où commencer avec une seule carte graphique

Tous les modèles se lancent via transformers : la dernière version suffit pour le modèle texte, il faut la 5.21.0 ou plus récente pour VL, et la 5.20.2 ou supérieure pour Audio et Omni, avec le flag trust_remote_code. Pour les agents locaux, un guide dédié, Agent Harnesses, est disponible ; pour llama.cpp et d'autres moteurs, les instructions figurent dans les fiches des modèles.

L'intérêt pratique est économique. Une chaîne ASR, VLM, LLM et TTS peut être remplacée par un seul modèle Omni : moins de services, moins de latence aux jonctions et zéro token envoyé dans le cloud. Pour une équipe au domaine étroit (terminologie médicale, vocabulaire d'entrepôt, interfaces internes), une seule GPU suffit pour affiner un modèle 2B et le déployer sur un ordinateur portable, un téléphone ou une carte monocarte. Il vaut mieux commencer par LFM3-1.7B pour l'appel d'outils et les sorties structurées, et n'ajouter les versions multimodales que lorsqu'une caméra ou un micro entre en jeu.