Grands modèles de langage : pourquoi le « prêt à l'emploi » reste une illusion

Le marché des grands modèles de langage ouverts connaît un véritable boom. GLM, Kimi, DeepSeek et des dizaines d'autres projets s'emparent du haut des benchmarks, et le nombre d'éditeurs croît plus vite que l'industrie ne peut les recenser. On pourrait croire que l'âge d'or de la démocratisation de l'IA est arrivé : on prend un modèle, on le déploie, on s'en sert. Mais la réalité est bien moins rose : pratiquement aucun grand LLM ouvert ne fonctionne prêt à l'emploi, et même le matériel serveur haut de gamme n'épargne pas des heures de débogage laborieux.

C'est la conclusion à laquelle est parvenu un ingénieur qui a publié sur Habr une analyse détaillée de son expérience avec les tout derniers modèles de très grande taille. La mission était résolument pragmatique : passer en revue les principaux LLM, les tester et choisir un « cheval de trait » fiable pour les tâches quotidiennes. La plateforme n'avait rien de bon marché : des serveurs à base de NVIDIA B200 et H200, des pilotes récents en version 590.48.01 et des images vLLM-OpenAI pour l'inférence. Tout semblait conforme au manuel. Mais ce manuel, on l'a vu, personne ne l'avait vraiment écrit.

Le problème ne vient ni des modèles ni du matériel, mais du gouffre entre la publication des poids et la possibilité réelle de les utiliser. Chaque modèle exige son propre lot de bidouilles : réglages d'environnement spécifiques, correctifs de configuration, parfois même des images Docker personnalisées. La sortie de vLLM 0.16 a un peu simplifié les choses, mais l'auteur le dit sans détour : les principaux contournements restent les mêmes. Le framework sait désormais gérer automatiquement une partie des cas limites, mais le problème fondamental de compatibilité n'a pas disparu.

Le fait que l'auteur ait dû chercher une bonne part des solutions sur des forums techniques chinois est particulièrement révélateur. Ce n'est pas un hasard. La plupart des modèles ouverts marquants de l'année écoulée sortent de laboratoires chinois, et la communauté d'ingénieurs chinoise est la première confrontée aux écueils de leur déploiement. La documentation en anglais, sans parler du russe, accuse souvent des semaines, voire des mois de retard. Pour les spécialistes qui ne lisent pas le chinois, cela crée un obstacle supplémentaire, et bien réel.

La situation met à nu un problème systémique de tout l'écosystème des LLM ouverts. Les éditeurs de modèles se concentrent sur la course aux benchmarks : qui obtiendra le meilleur score sur MMLU, HumanEval ou Arena Elo. La publication des poids sur Hugging Face est vue comme la ligne d'arrivée, et tout ce qui suit, du déploiement à l'optimisation de l'inférence en passant par l'intégration dans les pipelines de production, reste à la charge des utilisateurs. Résultat : même les entreprises dotées d'une infrastructure puissante dépensent un nombre disproportionné d'heures d'ingénierie pour simplement faire répondre un modèle à des requêtes.

Cela se ressent d'autant plus que le paysage évolue vite. De nouveaux modèles apparaissent littéralement chaque semaine. Si le débogage de chacun demande un jour ou deux de travail d'un ingénieur qualifié, le coût de la simple comparaison de cinq ou six candidats devient sensible, y compris pour de grandes équipes. Et une fois le modèle choisi, il reste à l'affiner pour des tâches précises, à mettre en place la supervision et à garantir un fonctionnement stable en charge.

Quelques signaux positifs se dessinent néanmoins à l'horizon. Le projet vLLM progresse activement et prend en charge, version après version, davantage de travail routinier de compatibilité. Des formats de modèles standardisés et des configurations unifiées apparaissent. Les fournisseurs cloud qui proposent l'inférence en tant que service soulagent en partie les utilisateurs finaux. Mais l'industrie est encore loin du moment où télécharger et lancer un LLM ouvert sera aussi simple qu'installer une application.

Le paradoxe du moment, c'est qu'un modèle « ouvert » ne veut plus dire « accessible ». Les poids sont publiés, la licence autorise l'usage commercial, mais entre le téléchargement du fichier et un service opérationnel s'étend tout un champ de décisions peu évidentes, qui demandent une expertise approfondie. Tant que les éditeurs de modèles ne traiteront pas le déploiement aussi sérieusement que l'entraînement, les ingénieurs devront continuer à glaner des recettes sur les forums, qu'ils soient chinois, anglais ou russes.