Un LLM azerbaïdjanais sur SageMaker : comment Azercell a surmonté l'obstacle d'une langue peu dotée

L'opérateur télécom azerbaïdjanais Azercell a développé son propre modèle de langage sur Amazon SageMaker AI. L'entreprise s'était fixé un objectif ambitieux : bâtir un LLM de niveau production pour une langue morphologiquement complexe, qui manque de données prêtes à l'emploi et pour laquelle aucune solution n'existait sur le marché.

Pourquoi l'azerbaïdjanais est un cas difficile

L'azerbaïdjanais est une langue agglutinante typique, à la morphologie riche. Un seul mot peut porter de nombreux suffixes qui en modifient radicalement le sens et la fonction grammaticale. La tokenisation et l'entraînement des modèles exigent donc des approches très différentes de celles utilisées pour les langues indo-européennes.

À cette complexité morphologique s'ajoute un facteur critique : le volume de données d'entraînement ouvertes en azerbaïdjanais est nettement inférieur à celui disponible pour l'anglais, le russe ou l'espagnol. Les méthodes standard d'entraînement des LLM, éprouvées sur de vastes corpus textuels, ne s'appliquent pas directement ici.

• La complexité morphologique impose une tokenisation spécifique
• Pénurie de données : 100+ fois moins de textes que pour les grandes langues
• Absence d'exemples existants et de best practices pour des LLM en azerbaïdjanais
• Nécessité d'adapter des foundation models entraînés sur des données anglophones
• Obligation d'intégrer le modèle aux systèmes de production de l'opérateur

Comment Azercell a relevé le défi

L'entreprise s'est associée à l'AWS Generative AI Innovation Center. En six semaines de collaboration intensive, les équipes des deux parties ont construit un framework prêt pour la production sur Amazon SageMaker.

La solution repose sur plusieurs briques clés : une préparation et un nettoyage rigoureux des données disponibles, une tokenisation spécialisée tenant compte de la morphologie de l'azerbaïdjanais, et une optimisation du processus d'entraînement pour travailler avec un volume de données réduit. Les ingénieurs ont misé sur le transfer learning : ils ont adapté des modèles déjà entraînés au lieu de partir de zéro sur un corpus azerbaïdjanais.

Le résultat : deux rôles pour le modèle

Le modèle d'Azercell remplit deux fonctions. D'abord, il alimente un chatbot destiné aux clients, qui répond en azerbaïdjanais aux questions des abonnés sur les services et les forfaits.

Ensuite, il sert aux processus métier internes : traitement des demandes entrantes, analyse vocale au centre d'appels, classification des problèmes et recommandations de services personnalisées. En se concentrant sur l'azerbaïdjanais, le modèle évite les pertes de sens liées à la traduction et garantit la compréhension des contextes locaux et des nuances du langage parlé.

Ce que cela signifie

C'est le premier exemple public d'un LLM complet pour l'azerbaïdjanais développé sur une infrastructure cloud. Ce cas montre que les plateformes cloud permettent d'adapter des LLM non seulement à des langues peu dotées, mais aussi à des besoins industriels précis. Pour les autres entreprises de la région, le signal est clair : investir dans son propre modèle de langage est réaliste et faisable en quelques semaines.