LLM Azerbaiyano en SageMaker: cómo Azercell resolvió el problema del idioma raro

Azercell, un operador de telecomunicaciones azerbaiyano, desarrolló su propio modelo de lenguaje en Amazon SageMaker AI. La empresa se propuso un objetivo ambicioso: crear un LLM de nivel producción para un idioma morfológicamente complejo con escasez de datos listos y sin soluciones existentes en el mercado.

Por qué el azerbaiyano es un caso complejo

El azerbaiyano es un representante típico de las lenguas aglutinantes con morfología rica. Una sola palabra puede llevar múltiples sufijos que cambian drásticamente su significado y función gramatical. Esto requiere enfoques completamente diferentes para la tokenización y el entrenamiento de modelos en comparación con las lenguas indoeuropeas. A la complejidad morfológica se suma un factor crítico: el volumen de datos de entrenamiento abiertos en azerbaiyano es significativamente menor que para el inglés, ruso o español. Los métodos estándar de entrenamiento de LLM, probados en grandes corpus de texto, no funcionan directamente aquí.

• La complejidad morfológica requiere tokenización especializada
• Déficit de datos: 100+ veces menos textos que para idiomas mayores
• Falta de ejemplos existentes y mejores prácticas para LLMs en azerbaiyano
• Necesidad de adaptar modelos base entrenados con datos en inglés
• Requisito de integrar el modelo en sistemas de producción de telecomunicaciones

Cómo Azercell resolvió la tarea

La empresa se asoció con AWS Generative AI Innovation Center. Después de seis semanas intensas de trabajo conjunto, especialistas de ambos lados construyeron un framework listo para producción en Amazon SageMaker. La solución incluyó varios componentes clave: preparación adecuada y limpieza de datos existentes, tokenización especializada considerando la morfología del azerbaiyano, y optimización del proceso de entrenamiento para trabajar con volúmenes de datos más pequeños. Los ingenieros utilizaron transfer learning — adaptando modelos ya entrenados en lugar de entrenar desde cero en un corpus azerbaiyano.

Qué resultó: dos roles para el modelo

El modelo de Azercell opera en dos direcciones. Primero, actúa como un chatbot orientado al cliente que ayuda a los abonados con preguntas sobre servicios y tarifas en azerbaiyano. Segundo, el modelo se utiliza en procesos comerciales internos: procesamiento de solicitudes entrantes, análisis de voz en centros de llamadas, clasificación de problemas y recomendaciones de servicios personalizadas. El enfoque en el azerbaiyano permite evitar la pérdida de significado en la traducción y garantiza que el modelo comprenda contextos locales y matices del lenguaje.

Qué significa esto

Este es el primer ejemplo público de un LLM completamente funcional para el azerbaiyano desarrollado en infraestructura en la nube. El caso demuestra que las plataformas en la nube pueden adaptar LLMs no solo para idiomas raros sino también para tareas industriales específicas. Para otras empresas en la región, esta es una señal: la inversión en su propio modelo de lenguaje es real y alcanzable en varias semanas.