Qwen 3.6-35B-A3B en la práctica: multimodalidad, MoE y RAG en un solo pipeline

Qwen 3.6-35B-A3B es uno de los transformadores multimodales MoE abiertos más potentes disponibles hoy en día. El equipo de MarkTechPost publicó un tutorial end-to-end detallado demostrando cómo usar realmente este modelo en escenarios de producción — no simplemente ejecutando inferencia, sino construyendo un pipeline de trabajo completo.

La arquitectura Mixture-of-Experts (MoE) con 3,6 mil millones de parámetros activos de un total de 35 mil millones significa que cada solicitud se procesa utilizando solo una fracción de los pesos. Esto reduce la carga computacional sin pérdida perceptible de calidad — y el desafío práctico es precisamente cómo orquestar adecuadamente el enrutamiento de expertos y no perder velocidad. El tutorial cubre varios bloques críticos para producción.

El primero es la carga adaptativa del modelo según la memoria GPU disponible: esencial si no estás trabajando en ocho A100s y debes operar con hardware real. El segundo es gestionar el modo "pensamiento": Qwen 3.6 puede proporcionar una respuesta directa o entregar una cadena extendida de razonamiento — los autores muestran cómo cambiar entre estos modos programáticamente.

El tercero es tool calling: conectar funciones externas, lo que transforma el modelo de un chatbot en un agente capaz de interactuar con APIs y datos. Una sección separada cubre RAG — retrieval-augmented generation. El tutorial demuestra cómo conectar una base de conocimiento externa a Qwen y obtener respuestas basadas en documentos reales en lugar de memoria paramétrica.

La parte final aborda persistencia de sesión: cómo preservar el contexto del diálogo entre solicitudes, lo cual es crítico para asistentes y agentes con horizontes de tareas largos. Para desarrolladores que consideran Qwen como una alternativa a las APIs cerradas, este material es un punto de partida práctico. Los pesos abiertos, código real y cobertura de todos los aspectos de ingeniería clave lo convierten en una referencia valiosa al construir sus propios productos de IA.