Desarrollo de LLM en 2026: RAG, agentes y elección de modelos

El mercado está aprovechando el momento. En 2024 el mundo empezó a entender cómo aplicar los LLM; en 2025-2026 el negocio ruso despertó: hay que implementar IA en todas partes —desarrollo, CI/CD, evaluación, revisión de código, definición de tareas—. Pero la demanda supera a los profesionales disponibles. Hay pocas personas dedicadas profesionalmente al desarrollo con LLM. Empieza por la integración de LLM: son especialistas que entienden los procesos de negocio y resuelven problemas prácticos. Se los disputan como churros, igual que a los integradores de CRM en la década de 2000.

RAG y agentes: el conjunto básico

RAG (Retrieval-Augmented Generation, generación aumentada por recuperación) le da al LLM acceso a tus datos. Documentos, contratos y fichas de clientes se dividen en fragmentos con sentido, se convierten en vectores y se guardan en una base de datos vectorial (Qdrant). Cuando el usuario escribe una consulta, el sistema encuentra los fragmentos más cercanos en significado y se los pasa al modelo para generar la respuesta. El resultado es una búsqueda por información relevante, no por palabras clave.

Los agentes ejecutan acciones: crean tareas en el CRM, envían correos, se conectan a servicios. Funcionan mediante Tool Calling: el desarrollador explica previamente al modelo qué herramientas tiene disponibles (búsqueda en bases de datos, envío de correos, línea de comandos), el modelo elige la adecuada, la aplicación ejecuta la acción y devuelve el resultado.

MCP (Model Context Protocol) es el estándar para el Tool Calling. En vez de escribir tu propio código cada vez, usa servidores MCP ya listos. En la orquestación con múltiples agentes esto es crítico. Distribuye las herramientas por departamentos y delega el trabajo. Para un prototipo, usa estudios de IA (Google, Yandex).

Un ejemplo real: un sistema de análisis de contratos. La primera versión apostaba por la automatización total, con artículos, leyes y numerosas verificaciones cargadas: solo logró un 20% de eficacia, porque los abogados igualmente revisaban todo a mano. La segunda versión integró un agente directamente en Word. Los abogados trabajaban por sí mismos, discutiendo los posibles problemas con el asistente. La velocidad se duplicó. La conclusión: la tecnología importa, pero la percepción del usuario es crítica. La gente quiere una herramienta controlable, no un reemplazo.

Modelos: grandes y pequeños

Los grandes proveedores cuestan dinero: • OpenAI • Anthropic • Google • Minimax • Llama • Qwen • DeepSeek • GLM • Kimi

Existen modelos abiertos pequeños (hasta 100.000 millones de parámetros): • GLM • Qwen • Gemma • Llama • GPT de código abierto

Se pueden desplegar localmente sin preocuparse por licencias. Usa modelos grandes en las primeras etapas, cuando aún no está claro qué se necesita exactamente. Pero en el 90% de los casos los modelos pequeños son suficientes. Por ejemplo, cuando solo hace falta devolver un texto predefinido, los modelos pequeños ahorran no solo mucho dinero, sino muchísimo. Los criterios de elección son sencillos: cómo trabajas con el cliente y dónde se puede ahorrar. La mayoría de los modelos modernos admiten Tool Calling y funcionan bien con el idioma ruso.

Producción: seguridad y métricas

El flujo de trabajo es clave: quiénes son los usuarios, qué preguntas hacen, qué les preocupa. Registrar las preguntas es lo más valioso: a partir de las consultas se ve el dolor de los usuarios y la eficacia del sistema.

La legislación exige almacenar los datos de los ciudadanos rusos de forma local y restringe la transferencia de datos personales a terceros. Usa un embedder en tu propio lado (hoy existen opciones pequeñas y rápidas). Un LLM local resuelve el problema de fuga de datos. Los filtros, los límites de peticiones y la autorización protegen contra las inyecciones de prompt y el robo de tokens. Recolecta métricas de calidad: muestran la satisfacción de los clientes y la eficacia real del sistema.