Yandex Cloud explica por qué el frontend lidera la integración de IA en DataLens

Yandex Cloud propone ver la integración de redes neuronales en un producto no como una tarea solo de backend. En DataLens, la primera capa funcional de Neuroanálisis fue asumida por el equipo frontend: montaron una interfaz de chat, una capa BFF y la lógica de comunicación con el modelo, sin esperar a una gran reestructuración del servidor. La idea es que para un lanzamiento inicial de una función de IA, lo que importa más que una arquitectura perfecta para años venideros es una entrada rápida al mercado con una zona clara de responsabilidad.

Estamos hablando de DataLens, el sistema BI de Yandex Cloud para visualizar grandes conjuntos de datos. Dentro del servicio apareció el Neuroanalizador — un asistente que ayuda a construir gráficos, escribir fórmulas y resolver tareas analíticas en diálogo. En lugar del esquema clásico donde el backend asume total responsabilidad por la integración con LLM, el equipo propuso un enfoque diferente: entre el cliente y el modelo apareció una capa BFF, por la cual el frontend es responsable.

Tal capa puede ser levantada en Node.js, Bun u otro stack familiar y usada como un servidor separado orientado a las necesidades de la interfaz. El autor ilustra el enfoque con un proyecto demo en forma de monorrepositorio con Express y React, donde un panel BI funciona junto a un asistente de chat.

En este esquema, el backend existente no necesita reescritura urgente. El BFF almacena claves de acceso al modelo, maneja limitación de velocidad, CORS, logging y monitoreo, y también gestiona el streaming de respuestas. Para desarrolladores frontend esto no es territorio desconocido: en muchos equipos de producto han trabajado durante mucho tiempo como ingenieros fullstack, manteniendo código de servidor, CI/CD e infraestructura alrededor de la aplicación cliente.

Por eso la primera etapa de la integración puede hacerse más cerca de la interfaz, donde el efecto al usuario es más rápidamente visible. Si la hipótesis no funciona, el costo del error es menor que con reestructuración profunda del backend principal. Los autores del enfoque identifican cuatro componentes básicos de tal integración.

Primero — un kit de UI para interfaz de chat y elementos relacionados: campos de entrada, tarjetas, listas de acciones, streaming de mensajes. Segundo — un SDK para trabajar con el modelo vía API; lo que importa aquí no es el proveedor específico, sino la compatibilidad, porque muchos servicios replican el formato de la API de OpenAI. Tercero — tooling, es decir, function calling y acceso del modelo a funciones de aplicación, por ejemplo obtener datos para un gráfico o muestrear los 5 mejores productos.

Cuarto — contexto: historial de conversación, estado de la aplicación, código del usuario, resultados de cálculo y errores que el modelo necesita para una respuesta significativa. Básicamente, estas cuatro capas ya son suficientes para lanzar una función de IA funcional en la interfaz. Es precisamente el contexto lo que el autor considera el principal argumento a favor del frontend.

Los LLMs no tienen memoria propia, así que con cada solicitud hay que retransmitir el historial de la conversación y todo lo necesario para una respuesta. En productos BI, una porción significativa de los datos vive en el cliente: pestañas abiertas, configuraciones actuales del panel, fragmentos de consultas, mensajes de error, resultados intermedios y a veces incluso fragmentos de código del usuario. Transferir todo esto al backend para cada respuesta del modelo es caro y no siempre sensato.

Mientras tanto, aunque las ventanas de contexto de los modelos están creciendo, generalmente siguen limitadas a decenas o cientos de miles de tokens, a veces un millón, y no pueden usarse sin selección. Además, los modelos aún tienen mal desempeño en cálculos precisos, así que necesitan no solo muchos datos, sino datos debidamente empaquetados y acceso a herramientas que calculen y recuperen hechos necesarios. Para el mercado esta es una señal importante: la integración de IA en un producto deja de ser monopolio del backend y se convierte en una tarea de ingeniería conjunta, donde el frontend puede asumir la fase inicial y entregar la idea a usuarios más rápidamente.

A medida que la carga crece, aparecen operaciones de fondo y surge un acoplamiento más profundo con sistemas internos, el papel del backend, por supuesto, se fortalece nuevamente. Pero en una etapa inicial, es precisamente este enfoque BFF el que permite verificación más rápida de escenarios, recopilación de insights de producto y no ralentiza el lanzamiento debido a reestructuración arquitectónica mayor. Para equipos que simplemente buscan un lugar para su primera función LLM en un producto, esta es una forma práctica de comenzar sin carga organizacional innecesaria.