Yandex Cloud explica por que o frontend lidera a integração de IA no DataLens

Yandex Cloud propõe enxergar a integração de redes neurais em um produto não como uma tarefa apenas de backend. No DataLens, a primeira camada funcional do Neuroanalisador foi assumida pela equipe frontend: ela montou a interface de chat, uma camada BFF e a lógica de comunicação com o modelo, sem aguardar uma grande reformulação do servidor. A ideia é que para um lançamento inicial de uma função de IA, importa mais do que uma arquitetura perfeita para anos à frente uma entrada rápida no mercado com uma zona clara de responsabilidade.

Estamos falando sobre DataLens, o sistema BI da Yandex Cloud para visualizar grandes conjuntos de dados. Dentro do serviço apareceu o Neuroanalisador — um assistente que ajuda a construir gráficos, escrever fórmulas e resolver tarefas analíticas em diálogo. Em vez do esquema clássico onde o backend assume total responsabilidade pela integração com LLM, a equipe propôs uma abordagem diferente: entre o cliente e o modelo apareceu uma camada BFF, pela qual o frontend é responsável.

Tal camada pode ser implantada em Node.js, Bun ou outra stack familiar e usada como um servidor separado orientado às necessidades da interface. O autor ilustra a abordagem com um projeto demo na forma de um monorrepositório com Express e React, onde um painel BI funciona ao lado de um assistente de chat.

Neste esquema, o backend existente não precisa de reescrita urgente. O BFF armazena chaves de acesso ao modelo, controla limitação de taxa, CORS, logging e monitoramento, além de gerenciar o streaming de respostas. Para desenvolvedores frontend isso não é território desconhecido: em muitas equipes de produto eles há muito trabalham como engenheiros fullstack, mantendo código de servidor, CI/CD e infraestrutura em torno da aplicação cliente.

Por isso o primeiro estágio da integração pode ser feito mais próximo da interface, onde o efeito ao usuário é mais rapidamente visível. Se a hipótese não funcionar, o custo do erro é menor do que com reformulação profunda do backend principal. Os autores da abordagem identificam quatro componentes básicos dessa integração.

Primeiro — um kit de UI para interface de chat e elementos relacionados: campos de entrada, cards, listas de ações, streaming de mensagens. Segundo — um SDK para trabalhar com o modelo via API; o que importa aqui não é o provedor específico, mas a compatibilidade, porque muitos serviços replicam o formato da API do OpenAI. Terceiro — tooling, ou seja, function calling e acesso do modelo a funções de aplicação, por exemplo obter dados para um gráfico ou amostrar os 5 melhores produtos.

Quarto — contexto: histórico de conversa, estado da aplicação, código do usuário, resultados de computação e erros que o modelo precisa para uma resposta significativa. Basicamente, estas quatro camadas já são suficientes para lançar uma função de IA funcional na interface. É precisamente o contexto que o autor considera o principal argumento a favor do frontend.

LLMs não têm memória própria, então a cada requisição é preciso retransmitir o histórico da conversa e tudo necessário para uma resposta. Em produtos BI, uma porção significativa dos dados vive no cliente: abas abertas, configurações atuais do painel, fragmentos de consultas, mensagens de erro, resultados intermediários e às vezes até pedaços de código do usuário. Transferir tudo isto para o backend a cada resposta do modelo é caro e nem sempre sensato.

Enquanto isso, embora as janelas de contexto dos modelos estejam crescendo, elas geralmente ainda estão limitadas a dezenas ou centenas de milhares de tokens, às vezes um milhão, e não podem ser usadas sem seleção. Além disso, os modelos ainda têm desempenho ruim em cálculos precisos, então precisam não apenas de muitos dados, mas de dados adequadamente empacotados e acesso a ferramentas que calculem e recuperem fatos necessários. Para o mercado este é um sinal importante: a integração de IA em um produto deixa de ser monopólio do backend e se torna uma tarefa de engenharia conjunta, onde o frontend pode assumir a fase inicial e entregar a ideia aos usuários mais rapidamente.

À medida que a carga cresce, operações de fundo aparecem e uma integração mais profunda com sistemas internos emerge, o papel do backend, naturalmente, se fortalece novamente. Mas num estágio inicial, é precisamente essa abordagem BFF que permite verificação mais rápida de cenários, coleta de insights de produto e não desacelera o lançamento por causa de grande reformulação arquitetônica. Para equipes apenas procurando um lugar para sua primeira função LLM em um produto, esta é uma forma prática de começar sem sobrecarga organizacional desnecessária.