Ozon: um transformer em sugestões de pesquisa — frações honestas de um por cento em escala de trilhões de rublos

• Ozon Tech: генеративный трансформер в поисковых подсказках (архитектура, обучение на событиях, RPS, лимит 300 мс, итерации, риски генерации) — Habr (блог Ozon Tech), n/a
• Как Ozon ускорил расчёт факторов ранжирования динамической компиляцией (трёхуровневый поиск, CPU 15%+ → 5–6%, −10 мс) — Habr (блог Ozon Tech), n/a
• Ozon открыто рассказал об алгоритмах рекомендаций (пресс-брифинг о прозрачности, Алексей Минаев; >1000 признаков, вес персонализации ≈10%) — Телеспутник, 2022-04
• Принцип работы поиска на Ozon (5 шагов ранжирования, до 2000 кандидатов, нейросеть вероятности покупки) — SellerMoon, n/a
• Ozon задумался о создании ИИ-ассистента для помощи в поиске товаров (оценка +3–5% GMV за 1–2 года) — Forbes Russia, n/a
• GMV Ozon по годам (2024 ≈ 2,9 трлн ₽) — Smart-Lab (по отчётности компании), n/a

Contexto

Ozon é um dos dois maiores marketplaces da Rússia, com GMV de aproximadamente 2,9 trilhões de rublos em 2024. Nessa escala, a barra de pesquisa não é um 'recurso do site', mas o principal canal de distribuição: uma grande parcela de pedidos começa com uma consulta, e cada fração de um por cento de conversão de pesquisa é medida em bilhões de rublos de faturamento.

O time Ozon Tech executa um blog de engenharia detalhado no Habr e — raro para este mercado — publica não apenas arquiteturas de sistemas ML, mas ganhos métricos reais, incluindo os modestos. A empresa é incomumente aberta sobre algoritmos em geral: em abril de 2022, em uma coletiva de imprensa sobre transparência de serviços de recomendação, Alexey Minaev, vice-diretor geral da Ozon, explicou publicamente como funcionam a pesquisa e as recomendações do marketplace — contra o pano de fundo de um projeto de lei da Duma Estatal sobre regulamentação de algoritmos de recomendação. De acordo com a descrição oficial da empresa, a seleção e classificação de ofertas passam por cinco estágios em frações de segundo (Telesputnik).

Para a indústria, essa abertura não é cosmética. O mercado de casos de varejo com IA está inundado de apresentações de fornecedores apregoando ganhos de conversão de dois dígitos sem metodologia; um blog de engenharia que divulga arquitetura, restrições e ganhos exatos de A/B por iteração é quase o único gênero contra o qual se pode calibrar suas próprias expectativas.

A pesquisa da Ozon é um sistema complexo de múltiplas camadas: a camada base executa recuperação de texto completo em milhões de produtos, a camada intermediária classifica com precisão milhares de candidatos selecionados, e a camada superior aplica personalização (Habr, blog Ozon Tech). Mais de mil recursos participam da classificação; de acordo com a conta pública da empresa, a personalização pesa cerca de 10% (popularidade do item 29%, vendas 17%, preço 5%), com os pesos revisados regularmente. Este caso é montado a partir de tais fontes primárias: cobre um transformer generativo em sugestões de pesquisa — e como são os números reais de impacto de recomendador quando o time de engenharia, e não o departamento de marketing, os publica.

Problema

A pesquisa é o ponto de entrada de compra em um marketplace. Sugestões fracas significam um caminho mais longo até o produto e páginas de resultados vazias que matam a conversão: um usuário que encontra 'nada encontrado' duas vezes sai para um concorrente. A economia das sugestões é simples: a maioria dos compradores digita consultas em um telefone, onde cada caractere extra é atrito e cada erro de digitação risco uma página vazia; uma boa sugestão reduz a digitação a alguns caracteres enquanto direciona o usuário para uma consulta cujos resultados são garantidamente não vazios.

As sugestões clássicas montadas a partir de um dicionário de consultas populares lidam mal com especificidades do marketplace: milhões de produtos, nomes de marcas e códigos SKU, erros de digitação, transliteração ('xiaomi' em três grafias), e uma cauda longa de consultas raras onde um dicionário simplesmente fica silencioso. Essa é exatamente a especificidade que Ozon Tech cita como razão para mudar para um modelo generativo treinado em dados do domínio do marketplace (Habr).

As restrições de engenharia são rigorosas: as sugestões devem ser servidas em dezenas de milhares de requisições por segundo dentro de um orçamento de 300 milissegundos — caso contrário, o usuário digita a consulta mais rápido do que o sistema pode sugerir, e todo o valor do recurso desaba. Essa restrição elimina imediatamente grandes modelos de linguagem com bilhões de parâmetros: nesse tráfego, sua inferência ou ultrapassa o orçamento de latência ou exige uma frota de GPU inacessível.

Finalmente, a abordagem generativa adiciona sua própria classe de riscos que as sugestões de dicionário nunca tiveram: o modelo pode produzir uma frase gramaticalmente quebrada, uma duplicata semântica de uma sugestão vizinha, uma consulta levando a uma página de resultados vazia, uma frase tóxica dos dados de treinamento — ou uma marca totalmente inventada e um produto inexistente. Cada um desses modos de falha teve que ser fechado com seu próprio loop de pós-processamento.

Solução

Ozon Tech construiu um transformer generativo apenas com decodificador de vários centenas de milhões de parâmetros, treinado não em texto ordinário, mas em tokens de ações de usuários.

O treinamento ocorreu em dois estágios. Primeiro, pré-treinamento em cadeias de eventos de usuários — consultas, cliques, filtros, visualizações de produtos; uma única sequência pode abranger meses de interações de um usuário com o marketplace. Depois, ajuste fino na tarefa alvo: gerar uma sugestão a partir do contexto da sessão e do prefixo digitado. Essa abordagem permite que o modelo 'conheça' marcas, SKUs, erros de digitação e transliteração do comportamento real dos compradores, em vez de um corpus externo (Habr, blog Ozon Tech).

A inferência é executada em um cluster GPU via TensorRT-LLM, sustentando dezenas de milhares de requisições por segundo dentro do orçamento de 300 ms. Candidatos são gerados com beam search — o modelo rastreia várias variantes de continuação simultaneamente e escolhe a melhor, gerando uma lista de sugestões diversas em vez de uma resposta 'mais provável'. Os candidatos são então pós-processados: deduplicação, filtragem de frases proibidas e uma verificação de que a sugestão não leva a uma página de resultados vazia. Esse 'entediante' encanamento é o que fecha os riscos específicos da abordagem generativa — de erros de gramática a marcas inventadas: um produto gerado mas inexistente é cortado na verificação de resultados não vazios antes de chegar ao usuário.

A jornada anterior da consulta também está documentada. A sugestão escolhida entra no pipeline de pesquisa: o sistema reúne candidatos por palavras-chave e sinônimos, seleciona até 2.000 itens relevantes, uma rede neural pontua a probabilidade de compra de cada um de 0 a 1, depois aplicam-se boosts e de-boosts — e somente então o usuário vê os resultados; de acordo com artigos da indústria, todo o pipeline se encaixa em frações de segundo (SellerMoon). A sugestão é assim o primeiro filtro de um funil gigante, e sua qualidade define a qualidade da entrada em cada estágio subsequente.

O lançamento prosseguiu em iterações com medição A/B em cada um — e a sequência em si é instrutiva. Iteração um — geração básica de sugestões curtas: +10% CTR de sugestão; o modelo simplesmente começou a cobrir consultas onde o gerador de sugestões de dicionário ficou silencioso. Iteração dois — sugestões de várias palavras com fragmentos mais longos: mais 10%; os usuários começaram a ver uma consulta totalmente formada em vez de apenas 'TV'. Iteração três — tratamento de erros de digitação: mais 3% CTR, uma queda de 3% em páginas de resultados vazias e +0,3% na parcela de usuários que finalizam uma sessão com um pedido — a primeira vez que o efeito atingiu a métrica de negócio final. O time enuncia a observação-chave dessas iterações diretamente: CTR cresce mais facilmente do que métricas de negócio — a clicabilidade de sugestão pode ser aumentada rapidamente, enquanto levar o efeito até um pedido é muito mais difícil.

Sugestões são apenas a parte visível da pilha de pesquisa. No mesmo blog, Ozon Tech descreve a maquinaria de classificação: um sistema de três camadas (recuperação de texto completo em milhões de produtos → classificação precisa de milhares de candidatos → personalização) com milhares de fatores de classificação profundamente aninhados. Quando a interpretação recursiva de fórmulas de fator começou a consumir mais de 15% da CPU de todo o serviço, o time escreveu um compilador gerando bytecode JVM em tempo de execução: o uso de CPU caiu para 5–6% e o tempo total de consulta caiu 10 milissegundos. Artigos da indústria completam o quadro: até 2.000 itens candidatos são selecionados, uma rede neural pontua a probabilidade de compra de cada um de 0 a 1, depois aplicam-se boosts e de-boosts (SellerMoon). Tenha isso em mente ao ler sobre '+10% CTR': por trás de cada por cento há infraestrutura onde 10 milissegundos é uma vitória visível.

Resultado

Ganhos publicados por iteração: CTR de sugestão de pesquisa +10%, depois mais 10% e +3%; a parcela de páginas de resultados vazias caiu 3%; a parcela de usuários que finalizam uma sessão com um pedido cresceu 0,3%. Cada número vem de um experimento A/B no tráfego ao vivo e foi publicado pelo time em seu blog de engenharia — com a admissão honesta de que a clicabilidade cresce mais facilmente do que a conversão de pedidos.

Modesto à primeira vista — mas em trilhões de rublos em GMV, frações de um por cento são um efeito material de negócio, e é assim que os números reais de sistemas de recomendação parecem. Um resultado adicional, menos visível, é infraestrutural: a compilação dinâmica de fórmulas de classificação reduziu o consumo de CPU do serviço de pesquisa aproximadamente três vezes (de 15%+ para 5–6%) e economizou 10 ms do tempo de consulta — em dezenas de milhares de RPS, isso é tanto economia de hardware quanto uma contribuição direta para a velocidade do resultado.

Enquadramento de credibilidade: todos os números são auto-relatados pela empresa sem auditoria independente. Mas este é um tipo particular de auto-relato — publicado por engenheiros com a metodologia A/B descrita e pontos fracos admitidos (retornos decrescentes, o hiato CTR-para-pedido), o que reduz drasticamente o risco de exagero de marketing. Separadamente (uma previsão, não um resultado): de acordo com uma estimativa citada pela Forbes, um futuro assistente de pesquisa AI poderia adicionar 3–5% GMV para Ozon dentro de um a dois anos. Esta estimativa não deve ser confundida com o +0,3% medido — são gêneros diferentes de números.

Em nossa opinião, o valor principal do caso é de calibração. Define um ponto de referência para relatórios honestos ao mercado: a sequência +10% → +10% → +3% mostra não apenas o efeito, mas sua redução, e a métrica '+0,3% usuários com um pedido' mostra como é cara cada fração de um por cento em um produto maduro. Quando um fornecedor ou integrador promete '+15% conversão de IA em pesquisa', este caso é uma régua pronta: um dos times de ML mais fortes do país, com seu próprio cluster GPU e GMV em trilhões de rublos, documenta um efeito uma ordem de magnitude mais modesto.

A segunda observação é arquitetural: em nossa opinião, escolher um modelo de centenas de milhões de parâmetros sobre um 'LLM multi-bilionário' na moda é exatamente o que amadurecimento de engenharia parece. Ozon escolheu a arquitetura mínima que resolve a tarefa dentro de um orçamento de latência rigoroso, em vez daquela máxima que a resolveria em um slide deck.

Lições aprendidas

1. Os ganhos reais de recomendador são medidos em frações e por cento único: +0,3% usuários com um pedido na escala da Ozon é uma vitória, enquanto '+14% GMV de personalização' é uma bandeira vermelha de fabricação.
2. A latência orienta a arquitetura: um orçamento de 300 ms em dezenas de milhares de RPS dita tanto o tamanho do modelo (centenas de milhões de parâmetros, não bilhões) quanto a pilha de inferência (TensorRT-LLM).
3. O lançamento iterativo com medição em cada etapa (+10% → +10% → +3%) é mais honesto do que um lançamento barulhento: você vê tanto o efeito quanto seus retornos decrescentes.
4. CTR cresce mais facilmente do que métricas de negócio: a clicabilidade de sugestão sobe rapidamente, enquanto levar o efeito até um pedido é trabalho separado, mais difícil (observação do próprio Ozon Tech).
5. Sugestões generativas trazem novas classes de riscos — gramática quebrada, duplicatas, frases tóxicas, marcas inventadas, sugestões em resultados vazios — e não devem ser lançadas sem um loop de pós-processamento.
6. Personalização é apenas ≈10% do peso de classificação da Ozon: sinais básicos (popularidade, vendas, preço) ainda decidem mais.
7. Publicar números modestos sinaliza maturidade da cultura de engenharia: essas fontes podem ser confiáveis no resto também.

Perguntas frequentes