Meta coloca a frota ociosa de inferência para trabalhar nas recomendações de anúncios

A Meta publicou uma análise técnica de um sistema que direciona a capacidade ociosa de inferência para as recomendações de anúncios. A base são duas alavancas de elasticidade: por meio delas, o trabalho dos modelos de recomendação se expande para a capacidade «oportunista» da frota, e o desempenho básico continua no mesmo nível. O anúncio no RSS está truncado, e o trecho disponível não traz resultados quantitativos. Por isso, abaixo vai apenas o que foi declarado, junto com uma análise cautelosa da lógica de engenharia.

De onde vem a capacidade livre

A frota de inferência é dimensionada para o pico. O tráfego de anúncios é irregular: varia conforme a hora do dia, a região, a sazonalidade e grandes eventos. Além disso, parte dos servidores fica sempre de reserva, para o caso de falhas. No resto do tempo, a capacidade fica subutilizada, embora já tenha sido paga e consuma energia. A Meta a chama de opportunistic: ela pode ser usada, mas a qualquer momento pode ser preciso devolvê-la ao tráfego principal.

O problema não é encontrar trabalho para essa capacidade. É garantir que esse trabalho não atrapalhe o circuito principal. Se hoje uma requisição de anúncio é atendida dentro de um orçamento fixo de latência, qualquer cálculo «bônus» precisa caber nesse orçamento ou ser cancelado em silêncio.

Duas alavancas de elasticidade

O anúncio não diz quais são exatamente as alavancas descritas no artigo. A declaração deixa claro apenas o essencial: elas permitem que o trabalho de recomendação cresça e encolha conforme a capacidade disponível. Na prática, em sistemas semelhantes, isso costuma funcionar assim:

• profundidade de computação: quando há folga, a requisição recebe um modelo mais pesado ou mais candidatos para ranqueamento;
• abrangência: quando há folga, o caminho de processamento mais caro é aplicado a uma fatia maior do tráfego.

Isso é uma suposição por analogia com esquemas do setor, e não uma citação do post. Mais importante é outra condição: o desempenho básico não pode cair. Para isso, são necessárias prioridades, preempção do trabalho «bônus» e um retorno seguro ao caminho básico quando os recursos livres desaparecem.

O que se sabe pelo anúncio

• Demandante: recomendações de anúncios na Meta.
• Recurso: capacidade ociosa de inferência da frota.
• Mecanismo: duas alavancas de elasticidade.
• Restrição: o desempenho básico não piora.
• Escala: a frota da Meta; números concretos de utilização e de ganho não foram divulgados no anúncio.
• Fonte: Engineering at Meta, 12 de outubro de 2026.

Por que isso importa do ponto de vista econômico

A inferência se tornou uma das linhas de custo mais caras da infraestrutura. Os aceleradores são comprados com anos de antecedência, e a utilização determina quanto trabalho real cada dólar de capital investido entrega. Nesse contexto, as recomendações de anúncios são o consumidor ideal: são a principal fonte de receita da Meta, e um pequeno ganho de qualidade no ranqueamento, nesse volume, vira muito dinheiro. Não é preciso construir novos data centers para melhorar o modelo. Basta aproveitar melhor os que já existem.

Essa também é a resposta para uma pergunta frequente: por que manter folga? A reserva é necessária para a confiabilidade, mas, com boa elasticidade, deixa de ser peso morto.

O que os engenheiros podem aproveitar

Se você tem um cluster próprio de inferência, dá para tirar da abordagem da Meta algumas lições verificáveis:

• Meça a ociosidade por hora e por região. Sem esse mapa, é cedo para falar em capacidade oportunista.
• Defina um SLO básico e proteja-o com prioridades. O trabalho bônus deve ser o primeiro a ser cancelado.
• Projete um graceful fallback: o serviço deve entregar um resultado correto mesmo sem cálculos adicionais.
• Faça os testes A/B do caminho «elástico» separadamente. O ganho de qualidade precisa ser separado das oscilações de capacidade.
• Não faça as métricas de negócio dependerem de um recurso que pode ser retirado a qualquer segundo.

Os números completos do efeito e os detalhes das duas alavancas estão no post original da Engineering at Meta.