Modal supera $1 bilhão em ARR e é avaliada em $16 bilhões com a demanda por sandboxes

A Modal, plataforma para executar cargas de trabalho de IA, ultrapassou a marca de $1 bilhão em receita anualizada (annualized run rate) cinco meses depois da rodada C, avaliada em $5 bilhões, e fechou uma rodada D de $750 milhões com avaliação de $16 bilhões. No mesmo período, a empresa lançou quase três bilhões de sandboxes. Em uma longa entrevista ao Latent Space, o CEO Erik Bernhardsson explicou de onde veio o crescimento e por que a demanda por computação se encaixa mal nos contratos usados para comprá-la.

Por que a capacidade de GPU é vendida em retângulos

O contrato de capacidade típico funciona assim: o cliente recebe um número fixo de GPUs por um prazo fixo. Ao representar essa capacidade no eixo do tempo, o resultado é um retângulo. A carga real é diferente: ela cresce, dá picos e cai ao longo do dia. Quem compra para o pico paga por hardware parado. Quem compra menos perde demanda.

Bernhardsson descreve a aposta da Modal como uma transformação de prazos (duration transformation). A empresa garante a capacidade de base com contratos de longo prazo, agrega a demanda de milhares de clientes e entrega a cada um o que precisa, quando precisa. Quanto mais estável a demanda total, mais útil esse pool. A abordagem complementa a de Evan Conrad e da SF Compute: ele torna a capacidade negociável, enquanto a Modal a torna adequada a porções pequenas e elásticas.

O modelo tem um lado negativo. Se o provedor travou capacidade aos preços de hoje e as GPUs ficarem mais baratas depois, o balanço ficará com uma oferta cara. Bernhardsson não espera uma queda brusca em breve, mas considera que esse cenário precisa entrar no modelo de negócio.

A sandbox que quase foi encerrada

As sandboxes surgiram depois que Bernhardsson e o cofundador Akshat Bubna notaram que os modelos de linguagem escrevem código, e alguém precisa executá-lo. No começo, o interesse era tão pequeno que a equipe chegou a discutir o encerramento do produto. Depois vieram os agentes de programação, os agentes em segundo plano e o aprendizado por reforço. Hoje as sandboxes respondem por cerca de um terço da receita da Modal. Bernhardsson não previa esse resultado no lançamento.

A carga de trabalho também mudou. O agente cria um ambiente, executa o código, olha o resultado e tenta de novo, muitas vezes seguidas. A latência de inicialização e de restauração do ambiente passa a fazer parte da experiência do usuário. Daí a migração de developer experience para agent experience.

A elasticidade só funciona se a capacidade aparecer rápido o bastante. Segundo a própria Modal, a inicialização rápida se apoia em várias camadas:

• um buffer de GPUs livres, de onde saem as novas réplicas do modelo;
• sistema de arquivos próprio;
• checkpointing de processos;
• snapshots da memória da GPU;
• um resource solver, que escolhe a capacidade levando em conta preços e disponibilidade variáveis.

A empresa mostrou o limite de engenharia em um material sobre escalar até um milhão de sandboxes simultâneas.

Do Spotify à infraestrutura

Bernhardsson passou sete anos no Spotify, onde construiu do zero o sistema de recomendação musical: related artists, Discover Weekly e outras funcionalidades. Havia muita fatoração de matrizes e computação intensiva, e foi ali que ele concluiu que a infraestrutura para aplicações de IA era desconfortável de usar. Ele descreve a Modal como a ferramenta que gostaria de ter tido. Depois, passou cinco anos como CTO da Better.com e fez a equipe técnica crescer de cerca de duas pessoas para algumas centenas.

Ele começou a Modal em 2021, antes do lançamento do ChatGPT. A ideia original era geral: simplificar a execução de código na nuvem, fosse GPU, ML ou processamento de dados. Por isso foi preciso descer fundo na stack e escrever um sistema de arquivos e um runtime de contêineres próprios. O primeiro impulso real não veio do ChatGPT, mas do Stable Diffusion: quando a equipe tinha quatro ou cinco pessoas, apareceram interessados em rodar o modelo. Isso mostrou que a inferência de modelos generativos era o melhor encaixe para a plataforma. Hoje, os clientes da Modal incluem Suno, Runway e Cognition, e a receita, segundo Bernhardsson, cresceu pelo menos 50 vezes em dois anos.

A conversa também passa por outros temas: compra de capacidade, alugar versus ter, alternativas à NVIDIA, lições das neoclouds, segurança das sandboxes, o trabalho dos engenheiros forward-deployed e o code review opcional dentro da Modal.

Para quem constrói produtos de IA, a conclusão é prática. Antes de assinar um contrato de reserva de GPU, vale montar um gráfico da carga real hora a hora e estimar quanto custará a ociosidade entre os picos. Em sistemas de agentes, as métricas de infraestrutura devem incluir o tempo de inicialização e de restauração do ambiente, porque o agente faz dezenas de iterações e cada atraso se acumula. E o mercado de capacidade, a julgar pela avaliação de $16 bilhões, recompensa cada vez mais quem consegue transformar contratos rígidos de longo prazo em serviços flexíveis cobrados por segundo.