Recursive_SI, de Yuandong Tian, lança o Flint-40B-A2B: modelo foi montado em menos de 4 meses

A Recursive_SI, empresa da qual Yuandong Tian participou da criação, apresentou seu primeiro modelo. O Flint-40B-A2B é um modelo rápido para programação agêntica, pensado para rodar em hardware local. Ele usa a arquitetura de mistura de especialistas (MoE): são 40 bilhões de parâmetros no total, dos quais cerca de 2 bilhões trabalham a cada token. Entre o anúncio da startup, em maio, e o lançamento do modelo, passaram-se cerca de cinco meses, e o desenvolvimento em si, do zero, levou menos de quatro. Durante todo esse período, a IA participou do trabalho: o modelo foi criado com a ajuda do Eureka Machine, sistema interno de pesquisa automatizada.

O que o nome 40B-A2B revela

Em modelos MoE, a sigla A2B costuma ser lida como o número de parâmetros ativos. No caso do Flint, isso significa o seguinte: é preciso armazenar todos os 40 bilhões de pesos, mas o custo de computação por token é parecido com o de um modelo de 2 bilhões. Para rodar localmente, é uma combinação conveniente. O gargalo de máquinas domésticas e de escritório geralmente é a memória e sua largura de banda, não o pico de computação. Se, a cada passo, o modelo lê da memória apenas uma pequena fração dos pesos, a velocidade de geração fica bem acima da de um modelo denso de tamanho comparável.

Uma conta simples mostra onde fica o limite. Com quantização de 4 bits, 40 bilhões de parâmetros ocupam cerca de 20 GB; com 8 bits, cerca de 40 GB. A primeira opção cabe em uma workstation com uma placa de vídeo potente ou em um notebook com bastante memória unificada. A segunda já exige uma configuração séria. Para um agente que, numa mesma sessão, lê o repositório, roda testes e edita arquivos dezenas de vezes, o tempo de resposta pesa mais do que alguns pontos a mais em um benchmark. É nisso que o Flint aposta.

Um pesquisador que trabalha sem pausa

O ponto mais interessante do lançamento é a forma como o modelo foi criado. A empresa descreve o Eureka Machine como um sistema próprio de pesquisa automatizada e, segundo a Recursive, ele participou do desenvolvimento do modelo do começo ao fim. A ideia é que parte da rotina do ciclo moderno de ML passe para a IA: escolha de experimentos, execução e análise de rodadas de treino, verificação de hipóteses. O humano continua sendo quem define as tarefas e arbitra os resultados.

Para a startup, trata-se de uma questão de sobrevivência, e não de um experimento por experimento. Uma equipe pequena não tem um exército de pesquisadores como os grandes laboratórios. Se a automação encurta o ciclo "hipótese — experimento — conclusão", quatro meses entre a página em branco e um modelo funcional parecem uma meta realista. O nome da empresa, Recursive_SI, sugere um objetivo mais ambicioso: uma IA que ajuda a melhorar a própria IA.

Principais parâmetros do lançamento:

• modelo: Flint-40B-A2B;
• arquitetura: MoE, cerca de 40 bilhões de parâmetros no total e cerca de 2 bilhões ativos por token;
• finalidade: programação agêntica;
• ambiente de execução: hardware local;
• prazo de desenvolvimento: menos de quatro meses, do zero;
• ferramenta de criação: Eureka Machine, sistema próprio de pesquisa automatizada da Recursive.

O que observar ao escolher um agente de programação local

Modelos locais de programação interessam a equipes que não querem enviar o código-fonte para APIs externas, seja por exigências de segurança, pelo custo dos tokens ou simplesmente pela latência. O Flint mira justamente esse nicho, em que cada modelo tem concorrentes diretos entre as soluções MoE abertas.

A avaliação prática é simples. Primeiro, meça a velocidade real no seu hardware, em tokens por segundo com contexto longo, porque cenários agênticos incham o histórico da conversa rapidamente. Segundo, teste o modelo não em tarefas sintéticas, mas nos seus próprios repositórios: correção de bug, refatoração, escrita de testes. Terceiro, veja como ele sustenta cadeias de ferramentas quando há muitos passos e um único erro arrasta os demais.

Vale também acompanhar o que a Recursive mostrará a seguir. Se o Eureka Machine realmente reduziu o ciclo de desenvolvimento do modelo para alguns meses, os próximos lançamentos da startup devem sair rápido. Nesse caso, o principal produto passaria a ser o sistema que os produz, e não um modelo isolado.