Apertus 1.5, da Suíça, ganha visão, audição e contexto de 262 mil tokens

O projeto suíço Apertus lançou o Apertus 1.5, atualização de seus modelos abertos com 8B e 70B de parâmetros. Agora eles aceitam imagens e áudio, alternam para um modo de raciocínio, trabalham com contexto de 262 144 tokens (quatro vezes mais que o Apertus 1.0) e chamam ferramentas externas com mais precisão. Os pesos foram publicados no Hugging Face em 24 de julho de 2026, sob Apache 2.0, e o relatório técnico detalhado saiu em outubro. Trata-se de um treinamento adicional sobre a primeira versão: o modelo de 8B recebeu mais 4 trilhões de tokens de dados textuais e multimodais (19 trilhões no total), e o de 70B recebeu 2 trilhões (17 trilhões no total).

O ponto central do lançamento é a forma como a equipe incorporou a multimodalidade. A abertura também é total: pesos, dados, receitas de treinamento e a carta de valores estão em acesso público.

Multimodalidade sem codificador separado

Em vez da combinação usual com um codificador visual, os desenvolvedores optaram pela fusão precoce. Imagens e áudio viram tokens discretos e seguem na mesma sequência do texto. O Emu3.5 tokeniza as imagens: uma imagem de 512×512 gera 1 024 tokens. O som fica a cargo do WavTokenizer, com 40 tokens por segundo. A arquitetura permanece a mesma e só o vocabulário cresce, então o treinamento roda na velocidade de um modelo de texto. Há uma limitação: os modelos entendem imagens e som, mas geram apenas texto. O trabalho com fala ainda é considerado experimental.

O pré-treinamento teve quatro estágios: dados não pareados (texto mais imagens e áudios avulsos), dados pareados (legendas de imagens e transcrições), cooldown com ênfase em matemática e código, e extensão do contexto de 8k para 262k tokens. Mais da metade dos tokens continuou sendo puramente textual, para não perder as habilidades linguísticas do Apertus 1.0. O corpus de texto foi atualizado com FineWeb2-HQ+, FinePDFs e Nemotron-CC. As condições são as mesmas: apenas dados públicos com licenças permissivas, e as exclusões via robots.txt são respeitadas retroativamente.

Cinco estágios de pós-treinamento

Depois do pré-treinamento, os modelos passam por uma cadeia de SFT, SFT em contexto longo, RL, DPO e alinhamento à carta de valores (SDPO).

• SFT com 3,7 milhões de exemplos de texto, mais dados de imagem e fala. Os traços de raciocínio são adicionados apenas aos prompts que o modelo não resolve sem eles. Os dados de tool use se limitam a trajetórias verificadas por execução.
• SFT na janela completa de 262k recupera a capacidade de trabalhar com contexto longo, que o treinamento curto enfraquece.
• RLVR, com recompensas verificáveis, em cerca de 350 mil prompts de matemática, código, seguimento de instruções, multilinguismo e visão, com o modo de raciocínio ligado e desligado.
• DPO em pares rotulados por um juiz melhora a qualidade do chat, o uso de ferramentas e a segurança.
• SDPO alinha o modelo à Apertus Charter por meio do feedback de um juiz e de autodestilação. Essa etapa foi aplicada apenas ao 8B.

Nas ablações, a equipe notou algo curioso: dados multimodais no SFT melhoram os resultados em todas as modalidades. Além disso, o ganho obtido com traços de raciocínio multimodais sobrevive ao RL textual posterior: a matemática cresce mais do que quando o treinamento parte de um checkpoint puramente textual.

O que mostram os benchmarks

Os autores admitem com franqueza que os modelos ainda ficam atrás das melhores soluções open-weight. Mesmo assim, o avanço é visível.

• O Apertus 1.5 8B supera modelos abertos de porte semelhante em tarefas de seguimento de instruções e multilinguismo.
• O modo de raciocínio eleva os resultados em benchmarks difíceis, como o AIME.
• Em multimodalidade, o modelo fica mais próximo do Gemma 4 12B e de outras soluções open-weight atuais. Entre os modelos totalmente abertos, ele é competitivo em compreensão espacial e em trabalho com documentos e gráficos.
• Em tarefas jurídicas suíças, o modelo está no nível dos principais modelos open-weight.
• No Last Translation Benchmark, a versão de 8B empata com o GPT-OSS-20B e supera o Claude Haiku 4.5 e o Google Translate.

Há ainda um destaque para a transparência das avaliações. Os resultados foram publicados no formato Every Eval Ever, em parceria com a EvalEval Coalition: o registro inclui não só a pontuação, mas também quem executou o teste, como o acesso ao modelo foi obtido e quais configurações de geração foram usadas. Segundo a avaliação da EvalEval, o esquema cobre 56 dos 60 itens de relatório exigidos pelo artigo 55 do EU AI Act e pelo GPAI Code of Practice. Os testes rodam em um fork público do lm-evaluation-harness, então podem ser reexecutados.

Onde baixar e o que vem a seguir

O lançamento inclui os modelos base e os checkpoints de SFT, RL, DPO e finais para 8B e 70B (o final do 70B corresponde ao estágio DPO). No Hugging Face estão disponíveis checkpoints intermediários, a mistura de SFT textual, o pool de preferências e os pares de treinamento. O código se apoia no Megatron-LM e no verl. Proton Lumo e Infomaniak Euria já integraram os modelos. Swisscom, Infomaniak, Phoeniqs e outros provedores anunciaram APIs.

Para empresas europeias com requisitos rígidos de origem dos dados e de compliance, esta é uma das poucas opções em que é possível verificar todo o caminho, do corpus ao checkpoint. Pesquisadores têm acesso a todos os estágios para estudo. Já são mais de cinco milhões de downloads no Hugging Face. A equipe indicou o próximo passo no AI+X Summit, em Zurique: o Apertus 2.0, com arquitetura MoE esparsa de aproximadamente 600B de parâmetros, cronograma de treinamento mais longo e prioridade para agentes, matemática e código.