Le suisse Apertus 1.5 gagne la vue, l'ouïe et un contexte de 262 000 tokens

Le projet suisse Apertus a publié Apertus 1.5, une mise à jour de ses modèles ouverts de 8B et 70B paramètres. Ils acceptent désormais des images et de l'audio, peuvent basculer en mode de réflexion, gèrent un contexte de 262 144 tokens (quatre fois plus qu'Apertus 1.

0) et appellent mieux les outils externes. Les poids ont été publiés sur Hugging Face le 24 juillet 2026 sous Apache 2.0, et un rapport technique détaillé est paru en octobre.

Il s'agit d'un réentraînement de la première version : le modèle 8B a reçu 4 000 milliards de tokens supplémentaires de données textuelles et multimodales (19 000 milliards au total), le 70B en a reçu 2 000 milliards (17 000 milliards au total).

La principale singularité de cette version tient à la manière dont l'équipe a ajouté la multimodalité. L'ouverture est elle aussi totale : poids, données, recettes d'entraînement et charte de valeurs sont en accès public.

Une multimodalité sans encodeur séparé

Plutôt que l'assemblage habituel avec un encodeur visuel, les développeurs ont opté pour une fusion précoce. Les images et l'audio sont convertis en tokens discrets et circulent dans la même séquence que le texte. Emu3.5 tokenise les images : une image de 512×512 donne 1 024 tokens. WavTokenizer traite le son, à raison de 40 tokens par seconde. L'architecture reste inchangée, seul le vocabulaire s'élargit, si bien que l'entraînement tourne à la vitesse d'un modèle textuel. Il y a toutefois une limite : les modèles comprennent les images et le son, mais ne génèrent que du texte. Le traitement de la parole est pour l'instant considéré comme expérimental.

Le préentraînement s'est déroulé en quatre étapes : données non appariées (texte plus images et audio isolés), données appariées (légendes d'images et transcriptions), cooldown axé sur les mathématiques et le code, et extension du contexte de 8k à 262k tokens. Plus de la moitié des tokens sont restés purement textuels, afin de ne pas perdre les compétences linguistiques d'Apertus 1.0. Le corpus textuel a été renouvelé avec FineWeb2-HQ+, FinePDFs et Nemotron-CC. Les conditions restent les mêmes : uniquement des données publiques sous licences permissives, et les refus exprimés via robots.txt sont pris en compte rétroactivement.

Cinq étapes de post-entraînement

Après le préentraînement, les modèles passent par une chaîne composée de SFT, SFT en contexte long, RL, DPO et alignement sur la charte (SDPO).

• SFT sur 3,7 millions d'exemples textuels, plus des données d'images et de parole. Les traces de raisonnement ne sont ajoutées qu'aux prompts que le modèle ne résout pas sans elles. Les données d'utilisation d'outils se limitent aux trajectoires vérifiées par exécution.
• Le SFT sur la fenêtre complète de 262k restaure la capacité à travailler en contexte long, que l'entraînement sur textes courts affaiblit.
• RLVR avec récompenses vérifiables, sur environ 350 000 prompts de mathématiques, de code, de suivi d'instructions, de multilinguisme et de vision, avec le mode de réflexion activé et désactivé.
• Le DPO, sur des paires annotées par un juge, améliore la qualité du chat, l'usage des outils et la sécurité.
• Le SDPO aligne le modèle sur l'Apertus Charter via le retour d'un juge et l'autodistillation. Cette étape n'a été appliquée qu'au 8B.

Dans ses ablations, l'équipe a relevé un point intéressant : les données multimodales en SFT améliorent les résultats sur toutes les modalités. Et le gain apporté par les traces de raisonnement multimodales survit au RL textuel qui suit : les mathématiques progressent davantage que lorsqu'on part d'un checkpoint purement textuel.

Ce que montrent les benchmarks

Les auteurs reconnaissent sans détour que les modèles restent en retrait par rapport aux meilleures solutions open-weight. Les progrès n'en sont pas moins visibles.

• Apertus 1.5 8B devance les modèles ouverts de taille comparable sur le suivi d'instructions et le multilinguisme.
• Le mode de réflexion améliore les résultats sur les benchmarks difficiles comme AIME.
• En multimodalité, le modèle se rapproche de Gemma 4 12B et d'autres solutions open-weight actuelles. Il est compétitif en compréhension spatiale et pour le traitement de documents et de graphiques parmi les modèles entièrement ouverts.
• Sur les tâches juridiques suisses, le modèle se situe au niveau des meilleurs modèles open-weight.
• Sur le Last Translation Benchmark, la version 8B égale GPT-OSS-20B et devance Claude Haiku 4.5 et Google Translate.

Les auteurs insistent particulièrement sur la transparence des évaluations. Les résultats sont publiés au format Every Eval Ever avec l'EvalEval Coalition : on y consigne non seulement le score, mais aussi qui a lancé le test, comment l'accès au modèle a été obtenu et quels paramètres de génération ont été utilisés. Selon l'évaluation d'EvalEval, ce schéma couvre 56 des 60 éléments de reporting exigés par l'article 55 de l'EU AI Act et le GPAI Code of Practice. Les tests s'exécutent sur un fork public de lm-evaluation-harness et peuvent donc être relancés.

Où le trouver et la suite

La publication comprend les modèles de base, ainsi que les checkpoints SFT, RL, DPO et finaux pour le 8B et le 70B (le 70B final correspond à l'étape DPO). Sur Hugging Face figurent aussi des checkpoints intermédiaires, le mélange SFT textuel, le pool de préférences et les paires d'entraînement. Le code s'appuie sur Megatron-LM et verl. Proton Lumo et Infomaniak Euria ont déjà intégré les modèles. Swisscom, Infomaniak, Phoeniqs et d'autres fournisseurs ont annoncé des API.

Pour les entreprises européennes soumises à des exigences strictes sur l'origine des données et la conformité, c'est l'une des rares options permettant de vérifier tout le parcours, du corpus au checkpoint. Les chercheurs ont accès à toutes les étapes pour les étudier. Les téléchargements sur Hugging Face dépassent déjà les cinq millions. L'équipe a dévoilé la prochaine étape lors de l'AI+X Summit à Zurich : Apertus 2.0, avec une architecture MoE éparse d'environ 600B paramètres, un calendrier d'entraînement plus long et une priorité donnée aux agents, aux mathématiques et au code.