Mirendil dévoile Fern 0.1 : contexte de 10 millions de tokens, mais agent faible

La start-up Mirendil, fondée par Behnam Neyshabur et Harsh Mehta, deux chercheurs ayant quitté Anthropic, a présenté son premier modèle, Fern 0.1. Sa principale particularité : une fenêtre de contexte de 10 millions de tokens. Un token est un fragment de texte, à peu près un mot ou une partie de mot. Pour du code, 10 millions de tokens représentent environ 23 Mo, soit près d'un demi-million de lignes que le modèle voit simultanément. À titre de comparaison, les autres modèles auxquels Mirendil s'est confrontée n'ont été mesurés que jusqu'à environ 1 million de tokens. Mais pour la qualité du travail sur le code et dans le rôle d'agent, Fern reste pour l'instant nettement derrière les leaders.

À qui servent 10 millions de tokens

Mirendil ne cible pas les développeurs ordinaires, mais les équipes qui entraînent elles-mêmes des réseaux de neurones. Ces équipes doivent éplucher d'énormes volumes de données techniques, et une fenêtre classique de quelques centaines de milliers de tokens y est un peu à l'étroit. L'entreprise propose de charger dans Fern, en entier :

• des logs d'entraînement, c'est-à-dire les journaux où le modèle consigne jour après jour les pertes, les plantages et les métriques ;
• des enregistrements de plusieurs jours du travail d'agents IA ;
• des portions de données d'entraînement, pour y repérer déchets et doublons.

L'intérêt d'un contexte long a aussi été mesuré. Mirendil a testé la capacité du modèle à prédire le fragment de code suivant. Fern affine ses prédictions à mesure qu'il lit le dépôt : plus il a vu de code, plus il devine juste la suite. Parmi tous les modèles comparés, il est le seul à atteindre 10 millions de tokens ; les autres ont été mesurés jusqu'à environ 1 million.

Une réserve s'impose. À longueur égale de 1 million de tokens, Kimi-K3 et Beam prédisent le code plus précisément que Fern. Ces deux modèles ont déjà subi un post-entraînement, alors que Mirendil leur oppose sa version de base, c'est-à-dire le modèle après son entraînement initial sur des textes. L'entreprise note elle-même que le post-entraînement dégrade généralement un peu cet indicateur. La comparaison ne joue donc pas en faveur de Fern, mais elle n'est pas tout à fait équitable pour les deux camps.

Là où Fern perd pour l'instant

Dans les tâches où le modèle doit agir en agent, les résultats sont faibles. Terminal Bench 4.0 vérifie si une IA vient à bout de tâches en ligne de commande, où il faut saisir soi-même les commandes et interpréter leurs résultats. Fern 0.1 y marque 6,1%. Résultats des autres modèles :

• Claude Opus 5.5 — 66,4% ;
• GPT-6 Astra — 57,9% ;
• GLM-5.3 — 41,9%.

Sur DeepSWE v1.1 et SWE-bench Verified, le tableau est similaire. Ce sont des ensembles de tâches réelles de correction de code dans des projets existants : le modèle doit réparer un bug ou compléter une fonction. Selon Mirendil, Fern accuse par rapport aux modèles de pointe un retard d'environ la moitié sur DeepSWE et d'environ un quart sur SWE-bench Verified. Elle devance toutefois certains modèles ouverts.

Son meilleur résultat vient de SWE-Bench Pro v2-Hard, variante difficile de ce type de benchmark : 76,5%. C'est autant que Beam, et cela reste inférieur aux modèles de pointe.

Mirendil l'explique simplement : Fern 0.1 est un modèle de base issu d'un court cycle d'entraînement. L'entreprise promet de publier souvent de nouvelles versions.

Taille et projets : deux modèles plus gros

Sur l'échelle de Fern 0.1, l'entreprise reste vague : de 100 à 500 milliards de paramètres. L'écart est de un à cinq, ce qui empêche de se faire une idée du coût réel d'exécution du modèle.

Les projets sont nettement plus ambitieux. Mirendil entraîne déjà deux autres modèles :

• le premier de 500 milliards à 2 trillions de paramètres ;
• le second de 2 à 10 trillions de paramètres.

L'accès à une version préliminaire de Fern est ouvert sur demande : il faut contacter la start-up.

Ce que cela change pour les ingénieurs

Fern 0.1 ne remplacera pas pour l'instant Claude ou GPT comme agent de codage : les 6,1% sur Terminal Bench parlent d'eux-mêmes. Si votre tâche consiste à lire un énorme log d'entraînement ou à vérifier un gros morceau de dataset, 10 millions de tokens peuvent s'avérer plus utiles que quelques points de plus sur les tests d'agents. Mais l'avantage annoncé n'est confirmé pour l'instant que par les comparaisons internes de Mirendil, et pas dans les conditions les plus favorables à Fern. La vraie vérification commencera quand le modèle arrivera entre les mains d'équipes indépendantes et que des versions plus grandes sortiront. On saura alors s'il exploite un contexte long aussi bien qu'il sait le contenir.