Koda explique comment elle a entraîné un modèle Next Edit Suggestions pour prédire les modifications de code

Koda a expliqué comment elle a entraîné un modèle Next Edit Suggestions pour une autocomplétion qui cherche à deviner non pas le prochain token, mais la prochaine modification pertinente du développeur. Cette approche fait passer l'IDE de la complétion classique à un assistant qui comprend le déroulement d'une refactorisation, d'un renommage ou d'une série de petites corrections répétitives. NES se distingue de l'autocomplétion classique : il tient compte de l'historique des changements récents et fonctionne n'importe où dans le fichier, pas seulement sous le curseur.

Le modèle peut non seulement ajouter du code, mais aussi supprimer ou remplacer des fragments. Les scénarios pratiques de ce mode sont clairs : renommage en masse, mise à jour des appels après un changement de signature, poursuite d'une refactorisation entamée, duplication d'une correction répétitive, harmonisation du style, suppression de code mort et même petites corrections de lint. Chez Koda, on estime que, malgré l'engouement pour les agents d'IA, cet outil reste utile : de nombreuses petites corrections se valident plus vite d'une seule touche qu'en rédigeant un prompt à part.

Pour l'entraînement, l'équipe a d'abord choisi un modèle de base sous une contrainte stricte de latence. Sur ses serveurs GPU cibles, elle a mesuré la vitesse d'inférence et réduit le choix à Qwen2.5-Coder-1.

5B et DeepSeek-Coder-1.3B. Sur l'ensemble des métriques, elle a retenu Qwen comme base du fine-tuning supervisé.

Les données proviennent de logs partiels anonymisés, accumulés sur un an, de son propre modèle de complétion de code. Ces logs FIM ont été regroupés par utilisateur, session et fichier afin de reconstituer des chaînes de modifications locales du code. Le problème : une seule vraie modification d'un développeur se fragmentait souvent en dizaines de micro-événements dans les logs.

Les ingénieurs ont donc fusionné ces sous-séquences en modifications uniques et cohérentes grâce à l'algorithme Incremental Difference Detecting, décrit dans la recherche sur NES. Ils ont ensuite filtré à part les exemples où la modification cible est réellement liée de façon causale à l'historique d'édition, et n'est pas simplement un autre morceau de code logique. Au final, sur des millions d'échantillons candidats, il n'en est resté que quelques dizaines de milliers.

L'équipe a en outre suréchantillonné les modifications de type replace pour mieux équilibrer insertions, remplacements et suppressions. Koda a ensuite comparé son modèle de 1,5 milliard de paramètres aux solutions NES ouvertes de Continue, Zed et Sweep, et cité comme références fermées Cursor Tab, GitHub Copilot NES et JetBrains AI Assistant. Sur son propre jeu de test de 500 exemples, Koda-next-edit a obtenu 27,2 % en Exact Match et 28,2 % en Judge, contre 17,0 % et 20,4 % respectivement pour Zeta 2.

Sur plusieurs jeux de données, l'entreprise accorde une priorité plus élevée à la métrique Judge, car elle convient mieux à la comparaison de modèles aux formats de réponse différents. En moyenne simple, son modèle arrive en tête, et en moyenne pondérée il reste parmi les meilleurs, même face à des modèles plus gros de 7B et 8B paramètres. Koda met par ailleurs en avant le jeu de données NEP comme un benchmark plus indépendant, car il n'est « natif » d'aucun des systèmes comparés.

La fonction est déjà disponible en bêta dans le plugin KodaCode 0.9.0 pour VS Code.

L'équipe prévoit ensuite d'enrichir le contexte avec des fragments de code similaires et des indications du linter, ainsi que de tester des modèles plus gros si elle parvient à tenir la latence requise. Autre axe de travail : l'interface du plugin. Pour NES, il ne suffit pas de prédire la modification, il faut aussi l'afficher de façon que le développeur puisse accepter ou refuser la suggestion rapidement, sans perdre le rythme.

L'histoire de Koda montre que le marché des outils d'IA pour développeurs ne se limite pas aux agents qui tentent de tout faire de bout en bout. Entre l'édition manuelle et l'exécution entièrement autonome, il existe une vaste couche de tâches où la plus grande valeur vient d'un conseil rapide, local et prévisible, directement dans l'éditeur. Si ces modèles gagnent en qualité sans perdre en vitesse, cette catégorie d'assistants pourrait devenir la forme d'IA la plus répandue dans le développement quotidien.