Goodfire lance Silico, un outil pour déboguer les modèles de langage pendant leur entraînement

La start-up Goodfire a présenté Silico, un outil qui permet aux chercheurs et aux ingénieurs d'examiner l'intérieur des grands modèles de langage et d'intervenir sur leur comportement en plein entraînement. L'idée : sortir de la logique « on entraîne et on espère que tout ira bien » pour contrôler plus finement ce que le modèle assimile réellement.

Comment fonctionne Silico

Silico relève de l'interprétabilité mécaniste. Cette approche ne se contente pas d'évaluer les réponses du modèle de l'extérieur : elle cherche à décortiquer ses mécanismes internes, c'est-à-dire les caractéristiques, chaînes d'activations et groupes de neurones qui influencent une sortie donnée. Goodfire affirme que son système permet de travailler sur le modèle à toutes les étapes du développement : de la sélection et de la vérification du dataset jusqu'à l'entraînement lui-même, puis au débogage du comportement. Pour le marché, c'est un changement notable : la plupart des équipes corrigent encore les LLM de manière indirecte, à coups de nouvelles données, de prompts et de cycles de réentraînement sans fin.

Sur le site de Goodfire, Silico est présenté comme un environnement de « conception intentionnelle » des modèles, et pas seulement comme un outil d'audit. La plateforme doit aider à comprendre ce que le modèle a déjà appris, où sont apparues des corrélations fallacieuses et quelles représentations internes mènent aux défaillances. Pour l'instant, le produit est proposé en accès anticipé et sur demande, et l'entreprise négocie les conditions commerciales au cas par cas.

• Visualisation des caractéristiques internes qui influencent une réponse donnée du modèle
• Détection des défaillances et des schémas indésirables avant la mise en production
• Correction ciblée du comportement sans réentraînement complet à partir de zéro
• Contrôle des données, des caractéristiques et des signaux de reward qui façonnent le modèle

Ce que montre la démo

Le plus intéressant dans l'annonce, ce ne sont pas les promesses abstraites, mais les exemples concrets de la manière dont Goodfire propose de « déboguer » un LLM. Selon l'entreprise, Silico s'appuie sur des agents d'IA pour automatiser l'interprétation, afin que ces méthodes soient accessibles non seulement aux laboratoires de recherche du calibre d'Anthropic ou de DeepMind, mais aussi à des équipes plus modestes. Le point compte : l'interprétabilité mécaniste est longtemps restée un domaine riche en belles publications, mais pauvre en outils pratiques pour les ingénieurs.

Dans ses démonstrations, Goodfire a montré qu'il était possible d'amplifier ou d'atténuer des caractéristiques internes liées à certains concepts, et ainsi de modifier le comportement du modèle. Un exemple portait sur le raisonnement éthique : l'entreprise affirme avoir infléchi les réponses du modèle en renforçant les caractéristiques liées à la transparence. Un autre exemple, presque anecdotique, illustre bien l'esprit de l'approche : en analysant une erreur où le modèle comparait mal 9.11 et 9.9, Goodfire a identifié des caractéristiques internes associées à des références bibliques et s'en est servie pour corriger le bug.

Goodfire dispose déjà d'une base de recherche pour ce type de cas. Dans des travaux antérieurs, l'entreprise a revendiqué une réduction des hallucinations allant jusqu'à 58% en utilisant des caractéristiques internes comme signaux de reward pendant l'entraînement, ainsi qu'une baisse sensible des comportements indésirables grâce au filtrage des exemples d'entraînement problématiques. Silico ressemble à une tentative de packager ces méthodes de recherche dans un produit utilisable non plus sous forme de démo d'article scientifique, mais dans un vrai pipeline de ML.

Quelles limites

Malgré l'intérêt que suscite Silico, il ne faut pas confondre une démonstration de potentiel avec un standard industriel déjà établi. Goodfire présente elle-même le produit comme un accès anticipé, et non comme une plateforme pleinement mature. Beaucoup des effets annoncés ne sont pour l'instant connus que par les déclarations de l'entreprise et ses propres recherches. Cela ne les rend pas douteux, mais le marché devra encore vérifier la stabilité de ces méthodes selon les architectures, les échelles et les domaines.

Le problème est aussi plus fondamental : l'interprétabilité des modèles reste loin du niveau du débogage logiciel classique. Un réseau de neurones n'a pas de variables ni de fonctions intelligibles pour un humain, si bien que tout discours sur les « caractéristiques », les « neurones » et les « concepts » reste probabiliste. Même si l'outil détecte une forte corrélation entre une représentation interne et une erreur, cela ne signifie pas toujours que la cause est entièrement localisée. Le risque : que le marché croie trop tôt à l'illusion d'un contrôle total sur les LLM.

C'est pourtant précisément ce qui rend le lancement de Silico intéressant. Si Goodfire parvient vraiment à faire passer l'interprétabilité mécaniste d'une niche de recherche à un outil d'ingénierie opérationnel, c'est le processus même de création des modèles qui changera. Au lieu d'un réglage grossier fondé sur les sorties, l'industrie disposera d'un moyen d'agir sur ce qui se passe à l'intérieur du réseau, presque comme un diagnostic système d'une pile logicielle complexe.

Ce que cela signifie

Si les promesses de Goodfire se confirment en pratique, le développement des LLM ressemblera moins à une boîte noire et davantage à de l'ingénierie classique : avec du diagnostic, des corrections ciblées et un entraînement plus prévisible. Pour les entreprises qui construisent leurs propres modèles ou affinent ceux des autres, cela pourrait signifier moins d'itérations à l'aveugle, moins de défaillances inattendues et davantage de contrôle sur la qualité et la sécurité.