FlashProve vérifie le modèle à l’origine d’une réponse à 110 tokens par seconde

Un client appelle un modèle coûteux via une API, mais ne voit pas ce qui se passe derrière l’interface. Le fournisseur ou une passerelle d’IA intermédiaire peut discrètement envoyer la requête à un modèle moins cher, puis facturer le tarif du modèle initial. Il est presque impossible de détecter cette substitution à partir du seul texte : une réponse similaire ne prouve pas quel système l’a calculée.

Anthropic a proposé FlashProve pour résoudre ce problème : un prototype de recherche open source fondé sur les zkSNARK. Il permet de joindre à la réponse une preuve cryptographique attestant que le résultat a effectivement été obtenu avec les poids déclarés. Les poids eux-mêmes ne sont pas révélés.

À quoi cela ressemble en pratique

Imaginons un service d’entreprise de revue de code. L’entreprise exige que chaque fragment soit analysé, avant sa mise en production, par un modèle de sécurité précis. Aujourd’hui, le journal de l’API n’affiche que le nom du modèle transmis dans la requête. Si le routeur lui substitue une option moins chère, l’entrée du journal ne prouve rien à elle seule.

Avec FlashProve, le fournisseur commence par créer une empreinte cryptographique des poids du modèle. Après l’exécution de la requête, il génère une preuve compacte liée à cette empreinte et au résultat du calcul. Le client vérifie la preuve sur un processeur standard et obtient la confirmation que la réponse a été produite par le bon modèle, sans accéder à ses paramètres propriétaires.

Lors d’un test avec Llama 4 Maverick, un modèle de 400 milliards de paramètres, le système a généré des preuves à environ 110 tokens par seconde sur un seul accélérateur Nvidia H100. Une preuve occupait environ 19 Mo et sa vérification prenait 17 secondes sur un CPU standard.

Il s’agit d’un progrès notable par rapport à la précédente solution open source comparable. Selon Anthropic, celle-ci mettait plus de 14 heures à traiter mille tokens, produisait une preuve de 93,6 Go et nécessitait près d’une journée pour la vérifier.

Où cette technologie pourrait être utile

Le premier cas d’usage est l’audit des fournisseurs et des routeurs d’IA. Le client pourrait vérifier que le service a réellement utilisé le modèle payé, et non une solution de remplacement moins chère. C’est particulièrement important pour les plateformes qui répartissent automatiquement les requêtes entre plusieurs fournisseurs.

Le deuxième cas d’usage concerne les processus réglementés. Une organisation pourrait prouver à un auditeur que des documents, du code logiciel ou des décisions ont été contrôlés par un modèle approuvé. Le troisième est le contrôle de l’infrastructure : l’apparition inattendue d’un autre modèle dans la chaîne de calcul peut signaler une erreur de configuration ou une intervention extérieure.

FlashProve ne nécessite pas de matériel de confiance. C’est ce qui le distingue des systèmes qui signent le trafic et suivent les calculs à l’intérieur d’un serveur contrôlé. La preuve cryptographique peut être vérifiée indépendamment de l’infrastructure du fournisseur.

Pourquoi il est encore trop tôt pour intégrer FlashProve à un produit

La principale limite est le coût. La création d’une preuve multiplie les dépenses de calcul par environ 70 à 95 par rapport à une inférence ordinaire. Pour un service de chat grand public, ce surcoût reste inacceptable, même si la preuve elle-même est produite assez rapidement.

Le contexte est limité à 1024 tokens, ce qui est insuffisant pour les assistants modernes, les longs documents et les grands dépôts de code. Le prototype ne fonctionne également qu’avec le décodage glouton, dans lequel le modèle choisit à chaque étape le prochain token le plus probable. Les chatbots ordinaires utilisent un échantillonnage aléatoire afin de rendre leurs réponses moins uniformes. En outre, la preuve masque les poids, mais pas l’architecture du modèle.

FlashProve n’est donc pas aujourd’hui un module prêt pour la production, mais le signe de l’émergence d’une nouvelle couche de l’infrastructure d’IA : l’inférence vérifiable. Les développeurs de passerelles devraient dès maintenant conserver les identifiants des modèles, les paramètres de génération et l’intégralité de la chaîne de routage. Les équipes produit doivent déterminer les opérations pour lesquelles une preuve de provenance de la réponse justifie réellement le surcoût : audit de code, décisions financières, processus médicaux ou respect des exigences réglementaires.

Le code, les preuves formelles en Lean et la documentation sont publiés sous licence Apache 2.0. Il est déjà possible d’expérimenter, mais pas encore de promettre aux clients le fonctionnement vérifiable d’un chatbot ordinaire.