FlashProve verifica el modelo detrás de una respuesta a 110 tokens por segundo

Un cliente invoca un modelo caro mediante una API, pero no puede ver qué sucede detrás de la interfaz. Un proveedor o una pasarela de IA intermediaria puede enviar discretamente la solicitud a un modelo más barato y después facturarla como si hubiera usado el original. Detectar la sustitución a partir del texto es casi imposible: una respuesta parecida no demuestra qué sistema la calculó.

Anthropic propuso FlashProve para resolver este problema, un prototipo de investigación abierto basado en zkSNARK. Permite adjuntar a una respuesta una prueba criptográfica de que el resultado se obtuvo realmente con los pesos declarados. Los pesos en sí no se revelan.

Cómo funciona en la práctica

Imaginemos un servicio empresarial de revisión de código. La empresa exige que un modelo de seguridad concreto analice cada fragmento antes del lanzamiento. En la actualidad, el registro de la API solo muestra el nombre del modelo incluido en la solicitud. Si el enrutador lo sustituye por una alternativa más barata, la entrada del registro no demuestra nada por sí sola.

Con FlashProve, el proveedor crea primero un compromiso criptográfico de los pesos del modelo. Después de procesar la solicitud, genera una prueba compacta vinculada a ese compromiso y al resultado del cálculo. El cliente verifica la prueba en un procesador convencional y obtiene la confirmación de que el modelo requerido generó la respuesta, sin acceder a sus parámetros propietarios.

En una prueba con Llama 4 Maverick, un modelo de 400.000 millones de parámetros, el sistema generó pruebas para aproximadamente 110 tokens por segundo en un solo acelerador Nvidia H100. Cada prueba ocupaba unos 19 MB y su verificación tardaba 17 segundos en una CPU estándar.

Esto supone un avance notable respecto a la anterior solución abierta comparable. Según Anthropic, aquel sistema tardaba más de 14 horas en procesar 1.000 tokens, generaba una prueba de 93,6 GB y requería casi un día completo para verificarla.

Dónde podría resultar útil la tecnología

El primer caso de uso es la auditoría de proveedores y enrutadores de IA. El cliente podría verificar que el servicio utilizó realmente el modelo por el que pagó y no un sustituto más barato. Esto es especialmente importante para las plataformas que distribuyen automáticamente las solicitudes entre varios proveedores.

El segundo caso son los procesos regulados. Una organización podría demostrar a un auditor que los documentos, el código de software o las decisiones fueron revisados por un modelo aprobado. El tercero es el control de la infraestructura: la aparición inesperada de otro modelo en la cadena de cálculo puede indicar un error de configuración o una manipulación.

FlashProve no requiere hardware de confianza. Esta característica lo distingue de los sistemas que firman el tráfico y supervisan los cálculos dentro de un servidor controlado. La prueba criptográfica puede verificarse de forma independiente de la infraestructura del proveedor.

Por qué todavía es pronto para integrar FlashProve en un producto

La principal limitación es el coste. La creación de una prueba multiplica el gasto computacional aproximadamente entre 70 y 95 veces frente a la inferencia convencional. Para un servicio de chat masivo, este sobrecoste sigue siendo inaceptable, aunque la prueba en sí se genere con bastante rapidez.

El contexto está limitado a 1024 tokens, una cifra insuficiente para los asistentes modernos, los documentos extensos y los grandes repositorios. El prototipo también funciona únicamente con decodificación voraz, en la que el modelo elige siempre el siguiente token más probable. Los chatbots convencionales utilizan muestreo aleatorio para que las respuestas sean menos repetitivas. Además, la prueba oculta los pesos, pero no la arquitectura del modelo.

Por tanto, FlashProve no es hoy un módulo listo para producción, sino una señal de que está surgiendo una nueva capa de infraestructura de IA: la inferencia verificable. Los desarrolladores de pasarelas deberían empezar a conservar los identificadores de los modelos, los parámetros de generación y la cadena de enrutamiento completa. Los equipos de producto deben identificar las operaciones en las que demostrar la procedencia de una respuesta justifique realmente el coste adicional, como las auditorías de código, las decisiones financieras, los procesos médicos o el cumplimiento normativo.

El código, las pruebas formales en Lean y la documentación se han publicado bajo la licencia Apache 2.0. Ya es posible experimentar, pero todavía no se puede prometer a los clientes el funcionamiento verificable de un chatbot convencional.