Anthropic lanza FlashProve: una prueba de que la respuesta la genero realmente tu LLM

Pagaste por un modelo de primer nivel, pero un servicio intermediario lo sustituyo por otro mas barato durante el trayecto. Detectarlo a partir del texto de la respuesta es casi imposible: la calidad puede seguir siendo perfectamente aceptable. Anthropic ha publicado un prototipo de investigacion que intenta cerrar esta brecha mediante criptografia.

Que han creado exactamente

El sistema se llama FlashProve. La idea es la siguiente: el proveedor del modelo publica de antemano un compromiso, una especie de huella, de sus pesos. Los pesos propiamente dichos permanecen secretos. Despues, adjunta a cada respuesta una breve prueba zkSNARK que demuestra que esos pesos comprometidos, al recibir ese prompt, produjeron exactamente esos tokens. El usuario verifica la prueba en una CPU convencional, sin disponer de los pesos ni de hardware potente.

Puede imaginarse como un sello notarial en cada respuesta del modelo. El sello no se puede falsificar y el notario no ve el contenido de la caja fuerte donde estan los pesos.

Las cifras

El sistema se probo con Llama 4 Maverick: 400.000 millones de parametros, arquitectura mixture of experts y cuantizacion de 4 bits. Una sola H100 genera pruebas a una velocidad aproximada de 110 tokens por segundo. La prueba ocupa unos 19 MB para una solicitud de 1.024 tokens. Esto requiere entre 70 y 95 veces mas tiempo de GPU que ejecutar el propio modelo con vLLM. Segun los autores, los sistemas abiertos anteriores son varios ordenes de magnitud mas lentos.

El propio Claude realizo parte del trabajo al optimizar el sistema. Sin embargo, este tipo de soluciones resulta dificil de verificar dentro de codigo complejo, por lo que las principales garantias de seguridad se formalizaron como enunciados en Lean, un lenguaje de verificacion formal. Se pueden auditar por separado y existe un visualizador para hacerlo. Se han publicado cinco artefactos: una entrada, un informe tecnico, una descripcion del protocolo, el codigo —incluidos el prover, un verificador rapido en C++ y otro verificado en Lean— y las propias pruebas. La licencia es Apache 2.0.

Para que sirve

Los autores señalan cuatro casos de uso:

• Ritmo de desarrollo de la IA: un regulador comprueba que el hardware realmente esta ejecutando la inferencia del modelo declarado y no entrenando otra cosa en paralelo.
• Proteccion contra sustituciones: una empresa confirma que en sus servidores se ejecutan los mismos pesos, incluso si un servidor ha sido comprometido o el modelo intenta sustituirse a si mismo.
• Procedencia del texto: se puede demostrar que el codigo fue revisado por un modelo potente concreto. Por ejemplo, una “Proof-of-Failure” podria acreditar que el modelo empleo al menos un millon de tokens y no encontro errores en un parche.
• Aprobacion de modelos: un regulador verifica que en produccion solo se ejecutan modelos autorizados.

Anthropic tambien menciona por separado el objetivo de su Frontier Safety Roadmap de crear un prototipo antes del 30 de septiembre de 2026. Ese objetivo se cumplio mediante otro proyecto relacionado: el trafico se firma y la inferencia se vuelve a calcular en un servidor de confianza. FlashProve persigue el mismo objetivo por una via distinta.

Limitaciones

La solucion no esta lista por si sola para produccion. Una sobrecarga de decenas de veces en tiempo de GPU hace que resulte inviable aplicarla a cada solicitud de un chat convencional. La arquitectura del modelo no queda oculta; solo se ocultan los pesos. La prueba tampoco demuestra que el hardware no se este utilizando simultaneamente para entrenamiento. Los propios autores describen el trabajo como un resultado intermedio, no como un programa terminado.

Tambien existe una alternativa: los entornos de ejecucion de confianza (TEE) dependen del fabricante del chip, mientras que aqui la seguridad se basa en la dificultad computacional de los problemas criptograficos. Los autores consideran que ambos enfoques son complementarios.

Que hacer en la practica

Si estas creando un router, un agregador de modelos o un proxy de API, conviene seguir de cerca este campo: dentro de un par de años, los clientes podrian exigir pruebas verificables de la autenticidad del modelo. Si realizas auditorias o evaluaciones de seguridad de modelos, ya merece la pena estudiar como las especificaciones en Lean ayudan a verificar afirmaciones. Para los demas, la conclusion es mas sencilla: la inferencia verificable ha pasado de la teoria a un prototipo funcional y de codigo abierto que ya se puede probar y mejorar.