IA en criptografía: un modelo sin derecho a tener razón

Cuando se integra la IA en un sistema criptográfico, suele plantearse una pregunta: ¿puede el modelo encontrar la respuesta correcta? En el contexto de los sistemas de alta fiabilidad, es la pregunta equivocada. La correcta es otra: ¿se puede integrar la IA de modo que, incluso si se equivoca, no pueda tomar una decisión peligrosa?

Governed Solver Orchestration: una arquitectura de confianza

En nonce-observatory, la IA desempeña un papel de planificador claramente definido, pero nunca es la fuente de verdad. El modelo analiza únicamente datos públicos y seguros (el public-safe feature contract), propone rutas de ejecución para los solvers y ayuda con el triaje y la explicación de las soluciones elegidas. Pero hay un límite estricto, un conjunto de forbidden fields, que el modelo físicamente no puede ver.

Esto es a lo que tiene acceso la IA:

• Análisis del public-safe feature contract
• Propuesta de rutas de solvers y optimización de esas rutas
• Construcción de la cola de ejecuciones en el orden correcto
• Ayuda para clasificar tareas y explicar la elección
• Recomendaciones, sin asumir la decisión final

Y esto es lo que queda más allá del non-escalation boundary:

• Campos privados de nonce (datos secretos críticos)
• Los valores de candidate_d y k de los algoritmos criptográficos
• La formulación de un recovery claim
• Convertir su propio score o métrica en evidencia criptográfica

El límite de non-escalation y la verificación determinista

El límite separa dos capas: el planificador de IA y el verificador determinista. La IA puede equivocarse al recomendar una ruta, y eso no es crítico. ¿Por qué? Porque la decisión final siempre la toma un exact verifier que opera con reglas deterministas y verificables criptográficamente, sin que el modelo haga de juez.

Este enfoque cambia por completo el paradigma de desarrollo. Normalmente, los sistemas de alta fiabilidad exigen una IA muy inteligente que simplemente no debe equivocarse, o todo se rompe. Aquí la estrategia es distinta: la IA puede tener una inteligencia media. La restricción clave es que su error nunca debe convertirse automáticamente en un hecho dentro del sistema.

"AI suggests.

Exact verifier decides." No es solo un patrón arquitectónico, sino una filosofía para desarrollar IA en criptografía.

Por qué es crítico para los sistemas de alta fiabilidad

Los sistemas críticos suelen construirse sobre la premisa de que las decisiones son inequívocas. Si la IA dice «esto es correcto» y el sistema lo acepta como axioma, y el modelo se equivocó, todo el protocolo y sus garantías quedan comprometidos. Aquí no existe ese riesgo.

Lógica de funcionamiento:

• El modelo analiza únicamente datos publicados
• Propone rutas candidatas para lanzar solvers
• El verificador comprueba cada paso de forma determinista
• La prueba criptográfica se genera sin intervención de la IA

El artículo resulta especialmente útil para quienes diseñan IA en sistemas críticos, no solo criptográficos. Si el error de un modelo no debe convertirse automáticamente en la decisión del sistema, hace falta precisamente este tipo de límite arquitectónico.

Qué significa

La IA en sistemas críticos no consiste en que el modelo sea perfecto y nunca se equivoque. Se trata de repartir bien la responsabilidad entre los componentes. Hay tareas para la IA: análisis de datos, recomendación de rutas, optimización de colas. Y hay tareas solo para verificadores deterministas: la decisión final, la conclusión criptográfica, las garantías de seguridad. Cuando ese límite es claro y se respeta estrictamente, el sistema sigue siendo seguro incluso con un modelo de capacidades modestas.