El Tesoro de EE. UU. quiere acceder al modelo Mythos de Anthropic para buscar vulnerabilidades

El Tesoro de EE. UU. quiere acceder al modelo Mythos de Anthropic para empezar a buscar vulnerabilidades en el sistema antes de que se use de forma más amplia en escenarios sensibles. La propia solicitud muestra que las agencias estadounidenses pasan de las conversaciones generales sobre IA a la comprobación práctica de modelos concretos en cuanto a fiabilidad, control y resistencia al abuso.

Según la información disponible, el equipo tecnológico del Tesoro estadounidense intenta obtener acceso a Mythos. El objetivo parece no ser implantar el modelo para ganar productividad, sino una auditoría de seguridad: los especialistas quieren entender dónde puede fallar el sistema, cómo se comporta ante peticiones atípicas y si se le puede forzar a salirse de sus propias restricciones.

Por ahora no hay detalles oficiales sobre el formato de la revisión, ni confirmación de que Anthropic ya haya concedido el acceso. Tampoco se han revelado las características técnicas de Mythos, así que es pronto para saber si es un producto interno, especializado o en preparación para un uso más amplio.

Para el Gobierno de EE. UU., este trabajo resulta lógico. Cuanto más consideran las estructuras estatales la IA para analizar datos, preparar documentos, apoyar a empleados y automatizar procesos internos, mayor es el coste de los errores. En los sistemas federales, los problemas pueden no ser solo de reputación. Pueden incluir filtraciones de información sensible, elusión de mecanismos de protección, generación de recomendaciones poco fiables o un comportamiento del modelo que se puede provocar deliberadamente. Por eso, el acceso temprano al modelo importa tanto como las promesas públicas del desarrollador sobre seguridad.

Si el equipo del Tesoro empieza realmente las pruebas, probablemente buscará los puntos débiles típicos de los sistemas generativos actuales. Normalmente, una revisión así incluye intentos de eludir las restricciones integradas, obtener respuestas peligrosas, extraer instrucciones ocultas, comprobar la resistencia a inyecciones de prompt y evaluar cómo trabaja el modelo con datos confidenciales y contextos largos. Esto no significa que ya se hayan detectado esos problemas en Mythos. Más bien es el conjunto estándar de preguntas que hoy se plantean sobre cualquier modelo avanzado, sobre todo si organismos de alta responsabilidad podrían usarlo.

La elección de la empresa despierta un interés particular. Anthropic lleva tiempo construyendo su reputación como desarrolladora que apuesta por la seguridad y el comportamiento controlado de los modelos. Si incluso para estos sistemas el Estado quiere acceso directo para sus propias pruebas de estrés, se subraya un nuevo estándar en la relación entre autoridades y empresas de IA: no bastan las garantías generales, hacen falta comprobaciones reales por parte del cliente o del regulador. Para los desarrolladores supone una presión adicional: tendrán que prepararse no solo para la competencia del mercado, sino para auditorías técnicas cada vez más profundas.

La historia importa también porque cambia la lógica del interés estatal por la IA. Hace poco, los funcionarios debatían sobre todo normas, riesgos y marcos generales. Ahora el foco se desplaza a modelos concretos, escenarios concretos y vulnerabilidades concretas. Es una etapa más práctica: en lugar de regulación abstracta, se intenta entender cómo se comporta un sistema en condiciones reales de estrés. Para el mercado, es una señal de que la confianza en los modelos de vanguardia se basará cada vez más en resultados de verificaciones independientes y no en presentaciones.

La conclusión principal es sencilla: el Estado empieza a tratar los sistemas avanzados de IA como otras tecnologías críticas: primero el acceso, luego las pruebas y solo después, posiblemente, la implantación. Para Anthropic, puede ser una prueba de madurez de su enfoque de seguridad; para todo el mercado, un indicio de que termina la era de las promesas informales y empieza la de la verificación obligatoria.