Tesoro de EE.UU. Busca Acceso al Modelo Mythos de Anthropic para Pruebas de Vulnerabilidades

El Departamento del Tesoro de Estados Unidos busca obtener acceso al modelo Mythos de Anthropic para comenzar a buscar vulnerabilidades en el sistema antes de su despliegue más amplio en escenarios sensibles. El hecho mismo de tal solicitud demuestra que las agencias del gobierno estadounidense están transitando de discusiones generales sobre IA a pruebas prácticas de modelos específicos en confiabilidad, controlabilidad y resistencia al abuso. Según la información disponible, el equipo de tecnología del Departamento del Tesoro está intentando obtener acceso a Mythos.

El objetivo parece ser no la implementación del modelo para la productividad, sino específicamente una auditoría de seguridad: los especialistas quieren entender dónde puede fallar el sistema, cómo se comporta bajo consultas atípicas y si puede ser forzado a exceder sus propios límites. Los detalles oficiales sobre el formato de prueba aún no han sido revelados, ni hay confirmación de que Anthropic ya haya otorgado acceso. Las especificaciones técnicas del propio Mythos tampoco se están revelando, por lo que es prematuro juzgar si se trata de un producto interno, especializado o siendo preparado para un despliegue más amplio.

Para el gobierno estadounidense, tal trabajo tiene sentido lógico. Cuanto más activamente las agencias gubernamentales consideran la IA para análisis de datos, preparación de documentos, apoyo a empleados y automatización de procesos internos, mayor es el costo de los errores. En el caso de sistemas federales, los problemas podrían ser más que solo reputacionales.

Podría haber filtraciones de información sensible, evasión de mecanismos de protección, generación de recomendaciones no confiables o comportamiento del modelo que puede ser provocado deliberadamente. Por lo tanto, el acceso al modelo en una etapa temprana es tan importante como las promesas públicas del desarrollador sobre seguridad. Si el equipo del Tesoro realmente comienza a hacer pruebas, probablemente buscará vulnerabilidades típicas en sistemas generativos modernos.

Tales pruebas generalmente incluyen intentos de eludir restricciones integradas, obtener respuestas peligrosas, extraer instrucciones ocultas, probar la resistencia a ataques de inyección de prompts y evaluar cómo el modelo maneja datos confidenciales y escenarios de contexto largo. Esto no significa que tales problemas ya hayan sido descubiertos en Mythos. Más bien, es un conjunto estándar de preguntas que hoy se aplican a cualquier modelo avanzado, especialmente si potencialmente podría ser utilizado por organizaciones de alta responsabilidad.

La elección de la empresa merece atención especial. Anthropic ha construido durante mucho tiempo una reputación como desarrolladora que prioriza la seguridad y el comportamiento controlado del modelo. Si incluso tales sistemas generan demanda del gobierno de acceso directo para pruebas de estrés independientes, esto subraya un nuevo estándar en las relaciones entre autoridades y empresas de IA: las garantías generales son insuficientes; las pruebas reales por parte del cliente o regulador son necesarias.

Para los propios desarrolladores, esto significa presión adicional—deben prepararse no solo para la competencia de mercado sino también para auditorías técnicas cada vez más rigurosas. La historia importa también porque cambia la propia lógica del interés gubernamental en IA. Hasta recientemente, los funcionarios discutían principalmente reglas, riesgos y enfoques marco.

Ahora el enfoque se está desplazando hacia modelos específicos, escenarios específicos y vulnerabilidades específicas. Esta es una etapa más práctica: en lugar de regulación abstracta, hay intentos de entender cómo se comporta un sistema bajo condiciones de estrés real. Para el mercado, esto señala que la confianza en modelos de vanguardia se construirá cada vez más no en presentaciones sino en resultados de pruebas independientes.

La conclusión principal es simple: el gobierno está comenzando a tratar los sistemas de IA avanzados de la misma manera que otra tecnología críticamente importante—primero acceso, luego pruebas y solo entonces posible implementación. Para Anthropic, esto podría convertirse en una prueba de la madurez de su enfoque de seguridad, y para todo el mercado—una señal de que la era de las promesas informales está terminando y la era de la verificación obligatoria está comenzando.