Anthropic restringió Claude Mythos: por qué una herramienta de búsqueda de vulnerabilidades es peligrosa para todos

Anthropic lanzó un nuevo modelo Claude Mythos Preview — un especialista en detección automática de vulnerabilidades en código de software. La empresa podría haber lanzado la herramienta al público en general, pero optó por no hacerlo. En su lugar, el acceso se otorgó solo a un grupo seleccionado de empresas y organizaciones para escanear su propio software. Detrás de esta recomendación hay una pregunta seria sobre los límites entre la innovación y la seguridad.

Qué Puede Hacer Claude Mythos

Claude Mythos Preview se especializa en identificar vulnerabilidades en código fuente con alta precisión. El modelo puede escanear automáticamente una aplicación, identificar posibles problemas de seguridad y proporcionar recomendaciones para corregirlos. Anthropic desarrolló la herramienta específicamente para esta tarea defensiva: ayudar a desarrolladores y empresas a encontrar y corregir bugs en su propio software antes de que actores maliciosos o competidores los descubran. Las empresas del programa Glasswing y otras organizaciones seleccionadas tienen acceso, utilizando Claude Mythos en un entorno estrictamente controlado. Esto permite a Anthropic recopilar datos sobre el desempeño de la herramienta en condiciones del mundo real, mientras excluye el riesgo de fugas o distribución descontrolada.

Por Qué Preocupa a los Expertos

El poder de Claude Mythos es comparable al de otros modelos de IA modernos, pero las consecuencias de su uso son asimétricas y alarmantes para los expertos. Bruce Schneier, criptógrafo y uno de los principales especialistas en seguridad del mundo, señala lo obvio: la misma herramienta en manos de hackers y ciberdelincuentes podría convertirse en un arma para escanear vulnerabilidades en masa en industrias completas.

• Aceleración de ataques — la búsqueda automática de vulnerabilidades hará que el hacking sea más grande y rápido
• Asimetría de protección — los defensores se ven obligados a corregir bugs con prisa, los atacantes avanzan más rápido
• Imprevisibilidad — ni siquiera los creadores de la herramienta pueden predecir completamente todos los escenarios de uso

La pregunta no es si Claude Mythos tiene poder único en comparación con los competidores. La pregunta es qué sucede con la ciberseguridad en general cuando tales herramientas se vuelven cada vez más accesibles.

Estrategia de Anthropic: Restricción y Control

Anthropic eligió un camino cauteloso y conservador. En lugar de un lanzamiento abierto en GitHub, la empresa restringe el acceso y monitorea el uso en organizaciones privadas. Esto significa:

"Estudiamos los riesgos y decidimos que la distribución controlada es

más responsable que un lanzamiento público," la empresa esencialmente dice a través de sus restricciones.

Sin embargo, esta decisión genera nuevas preguntas y contradicciones. ¿Cuánto tiempo puede Anthropic mantener el modelo cerrado? ¿Qué sucederá cuando OpenAI, Google u otros líderes de la industria creen una herramienta similar? ¿Se convertirá la restricción del acceso a herramientas poderosas de seguridad en la nueva norma?

Qué Significa Esto

Anthropic está intentando encontrar un equilibrio precario entre el progreso y el riesgo, pero esta solución es temporal. Tarde o temprano, herramientas similares serán más accesibles, y la competencia entre empresas forzará una distribución más amplia. El verdadero desafío no es cerrar el acceso a una herramienta, sino desarrollar nuevos estándares globales para gestionar sistemas de IA poderosos y una cultura de responsabilidad en torno a ellos.