Guardian→ original

Anthropic creó el modelo Mythos — y decidió no lanzarlo por riesgos de seguridad

Anthropic desarrolló el modelo Mythos Preview — y luego decidió no lanzarlo. Según la empresa, el modelo es demasiado eficaz para encontrar y explotar…

Procesado por IA desde Guardian; editado por Hamidun News
Anthropic creó el modelo Mythos — y decidió no lanzarlo por riesgos de seguridad
Fuente: Guardian. Collage: Hamidun News.
◐ Escuchar artículo

Anthropic se negó a lanzar el nuevo modelo Mythos Preview al acceso público, citando su peligro excepcional. Según la empresa, el modelo es tan competente en encontrar y explotar vulnerabilidades de software que su lanzamiento público crearía una amenaza para la estabilidad económica, la seguridad pública y los intereses nacionales. Este es un caso raro en el que una gran empresa de IA decide retener su propio desarrollo — y ya ha provocado disputas entre expertos de la industria.

Mythos Preview es un modelo de lenguaje experimental de Anthropic, que la empresa caracterizó como demasiado poderoso para el lanzamiento público. Según la información disponible, el modelo demuestra capacidades destacadas en ciberseguridad: puede detectar de forma independiente vulnerabilidades en el código y construir cadenas de su explotación. En esencia, esto significa que Mythos puede funcionar como un analista hacker altamente calificado — rápido, escalable y sin supervisión humana.

Anthropic no ha publicado detalles técnicos sobre el proceso de entrenamiento del modelo ni evaluaciones de seguridad independientes, limitándose a prometer acceso a Mythos Preview solo para investigadores seleccionados y agencias gubernamentales. La decisión de la empresa provocó reacciones mixtas en la comunidad experta. Algunos investigadores de seguridad en IA reconocen que las herramientas ofensivas poderosas de ciberseguridad realmente merecen una cautela especial en su distribución.

Los escáneres automatizados de vulnerabilidades existentes ya son utilizados activamente por actores maliciosos — y los LLM con capacidad de razonamiento avanzado podrían elevar esta amenaza a un nivel fundamentalmente nuevo. Otra parte de los expertos es escéptica. Anthropic no proporcionó evaluaciones independientes ni pruebas reproducibles de las capacidades de Mythos.

Además, la restricción del acceso beneficia indirectamente a la propia empresa: se ve como una líder responsable de la industria sin correr los riesgos de la crítica pública del modelo. Los observadores también señalan que tales afirmaciones coinciden con discusiones activas sobre regulación de IA en los gobiernos de EE.UU.

y la UE. La pregunta que hacen los escépticos: ¿es esta una amenaza real o un PR hábilmente construido? Anthropic se posiciona consistentemente como una empresa de IA segura — a diferencia de los competidores, que supuestamente priorizan la velocidad de lanzamiento sobre la cautela.

Este posicionamiento atrae inversores, lealtad de reguladores y confianza de clientes corporativos. La decisión sobre Mythos se ajusta perfectamente a esta lógica: la empresa demuestra disposición a sacrificar el acceso comercial por la seguridad. Pero los críticos señalan: no puedes ser juez y acusado al mismo tiempo.

No hay evaluación independiente de las capacidades del modelo — solo está la palabra de Anthropic. La historia de Mythos plantea una pregunta que será clave para toda la industria en los próximos años: ¿quién exactamente decide lo peligroso que es un determinado sistema de IA, y quién verifica la corrección de esta decisión? Si las empresas establecen este límite por sí mismas, un conflicto de intereses es inevitable.

El caso de Mythos Preview podría convertirse en el primer caso de prueba real para los mecanismos regulatorios que actualmente se están desarrollando en ambos lados del Atlántico.

ZK
Hamidun News
Noticias de AI sin ruido. Selección editorial diaria de más de 400 fuentes. Producto de Zhemal Khamidun, Head of AI en Alpina Digital.

¿Quieres dejar de leer sobre IA y empezar a usarla?

AI News es un feed curado de noticias de IA. Hamidun Academy te enseña a usar la IA en tu trabajo.

¿Qué te parece?
Cargando comentarios…