Anthropic lanza un OSS Scanner gratuito tras encontrar más de 29 000 posibles vulnerabilidades con IA

Anthropic lanza OSS Scanner, un servicio voluntario en el que los modelos más potentes de la compañía, incluido Claude Mythos, analizan de forma periódica proyectos open source en busca de vulnerabilidades. Para los proyectos es gratuito. El contexto: en los últimos seis meses, dentro de Project Glasswing, los modelos han encontrado más de 29 000 candidatos a vulnerabilidad en proyectos de software relevantes. El equipo solo ha conseguido revisar y clasificar a mano unos 6 000. El resto se topa con la falta de personas capaces de confirmar los hallazgos.

Por qué hacía falta un servicio aparte

En año y medio la situación ha cambiado de forma radical. En el benchmark académico CyberGym, la proporción de vulnerabilidades que encuentran los modelos de lenguaje ha pasado de menos del 20% a principios del año pasado a más del 85% este año. Los mantenedores, que antes recibían de los LLM sobre todo basura, ahora reciben bugs de calidad.

Llegó un momento en que los propios mantenedores empezaron a pedirle a Anthropic todo lo que tuviera, incluso sin verificar, junto con los parches propuestos. Casi 5 000 informes de este tipo ya se han enviado directamente. La lógica es clara: los exploits ahora se escriben en minutos, y gana quien encuentra y cierra la brecha antes. Los atacantes buscan los mismos puntos débiles.

La divulgación coordinada (CVD) con verificación manual sigue en pie. Continúa siendo la vía principal para los proyectos que no tienen recursos para clasificar los informes por su cuenta. OSS Scanner le añade un carril rápido para quienes están dispuestos a recibir los hallazgos de inmediato.

Cómo funciona el servicio

La idea se inspira en Google OSS-Fuzz, que busca vulnerabilidades en código abierto mediante fuzzers. OSS Scanner se distingue del producto corporativo Claude Security, orientado a proteger los sistemas de las empresas, por ofrecer una auditoría gratuita para open source. La principal salvedad: los resultados los genera íntegramente el modelo, sin verificación ni clasificación por parte de personas. Eso acelera los análisis y los hace más frecuentes, pero admite informes erróneos o no válidos.

• Modelos: los más potentes de Anthropic, incluido Claude Mythos.
• Formato de participación: opt-in, escaneos periódicos.
• Contenido del informe: código reproducible autosuficiente, explicación de la vulnerabilidad, bisección hasta el commit en el que apareció el bug (cuando es posible) y un parche candidato.
• Piloto: varias semanas con decenas de proyectos y cientos de informes, entre ellos cadenas de vulnerabilidades que conducen a la ejecución remota de código sin autenticación.
• Coste para los proyectos: gratuito.

Qué dicen los mantenedores

Las opiniones de los participantes del piloto avalan la calidad. Noah Misch, de PostgreSQL, señala que una proporción inusualmente alta de los hallazgos correspondía a defectos reales y que parte de las correcciones se pueden aplicar casi sin cambios. El fast-track permitió cerrar problemas recientes antes de la publicación de la versión GA. Anton Arapov, de OpenSSL Corporation, recuerda que los primeros informes de IA, de hace año y medio, eran pésimos. En su opinión, los informes de Anthropic, incluida la salida en bruto del modelo, no son peores que los humanos y a veces son mejores, sobre todo cuando incluyen un exploit funcional que se puede comprobar al instante.

En wolfSSL, las cifras son estas: de 74 informes, todos salvo dos resultaron válidos, y cinco se convirtieron en CVE. Eddie Kohler, de HotCRP, elogió la comprensión del complejo modelo de permisos de acceso y la priorización de los bugs.

Para una verificación independiente, Anthropic pidió a expertos en pentesting, que suelen revisar los hallazgos en procesos de CVD, que evaluaran 97 vulnerabilidades críticas y de alta gravedad de 48 proyectos. La cifra final se interrumpe en el texto disponible, así que conviene basarse en las opiniones de los participantes del piloto y en las estadísticas de wolfSSL.

Qué deben hacer los mantenedores

A los proyectos con un equipo activo y un proceso de recepción de informes bien establecido les conviene sumarse. Los informes con código reproducible se verifican rápido. Pero antes hay que decidir quién se encargará de procesar el flujo y cómo se descartarán los falsos positivos, porque Anthropic no realiza aquí ninguna verificación humana. Los proyectos pequeños sin recursos para clasificar informes harán mejor en quedarse con el CVD clásico con verificación manual. Todos los demás deben partir de que los atacantes tienen acceso a las mismas capacidades de los modelos, de modo que el ritmo de las correcciones es ahora lo que determina la seguridad.