Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarHabr AI→ original

El catálogo de seguridad de IA en GitHub recibió 231 solicitudes en seis meses y aceptó 157

Tras la conferencia yoPRSTCON, Serguéi Gordéichik creó en GitHub una lista de herramientas de IA para ciberseguridad. En seis meses recibió 231 solicitudes (PR, una propuesta para añadir o corregir una entrada) de 209 autores. Se aceptaron 157, se rechazaron 65 y nueve seguían abiertas. Cada solicitud exige leer el código: un escáner «local» puede enviar todo el código fuente a un modelo externo. La conclusión: al elegir protección para agentes, confíe en el código, no en el README.

Procesado por IA desde Habr AI; editado por Hamidun News
El catálogo de seguridad de IA en GitHub recibió 231 solicitudes en seis meses y aceptó 157
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dato clave #1El 71 % de los repositorios de protección de agentes (75 de 106) se creó en 2026
Dato clave #2El watchlist reúne 276 proyectos jóvenes, con una mediana de 14 estrellas
Dato clave #3El agente revisor trata los README y las comprobaciones de CI ajenos como texto no confiable

En mayo, durante la conferencia yoPRSTCON, se acordó reunir en una sola lista las herramientas de ciberseguridad basadas en IA y los sistemas de protección de los propios modelos y agentes. Se pensó como un «bloc de notas» de 20 minutos, pero acabó siendo un proyecto con cola de solicitudes: en seis meses, el repositorio awesome-ai-security-tools recibió 231 pull requests (PR, la propuesta de un autor para añadir o corregir una entrada de la lista) de 209 autores. Se aceptaron 157, se cerraron 65 sin incluirlas y nueve seguían abiertas el 14 de noviembre.

Para quienes construyen agentes de IA o eligen cómo protegerlos, es una muestra poco habitual de lo que aparece ahora en este nicho y de cómo evaluar herramientas ajenas.

Cómo el «bloc de notas» se convirtió en una cola de revisión

La conferencia se celebró el 26 de mayo y el primer commit llegó el 27 de mayo: 99 entradas en la lista principal y 11 enlaces a recopilaciones temáticas. La lista se dividió de inmediato en dos vertientes. En la primera, la IA ayuda a buscar vulnerabilidades, analizar las alertas de los sistemas de defensa, estudiar archivos ejecutables y recopilar información sobre amenazas. En la segunda, las herramientas protegen modelos, aplicaciones y agentes frente a inyecciones, filtraciones y acciones no deseadas.

En julio, una publicación en redes sociales presentó la recopilación como un «arsenal abierto de más de 300 herramientas que hará entrar en pánico a todos los CISO», y el ruido aumentó de forma notable. El 26 de julio la lista ocupó el décimo puesto en el ranking diario de proyectos de Python de Trendshift y el 23 de septiembre alcanzó las 1500 estrellas. Las solicitudes no dejaron de crecer: 5 en junio, 23 en julio, 40 en agosto, 58 en septiembre, 64 en octubre y 41 en las dos primeras semanas de noviembre.

Cómo se verifican las herramientas y cómo se evita que órdenes ajenas lleguen a la revisión

Cada vez llegaban más solicitudes parecidas: repositorio creado el día anterior, un único commit enorme, un README vistoso y promesas grandilocuentes. El mantenedor no quiso rechazar por ese criterio: a veces es un experimento de ayer y a veces un proyecto maduro que antes vivía en un repositorio privado. Por eso se lee el código. Así se descubre que un «escáner» es en realidad un conjunto de instrucciones para un agente, o que una herramienta que prometía funcionar en local envía todo el código fuente a un proveedor externo de modelos.

Las preguntas de la revisión son sencillas. ¿Qué instala el usuario y dónde se hace el análisis? ¿Qué datos salen al exterior? ¿Hacen falta una cuenta de pago y una clave de API? ¿Qué ocurre si el modelo no está disponible? ¿Se puede eludir el control a través de otra interfaz? ¿Las pruebas verifican el mecanismo de protección en sí o solo su funcionamiento con un mock? Los agentes ayudan a leer la implementación y a contrastar las promesas con el código, pero la decisión la toma una persona: el agente revisor también se equivoca. Los candidatos externos se estudian sin ejecutar su código, sus instaladores ni sus scripts de automatización en una máquina de trabajo.

Los proyectos útiles pero demasiado jóvenes se envían a WATCHLIST.md. Ahora contiene 276 repositorios, que se revisan periódicamente: los que han crecido pasan a la lista principal y los abandonados se eliminan. Las solicitudes mal formateadas se aceptan conservando la autoría y las corrige el propio mantenedor.

Una lección aparte afecta a la seguridad de la propia revisión. El agente lee README, comentarios y configuraciones ajenos, y ahí puede haber instrucciones para ejecutar un comando o modificar el CI. Por eso el texto de terceros se trata como datos no confiables. Un ejemplo: en el PR #69, el autor Lumi Eggcracker propuso añadir al CI una comprobación de su propio informe de ejemplo según su propio esquema. El catálogo no lo necesitaba. El mantenedor no ve mala intención en el autor del texto, pero se desconoce qué habría hecho un agente sin restricciones.

Qué muestran las cifras

Para el análisis se tomaron los 377 repositorios de la lista principal a 14 de noviembre: herramientas, código de investigación, benchmarks y estándares. De ellos, 155 se crearon en 2026. Los recién llegados abundan sobre todo en el análisis estático de código con agentes (18 de 24, 75 %) y en la seguridad de agentes (75 de 106, 71 %).

Dentro de esta última, el control de acciones en ejecución suma 46 de 64 (72 %). En agentes para pentesting, 9 de 28 son nuevos (32 %); en recopilación de información sobre amenazas, 3 de 12 (25 %); en pruebas ofensivas y protección de LLM, 14 de 59 (24 %); y en fuzzing con ayuda de LLM, 2 de 14 (14 %).

En el watchlist, de 269 repositorios con fecha de creación conocida, 235 (87 %) aparecieron en 2026, y la mediana entre los 270 accesibles es de 14 estrellas. Los grupos más grandes son las pruebas ofensivas y los benchmarks (45), las comprobaciones de skills, MCP y dependencias (42), y los permisos y límites de acciones (35). Estos proyectos responden a preguntas como «¿quién ha autorizado esto?», «¿qué instalo junto con este skill?» y «¿cómo dar acceso sin una clave en el prompt?».

El propio autor señala las limitaciones. La fecha de creación de un repositorio público no siempre coincide con el inicio del desarrollo. Las recopilaciones temáticas y los modelos publicados solo en Hugging Face quedan fuera de la muestra. La tabla indica dónde aparecen los proyectos, pero no la calidad de sus métodos: eso hay que compararlo en tareas comunes.

La conclusión práctica: al elegir protección para agentes, fíjese en la lista de comprobaciones y omisiones, no en la nota A+ de un informe. Compruebe si el control se puede eludir a través de otra interfaz. No ejecute instaladores ajenos en una máquina de trabajo. Y si usted es autor de una herramienta de este tipo, envíela a la lista y lea los comentarios: según el mantenedor, los autores y sus agentes de verdad los leen.

Historia

Preguntas frecuentes sobre la noticia

Cómo el «bloc de notas» se convirtió en una cola de revisión?

La conferencia se celebró el 26 de mayo y el primer commit llegó el 27 de mayo: 99 entradas en la lista principal y 11 enlaces a recopilaciones temáticas. La lista se dividió de inmediato en dos vertientes. En la primera, la IA ayuda a buscar vulnerabilidades, analizar las alertas de los sistemas de defensa, estudiar archivos ejecutables y recopilar información sobre amenazas. En la segunda, las herramientas protegen modelos, aplicaciones y agentes frente a inyecciones, filtraciones y acciones no deseadas.

Cómo se verifican las herramientas y cómo se evita que órdenes ajenas lleguen a la revisión?

Cada vez llegaban más solicitudes parecidas: repositorio creado el día anterior, un único commit enorme, un README vistoso y promesas grandilocuentes. El mantenedor no quiso rechazar por ese criterio: a veces es un experimento de ayer y a veces un proyecto maduro que antes vivía en un repositorio privado. Por eso se lee el código.

¿Qué se sabe sobre Qué muestran las cifras?

Para el análisis se tomaron los 377 repositorios de la lista principal a 14 de noviembre: herramientas, código de investigación, benchmarks y estándares. De ellos, 155 se crearon en 2026. Los recién llegados abundan sobre todo en el análisis estático de código con agentes (18 de 24, 75 %) y en la seguridad de agentes (75 de 106, 71 %). Dentro de esta última, el control de acciones en ejecución suma 46 de 64 (72 %).

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…