Un escáner de repositorios detecta activos de IA ocultos y genera un ML-BOM antes del lanzamiento
SAST, SCA y DAST no ven la mitad de un sistema de IA: los prompts, adaptadores, servidores MCP y conjuntos de datos son configuración y datos, no código. La plataforma rusa INFERA AI.SafeCode ha incorporado un escaneo de MLSecOps que inventaría estos activos directamente desde el repositorio. Los hallazgos pasan a la cola común de vulnerabilidades y los componentes del sistema se exportan como ML-BOM. El escaneo es determinista y no ejecuta los pesos del modelo.
Procesado por IA desde Habr AI; editado por Hamidun News
Es una situación conocida: el equipo de seguridad pregunta «¿qué IA tenemos en producción?» y nadie puede dar una respuesta sincera. Alguien dejó un adaptador LoRA en una carpeta contigua, otra persona configuró un servidor MCP en el JSON de un cliente y otra dejó en un notebook una salida que contenía una clave. Los escáneres tradicionales tienen aquí un punto ciego: SAST lee código, SCA lee dependencias y la mitad de los artefactos de IA son configuración y datos.
La plataforma rusa INFERA AI.SafeCode aborda este problema con un escaneo de MLSecOps. Solo necesita el repositorio. Aplica reglas al código y a los archivos de configuración para generar un inventario de activos de IA y una lista de hallazgos.
Qué se considera un activo de IA
El escáner identifica once tipos: modelo, adaptador, conjunto de datos, prompt, almacén vectorial, agente, servidor MCP, biblioteca de ML, proveedor externo, notebook y pipeline. Todos comparten los mismos atributos: ruta, versión, resumen criptográfico, origen, estado de la firma, licencia y nivel de riesgo.
Las relaciones entre los activos son importantes. Un agente utiliza un modelo, obtiene herramientas de un servidor MCP y lee una base de datos vectorial. Sin esas relaciones, el inventario se convierte en una lista plana y no queda claro a qué afectará un defecto concreto.
Qué se comprueba exactamente
Algunos ejemplos de las reglas del escáner:
- una herramienta del agente puede ejecutar comandos de shell o realizar acciones irreversibles sin aprobación humana;
- la descripción de una herramienta MCP oculta instrucciones para el modelo y la versión del servidor no está fijada;
- un endpoint del modelo está expuesto sin autenticación o confía en el código del repositorio del modelo;
- una base de datos vectorial es accesible sin clave;
- el formato de los pesos ejecuta código al cargarse y el flujo pickle contiene importaciones peligrosas;
- un conjunto de datos contiene datos personales, indicios de envenenamiento o una licencia que prohíbe el entrenamiento;
- quedan valores sensibles en las salidas guardadas de un archivo .ipynb.
Los cambios respecto al estado anterior se detectan por separado. Se guarda una instantánea del texto del prompt para que el siguiente escaneo revele si alguien ha modificado silenciosamente las instrucciones del modelo. Lo mismo ocurre con las descripciones de las herramientas MCP.
Transparencia antes que un informe sin incidencias
La idea más sensata está en los estados de la firma. Hay cinco y uno de ellos es «sin comprobar». Si los pesos están en un almacenamiento externo, la plataforma no los descarga e indica expresamente que la comprobación no ha llegado hasta ellos. Eso no significa «sin firma» ni «todo está bien». Así, el informe evita generar una falsa sensación de seguridad. La misma lógica se aplica a los conjuntos de datos: se examinan mediante muestreo y la tabla siempre muestra la proporción revisada.
Los archivos de los modelos no se ejecutan durante el análisis; solo se lee su estructura. Por tanto, se puede escanear incluso un artefacto que se sabe que es malicioso. El escaneo es determinista, sin tokens ni LLM, de modo que los resultados no fluctúan entre ejecuciones.
ML-BOM e IA en la sombra
Los componentes del sistema se exportan en formato CycloneDX como ML-BOM, de forma análoga a un SBOM. Se puede adjuntar a una versión o entregar al cliente. El filtro «Solo no declarados» muestra los activos encontrados en el código que no están registrados en ningún sitio: precisamente la IA en la sombra.
Qué hacer con este enfoque
Se puede adoptar el enfoque sin comprar este producto concreto. Cree un inventario de activos de IA y conserve sus resúmenes criptográficos. Fije las versiones de los servidores MCP. Exija aprobación para que los agentes puedan realizar acciones irreversibles. Ejecute estas comprobaciones en CI y envíe los hallazgos a la misma cola que las vulnerabilidades habituales. No necesita un proceso separado para la seguridad de la IA.
Una salvedad: el artículo está escrito por el proveedor y no incluye mediciones independientes de la cobertura de detección ni de los falsos positivos. Aun así, la lista de comprobaciones y el rigor al describir los resultados sirven como lista de control para una auditoría propia.
- 21 may 2026Vercel lanza deepsec, un escáner con IA para encontrar vulnerabilidades ocultas en el código
- 9 oct 2026Anthropic lanza Cyber Mission: un escáner de vulnerabilidades con IA, gratuito y con una precisión superior al 90%
- 30 abr 2026Hugging Face y ModelAudit: un estudio muestra los límites de la protección integrada de modelos de ML
- 22 abr 2026OpenAI compra empresas, Anthropic esconde un modelo: la brecha de la IA entre los expertos y el resto sigue creciendo
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre Qué se considera un activo de IA?
El escáner identifica once tipos: modelo, adaptador, conjunto de datos, prompt, almacén vectorial, agente, servidor MCP, biblioteca de ML, proveedor externo, notebook y pipeline. Todos comparten los mismos atributos: ruta, versión, resumen criptográfico, origen, estado de la firma, licencia y nivel de riesgo. Las relaciones entre los activos son importantes. Un agente utiliza un modelo, obtiene herramientas de un servidor MCP y lee una base de datos vectorial.
¿Qué se sabe sobre Qué se comprueba exactamente?
Algunos ejemplos de las reglas del escáner: una herramienta del agente puede ejecutar comandos de shell o realizar acciones irreversibles sin aprobación humana; la descripción de una herramienta MCP oculta instrucciones para el modelo y la versión del servidor no está fijada; un endpoint del modelo está expuesto sin autenticación o confía en el código del repositorio del modelo; una base de datos vectorial es accesible sin clave; el formato de los pesos ejecuta código al cargarse y el flujo…
¿Qué se sabe sobre Transparencia antes que un informe sin incidencias?
La idea más sensata está en los estados de la firma. Hay cinco y uno de ellos es «sin comprobar». Si los pesos están en un almacenamiento externo, la plataforma no los descarga e indica expresamente que la comprobación no ha llegado hasta ellos. Eso no significa «sin firma» ni «todo está bien». Así, el informe evita generar una falsa sensación de seguridad. La misma lógica se aplica a los conjuntos de datos: se examinan mediante muestreo y la tabla siempre muestra la proporción revisada.
Build & Ship Production AI Agents Without Boilerplate Code
Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.