RSAC 2026, meses después: los asistentes de IA inventaron el 19,7% de los paquetes que recomendaron
El equipo de Positive Technologies ha releído las ponencias de RSAC 2026, una de las grandes conferencias de ciberseguridad, y ha comprobado qué pasó con sus pronósticos. Por ejemplo, un asistente de IA recomienda una biblioteca que no existe y un atacante registra ese nombre con malware. De 2,23 millones de recomendaciones, el 19,7% eran invenciones de ese tipo. Las cifras llamativas de los proveedores, sin metodología, son solo un motivo para verificar. Antes de instalar un paquete sugerido por una IA, conviene revisar su origen y su código.
Procesado por IA desde Habr AI; editado por Hamidun News
En marzo, RSAC 2026, una de las mayores conferencias de ciberseguridad, reunió más de 570 sesiones, y los agentes de IA ocuparon buena parte del programa. El equipo de ML de Positive Technologies seleccionó diez ponencias y revisó qué pasó con sus pronósticos tras la conferencia. El problema principal es que las cifras llamativas de las ponencias rara vez van respaldadas por una metodología.
Un ejemplo sencillo: le pides a un asistente de IA que elija una biblioteca para Python, él nombra un paquete que nunca ha existido, y un atacante ya ha registrado ese nombre en el repositorio con código malicioso dentro. Este ataque se llama slopsquatting, y en uno de los estudios el 19,7% de 2,23 millones de recomendaciones de paquetes resultaron ser inventadas. La conclusión práctica: verifica el origen de las dependencias y comprueba las métricas ajenas con tus propios datos.
A continuación, ocho de las ponencias analizadas: qué dijeron los autores y dónde hace falta una salvedad.
Riesgos para quienes usan IA y programan con ella
AIKatz (Steve Kupchik, Lumia Security). Si un troyano ya está instalado en el equipo, puede leer de la memoria de una aplicación de IA de escritorio el token y acceder al servicio en nombre del usuario. Los investigadores extrajeron tokens en ChatGPT y Copilot, y la clave de sesión de las cookies en Claude.
Con una sesión activa, el historial de chats se puede simplemente solicitar y, a través de la función de memoria, intentar influir en respuestas futuras. Microsoft, Anthropic y OpenAI cerraron los informes como meramente informativos: según su lógica, acceder a la memoria del proceso dentro de la misma sesión no cruza ninguna frontera de seguridad. La defensa consiste en restringir el acceso a la memoria de los procesos de las aplicaciones de IA y vigilar las llamadas a ella, pero no sustituye a la protección del puesto de trabajo.
Slopsquatting (Joe Spracklen, USENIX Security 2025). Los autores probaron 16 modelos en tareas de Python y JavaScript. De 2,23 millones de recomendaciones, el 19,7% eran paquetes inexistentes: en los modelos comerciales, al menos un 5,2% de media; en los abiertos, un 21,7%.
Lo más peligroso es la repetibilidad: en el 43% de los casos el modelo inventó el mismo nombre diez de diez veces, de modo que el atacante no necesita adivinar qué nombre registrar. RAG (darle al modelo una lista de paquetes conocidos) redujo la proporción de invenciones, por ejemplo en CodeLlama 7B, del 26,28% al 13,40%. El fine-tuning dejó la cifra en 2,66% y 10,27% en dos modelos, pero la tasa de resolución en HumanEval, una prueba de escritura de código, cayó: en DeepSeek, del 51,4% al 25,3%.
Son datos de 2025 y de modelos concretos, y no se pueden extrapolar a las herramientas actuales. Conclusión: comprueba el origen y el contenido de la dependencia, no solo que el nombre exista.
«¿El código de IA es más vulnerable que el humano?» (OX Security). Los autores estudiaron más de 300 aplicaciones de código abierto, de las cuales más de 50 se escribieron con vibe coding, es decir, casi por completo con IA, y pidieron a Cursor, Claude y Codex que crearan el mismo servicio. Encontraron open redirect, path traversal y XSS. Pero no hay una comparación de la frecuencia de errores con el código escrito por personas y la metodología de revisión de los repositorios no se ha revelado, así que la ponencia no responde a la pregunta de su título. Lo que sí hace la velocidad de generación es aumentar el volumen de código que hay que revisar.
Los atacantes y su automatización
VibeCrime (TrendAI). La IA se integra en el mercado del «crimen como servicio»: phishing, código, procesamiento de datos robados. Muchos «LLM criminales» son modelos corrientes sin restricciones o simple reventa de la API de otro; WormGPT ya se anunciaba en 2023. Los autores llaman al siguiente paso cybercrime-as-a-sidekick: un orquestador reparte tareas a agentes para el reconocimiento, la búsqueda de un punto de entrada y la preparación de herramientas. Es un pronóstico, no una práctica confirmada; la velocidad de la transición, a juicio de los autores, la determinará la economía.
Always-on purple team (NVISO y SANS). Un purple team son pruebas pactadas en las que atacantes y defensores revisan juntos qué detectó la defensa. La idea de la ponencia: el agente busca el punto de entrada y el operador aprueba el plan. En la demostración, un agente con GPT-5, a través de OpenClaw y Telegram, con Kali Linux y theHarvester, realizó un reconocimiento OSINT de un objetivo de prueba y resolvió un problema con un servidor MCP. No mostraron la cadena completa hasta el acceso, y faltan reglas para el propio agente: quién confirma las acciones y cómo se limita su alcance.
Los defensores y sus métricas
AI Agents Never Sleep (Erez Harush, Wiz). El agente analiza alertas en el SOC (centro de monitorización y respuesta a incidentes): se declaran 3000 investigaciones al mes por equipo, de 3 a 20 minutos por veredicto y entre $0,5 y 1,5 por caso. Son datos del proveedor, sin verificación independiente. Resultan más útiles las lecciones de ingeniería: con unas 30 herramientas el agente se confundía, y los ejemplos de enrutamiento elevaron la precisión de la selección del 60% al 95%; hacia el octavo paso el agente olvidaba la alerta original, por lo que hacen falta compresión de contexto, subagentes y puntos de control. Los prompts conviene versionarlos y probarlos como código.
We Put AI in Our SOC (Gupta y Mittal). En lugar de un analista autónomo, un asistente en la ficha del incidente, con acceso de solo lectura y enlaces a las pruebas. El tiempo hasta el triaje (evaluación inicial) bajó de 42 a 27 minutos, y hasta el cierre del caso, de 3,2 a 2,5 horas. El proyecto dura seis meses y está en fase de evaluación; problemas como las inyecciones de prompt en los logs se resolvieron normalizando los datos y separando el texto no confiable de las instrucciones.
Detectores de SOC (Dori Fisher, Swordfish). Según los datos de un gran MSSP (proveedor de seguridad gestionada, 82 620 registros), en un año no generaron ni una sola amenaza confirmada el 93,4% de las reglas ML y el 94,7% de las estáticas. Pero eso no significa todavía que las reglas sean inútiles: pueden detectar casos raros o duplicar otras reglas. Fisher propone contar no las alertas, sino los incidentes: si se detectó, con qué rapidez llegó la primera señal útil y qué aportó el detector a la cobertura.
Qué se desprende de todo esto
La lección general: los pronósticos y las cifras de los proveedores sin metodología son un motivo para verificar, no para comprar. Para los desarrolladores, controlar las dependencias y revisar el código generado. Para los SOC y los fundadores, medir el efecto con sus propios datos, limitar los permisos del agente y comprobar por separado las integraciones, donde la «alucinación» resulta con frecuencia ser un conector roto.
- 19 nov 2026Un abogado enseñó a un agente de IA a hacer correcciones puntuales en Word con Track Changes
- 19 nov 2026Los agentes de Codex realizaron 1700 investigaciones sobre la lentitud de ChatGPT y encontraron la causa en 600
- 19 nov 2026Anthropic sale a bolsa y recauda $81,3 mil millones: supera el récord de $75 mil millones de SpaceX
- 19 nov 2026Infostart conecta Direct, Metrica y Wordstat a ChatGPT: 6 comandos y acceso compartido
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre Riesgos para quienes usan IA y programan con ella?
AIKatz (Steve Kupchik, Lumia Security). Si un troyano ya está instalado en el equipo, puede leer de la memoria de una aplicación de IA de escritorio el token y acceder al servicio en nombre del usuario. Los investigadores extrajeron tokens en ChatGPT y Copilot, y la clave de sesión de las cookies en Claude. Con una sesión activa, el historial de chats se puede simplemente solicitar y, a través de la función de memoria, intentar influir en respuestas futuras.
¿Qué se sabe sobre Los atacantes y su automatización?
VibeCrime (TrendAI). La IA se integra en el mercado del «crimen como servicio»: phishing, código, procesamiento de datos robados. Muchos «LLM criminales» son modelos corrientes sin restricciones o simple reventa de la API de otro; WormGPT ya se anunciaba en 2023. Los autores llaman al siguiente paso cybercrime-as-a-sidekick: un orquestador reparte tareas a agentes para el reconocimiento, la búsqueda de un punto de entrada y la preparación de herramientas.
¿Qué se sabe sobre Los defensores y sus métricas?
AI Agents Never Sleep (Erez Harush, Wiz). El agente analiza alertas en el SOC (centro de monitorización y respuesta a incidentes): se declaran 3000 investigaciones al mes por equipo, de 3 a 20 minutos por veredicto y entre $0,5 y 1,5 por caso. Son datos del proveedor, sin verificación independiente.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.