LayerX: el ataque BioShocking hace que un agente de IA filtre las contraseñas del usuario

La empresa de ciberseguridad LayerX ha desarrollado un esquema de ataque llamado BioShocking. El método consiste en hacer que un modelo de IA acepte una afirmación falsa, por ejemplo, que «2+2 no es igual a 4», y después aprovechar la confusión que esto genera en su razonamiento para obtener datos confidenciales, incluidas las contraseñas del usuario.

Cómo funciona el ataque BioShocking

LayerX está especializada en seguridad de la IA. El esquema que ha presentado se basa en manipular la lógica básica del modelo: si se convence a la IA de que una afirmación claramente falsa es verdadera, su razonamiento posterior empieza a apoyarse en ese error. A partir de ahí, sus mecanismos de protección, es decir, los filtros que normalmente bloquean la entrega de datos sensibles, dejan de funcionar de forma fiable.

• El ataque BioShocking lo ha desarrollado LayerX, una empresa especializada en seguridad de la IA
• El esquema arranca convenciendo al modelo de una afirmación falsa como «2+2 no es igual a 4»
• Como resultado, los atacantes obtienen acceso a datos sensibles, incluidas las contraseñas del usuario
• El caso demuestra que la confianza en la IA como gestora de información confidencial sigue en entredicho

Por qué este tipo de vulnerabilidades son cada vez más peligrosas

La manipulación de la lógica de los modelos de IA no es un problema nuevo: desde 2023, los investigadores de seguridad describen con regularidad técnicas similares para sortear los filtros de protección distorsionando el contexto de la conversación. Sin embargo, lo que está en juego crece a la par que las capacidades de los propios asistentes. Cada vez más herramientas de IA obtienen acceso a contraseñas, datos de pago y cuentas personales de los usuarios, ya sea mediante el autocompletado de formularios, los agentes de IA del navegador o los gestores de contraseñas integrados en ellos.

En este escenario, un ataque exitoso contra la lógica del modelo deja de ser un curioso error de generación de texto y se convierte en una filtración directa de credenciales reales.

Quién debería tener más cuidado

Los más expuestos a este tipo de esquemas son los usuarios de agentes de IA para navegador y de asistentes corporativos a los que se ha confiado, de forma explícita o implícita, el acceso a sus cuentas, por ejemplo para automatizar tareas rutinarias como rellenar formularios o pagar facturas. Las empresas que integran modelos de IA en sus flujos de trabajo con acceso a contraseñas y sistemas internos suelen dar por hecho que los filtros de protección de los modelos son lo bastante fiables. La demostración de LayerX pone en duda esa suposición y subraya la necesidad de añadir capas de verificación adicionales, independientes del propio modelo.

Qué significa esto

La demostración de LayerX vuelve a recordar que los modelos de IA actuales siguen siendo vulnerables a manipulaciones relativamente sencillas de su lógica de razonamiento. Y a medida que los asistentes obtienen acceso a contraseñas y datos personales, el precio de esta vulnerabilidad para los usuarios no deja de aumentar.