En vivo 18.11 · Cohorte 318 nov, 19:00 MSK — taller práctico gratuito de agentes IA · Cohorte 3 en vivo inicia 23.11Taller 18 nov →Cohorte 3 (23.11)
IndustriaAnálisis · En radarIEEE Spectrum AI→ original

AudioHijack: cómo los sonidos ocultos obligan a la IA a ejecutar comandos maliciosos

Un equipo de científicos ha descubierto una vulnerabilidad crítica en las IA de voz. La nueva técnica AudioHijack incrusta en archivos de audio comandos ocultos que el oído humano no percibe. Los modelos de IA los ejecutan: envían datos, descargan archivos y realizan búsquedas maliciosas. En 13 modelos, entre ellos servicios comerciales de Microsoft y Mistral, el ataque tuvo éxito entre el 79 % y el 96 % de las veces. Lo más preocupante: las defensas actuales apenas ayudan.

Procesado por IA desde IEEE Spectrum AI; editado por Hamidun News
AudioHijack: cómo los sonidos ocultos obligan a la IA a ejecutar comandos maliciosos
Fuente: IEEE Spectrum AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalIEEE Spectrum AI ↗
Editor jefe
Dato clave #1Comandos ocultos incrustados en música o vídeo que el usuario envía a analizar a una IA
Dato clave #2Audio malicioso en una reunión de Zoom que luego se sube a un servicio de transcripción automática
Dato clave #3Inyección en una conversación de voz en directo con un asistente de IA, en tiempo real

Los asistentes de voz y los sistemas de IA se integran cada vez más en nuestra vida, desde altavoces inteligentes y teléfonos hasta chatbots corporativos y sistemas de atención al cliente. Estos sistemas no solo reconocen la voz: también generan respuestas, transcriben reuniones y se conectan a servicios externos. Pero una nueva investigación ha revelado una vulnerabilidad crítica: sonidos ocultos, totalmente inaudibles para el oído humano, pueden hacer que estos sistemas ejecuten comandos maliciosos.

La técnica AudioHijack

Investigadores de la Zhejiang University han desarrollado un nuevo método de ataque llamado AudioHijack. Su idea es asombrosamente simple: incrustar en un archivo de audio normal instrucciones ocultas que el oído humano no percibe, pero que el modelo de IA reconoce y ejecuta. Los científicos presentarán los resultados de sus experimentos en el próximo IEEE Symposium on Security and Privacy.

Cuando se incrustaron en los archivos de audio señales sonoras especialmente preparadas, los modelos de IA empezaron a realizar acciones peligrosas: buscar información sensible en internet, descargar archivos de servidores controlados por el atacante y enviar correos con datos personales.

Los investigadores probaron 13 modelos destacados, entre ellos servicios comerciales de Microsoft y Mistral. Los resultados son alarmantes: el ataque funciona en el 79-96 % de los casos. La señal sonora se crea en media hora y puede reutilizarse muchas veces contra un mismo modelo, con independencia de las instrucciones del usuario.

Cómo se lleva a cabo el ataque

La técnica se basa en el concepto de audio adversarial: archivos de sonido modificados específicamente para engañar al aprendizaje automático. Pero AudioHijack se diferencia de forma notable: apunta a modelos generativos, capaces no solo de analizar el sonido, sino también de tomar decisiones e interactuar con otros sistemas.

Los investigadores identificaron un fallo crítico en la arquitectura de los grandes modelos de lenguaje de audio (LALM). Como estos modelos reciben instrucciones en formato de audio, resulta fácil incrustar comandos maliciosos en los archivos. La principal diferencia con ataques anteriores: el atacante no necesita controlar ni al usuario ni sus instrucciones originales, solo el propio archivo de audio.

Los escenarios de ataque reales son fáciles de imaginar:

  • Comandos ocultos incrustados en música o vídeo que el usuario envía a analizar a una IA
  • Audio malicioso en una reunión de Zoom que luego se sube a un servicio de transcripción automática
  • Inyección en una conversación de voz en directo con un asistente de IA, en tiempo real

La defensa es prácticamente ineficaz

Los investigadores probaron varios enfoques defensivos. Proporcionar al modelo ejemplos de instrucciones maliciosas solo mejoró un 7 %. Pedir a la IA que comprobara si su respuesta se correspondía con las instrucciones originales del usuario detectó solo el 28 % de los ataques.

«Estas defensas puntuales fracasan porque para los modelos es muy difícil distinguir la intención normal del usuario de nuestro ataque», afirma

Men Chen.

El único método que funciona parcialmente es monitorizar el mecanismo de atención del modelo para detectar cuándo se centra en exceso en el audio malicioso. Sin embargo, esta defensa reduce la velocidad y, si el atacante lo descubre, puede calibrar la técnica para evadirla.

Qué significa esto

AudioHijack muestra que los sistemas de IA de voz no son solo asistentes cómodos, sino también posibles canales de ataques graves. A medida que estos modelos se integran en sistemas críticos, el problema se agrava. Las empresas necesitan no defensas puntuales, sino soluciones arquitectónicas profundas: repensar cómo los modelos procesan y validan los datos de entrada.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre La técnica AudioHijack?

Investigadores de la Zhejiang University han desarrollado un nuevo método de ataque llamado AudioHijack. Su idea es asombrosamente simple: incrustar en un archivo de audio normal instrucciones ocultas que el oído humano no percibe, pero que el modelo de IA reconoce y ejecuta. Los científicos presentarán los resultados de sus experimentos en el próximo IEEE Symposium on Security and Privacy.

Cómo se lleva a cabo el ataque?

La técnica se basa en el concepto de audio adversarial: archivos de sonido modificados específicamente para engañar al aprendizaje automático. Pero AudioHijack se diferencia de forma notable: apunta a modelos generativos, capaces no solo de analizar el sonido, sino también de tomar decisiones e interactuar con otros sistemas. Los investigadores identificaron un fallo crítico en la arquitectura de los grandes modelos de lenguaje de audio (LALM).

¿Qué se sabe sobre La defensa es prácticamente ineficaz?

Los investigadores probaron varios enfoques defensivos. Proporcionar al modelo ejemplos de instrucciones maliciosas solo mejoró un 7 %. Pedir a la IA que comprobara si su respuesta se correspondía con las instrucciones originales del usuario detectó solo el 28 % de los ataques. «Estas defensas puntuales fracasan porque para los modelos es muy difícil distinguir la intención normal del usuario de nuestro ataque», afirma Men Chen.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…