Por qué el relato de que «la IA es fácil de engañar» pasa por alto lo esencial

A finales de febrero de 2026, la BBC publicó un reportaje llamativo sobre cómo los sistemas de IA generativa pueden «hackearse» en cuestión de minutos. Los periodistas hicieron un experimento sencillo: publicaron una entrada de blog que se presentaba como experta en un tema muy especializado y comprobaron poco después que ChatGPT, de OpenAI, y las respuestas de IA del buscador de Google empezaban a reproducir la información de ese texto. Los titulares fueron vistosos y la historia se propagó por la red. Pero The Next Web miró la situación desde otro ángulo y planteó una pregunta incómoda: ¿y si todo ese relato de que «la IA es fácil de engañar» simplemente no da en el blanco?

Para entender la polémica hay que revisar la mecánica. Los grandes modelos de lenguaje actuales, como GPT-4o o Gemini, no guardan una base de conocimiento fija como una enciclopedia. Se entrenan con enormes volúmenes de texto de internet y, cuando tienen búsqueda activada, además consultan contenido web reciente en tiempo real.

Cuando un modelo con búsqueda recibe una pregunta sobre un tema poco común, busca fuentes relevantes, y si el único material disponible es esa entrada de blog reciente, esta se convierte en la base de la respuesta. No es un hackeo en el sentido clásico. Es la consecuencia de una decisión de arquitectura: el modelo confía en lo que encuentra en la red, más o menos como lo hace un buscador.

Aquí está justo la divergencia clave entre el relato sensacionalista y la realidad. Llamarlo «hackeo» implica que alguien eludió las defensas del sistema, encontró una vulnerabilidad en el código o explotó un fallo técnico. Lo que ocurrió fue algo mucho más banal y, a la vez, más inquietante: el sistema de IA hizo exactamente aquello para lo que fue diseñado: encontró información en internet y se la resumió al usuario. El problema no es que se engañara al sistema, sino que carece de un mecanismo fiable para distinguir las fuentes fiables de las que no lo son. No es un error que se arregle con un parche. Es una propiedad fundamental de la tecnología en su estado actual.

Aun así, sería un error descartar el experimento de la BBC por irrelevante. Pone de relieve un problema real y serio: la confianza informativa en la era de la búsqueda con IA. Millones de usuarios ya consideran las respuestas de ChatGPT o de Google AI Overview una fuente autorizada, sin pensar de dónde sacó el modelo un dato concreto.

Si basta una entrada de blog para influir en las respuestas de los mayores sistemas de IA sobre un tema de nicho, se abre la puerta a manipulaciones dirigidas, desde las comerciales hasta las políticas. El SEO para buscadores existe desde hace décadas, pero «optimizar» contenido para modelos de IA supone un nivel de influencia cualitativamente nuevo, porque el usuario no ve una lista de enlaces, sino una respuesta segura y tajante.

OpenAI y Google, por supuesto, trabajan en soluciones. Ambas empresas invierten en sistemas de verificación de fuentes, de clasificación por fiabilidad y en el llamado «grounding», que vincula las respuestas del modelo con datos verificados. Google, en concreto, desarrolla mecanismos de verificación cruzada en los que el modelo contrasta la información de varias fuentes independientes antes de incluirla en la respuesta. OpenAI experimenta con la transparencia de las citas, de modo que los usuarios vean en qué fuentes concretas se apoya una respuesta. Pero por ahora estos mecanismos distan de ser perfectos, sobre todo en temas de nicho, donde hay muy pocas fuentes disponibles.

Hay además un contexto más amplio. El debate sobre el «hackeo de la IA» se desarrolla en medio de un creciente escepticismo social hacia las tecnologías generativas. Cada titular de este tipo alimenta la idea de la IA como un juguete poco fiable y fácil de engañar. Pero la realidad es más compleja. Esos mismos sistemas ayudan cada día a millones de personas a encontrar información, escribir código, analizar datos y resolver tareas que antes exigían horas de trabajo. El problema de la confianza en las fuentes no es una condena de la tecnología, sino un reto que la industria debe resolver si quiere que la búsqueda con IA sustituya por completo a los buscadores tradicionales.

En definitiva, el experimento de la BBC no trata de que la IA sea tonta o vulnerable. Trata de que estamos en un periodo de transición en el que la tecnología ya es lo bastante potente para moldear la opinión pública, pero aún no lo bastante madura para hacerlo con responsabilidad. La verdadera pregunta no es si se puede engañar a un modelo de lenguaje con una entrada de blog. La verdadera pregunta es quién responde de la fiabilidad de unas respuestas que cientos de millones de personas aceptan por buenas cada día. Y a esa pregunta, ni OpenAI ni Google han dado todavía una respuesta convincente.