IA y desinformación: cómo los agentes LLM socavan la confianza

Un grupo de investigadores ha publicado en arXiv un análisis de cómo los agentes de IA y las personas socavan conjuntamente la confianza en las cadenas de información mediante la explotación de los mecanismos de confianza en la comunicación pública.

Qué es la epistemología adversarial

En los espacios de información actuales, la mayoría de las afirmaciones no se comprueba directamente. En su lugar nos apoyamos en «andamiajes» de confianza: cadenas de evidencias, certificaciones institucionales, referencias a expertos e inferencias derivadas de inferencias previas. Confiamos en un artículo porque lo publicó una revista con revisión por pares; confiamos en la revista porque la citan otros colegas; confiamos en esos colegas porque están afiliados a una universidad de prestigio.

Los autores del marco ASE sostienen que los agentes deshonestos explotan deliberadamente esa infraestructura de confianza. Según ellos, los conceptos de «burbuja de filtros» y «cámara de eco» no describen la amenaza principal, porque se refieren a consecuencias no intencionadas del entorno informativo. ASE estudia las acciones intencionales: la explotación estratégica de aquello que normalmente hace fiables las afirmaciones.

Cómo distorsionan exactamente la información los agentes

Los investigadores sistematizan las principales herramientas de manipulación que tienen los agentes en la comunicación pública:

• Distorsión: alteración deliberada de los hechos al transmitirlos por la cadena
• Omisión: supresión intencionada de contexto crítico o de versiones alternativas
• Fabricación: creación de referencias falsas, evidencias inexistentes y atribuciones falsificadas
• Infraespecificación estratégica: formulaciones que permiten a propósito varias interpretaciones, todas ventajosas para el agente
• Explotación de la autoridad: presión basada en la autoridad aparente de la fuente, sin fundamentos reales

El efecto acumulativo de las cadenas largas es especialmente peligroso: cada eslabón puede introducir un pequeño sesgo que al final se convierte en una mentira sistémica, aunque cada paso individual parezca legítimo.

¿Por qué los modelos de lenguaje cambian las reglas del juego?

Los LLM se integran en las mismas cadenas de confianza que las personas: generan textos académicos, resúmenes de noticias, documentos jurídicos e informes institucionales. La salida de un modelo de lenguaje es, a simple vista, indistinguible de una afirmación humana verificada. Los autores señalan que los sistemas de lenguaje tienen incentivos específicos para distorsionar: la presión del aprendizaje por refuerzo (RLHF), los objetivos de los operadores y la necesidad de parecer autorizados.

«Lo que requiere explicación no es cómo se distorsiona la información

por sí sola, sino cómo los agentes comunicativos explotan las obligaciones y las atribuciones que normalmente hacen fiables las afirmaciones», escriben los autores.

El resultado son cadenas «mixtas»: parte de las afirmaciones está verificada por personas, parte la generan modelos, y a un auditor le resulta muy difícil trazar la frontera sin herramientas especializadas.

Qué proponen los investigadores

Para el análisis, los autores recurren a la semántica inferencial, un enfoque en el que el significado de una afirmación se define por su papel en las cadenas de inferencia y no solo por su contenido literal. Sobre esa base construyen el concepto de redes epistémicas: un grafo de afirmaciones, fuentes y transiciones lógicas entre ellas. Los investigadores subrayan que el objetivo de ASE no es explicar por qué la información se equivoca, sino formalizar las estrategias de engaño deliberado a través de canales aparentemente legítimos.

Un grafo así permite identificar «puntos de quiebre de la confianza», es decir, los lugares concretos de la cadena donde se introdujo la distorsión, y analizar formalmente la infracción. Los autores proponen además mecanismos de auditoría: métodos para restablecer la auditabilidad de las cadenas inferenciales y detectar manipulaciones sistémicas.

Qué significa

A medida que los agentes LLM se convierten en participantes de pleno derecho del discurso público, al generar noticias, revisiones científicas y documentos jurídicos, crecerá la necesidad de métodos formales para verificar la confianza. Para los desarrolladores de productos de IA, es una tarea concreta: incorporar a los pipelines la verificación no solo de los hechos, sino también de las propias cadenas de transiciones lógicas. El trabajo ofrece una base teórica para estas herramientas y deja abierta una cuestión práctica: cómo construir sistemas de información resistentes al abuso estratégico.

¿Cómo crean desinformación juntos la IA y las personas?

Según el estudio, los agentes de IA, junto con las personas, explotan los mecanismos de confianza en la comunicación pública. Es la primera descripción sistemática de este fenómeno en el contexto de sistemas donde actúan conjuntamente grandes modelos de lenguaje y personas.