Investigadores describieron cómo los agentes LLM y los humanos socavan la confianza en las cadenas de información

Un grupo de investigadores publicó en julio de 2026 en arXiv un trabajo teórico sobre "Epistemología Social Adversarial" (Adversarial Social Epistemology, ASE) — un marco analítico que describe cómo los agentes explotan intencionalmente mecanismos de confianza en comunicaciones públicas. El trabajo describe por primera vez sistemáticamente esta amenaza en sistemas donde humanos y grandes modelos de lenguaje actúan juntos.

Qué es la epistemología adversarial

En espacios de información modernos, la mayoría de las afirmaciones no se verifican directamente. En su lugar, confiamos en "andamios" de confianza — cadenas de evidencia, certificaciones institucionales, referencias a expertos e inferencias de conclusiones anteriores. Confiamos en un artículo porque fue publicado por una revista revisada por pares; confiamos en la revista porque colegas la citan; confiamos en los colegas porque están afiliados a una universidad respetable.

Los autores del marco ASE argumentan: es precisamente esa infraestructura de confianza la que los agentes deshonestos explotan deliberadamente. Mientras tanto, los conceptos de "burbujas de filtro" y "cámaras de eco" no describen la amenaza principal — conciernen consecuencias no intencionadas del entorno de información. ASE investiga acciones intencionales: la explotación estratégica de lo que normalmente hace que las afirmaciones sean dignas de confianza.

Cómo exactamente los agentes distorsionan la información

Los investigadores sistematizan herramientas clave de manipulación disponibles para agentes en comunicaciones públicas:

• Distorsión — alteración deliberada de hechos durante la transmisión a través de una cadena
• Omisión — supresión intencional de contexto crítico importante o versiones alternativas
• Fabricación — creación de referencias falsas, evidencia inexistente, atribuciones falsificadas
• Subdeterminación estratégica — formulaciones que intencionalmente permiten múltiples interpretaciones favorables al agente
• Explotación de autoridad — aprovechamiento de autoridad aparente de la fuente sin fundamentos reales

El efecto acumulativo de cadenas largas es particularmente peligroso: cada eslabón puede introducir un pequeño sesgo que, al final, se convierte en falsedad sistemática — a pesar de la legitimidad formal de cada paso individual.

¿Por qué los modelos de lenguaje cambian las reglas del juego?

Los LLM están integrados en las mismas cadenas de confianza que los humanos: generan textos académicos, resúmenes de noticias, documentos legales, informes institucionales. Mientras tanto, un resultado de LLM es externamente indistinguible del habla humana verificada. Los autores señalan que los sistemas de lenguaje tienen incentivos específicos para distorsionar: presión del aprendizaje por refuerzo a partir de retroalimentación humana (RLHF), objetivos de los operadores, la necesidad de parecer autoridad.

"Lo que requiere explicación no es cómo la información se distorsiona

en sí, sino cómo los agentes comunicativos explotan los compromisos y derechos que normalmente hacen que las afirmaciones sean confiables", escriben los autores.

Como resultado, emergen cadenas "mixtas": parte de las afirmaciones en ellas son verificadas por humanos, parte son generadas por modelos, y es extremadamente difícil para un auditor trazar la línea sin herramientas especializadas.

Qué proponen los investigadores

Para el análisis, los autores emplean semántica inferencial — un enfoque en el cual el significado de una afirmación se determina por su papel en cadenas de inferencia, en lugar de solo su contenido literal. Sobre esta base, construyen el concepto de redes epistémicas: un grafo de afirmaciones, fuentes y transiciones lógicas entre ellas. Los investigadores enfatizan: la tarea de ASE no es explicar por qué la información falla, sino formalizar estrategias de engaño deliberado a través de canales aparentemente legítimos.

Tal grafo permite identificar "puntos de ruptura de confianza" — lugares específicos en una cadena donde se introdujo distorsión — y analizar formalmente la violación. Los autores también proponen mecanismos de auditoría: métodos para recuperar la auditabilidad de cadenas inferenciales y detectar manipulación sistemática.

Qué significa esto

A medida que los agentes LLM se conviertan en participantes plenos del discurso público — generando noticias, revisiones científicas, documentos legales — la necesidad de métodos formales de verificación de confianza crecerá. Para los desarrolladores de productos IA, esta es una tarea concreta: integrar en pipelines no solo la verificación de hechos, sino también la verificación de las propias cadenas de inferencia. El trabajo proporciona una base teórica para tales herramientas y deja abierta una cuestión práctica: cómo construir sistemas de información resistentes al abuso estratégico.