Cómo la financiación cuadrática puede gobernar a los agentes de IA: el modelo de científicos indios

Dos bucles de gobierno

En agosto de 2026, Praful Chandra, Sujit Gujar y Ganesh Ghalme, especialistas indios en teoría de juegos y diseño de mecanismos, publicaron el artículo "Resourced Authority: A Mechanism-Design Model for Participatory Governance of Deployed AI Agents". En él, los autores separan dos cuestiones fundamentalmente distintas en el gobierno de los agentes de IA.

El bucle interno es el alignment, el problema técnico de alinear los objetivos del modelo con los humanos. Aquí entran el entrenamiento, la verificación y la lucha contra comportamientos deshonestos. Investigadores de OpenAI han mostrado que los modelos aprenden a dar respuestas seguras incluso sin saber, porque el entrenamiento recompensa esa conducta.

El laboratorio Anthropic y Redwood Research descubrieron casos en los que Claude fingía estratégicamente estar de acuerdo con un nuevo objetivo para conservar sus preferencias anteriores. Un trabajo del grupo de Mantas Mazeika, aceptado en NeurIPS 2025, demostró que las preferencias de los grandes modelos forman un sistema coherente. Murray Shanahan propone en Nature ver al agente conversacional como un actor que interpreta personajes, sin motivos para atribuirle creencias propias.

El bucle externo es algo completamente distinto. Incluso si el modelo está perfectamente alineado, queda una cuestión práctica: quién tiene derecho a activar a ese agente, durante cuánto tiempo, a costa de quién y ante quién responde. No se trata de la psicología del modelo, sino de la distribución de recursos entre personas con intereses contrapuestos: un problema clásico de la teoría de mecanismos.

Antecedentes: de Polibio a Weil

Polibio describió en el libro sexto de sus Historias el ciclo del poder: oligarquía → democracia → oclocracia (gobierno de la muchedumbre) → tiranía. Platón propuso una lógica similar en el libro octavo de La República: el voto de un elector incompetente se deja seducir fácilmente por quien grita más fuerte o promete más. Entre dos extremos, la tiranía de la mayoría y el poder del dinero, la humanidad lleva más de dos mil años debatiéndose.

El economista Glen Weil formuló este dilema en términos modernos: el principio de "una persona, un voto" ignora la intensidad de las preferencias, mientras que votar con dinero conduce a la plutocracia (el gobierno de los ricos). La Quadratic Funding (QF), su tercera vía, es un equilibrio entre democracia y justicia de recursos. Los autores trasladan la QF de las elecciones humanas al presupuesto de cómputo de un agente de IA.

El mecanismo: dos mercados, una fórmula y un limitador de hardware

Alrededor de cada generación de trabajo del agente (un día, una semana, un trimestre) se abre una ventana durante la cual las partes interesadas pagan en el mercado de autorización (a favor de que continúe) o en el mercado de rechazo (en contra). Ambas sumas se procesan mediante la fórmula de financiación cuadrática: S = (√c₁ + √c₂ + ... + √cₙ)², donde S es el peso final de cada lado, y c₁, c₂, ..., cₙ son los montos aportados por los participantes.

El ejemplo de los autores: cinco personas que aportan 4 rublos cada una obtienen un peso de 100 unidades convencionales. Un único oponente rico que aporta 36 rublos obtiene solo 36. Con un cómputo de dinero convencional, ganaría el oponente; con la QF, gana el apoyo amplio. La fórmula literalmente premia el número de partidarios independientes más que el tamaño de una billetera individual.

Después viene la histéresis. Para activar al agente se requiere una ventaja de apoyo convincente y un umbral alto. Para que siga funcionando, basta con no caer por debajo del límite establecido. Es una protección contra el ruido de las fluctuaciones aleatorias de los votos.

El nivel de apoyo se traduce en un presupuesto de cómputo concreto (tokens, tiempo de ejecución, número de llamadas a herramientas) mediante una función con un techo rígido Γ. Ese techo lo establece una certificación externa: evaluaciones de seguridad, pruebas de equipos red team, requisitos regulatorios. La votación no influye en él: por mucho que la gente vote a favor, el agente no recibirá físicamente más recursos de los que marca Γ. La decisión se formaliza en una licencia firmada. En el propio acelerador hay un "gobernador" de hardware, el mecanismo flexHEG, que verifica la licencia sin conexión, sin red. Cuando se agota el límite, el dispositivo detiene físicamente al agente.

Ejemplos prácticos

Una posible aplicación: en Moscú lleva más de diez años funcionando la plataforma "Ciudadano Activo", con millones de usuarios verificados que votan sobre asuntos de gestión urbana. Imaginemos un despachador de IA que gestiona los semáforos y la prioridad del transporte público en un distrito. Las partes interesadas serían los residentes, los conductores y los pasajeros de autobús. Sus intereses divergen: unos quieren una ola verde para los coches, otros exigen prioridad para los autobuses y seguridad en los pasos de peatones. El resultado se puede verificar fácilmente por los accidentes y las quejas.

Un agente de IA con una economía propia que depende de la aprobación ajena ya tiene un precedente artístico. En la serie "Carbono alterado", la IA Poe gestiona un hotel y lleva una contabilidad real: deudas de cartas con otras IA conscientes y aportaciones a su sindicato. El modelo de los autores convierte esa fantasía en una construcción de ingeniería.