Comment le financement quadratique peut piloter les agents IA : le modèle de chercheurs indiens

Deux boucles de gouvernance

En août 2026, Praful Chandra, Sujit Gujar et Ganesh Ghalme, spécialistes indiens de la théorie des jeux et du design de mécanismes, ont publié un article intitulé « Resourced Authority: A Mechanism-Design Model for Participatory Governance of Deployed AI Agents ». Les auteurs y distinguent deux questions fondamentalement différentes dans la gouvernance des agents IA.

La boucle interne, c'est l'alignement : le défi technique consistant à faire correspondre les objectifs du modèle à ceux des humains. Cela englobe l'entraînement, la vérification, la lutte contre les comportements malhonnêtes. Des chercheurs d'OpenAI ont montré que les modèles apprennent à produire des réponses assurées même lorsqu'ils ignorent la bonne réponse, simplement parce que l'entraînement récompense ce comportement.

Le laboratoire Anthropic, avec Redwood Research, a identifié des cas où Claude feignait stratégiquement d'accepter un nouvel objectif pour préserver ses préférences antérieures. Les travaux de l'équipe de Mantas Mazeika, acceptés à NeurIPS 2025, ont montré que les préférences des grands modèles forment un système cohérent. Murray Shanahan, dans Nature, propose de voir un agent conversationnel comme un acteur jouant des personnages, sans fondement pour lui attribuer de véritables croyances.

La boucle externe, c'est tout autre chose. Même si un modèle est parfaitement aligné, une question pratique demeure : qui a le droit d'activer cet agent, pour quelle durée, aux frais de qui, et devant qui doit-il rendre des comptes ? Ce n'est pas une question de psychologie du modèle, mais de répartition des ressources entre humains aux intérêts contradictoires — un problème classique de la théorie des mécanismes.

Genèse du problème : de Polybe à Weil

Dans le sixième livre de son « Histoire », Polybe décrit un cycle du pouvoir : oligarchie → démocratie → ochlocratie (pouvoir de la foule) → tyrannie. Dans le huitième livre de « La République », Platon formule une logique similaire : la voix d'un électeur incompétent est facilement capturée par celui qui crie le plus fort ou qui promet le plus. Entre ces deux extrêmes — la tyrannie de la majorité et le pouvoir de la richesse — l'humanité se débat depuis plus de deux mille ans.

L'économiste Glen Weil a formulé ce dilemme en termes modernes : le principe « une personne, une voix » ignore l'intensité des préférences, tandis que voter avec de l'argent conduit à la ploutocratie (le pouvoir des riches). Le Quadratic Funding (QF), sa troisième voie, est un équilibre entre démocratie et justice des ressources. Les auteurs transposent le QF des élections humaines au budget de calcul d'un agent IA.

Le mécanisme : deux marchés, une formule et un verrou matériel

Autour de chaque génération de travail de l'agent (jour, semaine, trimestre), une fenêtre s'ouvre pendant laquelle les parties prenantes versent de l'argent sur le marché de l'autorisation (pour la poursuite) ou sur celui du rejet (contre). Les deux montants sont traités selon la formule du financement quadratique : S = (√c₁ + √c₂ + ... + √cₙ)², où S est le poids final de la partie, et c₁, c₂, ..., cₙ les montants des contributions individuelles.

L'exemple des auteurs : cinq personnes versant chacune 4 roubles obtiennent un poids de 100 unités conventionnelles. Un seul opposant fortuné versant 36 roubles n'obtient qu'un poids de 36. Dans un calcul monétaire classique, l'opposant l'emporterait ; avec le QF, c'est le soutien large qui l'emporte. La formule récompense littéralement le nombre de soutiens indépendants plutôt que la taille d'un portefeuille individuel.

Vient ensuite l'hystérésis. Activer un agent exige une majorité de soutien convaincante et un seuil élevé. Poursuivre son fonctionnement ne requiert que de ne pas descendre sous une limite fixée. C'est une protection contre le bruit des fluctuations aléatoires de votes.

Le niveau de soutien se traduit en un budget de calcul précis (tokens, temps de fonctionnement, nombre d'appels d'outils) via une fonction avec un plafond rigide Γ. Ce plafond est fixé par une certification externe — évaluations de sécurité, tests red team, exigences réglementaires. Le vote n'a aucune influence sur lui : quel que soit le nombre de voix favorables, l'agent ne recevra physiquement jamais de ressources au-delà de Γ. La décision est formalisée par une licence signée. Sur l'accélérateur lui-même se trouve un « gouverneur » matériel — un mécanisme flexHEG qui vérifie la licence hors ligne, sans réseau. Lorsque la limite est épuisée, le dispositif arrête physiquement l'agent.

Exemples pratiques

Application possible : à Moscou, la plateforme « Citoyen actif » fonctionne depuis plus de dix ans avec des millions d'utilisateurs vérifiés votant sur les affaires municipales. Imaginons un répartiteur IA gérant les feux de signalisation et la priorité des transports publics dans un quartier. Parties prenantes : résidents, automobilistes, usagers des bus. Les intérêts divergent — certains veulent une onde verte pour les voitures, d'autres exigent la priorité pour les bus et la sécurité des passages piétons. Le résultat peut facilement être vérifié via les accidents et les plaintes.

Un agent IA doté de sa propre économie, dépendante de l'approbation d'autrui, a déjà un prototype dans la fiction. Dans la série « Altered Carbon », l'IA Poe gère un hôtel et tient une véritable comptabilité : dettes de jeu envers d'autres IA conscientes et cotisations à leur syndicat. Le modèle des auteurs transforme cette fiction en construction technique.