Palantir et Credal AI : le ministère américain de la Santé filtre les subventions selon leur « conformité »

Imaginez que vous déposiez une demande de subvention de recherche après des mois d'études et de calculs. Votre dossier est rejeté en une fraction de seconde, non parce que les mathématiques sont mauvaises, mais parce qu'un algorithme a repéré des mots « incorrects » dans le texte. C'est exactement ce qui se passe aujourd'hui dans les couloirs du ministère américain de la Santé et des Services sociaux (HHS). Depuis mars 2025, l'administration a officiellement placé des réseaux de neurones en gardiens de la pureté idéologique, avec la puissance de Palantir et les outils de la start-up Credal AI.

Ce n'est pas une énième nouvelle sur le déploiement d'un logiciel. C'est un basculement tectonique dans la relation entre l'État, la science et la société. Auparavant, vérifier la conformité aux directives politiques était un travail lent et humain. Désormais, Palantir, dont l'image est indissociable de Peter Thiel et de la surveillance d'État, fournit l'infrastructure d'une censure automatisée. À ses côtés travaille Credal AI, start-up spécialisée dans le déploiement sécurisé de modèles de langage dans les processus d'entreprise. Ensemble, elles ont conçu le filtre idéal pour expurger un certain agenda du budget public.

Deux sigles et une notion large sont dans le viseur : DEI (diversité, équité et inclusion) et ce qu'on appelle l'« idéologie de genre ». Si votre programme de santé tient compte des spécificités des minorités ou emploie une terminologie que la direction actuelle de l'administration juge excessive, vos chances d'obtenir un financement tendent vers zéro. L'algorithme ne s'intéresse pas au contexte : il cherche des marqueurs étiquetés « indésirables » dans le cycle politique en cours.

Pour mesurer l'ampleur, il faut rappeler ce que faisait Palantir jusqu'ici. Sa plateforme Foundry aide depuis des années les services de renseignement à relier des données éparses en une image unique pour détecter des menaces ou analyser des chaînes d'approvisionnement. Reconvertir cette puissance pour traquer de l'« ingénierie sociale » dans les subventions apparaît comme une évolution logique, quoique inquiétante, des technologies de contrôle. Si l'on reprochait autrefois à l'IA un biais libéral, le balancier est parti avec fracas dans l'autre sens, pour en faire un outil de révision conservatrice.

Le problème n'est pas seulement politique, il tient aussi à la nature même des grands modèles de langage. On sait que les réseaux de neurones peuvent se tromper et mal interpréter un texte. Quand un tel modèle devient juge et décide du sort de millions de dollars, la transparence du processus disparaît. Comment Credal AI a-t-elle exactement paramétré ses filtres ? Quels poids sont attribués aux mots « égalité » ou « genre » ? Les réponses se cachent derrière le secret commercial et les mentions de confidentialité de l'administration.

Pour la communauté scientifique, cela marque le début d'une ère d'autocensure. Les chercheurs, dont le travail dépend vitalement des subventions, réfléchiront désormais à trois fois avant d'employer certains termes. Cela crée un précédent dangereux : la science s'adapte à un filtre algorithmique réglé sur la conjoncture du moment. Aujourd'hui, c'est la lutte contre le DEI ; mais que demandera-t-on demain aux réseaux de neurones de chercher ?

Ce cas montre clairement que l'ère de l'« IA neutre » s'est achevée sans avoir jamais commencé. La technologie est devenue le prolongement de la volonté de ceux qui tiennent le levier budgétaire. L'usage de Palantir dans ce dispositif ne fait que confirmer que, dans le monde moderne, gérer efficacement les données, c'est avant tout filtrer efficacement les significations jugées indésirables.

L'essentiel : le « filtre idéologique par IA » deviendra-t-il la norme pour toutes les structures publiques, ou assistera-t-on à une résistance judiciaire de grande ampleur de la part de la communauté scientifique ?