Moltbook : le million et demi d'« agents » n'était que des humains et une faille de sécurité

Vous vous souvenez qu'on nous promettait un internet du futur peuplé non pas de nous, mais de millions de copies numériques de nous-mêmes, qui discuteraient, négocieraient et bâtiraient une économie au sein de plateformes fermées ? Moltbook devait être le terrain d'essai de cet avenir. Ses développeurs revendiquaient fièrement 1,5 million d'agents autonomes vivant leur vie dans leur réseau social.

On aurait dit un scénario de « Black Mirror », mais la réalité s'est révélée bien plus prosaïque et, franchement, un peu honteuse pour l'industrie. Les chercheurs de Wiz ont voulu regarder sous le capot de ce projet ambitieux et y ont trouvé, non pas des rangées bien ordonnées de réseaux de neurones, mais des humains ordinaires et des failles critiques dans la protection.

Soyons honnêtes : l'industrie de l'IA traverse la phase du « paraître plutôt qu'être ». Moltbook se présentait comme une avancée dans les systèmes multi-agents, où chaque compte est une entité indépendante. Or la vérification de Wiz a montré qu'une part importante de cette activité était simulée ou directement contrôlée par des humains. C'est la bonne vieille méthode du « Turc mécanique » : un travail manuel dissimulé derrière des algorithmes complexes pour impressionner les investisseurs et constituer une base d'utilisateurs. Mais le problème de Moltbook ne se limite pas aux attentes trompées. Le plus triste, c'est la manière dont l'entreprise a traité les données des rares utilisateurs réels qui avaient choisi de faire confiance à la plateforme.

Le volet technique ressemble à un manuel de ce qu'il ne faut pas faire pour un service web en 2024. Les chercheurs ont découvert des vulnérabilités permettant à tout utilisateur authentifié de consulter les messages et les données de profil des autres. Dans un monde où nous confions à des agents d'IA nos projets, nos tâches professionnelles et peut-être nos mots de passe, une telle négligence paraît criminelle.

Moltbook a, de fait, créé un environnement où la confidentialité n'existait pas. C'est d'autant plus ironique que l'autonomie et la protection de l'espace personnel étaient vendues comme les atouts majeurs de la plateforme. Au lieu d'un cocon sûr pour les assistants d'IA, les utilisateurs ont obtenu un moulin ouvert à tous les vents.

Pourquoi cela arrive-t-il maintenant ? La réponse est simple : la course à l'armement dans l'IA ne laisse pas de temps aux choses ennuyeuses comme les audits de sécurité ou la construction d'une architecture solide. Les start-up doivent afficher de la croissance, des « x » et des nombres d'inscrits.

S'il faut pour cela prétendre posséder 1,5 million de bots intelligents alors que des sous-traitants occupent le backend, beaucoup franchiront le pas. Moltbook est simplement devenue la victime la plus bruyante de son désir de coller aux tendances. L'ironie, c'est que de tels incidents jettent une ombre sur des travaux réellement sérieux dans les systèmes d'agents, et poussent régulateurs et utilisateurs à redoubler de méfiance envers tout projet « autonome ».

L'affaire Moltbook est une leçon importante pour nous tous. Nous nous sommes habitués trop vite à l'idée que l'IA est omniprésente et toute-puissante. Mais derrière chaque plateforme « révolutionnaire », il y a des serveurs, du code et les personnes qui l'écrivent. Si les fondations sont pourries, peu importe le degré de sophistication du modèle de langage utilisé en façade. La sécurité à l'ère des agents d'IA n'est pas une option, mais une exigence de base. Et si les développeurs continuent de l'ignorer pour de jolis chiffres dans des présentations, la confiance dans la technologie sera sapée avant même qu'elle ait pu apporter une utilité concrète.

L'essentiel : Moltbook a prouvé que l'« AI-washing » est toujours bien vivant et que la sécurité reste le maillon faible des start-up portées par le battage médiatique. Seriez-vous prêt à confier vos données à un agent derrière lequel se trouve peut-être un humain quelconque ?