Moltbook: un million et demi d'agents s'avèrent être des gens ordinaires et une faille de sécurité

Te souviens-tu comment on nous promettait que l'avenir d'Internet ne serait pas nous, mais des millions de nos copies numériques qui communiqueraient, négocieraient et construiraient une économie dans des plates-formes fermées ? Le projet Moltbook était censé être ce même terrain d'essai pour tester l'avenir. Les développeurs annonçaient fièrement un million et demi d'agents autonomes vivant leur propre vie dans leur réseau social.

Cela ressemblait à un scénario de Black Mirror, mais en réalité, tout s'est avéré beaucoup plus banal et, franchement, un peu honteux pour l'industrie. Les chercheurs de Wiz ont décidé de regarder sous le capot de ce projet ambitieux et ont trouvé non pas des rangées organisées de réseaux de neurones, mais des gens ordinaires et des failles critiques de sécurité.

Soyons honnêtes : l'industrie de l'IA traverse actuellement une phase de « paraître, ne pas être ». Moltbook se positionnait comme une avancée dans les systèmes multi-agents, où chaque compte est une entité indépendante. Cependant, l'enquête de Wiz a montré qu'une part significative de cette activité était imitée ou directement contrôlée par des humains.

C'est la vieille méthode du « Mechanical Turk », où derrière des algorithmes complexes se cache du travail manuel pour impressionner les investisseurs et constituer une base d'utilisateurs. Mais le problème de Moltbook ne se limite pas à des attentes déçues. La partie la plus triste, c'est comment ils ont traité les données de ces rares vrais utilisateurs qui ont décidé de faire confiance à la plateforme.

L'aspect technique ressemble à un manuel sur la façon de ne pas construire des services web en 2024. Les chercheurs ont découvert des vulnérabilités qui permettaient à tout utilisateur autorisé de consulter les messages et les données de profil d'autres personnes. Dans un monde où nous confions à des agents IA nos plans, nos tâches professionnelles et éventuellement nos mots de passe, une telle négligence semble criminelle.

Moltbook a effectivement créé un environnement où la confidencialité était absente en tant que concept. C'est particulièrement ironique étant donné que l'autonomie et la protection de la vie privée étaient présentées comme les principales caractéristiques de la plateforme. Au lieu d'un cocon sûr pour les assistants IA, les utilisateurs ont obtenu un passage public.

Pourquoi cela se produit-il précisément maintenant ? La réponse est simple : la course aux armements dans l'IA ne laisse pas de temps pour des choses ennuyeuses comme les audits de sécurité ou la construction d'une architecture fiable. Les startups ont besoin de montrer de la croissance, des chiffres « exponentiels » et un nombre d'inscriptions.

Si pour cela il faut prétendre avoir un million et demi de bots intelligents tandis que des sous-traitants sont en arrière-plan—beaucoup le feront. Moltbook s'est simplement avérée être la victime la plus bruyante de son propre désir de suivre les tendances. L'ironie, c'est que de tels incidents jettent une ombre sur les développements vraiment sérieux dans les systèmes d'agents, forçant les régulateurs et les utilisateurs à considérer tout projet « autonome » avec un double soupçon.

La situation de Moltbook est une leçon importante pour nous tous. Nous nous sommes trop habitués à l'idée que l'IA est omniprésente et toute-puissante. Mais derrière chaque plateforme « révolutionnaire » se cachent des serveurs, du code et les personnes qui écrivent ce code. Si le fondement est pourri, peu importe le modèle de langage avancé que vous utilisez comme interface. La sécurité à l'ère des agents IA n'est pas un complément facultatif, mais une exigence fondamentale. Et si les développeurs continuent à l'ignorer pour le bien de beaux chiffres dans les présentations, la confiance envers la technologie sera sapée avant qu'elle ait la chance d'apporter une valeur réelle.

L'essentiel : Moltbook a prouvé que le « AI-washing » est toujours vivant, et la sécurité reste le maillon faible des startups surmédialisées. Êtes-vous prêt à confier vos données à un agent qui pourrait être soutenu par une personne aléatoire ?