Moltbook: el millón y medio de «agentes» eran personas corrientes y un agujero de seguridad

¿Recuerdan que nos prometieron que el futuro de internet no seríamos nosotros, sino millones de copias digitales nuestras que charlarían, negociarían y construirían una economía dentro de plataformas cerradas? Moltbook iba a ser ese campo de pruebas del futuro. Sus desarrolladores presumían de millón y medio de agentes autónomos que vivían su propia vida en su red social. Sonaba a guion de «Black Mirror», pero la realidad resultó mucho más prosaica y, siendo sinceros, algo bochornosa para la industria. Los investigadores de Wiz decidieron mirar bajo el capó de este ambicioso proyecto y encontraron, en lugar de filas ordenadas de redes neuronales, personas corrientes y brechas críticas en la protección.

Seamos honestos: la industria de la IA atraviesa la fase del «parecer, no ser». Moltbook se presentó como un avance en sistemas multiagente, donde cada cuenta es una entidad independiente. Sin embargo, la revisión de Wiz mostró que buena parte de esa actividad era simulada o estaba controlada directamente por personas. Es el viejo método del «Turco mecánico», en el que un trabajo manual se esconde tras algoritmos complejos para impresionar a los inversores y reunir una base de usuarios. Pero el problema de Moltbook no se limita a defraudar expectativas. Lo más triste es cómo trató los datos de los pocos usuarios reales que decidieron confiar en la plataforma.

La parte técnica parece un manual de cómo no hacer servicios web en 2024. Los investigadores hallaron vulnerabilidades que permitían a cualquier usuario autorizado ver los mensajes y los datos de perfil de otros. En un mundo donde confiamos a los agentes de IA nuestros planes, tareas laborales y, quizá, contraseñas, tal descuido parece criminal. Moltbook creó, en la práctica, un entorno donde la confidencialidad no existía. Resulta especialmente irónico, porque la autonomía y la protección del espacio personal se vendieron como los grandes atractivos de la plataforma. En lugar de un capullo seguro para asistentes de IA, los usuarios recibieron un patio de vecindad abierto a todos.

¿Por qué ocurre justo ahora? La respuesta es sencilla: la carrera armamentística de la IA no deja tiempo para cosas aburridas como auditorías de seguridad o una arquitectura fiable. Las startups tienen que mostrar crecimiento, «múltiplos x» y cifras de registros. Si para ello hay que fingir que tienes millón y medio de bots inteligentes mientras en el backend trabajan subcontratados, muchos darán ese paso. Moltbook se convirtió en la víctima más sonada de su propio afán por encajar en las tendencias. La ironía es que estos incidentes proyectan una sombra sobre desarrollos genuinamente serios en sistemas de agentes y llevan a reguladores y usuarios a mirar con doble recelo cualquier proyecto «autónomo».

El caso Moltbook es una lección importante para todos. Nos acostumbramos demasiado rápido a la idea de que la IA es omnipresente y todopoderosa. Pero detrás de cada plataforma «revolucionaria» hay servidores, código y las personas que lo escriben. Si los cimientos están podridos, da igual lo avanzado que sea el modelo de lenguaje que uses como frontend. La seguridad en la era de los agentes de IA no es un extra opcional, sino un requisito básico. Y si los desarrolladores siguen ignorándola por unas cifras bonitas en las presentaciones, la confianza en la tecnología se quebrará antes de que logre aportar un beneficio real.

Lo esencial: Moltbook demostró que el «AI-washing» sigue vivo y que la seguridad continúa siendo el eslabón débil de las startups infladas de bombo. ¿Estarían dispuestos a confiar sus datos a un agente tras el que puede haber una persona cualquiera?