Moltbook: un millón y medio de agentes resultaron ser personas comunes y una brecha de seguridad

¿Recuerdas cómo nos prometieron que el futuro de internet no sería nosotros, sino millones de nuestras copias digitales que se comunicarían, negociarían y construirían una economía dentro de plataformas cerradas? El proyecto Moltbook debería haber sido ese mismo polígono de prueba para poner a prueba el futuro. Los desarrolladores anunciaban con orgullo un millón y medio de agentes autónomos viviendo sus propias vidas en su red social.

Sonaba como un escenario de Black Mirror, pero en realidad todo resultó ser mucho más mundano y, francamente, un poco vergonzoso para la industria. Los investigadores de Wiz decidieron echar un vistazo bajo el capó de este ambicioso proyecto y encontraron no filas ordenadas de redes neuronales, sino personas corrientes y brechas críticas en la seguridad.

Seamos honestos: la industria de IA está actualmente en una etapa de "parecer, no ser". Moltbook se posicionaba a sí misma como un avance en sistemas multiagente, donde cada cuenta es una entidad independiente. Sin embargo, la investigación de Wiz mostró que una parte significativa de esta actividad era imitada o controlada directamente por personas. Es el viejo método del "Mechanical Turk", donde detrás de algoritmos complejos se esconde trabajo manual para impresionar a los inversores y construir una base de usuarios. Pero el problema de Moltbook no es solo decepcionar las expectativas. La parte más triste es cómo trataron los datos de esos pocos usuarios reales que decidieron confiar en la plataforma.

El aspecto técnico parece un manual sobre cómo no construir servicios web en 2024. Los investigadores encontraron vulnerabilidades que permitían a cualquier usuario autorizado ver los mensajes y datos de perfil de otras personas. En un mundo donde confiamos a agentes de IA nuestros planes, tareas de trabajo y posiblemente contraseñas, tal negligencia parece criminal. Moltbook efectivamente creó un entorno donde la confidencialidad estaba ausente como concepto. Esto es especialmente irónico dado que la autonomía y la protección de la privacidad se presentaban como las características principales de la plataforma. En lugar de un capullo seguro para asistentes de IA, los usuarios obtuvieron un patio de tránsito.

¿Por qué está sucediendo esto precisamente ahora? La respuesta es simple: la carrera armamentista en IA no deja tiempo para cosas aburridas como auditorías de seguridad o construcción de arquitectura confiable. Las startups necesitan mostrar crecimiento, números "exponenciales" y cantidad de registros. Si para ello necesitas pretender que tienes un millón y medio de bots inteligentes mientras que externalistas están en el backend—muchos darán ese paso. Moltbook simplemente se convirtió en la víctima más ruidosa de su propio deseo de seguir las tendencias. La ironía es que tales incidentes arrojan una sombra sobre desarrollos genuinamente serios en sistemas de agentes, obligando a reguladores y usuarios a ver cualquier proyecto "autónomo" con doble sospecha.

La situación de Moltbook es una lección importante para todos nosotros. Nos hemos acostumbrado demasiado a la idea de que la IA es ubicua y todopoderosa. Pero detrás de cada plataforma "revolucionaria" hay servidores, código y las personas que escriben ese código. Si el fundamento es podrido, no importa cuán avanzado sea el modelo de lenguaje que uses como interfaz. La seguridad en la era de los agentes de IA no es un complemento opcional, sino un requisito básico. Y si los desarrolladores continúan ignorándolo por el bien de números bonitos en presentaciones, la confianza en la tecnología se socavará antes de que tenga la oportunidad de entregar valor real.

Lo fundamental: Moltbook demostró que el "AI-washing" sigue vivo, y la seguridad sigue siendo el eslabón débil de las startups con tendencia. ¿Estás dispuesto a confiar tus datos a un agente que podría estar respaldado por una persona aleatoria?