Moxie Marlinspike de Signal protegerá las conversaciones de miles de millones de usuarios de Meta AI

Moxie Marlinspike, creador del mensajero Signal y uno de los principales arquitectos de la criptografía moderna, ha anunciado una asociación con Meta. Su tecnología de cifrado para correspondencia con IA, desarrollada para su propio chatbot Confer, será integrada en Meta AI. Si todo sale según lo planeado, miles de millones de usuarios de WhatsApp, Instagram y Facebook obtendrán un nivel fundamentalmente nuevo de privacidad en conversaciones con inteligencia artificial.

Marlinspike es una de las figuras más significativas en el mundo de la seguridad digital. En los años 2010, desarrolló el Protocolo Signal—un estándar criptográfico de cifrado de extremo a extremo que hoy protege no solo la correspondencia en el mensajero homónimo, sino también en WhatsApp (propiedad de Meta), Google Messages, Skype y docenas de otros servicios. Su filosofía es simple: la comunicación debe estructurarse de tal manera que ni siquiera el proveedor de servicios pueda leer los mensajes de los usuarios.

Decidió transferir este principio a la era de la inteligencia artificial. Hace varios años, Marlinspike creó Confer—un chatbot de IA cifrado experimental, diseñado para demostrar que las conversaciones privadas con IA son técnicamente posibles. A diferencia de la mayoría de productos de IA, donde las solicitudes de los usuarios se procesan y se almacenan en los servidores de la empresa, Confer utiliza un entorno de ejecución de confianza—un contexto de computación aislado en el cual los datos se procesan sin posibilidad de interceptación, ni siquiera por parte de los operadores de los propios servidores.

El sistema está construido de manera que nadie—ni empleados de la empresa ni observadores externos—pueda acceder al contenido de la correspondencia. Una tarea técnicamente no trivial. El cifrado de extremo a extremo estándar funciona perfectamente para el intercambio de mensajes entre personas: el texto se cifra en el dispositivo del remitente y se descifra solo en el dispositivo del destinatario, el servidor solo ve datos cifrados.

Con la IA, la situación es diferente: un modelo de lenguaje debe procesar la solicitud, lo que significa que en el momento del cálculo, el texto inevitablemente existe en forma no cifrada. El enfoque a través de un entorno de ejecución de confianza (TEE) elude esta limitación: el procesamiento ocurre en un contexto aislado por hardware, cuyos resultados son verificables criptográficamente, y el contenido es inaccesible desde el exterior. La escala del efecto potencial es difícil de sobrestimar.

Meta AI está integrado en WhatsApp, Instagram, Facebook y Messenger—un ecosistema con más de tres mil millones de usuarios activos mensuales. La mayoría de ellos nunca se han planteado quién ve sus conversaciones con el asistente de IA. Mientras tanto, las personas están cada vez más discutiendo temas con IA que requieren confidencialidad: estado de salud, problemas familiares, decisiones financieras, cuestiones profesionales.

Hoy en día, estas conversaciones van a servidores sin ninguna garantía criptográfica. La asociación parece inesperada considerando el historial de Meta. La empresa durante mucho tiempo se ha asociado con la recopilación masiva de datos—basta recordar el escándalo de Cambridge Analytica o los numerosos litigios en torno al seguimiento de anuncios.

Marlinspike, por el contrario, siempre ha mantenido una postura firme sobre cuestiones de privacidad y ha criticado repetidamente a las grandes corporaciones tecnológicas por su actitud hacia los datos de los usuarios. Que haya elegido Meta sugiere o bien la seriedad de las intenciones de la empresa o que la escala de la audiencia le pareció demasiado significativa para la industria como para rechazarla. Si la integración tiene éxito, podría convertirse en un punto de inflexión para toda la industria de IA.

Hoy en día, la privacidad en productos de IA es en gran medida una promesa de marketing: las empresas dicen que no ven la correspondencia, pero técnicamente esto no está respaldado por nada. El enfoque de Marlinspike presupone verificación criptográfica: un usuario podrá verificar que sus datos están realmente protegidos, en lugar de simplemente confiar en la palabra de la empresa. Para una industria que solo está formando estándares de confianza entre personas e IA, este paso es capaz de establecer una nueva referencia.