Meta suspende su trabajo con Mercor tras una filtración de datos sobre el entrenamiento de modelos de IA

Mercor, un proveedor líder de datos para la industria de la IA, está en el centro de un grave incidente de seguridad. Varios de los mayores laboratorios de IA han abierto investigaciones internas, y Meta, una de las clientas clave de la empresa, ha anunciado la suspensión de su colaboración. Podrían estar en peligro datos confidenciales sobre los métodos de entrenamiento de modelos de IA: información que las tecnológicas protegen con esmero como su principal activo competitivo.

Mercor es una plataforma que conecta a las empresas de IA con miles de especialistas en etiquetado y anotación de datos de todo el mundo. Los datos etiquetados, es decir, textos, diálogos e imágenes cuidadosamente seleccionados y marcados con etiquetas de calidad, son la base del entrenamiento de los modelos de lenguaje actuales. Sin un etiquetado de calidad no existirían ni GPT-4, ni Claude, ni Llama. Mercor atendía a los principales actores del mercado y en pocos años se convirtió en uno de los proveedores más visibles de este segmento.

La pregunta clave del incidente es qué pudo quedar expuesto exactamente. No se trata simplemente de la filtración de una base de clientes o de datos personales. Las instrucciones para anotadores, las categorías de datos y los esquemas de preferencias (las etiquetas de RLHF con las que los modelos aprenden a dar las respuestas deseadas) revelan de forma indirecta las decisiones metodológicas de cada empresa. Desarrollar estos procesos cuesta cientos de millones de dólares y exige años de experiencia acumulada. Por su valor, la compromisión de estos datos equivale a la filtración de un código fuente.

Meta reaccionó con rapidez y de forma preventiva: suspendió el trabajo con Mercor hasta aclarar el alcance total del incidente. Es el protocolo estándar ante la sospecha de una compromisión de la cadena de suministro: seguir entregando datos sensibles a un proveedor cuyo estado de seguridad se desconoce es un riesgo injustificado. Más aún cuando Meta invierte decenas de miles de millones en sus propios sistemas de IA, entre ellos la familia de modelos abiertos Llama y el asistente Meta AI.

Otros laboratorios de IA que trabajaron con Mercor también realizan sus propias verificaciones. Todavía no se ha establecido qué se comprometió exactamente, en qué volumen, ni si el incidente es consecuencia de un ciberataque externo o de un error interno de seguridad. Ni Mercor ni las empresas implicadas han revelado por ahora detalles técnicos de lo ocurrido.

El caso deja al descubierto una vulnerabilidad sistémica de la industria de la IA. La externalización masiva del etiquetado de datos implica que en la cadena de producción de cada gran modelo de IA participan decenas, si no cientos, de empresas intermediarias. Cada una accede a fragmentos de la metodología confidencial de sus clientes. Y, sin embargo, no existen estándares de seguridad sectoriales unificados para estos proveedores: ni auditorías obligatorias, ni requisitos de cifrado, ni protocolos de notificación de incidentes.

Para Mercor, es una crisis de reputación. El negocio de la empresa se basa por completo en la confianza de los laboratorios de IA, y esa confianza está ahora en entredicho. Incluso si la investigación demuestra que el daño real fue limitado, el propio incidente y la reacción pública de Meta cambiarán la posición negociadora de la compañía en el mercado.

Este incidente debería acelerar el debate sobre estándares de seguridad obligatorios para los proveedores de datos. La metodología de entrenamiento es el arma competitiva clave en la carrera de la IA. Ya no es posible tratar a los proveedores de datos como contratistas corrientes: el nivel de verificación y control debe corresponder al nivel de acceso a la información confidencial.

La magnitud del incidente y la lista completa de empresas afectadas aún no se han revelado. Los detalles de la investigación se conocerán en un futuro próximo.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.