Meta suspende trabalho com a Mercor após vazamento de dados sobre treinamento de modelos de IA

A Mercor, uma das principais fornecedoras de dados para a indústria de IA, está no centro de um grave incidente de segurança. Vários dos maiores laboratórios de IA abriram investigações internas, e a Meta, uma das principais clientes da empresa, anunciou a suspensão da colaboração. Dados confidenciais sobre métodos de treinamento de modelos de IA podem ter ficado em risco: informações que as empresas de tecnologia protegem de perto como seu principal ativo competitivo.

A Mercor é uma plataforma que conecta empresas de IA a milhares de especialistas em rotulagem e anotação de dados no mundo todo. Os dados rotulados, ou seja, textos, diálogos e imagens cuidadosamente selecionados e marcados com indicadores de qualidade, são a base do treinamento dos modelos de linguagem atuais. Sem rotulagem de qualidade, não existiriam nem o GPT-4, nem o Claude, nem o Llama. A Mercor atendia os principais players do mercado e, em poucos anos, tornou-se uma das fornecedoras mais visíveis do segmento.

A questão central do incidente é o que exatamente pode ter sido exposto. Não se trata apenas do vazamento de uma base de clientes ou de dados pessoais. Instruções para anotadores, categorias de dados e esquemas de preferência (os rótulos de RLHF, pelos quais os modelos aprendem a dar as respostas desejadas) revelam, de forma indireta, as decisões metodológicas de cada empresa. Desenvolver esses processos custa centenas de milhões de dólares e exige anos de experiência acumulada. Em valor, o comprometimento desses dados equivale ao vazamento de código-fonte.

A Meta reagiu rápido e de forma preventiva: suspendeu o trabalho com a Mercor até que o quadro completo do incidente seja esclarecido. É o protocolo padrão diante da suspeita de comprometimento da cadeia de suprimentos: continuar repassando dados sensíveis a uma fornecedora com status de segurança desconhecido é um risco injustificável. Ainda mais porque a Meta investe dezenas de bilhões em seus próprios sistemas de IA, incluindo a família de modelos abertos Llama e o assistente Meta AI.

Outros laboratórios de IA que trabalharam com a Mercor também conduzem verificações próprias. Ainda não foi estabelecido o que exatamente foi comprometido, em que volume, nem se o incidente resulta de um ataque cibernético externo ou de uma falha interna de segurança. Nem a Mercor nem as empresas envolvidas divulgaram, por enquanto, detalhes técnicos do ocorrido.

O caso expõe uma vulnerabilidade sistêmica da indústria de IA. A terceirização em massa da rotulagem de dados significa que dezenas, ou até centenas, de empresas intermediárias participam da cadeia de produção de cada grande modelo de IA. Cada uma tem acesso a fragmentos da metodologia confidencial de seus clientes. Mesmo assim, não há padrões de segurança setoriais unificados para esses fornecedores: nem auditorias obrigatórias, nem exigências de criptografia, nem protocolos de notificação de incidentes.

Para a Mercor, é uma crise de reputação. O negócio da empresa se baseia inteiramente na confiança dos laboratórios de IA, e essa confiança agora está em xeque. Mesmo que a investigação mostre que o dano real foi limitado, o próprio incidente e a reação pública da Meta vão alterar a posição de negociação da empresa no mercado.

Esse incidente deve acelerar a discussão sobre padrões de segurança obrigatórios para fornecedores de dados. A metodologia de treinamento é a principal arma competitiva na corrida da IA. Não é mais possível tratar fornecedores de dados como prestadores de serviço comuns: o nível de verificação e controle deve corresponder ao nível de acesso a informações confidenciais.

A escala do incidente e a lista completa de empresas afetadas ainda não foram divulgadas. Os detalhes da investigação devem se tornar conhecidos em breve.

*A Meta foi declarada organização extremista e é proibida na Rússia.