A pedido da FTC, a Clarifai destruiu 3 milhões de fotos de usuários do OkCupid vazadas para treinamento de AI

A Clarifai deletou 3 milhões de fotografias de usuários da plataforma de namoro OkCupid, que a plataforma forneceu à empresa para treinar algoritmos de reconhecimento facial. A exclusão tornou-se uma condição para resolver as reclamações da Comissão Federal de Comércio dos EUA. Os detalhes do caso foram revelados em documentos judiciais.

A história começou em 2014. A Clarifai — uma das pioneiras em visão por computador — abordou a OkCupid com um pedido para fornecer dados de usuários. A plataforma concordou e forneceu milhões de fotografias de pessoas reais registradas no site de namoro.

As imagens foram usadas para treinar um modelo de reconhecimento facial sem notificar os próprios usuários e sem seu consentimento explícito. Os documentos judiciais revelaram um detalhe fundamental: os líderes da OkCupid durante esse período eram eles próprios investidores da Clarifai. Isso significava um conflito direto de interesses — as pessoas que tomaram a decisão de transferir dados eram pessoalmente interessadas no sucesso da empresa receptora.

Tal esquema há muito é considerado uma bandeira vermelha para os reguladores no campo da proteção da privacidade. A FTC conduziu uma investigação e chegou a um acordo com a Clarifai. A condição-chave foi a destruição de todas as fotografias obtidas da OkCupid.

A empresa cumpriu o requisito. As penalidades financeiras sob o acordo não foram divulgadas publicamente. Este caso se encaixa em uma onda ampla de processos relacionados ao uso de dados pessoais para treinar IA.

Nos primeiros estágios do desenvolvimento de aprendizado de máquina, as empresas frequentemente recorriam a métodos de coleta de dados que agora são considerados violações da privacidade. Fotografias de plataformas de namoro são particularmente sensíveis: contêm dados biométricos, estão vinculadas a indivíduos reais e foram originalmente destinadas a propósitos completamente diferentes. A Clarifai foi fundada em 2013 e tornou-se uma das principais empresas em reconhecimento de imagens.

O incidente com a OkCupid mostra como estava obscura a linha entre "dados de parceiros" e uso não autorizado de informações de terceiros naqueles anos. O acordo com a FTC não significa admissão automática de culpa, mas sinaliza que o regulador considerou a prática problemática. Nos últimos anos, a FTC fortaleceu significativamente a supervisão de empresas que coletam dados biométricos sem notificação apropriada dos usuários.

Paralelamente, vários estados aprovaram leis que proíbem diretamente a coleta de dados biométricos sem consentimento explícito — notavelmente Illinois com a lei BIPA. A exclusão de três milhões de fotografias não restaura por si só a privacidade violada. Os dados já foram usados no treinamento do modelo, e o resultado desse treinamento não desapareceu.

Esta é a principal contradição de todos esses acordos: destruir um conjunto de dados não apaga os padrões que o algoritmo conseguiu extrair dele. É por isso que especialistas em direitos digitais insistem que a solução real deveria ser uma proibição do uso de tais dados desde o início, não sua exclusão subsequente. Para a indústria, este caso é outro lembrete de que as práticas de coleta de dados que pareciam neutras dez anos atrás agora são classificadas como violações.

Empresas que desenvolvem IA enfrentam cada vez mais reclamações retroativas por decisões tomadas nos primeiros dias do aprendizado de máquina.