Por exigencia de la FTC, Clarifai destruyó 3 millones de fotos de usuarios de OkCupid filtradas para entrenar AI

Clarifai eliminó 3 millones de fotografías de usuarios de la plataforma de citas OkCupid, que la plataforma proporcionó a la empresa para entrenar algoritmos de reconocimiento facial. La eliminación se convirtió en una condición para resolver las demandas de la Comisión Federal de Comercio de EE.UU.

Los detalles del caso fueron revelados en documentos judiciales. La historia comenzó en 2014. Clarifai — una de las pioneras en visión por computadora — se acercó a OkCupid con una solicitud para proporcionar datos de usuarios.

La plataforma accedió y proporcionó millones de fotografías de personas reales registradas en el sitio de citas. Las imágenes fueron utilizadas para entrenar un modelo de reconocimiento facial sin notificar a los propios usuarios y sin su consentimiento explícito. Los documentos judiciales revelaron un detalle fundamental: los líderes de OkCupid durante ese período eran ellos mismos inversores en Clarifai.

Esto significaba un conflicto directo de intereses — las personas que tomaban la decisión de transferir datos estaban personalmente interesadas en el éxito de la empresa receptora. Un esquema de este tipo ha sido considerado durante mucho tiempo una bandera roja para los reguladores en el ámbito de la protección de la privacidad. La FTC realizó una investigación y llegó a un acuerdo con Clarifai.

La condición clave fue la destrucción de todas las fotografías obtenidas de OkCupid. La empresa cumplió con el requisito. Las sanciones financieras del acuerdo no se hicieron públicas.

Este caso se inscribe en una amplia ola de procedimientos relacionados con el uso de datos personales para entrenar IA. En las primeras etapas del desarrollo del aprendizaje automático, las empresas frecuentemente recurrían a métodos de recopilación de datos que hoy se consideran violaciones de privacidad. Las fotografías de plataformas de citas son particularmente sensibles: contienen datos biométricos, están vinculadas a individuos reales y fueron originalmente destinadas a propósitos completamente diferentes.

Clarifai fue fundada en 2013 y se convirtió en una de las principales empresas en reconocimiento de imágenes. El incidente con OkCupid muestra cuán difusa era la línea entre "datos asociados" y el uso no autorizado de información ajena en aquellos años. El acuerdo con la FTC no significa una admisión automática de culpa, pero señala que el regulador consideró la práctica problemática.

En los últimos años, la FTC ha fortalecido significativamente la supervisión de las empresas que recopilan datos biométricos sin la debida notificación a los usuarios. Paralelamente, varios estados han aprobado leyes que prohíben directamente la recopilación de datos biométricos sin consentimiento explícito — especialmente Illinois con la ley BIPA. La eliminación de tres millones de fotografías no restaura por sí sola la privacidad violada.

Los datos ya se utilizaron en el entrenamiento del modelo, y el resultado de ese entrenamiento no ha desaparecido. Esta es la contradicción clave de todos esos acuerdos: destruir un conjunto de datos no borra los patrones que el algoritmo logró extraer de él. Por eso los expertos en derechos digitales insisten en que la solución real debería ser una prohibición del uso de tales datos desde el principio, no su posterior eliminación.

Para la industria, este caso es otro recordatorio de que las prácticas de recopilación de datos que parecían neutrales hace diez años ahora se clasifican como violaciones. Las empresas que desarrollan IA enfrentan cada vez más demandas retroactivas por decisiones tomadas en los primeros días del aprendizaje automático.