Clarifai destruye, por exigencia de la FTC, 3 millones de fotos de usuarios de OkCupid cedidas para entrenar IA

Clarifai ha eliminado 3 millones de fotografías de usuarios de la plataforma de citas OkCupid, que esta le había cedido para entrenar algoritmos de reconocimiento facial. El borrado fue una condición del acuerdo para resolver las reclamaciones de la Comisión Federal de Comercio de EE. UU. (FTC). Los detalles del caso se conocen por documentos judiciales.

Todo comenzó en 2014. Clarifai, una de las pioneras de la visión artificial, se dirigió a OkCupid para pedirle datos de usuarios. La plataforma aceptó y entregó millones de fotografías de personas reales registradas en el sitio de citas. Las imágenes se usaron para entrenar un modelo de reconocimiento facial sin avisar a los usuarios y sin su consentimiento explícito.

Los documentos judiciales revelaron un detalle fundamental: en aquel momento, los directivos de OkCupid eran inversores de Clarifai. Eso suponía un conflicto de intereses directo, ya que quienes decidieron ceder los datos tenían un interés personal en el éxito de la empresa receptora. Los reguladores consideran desde hace tiempo que este tipo de esquema es una señal de alarma en materia de protección de la privacidad.

La FTC investigó y alcanzó un acuerdo con Clarifai. La condición clave fue la destrucción de todas las fotografías recibidas de OkCupid. La empresa cumplió. Las sanciones económicas del acuerdo no se han hecho públicas.

El caso se suma a una amplia ola de procedimientos por el uso de datos personales para entrenar IA. En las primeras etapas del aprendizaje automático, las empresas recurrían con frecuencia a métodos de recopilación de datos que hoy se consideran violaciones de la privacidad. Las fotos de plataformas de citas son especialmente sensibles: contienen datos biométricos, están vinculadas a una persona real y se subieron con fines totalmente distintos.

Clarifai se fundó en 2013 y se convirtió en una de las empresas líderes en reconocimiento de imágenes. El incidente con OkCupid muestra lo difusa que era entonces la frontera entre los «datos de socios» y el uso no autorizado de información ajena.

El acuerdo con la FTC no implica automáticamente un reconocimiento de culpa, pero indica que el regulador consideró problemática la práctica. En los últimos años, la FTC ha reforzado de forma notable la supervisión de las empresas que recopilan datos biométricos sin informar debidamente a los usuarios. Al mismo tiempo, varios estados han aprobado leyes que prohíben expresamente recopilar datos biométricos sin consentimiento explícito, sobre todo Illinois con su ley BIPA.

Eliminar tres millones de fotografías no restituye por sí solo la privacidad vulnerada. Los datos ya se usaron para entrenar el modelo, y el resultado de ese entrenamiento no ha desaparecido. Es la contradicción central de todos estos acuerdos: destruir un conjunto de datos no borra los patrones que el algoritmo ya extrajo de él. Por eso los expertos en derechos digitales sostienen que la solución real debe ser prohibir el uso de esos datos desde el principio, y no borrarlos después.

Para la industria, el caso es un nuevo recordatorio de que prácticas de recopilación de datos que parecían neutrales hace diez años hoy se consideran infracciones. Las empresas de IA se enfrentan cada vez más a reclamaciones retroactivas por decisiones tomadas en los albores del aprendizaje automático.