Clarifai по требованию FTC уничтожила 3 млн фото пользователей OkCupid, слитых для обучения ИИ

Clarifai удалила 3 миллиона фотографий пользователей дейтинг-платформы OkCupid, которые та передала компании для обучения алгоритмов распознавания лиц. Удаление стало условием урегулирования претензий Федеральной торговой комиссии США. Детали дела раскрыты в судебных документах.

История началась в 2014 году. Clarifai — один из пионеров в области компьютерного зрения — обратилась к OkCupid с просьбой предоставить пользовательские данные. Платформа согласилась и передала миллионы фотографий реальных людей, зарегистрированных на сайте знакомств.

Снимки использовались для тренировки модели распознавания лиц без уведомления самих пользователей и без их явного согласия. Судебные документы раскрыли принципиальную деталь: руководители OkCupid в тот период сами являлись инвесторами Clarifai. Это означало прямой конфликт интересов — люди, принимавшие решение о передаче данных, лично были заинтересованы в успехе компании-получателя.

Подобная схема давно считается красным флагом для регуляторов в сфере защиты конфиденциальности. FTC провела расследование и заключила мировое соглашение с Clarifai. Ключевым условием стало уничтожение всех фотографий, полученных от OkCupid.

Компания выполнила требование. Финансовые санкции в рамках соглашения публично не раскрывались. Этот случай вписывается в широкую волну разбирательств, связанных с использованием персональных данных для обучения ИИ.

На раннем этапе развития машинного обучения компании нередко прибегали к методам сбора данных, которые сегодня расцениваются как нарушение приватности. Фотографии с дейтинг-платформ особенно чувствительны: они содержат биометрические данные, привязаны к реальной личности и изначально предназначались совершенно для других целей. Clarifai была основана в 2013 году и стала одной из ведущих компаний в области распознавания изображений.

Инцидент с OkCupid показывает, насколько размытой была граница между «партнёрскими данными» и несанкционированным использованием чужой информации в те годы. Соглашение с FTC не означает автоматического признания вины, однако сигнализирует о том, что регулятор счёл практику проблематичной. В последние годы FTC существенно усилила надзор за компаниями, собирающими биометрические данные без надлежащего уведомления пользователей.

Параллельно ряд штатов принял законы, прямо запрещающие сбор биометрии без явного согласия — прежде всего Иллинойс с законом BIPA. Удаление трёх миллионов фотографий само по себе не восстанавливает нарушенную приватность. Данные уже использовались при обучении модели, и результат этого обучения никуда не исчез.

В этом ключевое противоречие всех подобных урегулирований: уничтожение датасета не стирает паттерны, которые алгоритм успел из него извлечь. Именно поэтому эксперты в области цифровых прав настаивают, что реальным решением должен быть запрет на использование таких данных с самого начала, а не их последующее удаление. Для индустрии это дело — очередное напоминание о том, что практики сбора данных, казавшиеся нейтральными десять лет назад, сегодня квалифицируются как нарушение.

Компании, разрабатывающие ИИ, всё чаще сталкиваются с ретроспективными претензиями за решения, принятые на заре машинного обучения.