Mobile Fortify: американские спецслужбы играют в угадайку с вашим лицом

Представьте, что вы стоите на границе или просто идете по улице, а офицер направляет на вас смартфон. Пара секунд, и алгоритм выносит вердикт. Звучит как сцена из киберпанка, но для США это суровые будни приложения Mobile Fortify.

Проблема лишь в том, что это приложение технически не способно подтверждать личность с должной точностью. Оно просто не для этого создавалось. Однако это не помешало сотрудникам ICE и Таможенно-пограничной службы использовать его более 100 тысяч раз для проверки как мигрантов, так и граждан США.

История Mobile Fortify — это классический пример того, как желание внедрить инновации любой ценой превращает серьезные государственные институты в героев комедии абсурда. Изначально система задумывалась как вспомогательный инструмент, некий цифровой блокнот с доступом к базам данных. Но в какой-то момент она превратилась в основной молоток, которым бьют по любому гвоздю.

Чтобы легализовать этот процесс, Министерству внутренней безопасности пришлось пойти на маленькую хитрость. Они просто проигнорировали собственные правила оценки влияния на частную жизнь. Когда правила мешают прогрессу, бюрократы не меняют прогресс, они отменяют правила.

Почему это важно именно сейчас? Мы находимся на пике хайпа вокруг ИИ-инструментов, и государственные структуры по всему миру пытаются автоматизировать все, до чего могут дотянуться. Но когда речь заходит о распознавании лиц, цена ошибки — это не просто неправильно подобранная рекомендация в ленте новостей.

Это незаконные задержания, допросы и разрушенные жизни. Если система выдает лишь вероятностный ответ, а офицер воспринимает его как истину в последней инстанции, технология становится опаснее своего отсутствия. Самое ироничное здесь то, что само ведомство признало: Mobile Fortify не проходило тесты на соответствие стандартам идентификации.

Это как если бы полиция использовала вместо алкотестера гадание на кофейной гуще, но при этом оформляла протоколы с серьезным лицом. Система часто путает людей со схожими чертами лица, что в условиях работы с мигрантами превращается в настоящую лотерею. При этом данные сканирования сохраняются в базах, которые потом используются для обучения других, еще более инвазивных алгоритмов.

Мы видим опасный прецедент, когда «костыльное» решение становится стандартом де-факто. Технологии распознавания лиц и так находятся под огнем критики из-за предвзятости и ошибок в отношении этнических меньшинств. Использование заведомо неисправного или неподходящего софта только подливает масла в этот огонь.

Вместо того чтобы выстраивать прозрачную систему контроля, власти выбрали путь наименьшего сопротивления, где удобство интерфейса важнее гражданских прав. Это напоминает нам о том, что за любой «магией» ИИ стоит конкретный код и конкретные люди, которые этот код одобряют. Если на этапе одобрения здравый смысл заменяется желанием поставить галочку в отчете об инновациях, мы получаем цифровую антиутопию в масштабах целой страны.

И пока правозащитники пытаются оспорить использование Mobile Fortify, счетчик проверок продолжает тикать, фиксируя все новые и новые лица в системе, которая официально «не работает как надо». Главное: если даже спецслужбы США готовы использовать сомнительный софт в обход своих же правил, то насколько мы можем доверять любым другим государственным ИИ-системам без независимого аудита?