ACLU судится с полицией Флориды из-за ошибки распознавания лиц

ACLU подала иск к двум полицейским департаментам Флориды по делу о неправомерном аресте мужчины из Форт-Майерса, обвиняемого в похищении ребенка. По мнению организации, полицейские ошибочно использовали систему распознавания лиц как основное доказательство вины, игнорируя явные недостатки технологии.

Когда система ошибилась Арест произошел на основе совпадения, выданного системой распознавания лиц.

Полицейские трактовали результат поиска как почти достоверное доказательство и арестовали мужчину. Однако впоследствии выяснилось, что совпадение было ошибочным — технология неправильно идентифицировала человека.

Проблема, которая известна давно

Распознавание лиц — одна из старейших ИИ-технологий, применяемых американской полицией. Но она печально известна своей ненадежностью. ACLU и другие организации годами указывают на одни и те же проблемы: Ошибки идентификации особенно часто случаются на фото низкого качества Системы, обученные на недостаточно разнообразных датасетах, дают искаженные результаты Полицейские переоценивают точность и надежность результатов Алгоритмы могут выдать очень уверенное совпадение, которое на деле ошибочно При этом полицейские часто используют результаты системы как стартовую точку для расследования, но затем опираются на них как на основное доказательство вины.

Что дальше Иск ACLU — попытка через суд добиться изменения практики.

Если организация выиграет, это может стать прецедентом для более строгого контроля использования распознавания лиц в расследованиях. Для многих полицейских департаментов это будет сигналом к переоценке своих процедур и введению дополнительных проверок перед использованием результатов технологии.

Что это означает

Дело показывает, что даже старейшие и давно применяемые технологии в правоохранительной системе нуждаются в переоценке и более строгих стандартах применения. Распознавание лиц остается одним из наименее надежных методов идентификации, но при этом широко используется.