Система распознавания лиц от Amazon идентифицировала членов Конгресса США как уголовников
Союз защиты гражданских свобод (American Civil Liberties Union, ACLU) протестировал систему распознавания лиц Amazon под названием Rekognition, — пишет aclunc.org.
По словам представителей организации, программное обеспечение ошибочно определило 28 членов Конгресса США как людей, которые были арестованы за преступления.
По словам юристов, организация загрузила в систему 25 тыс. фотографий людей из открытого источника. Затем члены ACLU загрузили официальные фотографии всех 535 членов Конгресса, предложив Rekognition сопоставить их с любой из фотографий преступников. В итоге система обнаружила 28 совпадений.
В связи с высокой возможностью ошибки ACLU призвала Конгресс «принять мораторий на использование правоохранительными органами систем для распознавания лиц».
По словам представителей Amazon, ошибки при сопоставлении фото были вызваны некорректной настройкой программы.
«Выставленный ACLU 80% уровень соответствия фотографий является приемлемым порогом для изображений хот-догов, стульев и животных, однако было бы нецелесообразно идентифицировать людей с данными настройками. При использовании системы распознавания лиц для деятельности правоохранительных органов мы рекомендуем клиентам устанавливать порог соответствия не менее 95% или выше», — отметили они.
