Американский союз защиты гражданских свобод (American Civil Liberties Union, ACLU) протестировал систему распознавания лиц Amazon под названием Rekognition на конгрессменах США. ПО ошибочно определило 28 членов Конгресса из 535 как преступников из федеральной базы.
Как утверждают правозащитники, они загрузили в систему 25 тысяч фотографий арестантов из открытого источника. Затем члены ACLU загрузили официальные фотографии всех 535 членов Конгресса, предложив Rekognition сопоставить их с любой из фотографий преступников. В итоге система обнаружила 28 совпадений.
Сочтя это высокой возможностью ошибки, ACLU призвала Конгресс «принять мораторий на использование правоохранительными органами систем для распознавания лиц». Представители Amazon, однако, не согласились с такими выводами, и указали, что правозащитники просто некорректно настроили программу.
«Выставленный ACLU 80% уровень соответствия фотографий является приемлемым порогом для изображений хот-догов, стульев и животных, однако было бы нецелесообразно идентифицировать людей с данными настройками. При использовании системы распознавания лиц для деятельности правоохранительных органов мы рекомендуем клиентам устанавливать порог соответствия не менее 95% или выше», — сообщили представители Amazon.
Реакция Конгресса на инцидент пока не известна.
