Первая ласточка уступок социальным волнениям в Америке: в Санта-Круз запретили систему предсказания преступлений, т.к. нейросеть способствует предвзятому отношению к чернокожим.
Система PredPol работает так: алгоритмы машинного обучения определяют наиболее вероятные места будущих преступлений. Туда заранее направляют полицейские патрули.
«Предсказание преступлений и распознавание лиц могут быть предвзяты в отношении цветных людей, поэтому мы официально запретили использование этих технологий в городе Санта-Круз», — заявил первый афроамериканский мэр города Джастин Каммингс (Justin Cummings).
Мэр добавил, что таким образом городская администрация «помогает устранить расизм в полицейской деятельности».
К настоящему моменту, несмотря на отсутствие официального юридического статуса, предсказание преступлений методами машинного обучения используется полицией на всей территории США в течение почти десяти лет. Технология опирается на алгоритмы интерпретации полицейских записей, анализа данных об арестах или условно-досрочном освобождении, чтобы направить сотрудников на поиск рецидивистов или определения мест, где может произойти преступление.
По мнению критиков PredPol, районы с низким доходом и этническими меньшинствами исторически и так «чрезмерно патрулируются», поэтому данные показывают, что они являются горячими точками преступности, что приводит к отправке туда ещё большего числа полицейских. А где полицейские в США, там, как известно, и расовый произвол.
Ранее городской совет Бостона проголосовал за запрет технологии распознавания и отслеживания лиц, что также приветствовали активисты за цифровые права. По-видимому Запад, сделавший гигантский рывок в сторону цифровых технологий, ждет реакционный откат на волне #BlackLivesMatter.
Читайте также на АКБ:
Особое британское мнение: ИИ на службе Скотленд-Ярда отыщет потенциальных убийц
