И еще один способ обмануть Паноптикум, в который превратится весь мир уже завтра (а Россия превращается в центральной части уже сегодня)
Назвали систему Fawkes, в честь Гая Фокса, маскота движения анонимусов (образ стал популярен после выхода фильма «V значит Vендетта» по комиксу Алана Мура).
Технология заключается в том, что «незаметные искажения» изображения могут сбить с толку даже самые передовые алгоритмы распознавания. С момента публикации доклада на эту тему в 2014 году уже прошла целая волна исследований, в том числе от Facebook, посвященных обходу систем распознавания изображений с помощью так называемых состязательных атак (adversarial attack) – способ аобмана нейросетей путем введения нестандартных данных.
Разработанная специалистами Чикагского университета программа получила название Fawkes, она «покрывает» изображение небольшим количеством пикселей, невидимых для человеческого глаза. Если такое фото (например, взятое из соцсетей) использовать для обучения алгоритмов распознавания, то потом они не смогут правильно идентифицировать изображенного на фото человека. Специалисты протестировали свою программу на системах распознавания лиц Amazon, Microsoft и Megvii и в 100% случаев смогли их обмануть.
По словам создателей Fawkes, их программа позволяет пользователям «в любое время сделать себе прививку против неавторизованных моделей распознавания лиц без заметного искажения своих фотографий».
Проблема, однако, в количестве информации в соцсетях. Если при обучении алгоритмов распознавания использовать менее 85% фото с «напылением», эффективность Fawkes снижается до 39%, а у большинства активных пользователей соцсетей в интернет уже загружены сотни, а то и тысячи оригинальных фотографий.
Так что наилучшим образом парадоксально технология сработает для сумрачных титанов одиночества. Или для террористов вроде того самого Гая Фокса.
Читайте также на АКБ:
