Армия США нашла способ борьбы с бэкдорами в распознавании лиц

Опубликовано at 27.01.2020
227 0

Пока продолжаются формальные споры насчет распознавания лиц в общественных местах, Пентагон уже давно перешел на следующую ступень и борется с кибератаками на распознавание лиц.

Армия США использует технологии распознавания лиц и объектов для обучения систем искусственного интеллекта (ИИ), использующихся в беспилотных летательных аппаратах, системах слежения и пр. Большую угрозу представляют бэкдоры в платформах распознавания лиц, поскольку с их помощью злоумышленники могут повлиять на обучение ИИ.

Переобучивание неправильно обученного ИИ стоит дорого и длится долго. Сломать его в процессе обучения вполне реально: модели ИИ опираются на массивные наборы данных, и в случае компрометации используемых для распознавания лиц данных (таких как одежда, форма, ушей, цвет глаз и т.п.) ИИ будет неверно идентифицировать людей.

На практике это значит, например, что находящиеся под наблюдением подозреваемые будут идентифицированы неверно и в итоге избегут обнаружения.

Такую атаку невозможно выявить невооруженным взглядом, поскольку используемые для обучения наборы данных выглядят нормально и не вызывают никаких сбоев в работе нейронных сетей. Тем не менее, в них могут быть внедрены вредоносный код или визуальные подсказки, способные повлиять на обучение ИИ.

Разработанный учеными Университета Дьюка инструмент способен слой за слоем сканировать изображения в поисках признаков постороннего вмешательства. На его создание ушло девять месяцев и $60 тыс., выделенных в качестве гранта Армейской исследовательской лабораторией.

Напомним, ранее стало известно, что армия США потратит не менее $1,5 млн на разработку технологии распознавания лиц в темноте путем обработки теплового излучения лица.

В требованиях в базе госзакупок указано, что технология должна работать в темноте и на расстоянии от 10 до 500 метров, причем датчики должны демонстрировать хорошие результаты даже в сложных условиях — когда лицо видно через лобовое стекло или когда цель затемнена из-за плохой погоды, например, в тумане.

В пользовательском отношении военные хотят небольшую революцию: чтобы предложенная технология была встроена в устройство небольшого размера, которое мог бы нести человек. Лица автоматически сопоставляются с базой данных (как в «Терминаторе» прямо). На все про все выделили 20 месяцев.

Подписываемся, следим @CyberAgency

Related Post