Армия США нашла способ борьбы с бэкдорами в распознавании лиц

Опубликовано at 27.01.2020
253 0

Пока продолжаются формальные споры насчет распознавания лиц в общественных местах, Пентагон уже давно перешел на следующую ступень и борется с кибератаками на распознавание лиц.

Армия США использует технологии распознавания лиц и объектов для обучения систем искусственного интеллекта (ИИ), использующихся в беспилотных летательных аппаратах, системах слежения и пр. Большую угрозу представляют бэкдоры в платформах распознавания лиц, поскольку с их помощью злоумышленники могут повлиять на обучение ИИ.

Переобучивание неправильно обученного ИИ стоит дорого и длится долго. Сломать его в процессе обучения вполне реально: модели ИИ опираются на массивные наборы данных, и в случае компрометации используемых для распознавания лиц данных (таких как одежда, форма, ушей, цвет глаз и т.п.) ИИ будет неверно идентифицировать людей.

На практике это значит, например, что находящиеся под наблюдением подозреваемые будут идентифицированы неверно и в итоге избегут обнаружения.

Такую атаку невозможно выявить невооруженным взглядом, поскольку используемые для обучения наборы данных выглядят нормально и не вызывают никаких сбоев в работе нейронных сетей. Тем не менее, в них могут быть внедрены вредоносный код или визуальные подсказки, способные повлиять на обучение ИИ.

Разработанный учеными Университета Дьюка инструмент способен слой за слоем сканировать изображения в поисках признаков постороннего вмешательства. На его создание ушло девять месяцев и $60 тыс., выделенных в качестве гранта Армейской исследовательской лабораторией.

Напомним, ранее стало известно, что армия США потратит не менее $1,5 млн на разработку технологии распознавания лиц в темноте путем обработки теплового излучения лица.

В требованиях в базе госзакупок указано, что технология должна работать в темноте и на расстоянии от 10 до 500 метров, причем датчики должны демонстрировать хорошие результаты даже в сложных условиях — когда лицо видно через лобовое стекло или когда цель затемнена из-за плохой погоды, например, в тумане.

В пользовательском отношении военные хотят небольшую революцию: чтобы предложенная технология была встроена в устройство небольшого размера, которое мог бы нести человек. Лица автоматически сопоставляются с базой данных (как в «Терминаторе» прямо). На все про все выделили 20 месяцев.

Подписываемся, следим @CyberAgency

Related Post

Паттерны прикосновений: починка тачскрина может подсадить шпиона в ваш телефон

Опубликовано - 10.07.2018 0
Специалисты Университета имени Давида Бен-Гуриона в Негеве (Израиль) продемонстрировали, как злоумышленник может определить данные, вводимые пользователем на сенсорном экране. Данные…

Сенаторы задумались о создании детской киберполиции

Опубликовано - 31.03.2017 0
Для борьбы с киберпреступлениями против детей необходимо создать специальную межведомственную группу, в которую должны войти медицинские специалисты, представители правоохранительных органов…