До Скайнета еще далеко: обмануть нейросеть оказалось легче, чем обезьянку

Опубликовано at 16:52
230 0

Ученые обнаружили, что на самом деле искусственный интеллект не такой уж интеллектуальный – во всяком случае, пока. Выяснилось, что обмануть нейросеть при распознавании образов элементарно – для этого надо чуть-чуть повернуть объект на изображении.

Простота открытия и серьезность проблемы, которую оно ставит, ошеломили ученых. Так, выяснилось, что нейросеть Inception-v3 правильно распознает один и тот же объект лишь в 3% случаев.

Проводивших эксперименты исследователей Обернского университета (США) и компании Adobe изначально беспокоила специфическая проблема – ошибки при распознавании объектов на так называемых «изображениях-обманках» (adversarial examples). Подобные «обманки» специально создаются (да-да, мы уже живем в будущем), чтобы ввести нейросеть в заблуждение. Для этого в изображения вносятся незначительные изменения, которые невидимы для человеческого глаза, но моментально различимы для нейросети.

При тестировании ПО на разработанной Google нейросети Inception-v3. специалисты выбрали три десятка 3D-моделей объектов, наиболее часто встречающихся во время езды на автомобиле. Для каждой модели они создали целый ряд вариаций с разными ракурсами и освещением.

В итоге оказалось, что «обманки» можно даже не изготавливать специально: Inception-v3 верно распознает изображение одного и того же объекта только в 3,09% случаев. Нейросеть ошибалась даже при повороте объекта лишь на 8%

В исследовании приводятся данные, свидетельствующие о том, что это проблема, не специфичная для конкретной нейросети, а общая для них в целом.

Подписываемся, следим @CyberAgency

Related Post

Пентагон обнаружил тысячи дефектов в системах безопасности

Опубликовано - 13.11.2017 0
Программа bug bounty (вознаграждение за вычисление дефектов в системах) и политика раскрытия уязвимостей помогли министерству обороны США исправить тысячи недостатков…

Банковские карты с отпечатком пальцев не смогут одолеть смартфоны

Опубликовано - 21.04.2017 0
MasterCard создала банковскую карту со встроенным сканером отпечатков пальцев. Об этом сообщает агентство ТАСС со ссылкой на пресс-релиз компании. Применение…

Депутат ГД выпустит из тюрьмы киберпреступников

Опубликовано - 01.02.2018 0
Депутат Госдумы Ирина Гусева направила Вячеславу Володину на рассмотрение законопроект, который позволит хакерам избежать тюремного заключения. Наказанием для киберпреступников в…

Наш ответ киберпреступлениям

Опубликовано - 24.03.2017 0
Россия совместно с Шанхайской организацией сотрудничества (основана Китаем, Россией, Казахстаном, Таджикистаном, Киргизией и Узбекистаном) подготовили проект конвенции по кибербезопасности под…

Добавить комментарий