До Скайнета еще далеко: обмануть нейросеть оказалось легче, чем обезьянку

Опубликовано at 16:52
48 0

Ученые обнаружили, что на самом деле искусственный интеллект не такой уж интеллектуальный – во всяком случае, пока. Выяснилось, что обмануть нейросеть при распознавании образов элементарно – для этого надо чуть-чуть повернуть объект на изображении.

Простота открытия и серьезность проблемы, которую оно ставит, ошеломили ученых. Так, выяснилось, что нейросеть Inception-v3 правильно распознает один и тот же объект лишь в 3% случаев.

Проводивших эксперименты исследователей Обернского университета (США) и компании Adobe изначально беспокоила специфическая проблема – ошибки при распознавании объектов на так называемых «изображениях-обманках» (adversarial examples). Подобные «обманки» специально создаются (да-да, мы уже живем в будущем), чтобы ввести нейросеть в заблуждение. Для этого в изображения вносятся незначительные изменения, которые невидимы для человеческого глаза, но моментально различимы для нейросети.

При тестировании ПО на разработанной Google нейросети Inception-v3. специалисты выбрали три десятка 3D-моделей объектов, наиболее часто встречающихся во время езды на автомобиле. Для каждой модели они создали целый ряд вариаций с разными ракурсами и освещением.

В итоге оказалось, что «обманки» можно даже не изготавливать специально: Inception-v3 верно распознает изображение одного и того же объекта только в 3,09% случаев. Нейросеть ошибалась даже при повороте объекта лишь на 8%

В исследовании приводятся данные, свидетельствующие о том, что это проблема, не специфичная для конкретной нейросети, а общая для них в целом.

Подписываемся, следим @CyberAgency

Related Post

Американцев выставят на продажу

Опубликовано - 30.03.2017 0
Палата представителей Конгресса США проголосовала за отмену введенного при президенте Бараке Обаме закона, обязывающего интернет-провайдеров получать разрешения на использование личных…

Странам БРИКС прописали отдельный интернет

Опубликовано - 30.11.2017 0
Рекомендацию Совета безопасности России фактически создать в странах БРИКС паралелльный интернет подтвердил сопредседатель Ассоциации юристов России Сергей Степашин. «Это была…

Добавить комментарий