Ученые обнаружили, что на самом деле искусственный интеллект не такой уж интеллектуальный – во всяком случае, пока. Выяснилось, что обмануть нейросеть при распознавании образов элементарно – для этого надо чуть-чуть повернуть объект на изображении.
Простота открытия и серьезность проблемы, которую оно ставит, ошеломили ученых. Так, выяснилось, что нейросеть Inception-v3 правильно распознает один и тот же объект лишь в 3% случаев.
Проводивших эксперименты исследователей Обернского университета (США) и компании Adobe изначально беспокоила специфическая проблема – ошибки при распознавании объектов на так называемых «изображениях-обманках» (adversarial examples). Подобные «обманки» специально создаются (да-да, мы уже живем в будущем), чтобы ввести нейросеть в заблуждение. Для этого в изображения вносятся незначительные изменения, которые невидимы для человеческого глаза, но моментально различимы для нейросети.
При тестировании ПО на разработанной Google нейросети Inception-v3. специалисты выбрали три десятка 3D-моделей объектов, наиболее часто встречающихся во время езды на автомобиле. Для каждой модели они создали целый ряд вариаций с разными ракурсами и освещением.
В итоге оказалось, что «обманки» можно даже не изготавливать специально: Inception-v3 верно распознает изображение одного и того же объекта только в 3,09% случаев. Нейросеть ошибалась даже при повороте объекта лишь на 8%
В исследовании приводятся данные, свидетельствующие о том, что это проблема, не специфичная для конкретной нейросети, а общая для них в целом.
