До Скайнета еще далеко: обмануть нейросеть оказалось легче, чем обезьянку

Опубликовано at 16:52
99 0

Ученые обнаружили, что на самом деле искусственный интеллект не такой уж интеллектуальный – во всяком случае, пока. Выяснилось, что обмануть нейросеть при распознавании образов элементарно – для этого надо чуть-чуть повернуть объект на изображении.

Простота открытия и серьезность проблемы, которую оно ставит, ошеломили ученых. Так, выяснилось, что нейросеть Inception-v3 правильно распознает один и тот же объект лишь в 3% случаев.

Проводивших эксперименты исследователей Обернского университета (США) и компании Adobe изначально беспокоила специфическая проблема – ошибки при распознавании объектов на так называемых «изображениях-обманках» (adversarial examples). Подобные «обманки» специально создаются (да-да, мы уже живем в будущем), чтобы ввести нейросеть в заблуждение. Для этого в изображения вносятся незначительные изменения, которые невидимы для человеческого глаза, но моментально различимы для нейросети.

При тестировании ПО на разработанной Google нейросети Inception-v3. специалисты выбрали три десятка 3D-моделей объектов, наиболее часто встречающихся во время езды на автомобиле. Для каждой модели они создали целый ряд вариаций с разными ракурсами и освещением.

В итоге оказалось, что «обманки» можно даже не изготавливать специально: Inception-v3 верно распознает изображение одного и того же объекта только в 3,09% случаев. Нейросеть ошибалась даже при повороте объекта лишь на 8%

В исследовании приводятся данные, свидетельствующие о том, что это проблема, не специфичная для конкретной нейросети, а общая для них в целом.

Подписываемся, следим @CyberAgency

Related Post

Следующая игра создателя Pokémon Go будет включать аудио и дополненную реальность

Опубликовано - 19.09.2017 0
Niantic, компания-создатель популярной мобильной игры Pokémon Go, разрабатывает новую игру, которая будет включать звуковые сигналы, как сообщает исполнительный директор Phil…

ЦБ пойдет в ICANN

Опубликовано - 13.03.2017 0
Центробанк (ЦБ) намерен договориться с ICANN, чтобы напрямую через корпорацию снимать с делегирования домены с фишинговыми ресурсами, рассказал заместитель начальника…

Кто взломал Мексику: призрак Русского Хакера бродит по могиле Троцкого накануне выборов

Опубликовано - 29.06.2018 0
Мексиканские медиа обвинили Россию в попытке заDDoSить сайт Партии национального действия накануне всеобщих выборов 1 июля. По мнению правоохранительных органов…

Добавить комментарий