Мы даже не знаем, как к этому подвести плавно. Помните, как искусственным интеллектом умного дома Amazon Ring оказалась толпа украинцев? Так вот, почему-то в эпоху ботнетов и ИИ корпорация Джеффа Безоса, самого богатого человека планеты, продолжает использовать каторжный труд тысяч рабов со всех концов света. Бедняги за символическую плату (как правило, на аутсорсе за рубежом, чтобы можно было обойти американский закон о минимальной з/п) вручную отслушивают и обрабатывают записи с колонок Echo «для улучшения способности Alexa понимать человека».
В целом, конечно, эта история вызывает скорее жалость к аутсорсерам, чем тревогу насчет того, что нас всех прослушивают. Устроено это примерно так: в команду «слушателей» входят как штатные сотрудники, работающие в различных региональных представительствах Amazon (в том числе в США, Индии, Коста-Рике и Румынии), так и внештатные (и их, предположим по опыту, в сотни раз больше, и текучка кадров там ого-го). Их рабочий день длится девять часов, и за одну смену каждый работник обрабатывает 1 тыс. аудиоклипов (тут не до шпионажа).
Как рассказали журналистам Bloomberg двое сотрудников офиса Amazon в Бухаресте, подписавшие с компанией договор о неразглашении, сделанные смарт-колонкой Echo аудиозаписи транскрибируются, дополняются примечаниями, а затем загружаются в ПО с целью улучшения способности Alexa распознавать человеческую речь и отвечать на вопросы.
Описанный источниками Bloomberg процесс обработки аудиозаписей проливает свет на зачастую недооцененную роль человека в обучении программных алгоритмов. Согласно рекламным материалам Amazon, Alexa «живет в облаке и становится все умнее». Однако, как и в случае с другими программами, обучающимися на основе опыта, большую роль в обучении Alexa играют люди.
По словам «слушателей», их работа весьма скучная. К примеру, один из сотрудников Alexa в Бостоне занимается исключительно поиском в аудиоклипах словосочетания «Тейлор Свифт» и добавляет к нему примечание, что речь идет о певице (как-то наверное выглядит ад). Иногда в записях попадаются случайные звуки, например, пение в душе или плач ребенка. У «слушателей» есть специальные чат-румы, где они могут помогать друг другу в разборе непонятных фраз или обмениваться смешными записями.
Бывают, хоть и редко, случаи, когда в обработку попадают записи преступлений. К примеру, однажды двум сотрудникам попалась запись изнасилования. Хотя официально позиция представителей Amazon, предусматривает «специальные инструкции» на случай возникновения подобных ситуаций, неформально персоналу продавливают политику невмешательства.
Как мы уже сказали в начале статьи, вся эта история очень напоминает скандал с умным домом Amazon Ring . Напомним, компания, которую Amazon купил за $1 млрд, продвигает своё семейство миниатюрных камер, предназначенных для установки в качестве дверных звонков, в гаражах и просто на книжных полках. Искусственный интеллект следит за сохранностью дома, что должно обеспечивать безопасность и снижать уровень преступности. Вот только журналисты выяснили, что никакого ИИ там не было. А был украинский офис сотрудников на аутсорсе, которые вручную отсматривали кадры с камер и выделяли мышкой объекты, это мол, дерево, это машина, и.т.д.. И так с 2016 года.
Уровень трэша с трудом поддается осознанию: незашифрованные видеофайлы из тысяч американских домов, вся жизнь семей была доступна для просмотра украинским инженерам, которые вручную отсматривали видеозаписи с камер наблюдения умного дома Amazon «из-за недостатков программного обеспечения». Можно было бы предположить, что данные ручной разметки должны были быть накоплены первоначально и использованы для обучения алгоритма распознавания, однако Ring до сих пор продолжает нанимать людей для обработки видео вручную (скандал вроде замяли, сказав, что так было не везде, не в таких масштабах, и вообще не выиграл, а проиграл).
Конкретно про Amazon Alexa у АКБ тоже была в прошлом году пара забавных историй. Например, комичная ситуация, которая произошла с Сотрудницей Национального фонда защиты животных Великобритании Марион Вишневски, которая поселила дома одного из питомцев фонда, попугая жако. Он научился пользоваться колоной Alexa и стал заказывать на дом еду (клубнику, изюм, дыню, брокколи, мороженое) и игрушки (чайник, электрические лампочки и даже воздушного змея). Колонка не отличает голос попугая от человеческого, и теперь Вишневски приходится каждый вечер отменять по 40 сделанных заказов.
Еще мы рассказывали, как в Рурском университете придумали, как взломать голосовых помощников через неслышимый человеческому уху аудиочервь, спрятанный, например, в записи пения соловья. Нет, вы только послушайте этих безумных профессоров: «с помощью данного метода хакеры могут прятать в разных аудиофайлах — с музыкой или даже пением птиц — слова и команды, которые может расслышать только машина (типа Alexa). Человек будет слышать обычное чириканье, а вот голосовой помощник сможет различить кое-что еще». И дальше, в лучших традициях киберпанковских антиутопий: хакеры могут проигрывать скрытое сообщение через приложение, в рекламе по телевизору или на радио. Таким образом они способны совершать покупки от лица других людей или красть конфиденциальную информацию, а «в худшем случае злоумышленник может взять под контроль всю систему умного дома, включая камеры и сигнализацию», — фьюить-фьюить, так сказать!
