Исследователи из Калифорнийского университета в Беркли и Джорджтаунского университета прекрасно понимают это, поэтому в прошлом году они решили точно выяснить, насколько уязвимы программное обеспечение для распознавания голоса, которое используется во многих наших компьютерных устройствах, действительно таково. Они сосредоточились на Google Ассистент, который живет в масштабах всей системы на Андроид и в приложении Google для iOS, а также разработал способ искажать голосовые команды настолько, чтобы Google Assistant мог их понимать, но для большинства людей они были непонятны.
Рекомендуемые видео
Исследователи проверили распознавание нескольких запутанных команд, таких как «ОК, Google», и измерили способность программного обеспечения расшифровать сообщение по сравнению с людьми. Они обнаружили, особенно в случае с «ОК, Google», что группа участников могла только распознать зашифрованную фразу в 22 процентах случаев, но Ассистент понял ее в 95 процентах случаев. время. Более того, программа лучше декодировала запутанную версию, чем обычное произношение «ОК, Google», что давало уровень распознавания только 90 процентов.
Связанный
- Эксперты предупреждают, что ИИ-помощники вредят социальному развитию детей
- Amazon Echo по-прежнему лидирует среди умных колонок, несмотря на снижение доли рынка США
- Ваш динамик Alexa можно взломать с помощью вредоносных аудиодорожек. И лазеры.
Демо VoiceHack
На первый взгляд, многие из этих искаженных команд могут показаться статичными с расплывчатым ритмом речи, только ускоренным. Когда мы, люди, знаем, что это за фраза, еще до того, как ее услышим, ее становится намного легче идентифицировать. Но без этой информации во многих случаях мы остаемся в тупике.
В исследовании отмечается, что некоторые из запутанных команд нам легче понять, чем другие. Например, «Позвоните в службу 911» человек распознавал 94 процента, по сравнению с 40 процентами у Google. Assistant, вероятно, потому, что к этой фразе привыкли подавляющее большинство носителей американского английского языка. слышать. Но правильная комбинация нишевой команды изменилась ровно настолько, чтобы наши личные помощники были восприимчивы к ней, пока мы работаем. Если оставить чесать затылки, это представляет очевидный риск, учитывая, что голосовое управление в большинстве потребительских устройств лишено какой-либо формы аутентификация.
Что мы можем сделать, чтобы защититься от голосового взлома?
Одной из немногих профилактических мер против такого рода голосовых манипуляций является то, что многие команды предлагают помощникам впоследствии запросить подтверждение. Однако, как отмечает The Atlantic в их статья об учебе, это всего лишь небольшой блокпост, который нужно преодолеть искаженным «да», и если все произойдет слишком быстро, и пользователь не сможет осознать, что происходит, он не сможет вовремя это остановить.
Некоторые из запутанных команд нам легче понять, чем другие.
В продолжение своего открытия команда предложила такие сервисы, как Google Assistant, Siri от Apple и Amazon. Алекса могли бы предотвратить эти атаки, и оказывается, что существует множество методов, которые компании могут быть склонны реализовать. Некоторые средства защиты, такие как аудиокапча, могут быть использованы в качестве окончательного подтверждения, позволяющего отличить пользователей-людей от машин, хотя исследователи отмечают, что Выяснилось, что алгоритмы, обеспечивающие работу аудиоCAPTCHA, относительно устарели и не успевают за достижениями в области технологий распознавания речи. Не говоря уже о том, что CAPTCHA бесит.
Более сложное решение — адаптация распознавания голоса владельца, которую многие сервисы уже используют в ограниченных возможностях. Однако в отчете признается, что это предложение требует обучения со стороны устройства и создает проблему для гаджетов, предназначенных для использования несколькими людьми, таких как Amazon Echo. Команда определила, что одной из наиболее практичных и эффективных защитных мер будет фильтр, слегка ухудшающий качество звука. качество команд, делая большинство запутанных фраз нераспознаваемыми для устройства, в то же время позволяя передавать человеческие фразы через.
Хотя сообщения о такого рода голосовых атаках редки, а то и вовсе отсутствуют, это всегда полезно. знать об областях, где находятся уязвимости, чтобы их можно было устранить до того, как проблемы действительно начнут возникать вверх. Благодаря проведенному здесь исследованию мы будем немного более подготовлены на случай, если волна сатанинских шепотов начнет говорить нашим смартфонам, что делать.
Рекомендации редакции
- Забудьте о ChatGPT — Siri и Google Assistant делают эти 4 вещи лучше
- Siri и Google Assistant заявляют, что теперь поддерживают Black Lives Matter
- Алекса теперь может проявлять больше эмоций, когда ваша спортивная команда проигрывает.
- Новое исследование показало, что умные колонки могут быть повреждены лазерами
- Новое обновление конфиденциальности Google позволяет удалить историю голосовых команд Ассистента
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
