UC Berkeley와 Georgetown University의 연구자들은 이 사실을 예리하게 인식하고 있으며, 이것이 작년에 그들이 결정한 이유입니다. 얼마나 취약한지 정확하게 조사 실제로 수많은 컴퓨팅 장치를 구동하는 음성 인식 소프트웨어는 그렇습니다. 그들은 집중했다 구글 어시스턴트, 시스템 전체에 걸쳐 존재합니다. 기계적 인조 인간 그리고 iOS의 Google 앱 내에서 Google 어시스턴트가 이해할 수 있을 만큼만 음성 명령을 왜곡하는 방법을 개발했지만 대부분의 인간은 이해할 수 없었습니다.
추천 동영상
연구원들은 "OK Google"과 같은 여러 난독화된 명령의 인식을 테스트하고 소프트웨어의 메시지 해독 능력을 인간의 능력과 비교하여 측정했습니다. 특히 “OK Google”의 경우 참가자 패널이 오직 뒤섞인 문구를 식별하는 데 22%의 시간이 걸렸지만 어시스턴트는 95%의 시간 동안 이해했습니다. 시간. 게다가 이 소프트웨어는 인식률이 90%에 불과한 "OK Google"의 일반적인 발음보다 난독화된 버전을 더 잘 해독했습니다.
관련된
- 전문가들은 AI 비서가 어린이의 사회적 발달을 저해하고 있다고 경고합니다.
- 미국 시장 점유율 감소에도 불구하고 아마존 에코는 여전히 스마트 스피커 부문의 선두를 달리고 있습니다.
- Alexa 스피커는 악성 오디오 트랙으로 해킹될 수 있습니다. 그리고 레이저.
데모 VoiceHack
언뜻 보기에 이러한 왜곡된 명령 중 다수는 모호한 말투와 함께 정적인 것처럼 들리고 속도만 빨라질 수 있습니다. 인간으로서 우리가 그 문구를 듣기 전에 그것이 무엇인지 알면 식별하는 것이 훨씬 더 쉬워집니다. 하지만 그러한 정보가 없으면 많은 경우 우리는 당황하게 됩니다.
연구에 따르면 뒤죽박죽된 명령 중 일부는 다른 명령보다 알아내기가 더 쉽습니다. 예를 들어, '911에 전화'를 하면 인간 인식률이 94%인데 비해 구글은 40%에 불과합니다. Assistant, 아마도 대다수의 미국 영어 사용자가 사전 조건으로 설정한 문구이기 때문일 것입니다. 듣다. 그러나 틈새 명령의 올바른 조합은 우리가 작업하는 동안 개인 비서가 이를 수용할 수 있을 만큼 충분히 변경되었습니다. 대부분의 소비자 장치의 음성 제어에는 어떤 형태의 음성 제어 기능도 없다는 점을 고려하면 머리를 긁는 것은 명백한 위험을 초래합니다. 입증.
보이스 해킹으로부터 보호하려면 어떻게 해야 하나요?
이러한 종류의 음성 대상 조작에 대한 몇 가지 예방 조치 중 하나는 많은 명령이 보조자에게 나중에 확인을 요청하라는 메시지를 표시한다는 것입니다. 그러나 The Atlantic이 지적했듯이 연구에 관한 그들의 작품, 그것은 왜곡된 "예"로 해결하기 위한 작은 장애물일 뿐입니다. 모든 일이 너무 빨리 일어나서 사용자가 무슨 일이 일어나고 있는지 깨닫지 못하면 제 시간에 멈출 수 없게 됩니다.
뒤죽박죽된 명령 중 일부는 다른 명령보다 알아내기가 더 쉽습니다.
팀은 Google Assistant, Apple의 Siri 및 Amazon의 서비스와 같은 서비스 방법을 제안하여 발견을 추적했습니다. 알렉사 이러한 공격을 막을 수 있으며 기업이 구현하려는 다양한 방법이 있는 것으로 나타났습니다. 오디오 CAPTCHA와 같은 일부 방어 수단은 인간 사용자와 기계를 구별하기 위한 최종 확인 수단으로 사용될 수 있습니다. 오디오 CAPTCHA를 구동하는 알고리즘은 상대적으로 구식이며 음성 인식 기술의 발전을 따라가지 못하고 있습니다. 말할 것도 없이, CAPTCHA는 처리하기가 짜증스럽습니다.
더 복잡한 해결책은 소유자의 음성에 맞게 인식을 조정하는 것인데, 많은 서비스에서 이미 제한된 용량으로 이를 채택하고 있습니다. 그러나 보고서는 제안이 장치 부분에 대한 교육이 필요하며 Amazon Echo와 같이 여러 사람이 사용하도록 고안된 장치에 문제를 제기한다는 점을 인정합니다. 팀은 가장 실용적이고 효과적인 방어 방법 중 하나가 오디오 품질을 약간 저하시키는 필터라고 판단했습니다. 사람이 통과할 수 있도록 허용하면서 대부분의 난독화된 문구를 장치에서 인식할 수 없도록 렌더링하는 명령 품질 을 통해.
이런 종류의 음성 기반 공격에 대한 보고는 흔하지 않지만 존재하지 않더라도 항상 도움이 됩니다. 취약점이 있는 영역을 파악하여 문제가 실제로 발생하기 전에 이를 억제할 수 있습니다. 위로. 여기에서 수행된 연구 덕분에 우리는 사탄처럼 들리는 속삭임이 스마트폰에 무엇을 해야 할지 알려주기 시작할 경우에 대비할 수 있습니다.
편집자의 추천
- ChatGPT는 잊어버리세요 — Siri와 Google Assistant는 이 4가지 기능을 더 잘 수행합니다
- Siri와 Google Assistant는 이제 Black Lives Matter를 지원한다고 말합니다.
- 이제 Alexa는 스포츠 팀이 패배할 때 더 많은 감정을 표현할 수 있습니다.
- 새로운 연구에 따르면 스마트 스피커는 레이저로 인해 손상될 수 있습니다.
- Google의 새로운 개인 정보 보호 업데이트를 통해 어시스턴트의 음성 명령 기록을 삭제할 수 있습니다
당신의 라이프스타일을 업그레이드하세요Digital Trends는 독자들이 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 빠르게 변화하는 기술 세계를 계속해서 살펴볼 수 있도록 도와줍니다.
