UC Berkeley ja Georgetowni ülikooli teadlased on sellest väga teadlikud, mistõttu otsustasid nad eelmisel aastal täpselt uurida, kui haavatav on häältuvastustarkvara, mis nii paljusid meie arvutusseadmeid toidab. Nad keskendusid Google'i assistent, mis elab üle kogu süsteemi Android ja iOS-i Google'i rakenduses ning töötas välja viisi häälkäskluste moonutamiseks täpselt nii palju, et Google'i assistent neist aru saaks, kuid enamikule inimestest olid need arusaamatud.
Soovitatavad videod
Teadlased katsetasid mitmete segatud käskude (nt "OK Google") äratundmist ja mõõtsid tarkvara võimet sõnumit dešifreerida võrreldes inimeste omaga. Nad leidsid, eriti "OK Google" puhul, et osalejate paneel oli ainult võimeline tuvastada segatud fraasi 22 protsenti ajast, kuid assistent sai sellest aru 95 protsenti ajast aega. Veelgi enam, tarkvara oli hägustatud versiooni dekodeerimisel parem kui "OK Google" tavaline hääldus, mis andis vaid 90-protsendilise tuvastusmäära.
Seotud
- Eksperdid hoiatavad, et tehisintellekti assistendid kahjustavad laste sotsiaalset arengut
- Vaatamata USA turuosa vähenemisele on Amazon Echo endiselt nutikate kõlarite kuningas
- Teie Alexa kõlarit saab häkkida pahatahtlike heliribadega. Ja laserid.
Demo VoiceHack
Esmapilgul võivad paljud neist moonutatud käskudest kõne ebamäärase kadentsiga lihtsalt staatilisena välja tulla, vaid kiirendatud. Inimestena, kui me teame, mis see fraas on, enne kui me seda kuuleme, on seda palju lihtsam tuvastada. Kuid ilma selle teabeta jääme paljudel juhtudel hätta.
Uuringus märgitakse, et mõningaid segamini ajavaid käske on meil lihtsam mõista kui teisi. Näiteks "Helista 911" andis inimeste äratundmise määr 94 protsenti, Google'i seevastu vaid 40 protsenti. Assistent, ilmselt seetõttu, et see on fraas, millele enamik Ameerika inglise keelt kõnelejaid on eeltingimuseks saanud kuulda. Kuid õiget nišikäsu kombinatsiooni muudeti täpselt nii palju, et meie isiklikud assistendid oleksid sellele vastuvõtlikud, kui me oleme pea sügamine kujutab endast ilmset ohtu, arvestades, et enamiku tarbijaseadmete hääljuhtimisseadmetest puuduvad igasugused autentimine.
Mida saame häälhäkkimise eest kaitsta?
Üks väheseid ennetavaid meetmeid sellise häälega sihitud manipuleerimise vastu on see, et paljud käsud paluvad abilistel hiljem kinnitust taotleda. Kuid nagu The Atlantic märgib nende kirjatükk uuringust, see on vaid väike teetõke, mis tuleb eemaldada moonutatud jah-sõnaga ja kui kõik juhtub liiga kiiresti, et kasutaja aru saaks, mis toimub, ei saa ta seda õigel ajal peatada.
Mõnda segamini aetud käsku on meil lihtsam mõista kui teisi.
Meeskond jätkas oma avastust, pakkudes välja viise selliste teenuste nagu Google Assistant, Apple'i Siri ja Amazon Alexa võivad need rünnakud peatada ja selgub, et ettevõtted võivad kasutada mitmesuguseid meetodeid. Mõningaid kaitsemehhanisme, nagu heli-CAPTCHA, võib kasutada lõpliku kinnitusena, et eristada inimkasutajaid masinatest – kuigi teadlased osutavad välja, et heli CAPTCHA-sid toidavad algoritmid on suhteliselt vananenud ega ole kõnetuvastustehnoloogia edusammudega sammu pidanud. Rääkimata sellest, et CAPTCHA-dega tegelemine on raevukas.
Keerulisem lahendus on tuvastamise kohandamine omaniku hääle järgi, mida paljud teenused juba piiratud mahus kasutavad. Aruandes tunnistatakse siiski, et ettepanek nõuab seadme koolitust ja tekitab probleeme vidinate jaoks, mis on mõeldud kasutamiseks mitmele inimesele, nagu Amazon Echo. Meeskond on otsustanud, et üks praktilisemaid ja tõhusamaid kaitsevahendeid on filter, mis halvendab veidi heli käskude kvaliteet, muutes enamiku segatud fraasid seadmele tundmatuks, võimaldades samal ajal inimeste käskudel läbi.
Kuigi teated seda tüüpi häälepõhistest rünnakutest on haruldased, kui mitte olematud, on see alati kasulik olema teadlik valdkondadest, kus peituvad haavatavused, et neid saaks ohjeldada enne, kui probleemid tegelikult ilmnevad üles. Tänu siin tehtud uuringutele oleme veidi rohkem valmis juhuks, kui saatanliku kõlaga sosinate laine hakkab meie nutitelefonidele ütlema, mida teha.
Toimetajate soovitused
- Unustage ChatGPT – Siri ja Google Assistant teevad need 4 asja paremini
- Siri ja Google Assistant ütlevad, et nad toetavad nüüd Black Lives Matterit
- Alexa saab nüüd näidata rohkem emotsioone, kui teie spordimeeskond kaotab
- Uued uuringud näitavad, et laserid võivad nutikõlarid kahjustada
- Google'i uus privaatsusvärskendus võimaldab kustutada assistendi häälkäskluste ajaloo
Uuenda oma elustiiliDigitaalsed suundumused aitavad lugejatel hoida silma peal kiirel tehnikamaailmal kõigi viimaste uudiste, lõbusate tooteülevaadete, sisukate juhtkirjade ja ainulaadsete lühiülevaadetega.
