UC Berkeley un Džordžtaunas universitātes pētnieki to ļoti labi apzinās, tāpēc pagājušajā gadā viņi nolēma precīzi izpētīt, cik neaizsargāti balss atpazīšanas programmatūra, kas nodrošina tik daudzu mūsu skaitļošanas ierīču darbību. Viņi koncentrējās uz Google palīgs, kas darbojas visā sistēmā Android un Google lietotnē iOS, un izstrādāja veidu, kā izjaukt balss komandas tieši tik daudz, lai Google palīgs varētu tās saprast, taču lielākajai daļai cilvēku tās nebija saprotamas.
Ieteiktie videoklipi
Pētnieki pārbaudīja vairāku neskaidru komandu atpazīšanu, piemēram, “OK Google”, un novērtēja programmatūras spēju atšifrēt ziņojumu salīdzinājumā ar cilvēku spējām. Viņi atklāja, jo īpaši “OK Google” gadījumā, ka dalībnieku grupa varēja tikai to darīt lai identificētu šifrēto frāzi 22 procentos gadījumu, bet Asistents to saprata 95 procentos laiks. Turklāt programmatūra labāk atšifrēja neskaidro versiju nekā parastā “OK Google” izruna, kas nodrošināja tikai 90 procentu atpazīšanas līmeni.
Saistīts
- Eksperti brīdina, ka mākslīgā intelekta palīgi kaitē bērnu sociālajai attīstībai
- Amazon Echo joprojām ir karalis starp viedajiem skaļruņiem, neskatoties uz to, ka ASV tirgus daļa samazinās
- Jūsu Alexa skaļrunis var tikt uzlauzts ar ļaunprātīgiem audio ierakstiem. Un lāzeri.
Demonstrācija VoiceHack
No pirmā acu uzmetiena daudzas no šīm izkropļotajām komandām var izpausties kā statiskas ar neskaidru runas ritmu, tikai paātrinātas. Kā cilvēkiem, kad mēs zinām, kas ir šī frāze, pirms to dzirdam, to kļūst bezgalīgi vieglāk identificēt. Bet bez šīs informācijas daudzos gadījumos mēs esam apmulsuši.
Pētījumā atzīmēts, ka dažas no sajauktajām komandām mums ir vieglāk izdomāt nekā citas. Piemēram, “Call 911” cilvēka atpazīšanas līmenis bija 94 procenti, salīdzinot ar tikai 40 procentiem Google. Asistents, iespējams, tāpēc, ka tā ir frāze, ko izmantoja lielākā daļa amerikāņu angļu valodā runājošo dzirdēt. Bet pareizā nišas komandas kombinācija ir mainīta tieši tik daudz, lai mūsu personīgie palīgi to uztvertu, kamēr mēs esam skrāpēšana pa kreisi rada acīmredzamu risku, ņemot vērā, ka lielākajā daļā patērētāju ierīču balss vadībai nav nekāda veida autentifikācija.
Ko mēs varam darīt, lai aizsargātu pret balss uzlaušanu?
Viens no nedaudzajiem preventīvajiem pasākumiem pret šāda veida ar balsi mērķētām manipulācijām ir tas, ka daudzas komandas liek palīgiem pēc tam pieprasīt apstiprinājumu. Tomēr, kā norāda The Atlantic viņu raksts par pētījumu, tas ir tikai neliels šķērslis, kas jānovērš ar izkropļotu “jā”, un, ja viss notiek pārāk ātri, lai lietotājs saprastu, kas notiek, viņš nevarēs to laikus apturēt.
Dažas no sajauktajām komandām mums ir vieglāk izdomāt nekā citas.
Komanda turpināja savu atklājumu, piedāvājot tādus pakalpojumu veidus kā Google Assistant, Apple Siri un Amazon. Alexa varētu novērst šos uzbrukumus, un izrādās, ka pastāv dažādas metodes, kuras uzņēmumi varētu izmantot. Daži aizsardzības līdzekļi, piemēram, audio CAPTCHA, varētu tikt izmantoti kā pēdējais apstiprinājums, lai atšķirtu cilvēku lietotājus no mašīnām, lai gan pētnieki norāda ka algoritmi, kas darbina audio CAPTCHA, ir salīdzinoši novecojuši un nav gājuši kopsolī ar runas atpazīšanas tehnoloģiju sasniegumiem. Nemaz nerunājot par to, ka CAPTCHA ir satraucoši.
Sarežģītāks risinājums ir atpazīšanas pielāgošana īpašnieka balsij, ko daudzi pakalpojumi jau izmanto ierobežotā apjomā. Tomēr ziņojumā ir atzīts, ka priekšlikumam ir nepieciešama ierīces apmācība, un tas rada problēmas sīkrīkiem, ko paredzēts izmantot vairākiem cilvēkiem, piemēram, Amazon Echo. Komanda ir noteikusi, ka viens no praktiskākajiem un efektīvākajiem aizsardzības līdzekļiem būtu filtrs, kas nedaudz pasliktina audio komandu kvalitāte, padarot ierīcei neatpazīstamu lielāko daļu apmulsušo frāžu, vienlaikus ļaujot cilvēkiem tikt garām cauri.
Lai gan ziņojumi par šāda veida uzbrukumiem ar balsi ir neparasti, ja pat vispār nav, tie vienmēr ir noderīgi apzināties jomas, kurās ir ievainojamības, lai tās varētu ierobežot, pirms problēmas patiešām sāk parādīties uz augšu. Pateicoties šeit veiktajam pētījumam, mēs būsim nedaudz sagatavotāki, ja sātaniski skanošu čukstu vilnis sāks norādīt mūsu viedtālruņiem, kā rīkoties.
Redaktoru ieteikumi
- Aizmirstiet ChatGPT — Siri un Google palīgs šīs 4 lietas veic labāk
- Siri un Google Assistant saka, ka tagad atbalsta Black Lives Matter
- Alexa tagad var izrādīt vairāk emociju, kad jūsu sporta komanda zaudē
- Jauni pētījumi atklāj, ka viedos skaļruņus var apdraudēt lāzeri
- Google jaunais konfidencialitātes atjauninājums ļauj dzēst Asistenta balss komandu vēsturi
Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi steidzīgajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.
