UC Berkeley ir Džordžtauno universiteto mokslininkai tai puikiai žino, todėl praėjusiais metais jie nusprendė tiksliai ištirti, koks pažeidžiamas balso atpažinimo programinė įranga, kuria tiek daug mūsų kompiuterinių įrenginių iš tikrųjų yra. Jie sutelkė dėmesį į „Google“ padėjėjas, kuris veikia visoje sistemoje Android „Google“ programoje „iOS“ ir sukūrė būdą, kaip iškraipyti balso komandas, kad „Google“ padėjėjas galėtų jas suprasti, tačiau daugumai žmonių jos buvo nesuprantamos.
Rekomenduojami vaizdo įrašai
Tyrėjai išbandė kelių užmaskuotų komandų, pvz., „OK Google“, atpažinimą ir įvertino programinės įrangos gebėjimą iššifruoti pranešimą, palyginti su žmonių žiniomis. Jie nustatė, ypač „OK Google“ atveju, tai, kad dalyvių grupė galėjo tik 22 procentus atvejų atpažinti užšifruotą frazę, tačiau Padėjėjas ją suprato 95 procentus laikas. Be to, programinė įranga geriau iššifravo užmaskuotą versiją nei įprastas „OK Google“ tarimas, kuris atpažino tik 90 procentų.
Susijęs
- Ekspertai perspėja, kad dirbtinio intelekto padėjėjai kenkia socialiniam vaikų vystymuisi
- Nepaisant mažėjančios JAV rinkos dalies, „Amazon Echo“ vis dar karaliauja tarp išmaniųjų garsiakalbių
- Jūsų Alexa garsiakalbis gali būti nulaužtas naudojant kenkėjiškus garso takelius. Ir lazeriai.
Demonstracinė VoiceHack
Iš pirmo žvilgsnio daugelis šių iškraipytų komandų gali pasirodyti kaip statiškos dėl neaiškios kalbos ritmo, tik pagreitintos. Žmonėms, kai žinome, kas yra frazė, prieš išgirdę ją, tampa be galo lengviau atpažinti. Tačiau be šios informacijos daugeliu atvejų esame priblokšti.
Tyrime pažymima, kad kai kurias supainiotas komandas mums lengviau suprasti nei kitas. Pavyzdžiui, „Skambinkite 911“ atpažino žmogų 94 proc., o „Google“ – tik 40 proc. Padėjėjas, tikriausiai todėl, kad tai yra frazė, kuriai buvo būdinga dauguma amerikiečių angliškai kalbančių žmonių girdėti. Tačiau tinkamas nišinės komandos derinys pakito pakankamai, kad mūsų asmeniniai padėjėjai būtų imlūs, kol mes kasyti galvą kelia akivaizdžią riziką, turint omeny, kad daugumoje vartotojų įrenginių balso valdikliai neturi jokios formos autentifikavimas.
Ką galime padaryti, kad apsisaugotume nuo įsilaužimo balsu?
Viena iš nedaugelio prevencinių priemonių prieš tokį manipuliavimą balsu yra ta, kad daugelis komandų ragina padėjėjus vėliau prašyti patvirtinimo. Tačiau, kaip pažymi „The Atlantic“. jų kūrinys apie tyrimą, tai tik nedidelė kliūtis, kurią reikia pašalinti su iškreiptu „taip“, ir jei viskas vyksta per greitai, kad vartotojas suprastų, kas vyksta, jis negalės to laiku sustabdyti.
Kai kurias supainiotas komandas mums lengviau suprasti nei kitas.
Komanda tęsė savo atradimą, siūlydama tokių paslaugų, kaip „Google Assistant“, „Apple Siri“ ir „Amazon“, būdus. Alexa gali užkirsti kelią šioms atakoms, ir, pasirodo, yra įvairių metodų, kuriuos įmonės gali būti linkusios įgyvendinti. Kai kurios apsaugos priemonės, pvz., garso CAPTCHA, gali būti panaudotos kaip galutinis patvirtinimas, kad žmonės būtų atskirti nuo mašinų, nors mokslininkai nurodo. Garso CAPTCHA algoritmai yra gana pasenę ir neatsiliko nuo kalbos atpažinimo technologijos pažangos. Jau nekalbant apie tai, kad su CAPTCHA tvarkytis yra baisu.
Sudėtingesnis sprendimas – atpažinimo pritaikymas prie savininko balso, kurį daugelis paslaugų jau naudoja ribotai. Tačiau ataskaitoje pripažįstama, kad pasiūlymas reikalauja įrenginio mokymo ir kelia problemų keliems žmonėms skirtoms programėlėms, pvz., „Amazon Echo“. Komanda nusprendė, kad viena iš praktiškiausių ir efektyviausių apsaugos priemonių būtų filtras, kuris šiek tiek pablogina garsą komandų kokybė, todėl dauguma užtemdytų frazių įrenginiui tampa neatpažįstamos, o žmonėms leidžiama perduoti per.
Nors pranešimai apie tokio pobūdžio balso atakas yra nedažni, jei neegzistuoja, tai visada naudinga žinoti sritis, kuriose slypi pažeidžiamumas, kad būtų galima jas pažaboti, kol problemos iš tikrųjų neprasidėjo aukštyn. Čia atliktų tyrimų dėka būsime šiek tiek labiau pasiruošę, jei šėtoniškai skambančių šnabždesių banga pradėtų nurodyti mūsų išmaniesiems telefonams, ką daryti.
Redaktorių rekomendacijos
- Pamirškite „ChatGPT“ – „Siri“ ir „Google Assistant“ šiuos 4 dalykus atlieka geriau
- „Siri“ ir „Google Assistant“ teigia, kad dabar palaiko „Black Lives Matter“.
- Alexa dabar gali parodyti daugiau emocijų, kai jūsų sporto komanda pralaimi
- Nauji tyrimai rodo, kad lazeriai gali pažeisti išmaniuosius garsiakalbius
- Naujasis „Google“ privatumo naujinys leidžia ištrinti Padėjėjo balso komandų istoriją
Atnaujinkite savo gyvenimo būdąSkaitmeninės tendencijos padeda skaitytojams stebėti sparčiai besivystantį technologijų pasaulį – pateikiamos visos naujausios naujienos, smagios produktų apžvalgos, įžvalgūs vedamieji leidiniai ir unikalūs žvilgsniai.
