Raziskovalci na UC Berkeley in Georgetown University se tega močno zavedajo, zato so se lani odločili, natančno raziščite, kako ranljivi programska oprema za prepoznavanje glasu, ki poganja toliko naših računalniških naprav, res je. Osredotočili so se na Google Assistant, ki živi v celotnem sistemu Android in v aplikaciji Google v sistemu iOS ter razvil način za popačenje glasovnih ukazov ravno toliko, da jih je Google Assistant lahko razumel, vendar so bili večini ljudi nerazumljivi.
Priporočeni videoposnetki
Raziskovalci so preizkusili prepoznavanje več zakritih ukazov, kot je »OK Google«, in izmerili sposobnost programske opreme, da dešifrira sporočilo v primerjavi z zmožnostjo ljudi. Ugotovili so, zlasti v primeru »OK Google«, da je skupina udeležencev lahko samo prepoznati zamešano besedno zvezo 22 odstotkov časa, vendar jo je pomočnik razumel 95 odstotkov čas. Še več, programska oprema je bila boljša pri dekodiranju zakrite različice kot običajna izgovorjava »OK Google«, ki je prinesla stopnjo prepoznavnosti le 90 odstotkov.
Povezano
- Strokovnjaki opozarjajo, da pomočniki z umetno inteligenco škodijo socialnemu razvoju otrok
- Amazon Echo je še vedno kralj med pametnimi zvočniki kljub padajočemu tržnemu deležu v ZDA
- Vaš zvočnik Alexa lahko vdrejo z zlonamernimi zvočnimi posnetki. In laserji.
Demo VoiceHack
Na prvi pogled lahko mnogi od teh popačenih ukazov izgledajo kot statični z nejasno kadenco govora, ki je le pospešena. Ko kot ljudje vemo, kaj je fraza, preden jo slišimo, jo postane neskončno lažje prepoznati. Toda brez teh informacij smo v mnogih primerih obupani.
Študija ugotavlja, da nekatere zmešane ukaze lažje razumemo kot druge. »Klic 911« je na primer prinesel 94-odstotno človeško prepoznavo, v primerjavi s samo 40-odstotnim Googlovim Pomočnik, verjetno zato, ker je to besedna zveza, na katero je bila pripravljena velika večina govorcev ameriške angleščine slišati. Vendar je prava kombinacija nišnega ukaza spremenjena ravno toliko, da so naši osebni pomočniki dovzetni za to, medtem ko smo levo praskanje po glavi predstavlja očitno tveganje, saj glasovne kontrole v večini potrošniških naprav nimajo nobene oblike avtentikacija.
Kaj lahko storimo, da se zaščitimo pred glasovnimi vdori?
Eden redkih preventivnih ukrepov proti tovrstni glasovno usmerjeni manipulaciji je, da številni ukazi pomočnike pozovejo, da pozneje zahtevajo potrditev. Vendar, kot poudarja The Atlantic v njihov del o študiju, to je le majhna ovira, ki jo je treba odpraviti z izkrivljenim "da", in če se vse zgodi prehitro, da bi uporabnik razumel, kaj se dogaja, tega ne bo mogel pravočasno ustaviti.
Nekatere zmešane ukaze lažje razumemo kot druge.
Ekipa je svoje odkritje spremljala s predlaganjem načinov storitev, kot so Google Assistant, Applova Siri in Amazonova Alexa bi lahko preprečil te napade, in izkazalo se je, da obstajajo različne metode, ki bi jih podjetja morda nagnila k uporabi. Nekatere obrambe, kot je zvočni CAPTCHA, bi lahko dodali kot zadnjo potrditev za razlikovanje med človeškimi uporabniki in stroji – čeprav raziskovalci poudarjajo ugotavlja, da so algoritmi, ki poganjajo zvočne CAPTCHA, relativno zastareli in ne dohajajo napredka v tehnologiji prepoznavanja govora. Da ne omenjam, CAPTCHA je jezno ukvarjati se z njimi.
Bolj zapletena rešitev je prilagoditev prepoznave glasu lastnika, ki jo številne storitve že uporabljajo v omejeni zmogljivosti. Vendar pa poročilo priznava, da predlog zahteva usposabljanje na strani naprave in predstavlja težavo za pripomočke, namenjene uporabi več ljudi, kot je Amazon Echo. Ekipa je ugotovila, da bi bila ena najbolj praktičnih in učinkovitih obramb filter, ki rahlo poslabša zvok kakovost ukazov, zaradi česar večina zakritih besednih zvez postane neprepoznavna za napravo, hkrati pa omogoča prehod človeških ukazov skozi.
Čeprav so poročila o tovrstnih glasovnih napadih neobičajna, če ne celo neobstoječa, so vedno koristna zavedati se področij, kjer so ranljivosti, da jih je mogoče omejiti, preden se težave res začnejo pojavljati gor. Zahvaljujoč raziskavi, opravljeni tukaj, bomo nekoliko bolj pripravljeni, če bo val satansko zvenečega šepetanja začel našim pametnim telefonom govoriti, kaj naj naredijo.
Priporočila urednikov
- Pozabite na ChatGPT – Siri in Google Assistant delata te 4 stvari bolje
- Siri in Google Assistant pravita, da zdaj podpirata Black Lives Matter
- Alexa lahko zdaj pokaže več čustev, ko vaša športna ekipa izgubi
- Nova raziskava ugotavlja, da lahko laserji ogrozijo pametne zvočnike
- Googlova nova posodobitev zasebnosti vam omogoča brisanje zgodovine glasovnih ukazov Pomočnika
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
