Vedci z UC Berkeley a Georgetown University si to veľmi dobre uvedomujú, a preto sa minulý rok rozhodli skúmať, aké sú zraniteľné softvér na rozpoznávanie hlasu, ktorý poháňa toľko našich počítačových zariadení, skutočne je. Zamerali sa na Google Assistant, ktorý žije v celom systéme Android a v aplikácii Google pre iOS a vyvinuli spôsob, ako skomoliť hlasové príkazy natoľko, aby im Asistent Google rozumel, no pre väčšinu ľudí boli nezrozumiteľné.
Odporúčané videá
Výskumníci testovali rozpoznávanie niekoľkých zahmlených príkazov, ako napríklad „OK Google“, a merali schopnosť softvéru dešifrovať správu v porovnaní s ľudskou správou. To, čo zistili, najmä v prípade „OK Google“, bolo, že panel účastníkov bol schopný identifikovať zakódovanú frázu 22 percent času, ale asistent jej rozumel na 95 percent čas. Softvér navyše dokázal lepšie dekódovať zahmlenú verziu ako bežnú výslovnosť „OK Google“, čo prinieslo mieru rozpoznania iba 90 percent.
Súvisiace
- Odborníci varujú, že asistenti AI poškodzujú sociálny rozvoj detí
- Amazon Echo stále kraľuje medzi inteligentnými reproduktormi napriek klesajúcemu podielu na trhu v USA
- Váš reproduktor Alexa môže byť napadnutý škodlivými zvukovými stopami. A lasery.
Demo VoiceHack
Na prvý pohľad sa mnohé z týchto skreslených príkazov môžu javiť ako statické s vágnou kadenciou reči, len zrýchlenou. Ako ľudia, keď vieme, čo je fráza predtým, ako ju počujeme, je nekonečne ľahšie ju identifikovať. Ale bez týchto informácií sme v mnohých prípadoch zaskočení.
Štúdia poznamenáva, že niektoré z poprehadzovaných príkazov sú pre nás jednoduchšie ako iné. Napríklad „Call 911“ prinieslo mieru rozpoznania človekom 94 percent v porovnaní s iba 40 percentami od Googlu Asistent, pravdepodobne preto, že je to fráza, na ktorú bola pripravená veľká väčšina ľudí hovoriacich americkou angličtinou počuť. Správna kombinácia špeciálneho príkazu sa však zmenila natoľko, aby ho naši osobní asistenti vnímali, kým sme poškriabanie našich hláv predstavuje zjavné riziko, keďže hlasové ovládanie vo väčšine spotrebiteľských zariadení nemá žiadnu formu Overenie.
Čo môžeme urobiť na ochranu pred hackovaním hlasu?
Jedným z mála preventívnych opatrení proti tomuto druhu hlasovo zacielenej manipulácie je, že mnohé príkazy vyzývajú asistentov, aby následne požiadali o potvrdenie. Ako však upozorňuje The Atlantic v ich príspevok o štúdiu, je to len malá prekážka, ktorú treba odstrániť skresleným „áno“, a ak sa všetko stane príliš rýchlo na to, aby si používateľ uvedomil, čo sa deje, nebude to môcť zastaviť včas.
Niektoré z poprehadzovaných príkazov sú pre nás jednoduchšie ako iné.
Tím nadviazal na svoj objav navrhnutím spôsobov služieb ako Google Assistant, Apple Siri a Amazon Alexa by mohlo zabrániť týmto útokom a ukázalo sa, že existuje množstvo metód, ktoré môžu spoločnosti implementovať. Niektoré obrany, ako napríklad audio CAPTCHA, by mohli byť použité ako konečné potvrdenie na odlíšenie ľudských používateľov od strojov – hoci výskumníci poukazujú na poukazuje na to, že algoritmy, ktoré poháňajú zvukové CAPTCHA, sú relatívne zastarané a nedržia krok s pokrokom v technológii rozpoznávania reči. Nehovoriac o tom, že CAPTCHA je zúrivé riešiť.
Zložitejším riešením je prispôsobenie rozpoznávania hlasu majiteľa, ktoré mnohé služby už využívajú v obmedzenej kapacite. Správa však pripúšťa, že návrh vyžaduje školenie zo strany zariadenia a predstavuje problém pre miniaplikácie určené na používanie viacerými ľuďmi, ako napríklad Amazon Echo. Tím určil, že jednou z najpraktickejších a najúčinnejších obranných opatrení by bol filter, ktorý mierne zhoršuje zvuk kvalita príkazov, vďaka ktorým zariadenie nedokáže rozpoznať väčšinu zahmlených fráz, zatiaľ čo tie ľudské môžu prejsť cez.
Zatiaľ čo správy o hlasových útokoch tohto druhu sú nezvyčajné, ak nie neexistujú, vždy sú užitočné byť si vedomý oblastí, v ktorých sa nachádzajú zraniteľné miesta, aby ich bolo možné obmedziť skôr, než sa problémy skutočne začnú objavovať hore. Vďaka výskumu, ktorý tu bol vykonaný, budeme o niečo viac pripravení pre prípad, že by vlna satanisticky znejúcich šepotov začala hovoriť našim smartfónom, čo majú robiť.
Odporúčania redaktorov
- Zabudnite na ChatGPT – Siri a Google Assistant robia tieto 4 veci lepšie
- Siri a Google Assistant tvrdia, že teraz podporujú Black Lives Matter
- Alexa teraz môže ukázať viac emócií, keď váš športový tím prehrá
- Nový výskum zistil, že inteligentné reproduktory môžu byť ohrozené lasermi
- Nová aktualizácia ochrany osobných údajov od Googlu vám umožňuje vymazať históriu hlasových príkazov Asistenta
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
