Vědci z UC Berkeley a Georgetown University si to velmi dobře uvědomují, a proto se loni rozhodli zkoumat, jak přesně je zranitelný software pro rozpoznávání hlasu, který pohání tolik našich počítačových zařízení, skutečně je. Soustředili se na Google Assistant, která žije v celém systému Android a v aplikaci Google pro iOS a vyvinul způsob, jak zkomolenit hlasové příkazy tak, aby jim Asistent Google rozuměl, ale pro většinu lidí byly nesrozumitelné.
Doporučená videa
Výzkumníci testovali rozpoznání několika zatemněných příkazů, jako je „OK Google“, a měřili schopnost softwaru dešifrovat zprávu ve srovnání s lidmi. To, co zjistili, zejména v případě „OK Google“, bylo, že panel účastníků byl schopen identifikovat zakódovanou frázi 22 procent času, ale asistent jí rozuměl z 95 procent čas. A co víc, software byl lepší v dekódování zatemněné verze než normální výslovnost „OK Google“, která přinesla míru rozpoznání pouze 90 procent.
Příbuzný
- Odborníci varují, že asistenti umělé inteligence poškozují sociální rozvoj dětí
- Amazon Echo stále kraluje mezi chytrými reproduktory navzdory klesajícímu podílu na trhu v USA
- Váš reproduktor Alexa může být napaden škodlivými zvukovými stopami. A lasery.
Demo VoiceHack
Na první pohled se mnohé z těchto zkreslených příkazů mohou jen zdát jako statické s nejasnou kadencí řeči, pouze zrychlenou. Jako lidé, když víme, co je to fráze, než ji slyšíme, je nekonečně snazší ji identifikovat. Ale bez těchto informací jsme v mnoha případech zaskočeni.
Studie poznamenává, že některé z neuspořádaných příkazů jsou pro nás snazší zjistit než jiné. Například „volání 911“ přineslo míru rozpoznání lidmi 94 procent ve srovnání s pouhými 40 procenty podle Googlu Assistant, pravděpodobně proto, že je to fráze, na kterou byla připravena velká většina mluvčích americké angličtiny slyšet. Ale správná kombinace speciálního příkazu se změnila natolik, aby naši osobní asistenti byli vnímaví, když jsme poškrábání našich hlav představuje zjevné riziko, uvážíme-li, že hlasové ovládání ve většině spotřebitelských zařízení postrádá jakoukoli formu autentizace.
Co můžeme udělat, abychom se chránili před hackováním hlasu?
Jedním z mála preventivních opatření proti tomuto druhu hlasově cílené manipulace je to, že mnoho příkazů vyzývá asistenty, aby si poté vyžádali potvrzení. Jak však upozorňuje The Atlantic v jejich příspěvek o studiu, to je jen malá překážka, kterou je třeba odstranit zkresleným „ano“, a pokud se vše stane příliš rychle na to, aby si uživatel uvědomil, co se děje, nebude schopen to včas zastavit.
Některé z neuspořádaných příkazů jsou pro nás snazší zjistit než jiné.
Tým navázal na svůj objev tím, že navrhl způsoby služeb, jako je Google Assistant, Apple Siri a Amazon Alexa by mohly tyto útoky odvrátit a ukazuje se, že existuje celá řada metod, které by společnosti mohly být nakloněny implementovat. Některé ochrany, jako je audio CAPTCHA, by mohly být použity jako konečné potvrzení pro odlišení lidských uživatelů od strojů – ačkoli vědci poukazují na že algoritmy, které pohánějí audio CAPTCHA, jsou poměrně zastaralé a nedrží krok s pokroky v technologii rozpoznávání řeči. Nemluvě o tom, že CAPTCHA je k vzteku řešit.
Složitějším řešením je přizpůsobení rozpoznávání hlasu vlastníka, které již mnoho služeb využívá v omezené kapacitě. Zpráva však připouští, že návrh vyžaduje školení ze strany zařízení a představuje problém pro gadgety, které mají používat více lidí, jako je Amazon Echo. Tým určil, že jednou z nejpraktičtějších a nejúčinnějších obran by byl filtr, který mírně zhoršuje zvuk kvalita příkazů, díky čemuž zařízení nerozpozná většinu zatemněných frází, zatímco ty lidské mohou projít přes.
I když jsou zprávy o hlasových útocích tohoto druhu neobvyklé, pokud ne neexistují, vždy jsou užitečné být si vědom oblastí, kde leží zranitelná místa, aby je bylo možné omezit dříve, než se problémy skutečně začnou objevovat nahoru. Díky zde provedenému výzkumu budeme o něco lépe připraveni pro případ, že by vlna satanisticky znějících šeptů začala říkat našim chytrým telefonům, co mají dělat.
Doporučení redakce
- Zapomeňte na ChatGPT – Siri a Google Assistant dělají tyto 4 věci lépe
- Siri a Google Assistant říkají, že nyní podporují Black Lives Matter
- Alexa nyní může ukázat více emocí, když váš sportovní tým prohraje
- Nový výzkum zjistil, že chytré reproduktory mohou být kompromitovány lasery
- Nová aktualizace ochrany soukromí od Googlu vám umožňuje smazat historii hlasových příkazů Asistenta
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
