A UC Berkeley és a Georgetown Egyetem kutatói nagyon tisztában vannak ezzel, ezért tavaly úgy döntöttek, pontosan vizsgálja meg, mennyire sebezhető a hangfelismerő szoftver, amely sok számítástechnikai eszközünket működteti. Arra koncentráltak Google Asszisztens, amely az egész rendszerben él Android és az iOS Google-alkalmazásában, és kifejlesztett egy módszert a hangutasítások elrontására, csak annyira, hogy a Google Asszisztens megértse őket, de a legtöbb ember számára érthetetlenek voltak.
Ajánlott videók
A kutatók számos elhomályosított parancs felismerését tesztelték, mint például az „OK Google”, és megmérték, hogy a szoftver mennyire képes megfejteni az üzenetet az emberekéhez képest. Azt találták, különösen az „OK Google” esetében, hogy a résztvevők testülete csak képes volt az esetek 22 százalékában azonosítani tudta a kódolt kifejezést, de az asszisztens az esetek 95 százalékában megértette idő. Ráadásul a szoftver jobban tudta dekódolni a zavart verziót, mint az „OK Google” normál kiejtését, amely mindössze 90 százalékos felismerési arányt eredményezett.
Összefüggő
- Szakértők arra figyelmeztetnek, hogy a mesterséges intelligencia asszisztensek rontják a gyerekek szociális fejlődését
- Az Amazon Echo továbbra is király az intelligens hangszórók között, annak ellenére, hogy csökken az Egyesült Államok piaci részesedése
- Alexa hangszóróját rosszindulatú hangsávokkal lehet feltörni. És lézerek.
Demo VoiceHack
Első pillantásra sok ilyen torz parancs statikusnak tűnhet a beszéd homályos ütemével, csak felgyorsul. Emberként, ha már azelőtt tudjuk, hogy mi ez a kifejezés, végtelenül könnyebb lesz azonosítani. De ezen információk nélkül sok esetben elakadunk.
A tanulmány megjegyzi, hogy néhány összezavart parancsot könnyebben kitalálunk, mint másokat. A „Hívja a 911-et” például 94 százalékos emberi felismerési arányt eredményezett, míg a Google csak 40 százalékát Asszisztens, valószínűleg azért, mert ez egy olyan kifejezés, amelyre az amerikai angolul beszélők nagy többsége felkészült hall. A niche parancs megfelelő kombinációja azonban éppen annyira módosult, hogy személyi asszisztenseink fogékonyak legyenek rá, amíg mi A bal oldali fejvakarás nyilvánvaló kockázatot jelent, tekintve, hogy a legtöbb fogyasztói eszköz hangvezérléséből hiányzik hitelesítés.
Mit tehetünk a hanghackelés ellen?
Az effajta hangalapú manipuláció elleni néhány megelőző intézkedés egyike, hogy sok parancs arra kéri az asszisztenseket, hogy utólag kérjenek megerősítést. Amint azonban a The Atlantic rámutat a tanulmányról szóló darabjukat, ez csak egy kis akadály, amelyet el kell távolítani egy torz „igen”-nel, és ha minden túl gyorsan történik ahhoz, hogy a felhasználó rájöjjön, mi történik, nem fogja tudni időben megállítani.
Néhány összezavart parancsot könnyebben kitalálunk, mint másokat.
A csapat a felfedezést követve olyan szolgáltatásokat javasolt, mint a Google Assistant, az Apple Siri és az Amazon. Alexa megakadályozhatja ezeket a támadásokat, és kiderül, hogy a vállalatok számos módszert alkalmazhatnak. Egyes védelmi eszközök, például egy audio CAPTCHA, végső megerősítésként használhatók az emberi felhasználók és a gépek megkülönböztetésére – bár a kutatók rámutatnak Az a tény, hogy az audio CAPTCHA-kat működtető algoritmusok viszonylag elavultak, és nem tartottak lépést a beszédfelismerő technológia fejlődésével. Arról nem is beszélve, hogy a CAPTCHA-kkal dühítő foglalkozni.
Bonyolultabb megoldás a tulajdonos hangjára szabott felismerés, amelyet már sok szolgáltatás korlátozott kapacitással alkalmaz. A jelentés azonban elismeri, hogy a javaslat képzést igényel az eszköz részéről, és problémát jelent a több ember általi használatra szánt kütyük, például az Amazon Echo esetében. A csapat úgy döntött, hogy az egyik legpraktikusabb és leghatékonyabb védelem egy olyan szűrő lenne, amely kissé rontja a hangot a parancsok minősége, ami a legtöbb zavart kifejezést felismerhetetlenné teszi az eszköz számára, miközben lehetővé teszi az emberi parancsok átadását keresztül.
Bár az ilyen hangalapú támadásokról szóló jelentések ritkák, ha nem is léteznek, ez mindig hasznos hogy tisztában legyünk azokkal a területeken, ahol a sebezhetőségek rejlenek, hogy megfékezze őket, mielőtt a problémák valóban felbukkannának fel. Az itt végzett kutatásnak köszönhetően egy kicsit felkészültebbek leszünk arra az esetre, ha egy sátáni hangzású suttogás hulláma kezdene megmondani az okostelefonunknak, hogy mit tegyünk.
Szerkesztői ajánlások
- Felejtsd el a ChatGPT-t – a Siri és a Google Asszisztens ezt a 4 dolgot jobban teljesíti
- A Siri és a Google Assistant azt állítja, hogy mostantól támogatják a Black Lives Mattert
- Alexa most több érzelmet tud mutatni, amikor a sportcsapat veszít
- Egy új kutatás szerint az intelligens hangszórókat a lézerek veszélyeztethetik
- A Google új adatvédelmi frissítése lehetővé teszi a Segéd hangutasítás-előzményeinek törlését
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
