Ten nevinně znějící ptáček zpívající svou ranní píseň nemusí být nakonec tak nevinný. Podle vědců z Ruhr-Universitaet v německé Bochumi by manipulované zvukové vlny ze zvuků ptačího cvrlikání mohly být použity k útoku proti hlasovým asistentům.
Podle výzkumníků jsou zmanipulované zvukové soubory součástí toho, čemu se říká „adversarial útok“. který je navržen tak, aby zmátl hluboké neuronové sítě, které pomáhají asistentům poháněným umělou inteligencí líbit od Applu Siri, Google Asistenta Amazon Alexa funkce.
Doporučená videa
Pomocí zvuku ptačího cvrlikání – nebo upravených verzí písní nebo lidské řeči – manipulované způsobem, který umožňuje pouze mikrofon na vašem chytrém reproduktoru nebo chytrý telefon může zachytit, útok obejde detekci z lidských uší a začne se vměšovat do A.I. asistent. To, co zní jako ptačí zpěv, může být ve skutečnosti jedním z těchto útoků se skrytými příkazy, které jsou doručeny vašemu hlasovému asistentovi podle vašeho výběru.
Příbuzný
- Spuštění Chrome na Nvidia DLSS je připraveno, ale zatím jej nemůžete používat
- 9 způsobů, jak vám Asistent Google může pomoci s Dnem díkůvzdání
- Odborníci varují, že asistenti umělé inteligence poškozují sociální rozvoj dětí
Vědci naznačují, že útoky, které využívají psychoakustické skrývání k maskování jejich skutečných záměrů, by mohly být přehrány prostřednictvím aplikace nebo skryty v jiném typu vysílání. Zvuk by mohl být například skrytý v reklamě, která hraje v televizi nebo rádiu, aby zasáhla tisíce cílů najednou.
„V nejhorším případě může být útočník schopen převzít celý systém chytré domácnosti, včetně bezpečnostních kamer nebo poplašných systémů,“ napsali vědci. Rychlá společnost. Sestavili také ukázku, která měla ukázat, jak by se takový útok dal využít k deaktivaci bezpečnostní kamery.
Tento teoretický útok má jeden háček: výzkumníci jej ještě nespustili prostřednictvím vysílání. Místo toho vložili upravené soubory, které obsahují skrytý zvukový příkaz, přímo do asistentů, takže zprávu jasně slyšeli. Vědci jsou však přesvědčeni, že útok by mohl být proveden jinými prostředky. „Obecně je možné skrýt jakýkoli přepis v jakémkoli zvukovém souboru s úspěšností téměř 100 procent,“ uzavřeli ve svém článku.
Neexistuje mnoho způsobů, jak se bránit takovému útoku, který, aby bylo jasné, by vyžadoval značné úsilí, aby ho někdo provedl, a je nepravděpodobné, i když je to možné. Použijte nastavení zabezpečení svého hlasového asistenta, abyste zabránili jakémukoli přístupu k citlivým informacím. Na Alexa, například můžete vyžadovat PIN které mají být poskytnuty před dokončením nákupu.
Doporučení redakce
- Co je Amazon Alexa a co umí?
- Nejlepší dovednosti Alexa k použití na vašem Amazon Echo v roce 2023
- Jak najít duchy s Alexou (a dalšími děsivými dovednostmi)
- Jak prodat svým rodičům chytrého asistenta
- 5 jedinečných a kreativních využití funkce Alexa's Sound Detection
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
