Det er forskerne ved UC Berkeley og Georgetown University meget opmærksomme på, hvorfor de sidste år besluttede at undersøge præcist hvor sårbare den stemmegenkendelsessoftware, der i virkeligheden driver så mange af vores computerenheder. De fokuserede på Google Assistant, som lever hele systemet på Android og i Google-appen på iOS, og udviklede en måde at forvanske stemmekommandoer lige nok til, at Google Assistant kunne forstå dem, men de var uforståelige for de fleste mennesker.
Anbefalede videoer
Forskere testede genkendelsen af adskillige slørede kommandoer, som "OK Google", og målte softwarens evne til at tyde beskeden sammenlignet med menneskers. Hvad de fandt, især i tilfældet "OK Google", var, at panelet af deltagere kun var i stand at identificere den krypterede sætning 22 procent af tiden, men assistenten forstod det 95 procent af tid. Desuden var softwaren bedre til at afkode den slørede version end den normale udtale af "OK Google", som kun gav en genkendelsesrate på 90 procent.
Relaterede
- Eksperter advarer om, at AI-assistenter skader børns sociale udvikling
- Amazon Echo er stadig konge blandt smarte højttalere på trods af faldende amerikansk markedsandel
- Din Alexa-højttaler kan blive hacket med ondsindede lydspor. Og lasere.
Demo VoiceHack
Ved første øjekast kan mange af disse forvrængede kommandoer bare virke statiske med den vage talekadence, kun fremskyndet. Når vi som mennesker ved, hvad sætningen er, før vi hører den, bliver det uendeligt meget nemmere at identificere. Men uden den information står vi i mange tilfælde i stå.
Undersøgelsen bemærker, at nogle af de blandede kommandoer er lettere for os at finde ud af end andre. "Ring 911," for eksempel, gav en menneskelig genkendelsesrate på 94 procent sammenlignet med kun 40 procent af Google Assistent, sandsynligvis fordi det er en sætning, som det store flertal af amerikansk engelsktalende er blevet forudsat til høre. Men den rigtige kombination af en nichekommando blev ændret lige nok, så vores personlige assistenter er modtagelige for det, mens vi er at klø os i hovedet udgør en åbenlys risiko, da stemmestyring i de fleste forbrugerenheder mangler nogen form for Godkendelse.
Hvad kan vi gøre for at beskytte mod voice hacking?
En af de få forebyggende foranstaltninger mod denne form for stemme-målrettet manipulation er, at mange kommandoer beder assistenter om at anmode om bekræftelse efterfølgende. Men som The Atlantic påpeger i deres indlæg om studiet, det er bare en lille vejspærring at rydde med et forvrænget "ja", og hvis alt sker for hurtigt til, at brugeren kan indse, hvad der foregår, vil de ikke være i stand til at stoppe det i tide.
Nogle af de blandede kommandoer er nemmere for os at finde ud af end andre.
Holdet fulgte op på sin opdagelse ved at foreslå måder tjenester som Google Assistant, Apples Siri og Amazons Alexa kunne afværge disse angreb, og det viser sig, at der er en række forskellige metoder, som virksomheder kan være tilbøjelige til at implementere. Nogle forsvar, som en lyd-CAPTCHA, kunne kastes ind som en endelig bekræftelse for at skelne menneskelige brugere fra maskiner - selvom forskerne peger på ud af, at de algoritmer, der driver lyd-CAPTCHA'er, er relativt forældede og ikke har holdt trit med fremskridt inden for talegenkendelsesteknologi. For ikke at nævne, CAPTCHA'er er irriterende at have med at gøre.
En mere kompliceret løsning er at skræddersy genkendelsen til ejerens stemme, som mange tjenester allerede anvender i en begrænset kapacitet. Rapporten indrømmer dog, at forslaget kræver træning fra enhedens side og udgør et problem for gadgets, der er beregnet til at blive brugt af flere mennesker, såsom Amazon Echo. Holdet har fastslået, at et af de mest praktiske og effektive forsvar ville være et filter, der en smule forringer lyden kvaliteten af kommandoer, der gør de fleste slørede sætninger uigenkendelige for enheden, mens de tillader menneskelige at passere igennem.
Selvom rapporter om stemmebaserede angreb af denne slags er ualmindelige, hvis ikke ikke-eksisterende, er det altid nyttigt at være opmærksom på områder, hvor sårbarhederne ligger, så de kan dæmpes, før problemer for alvor begynder at dukke op op. Takket være den forskning, der er lavet her, vil vi være en smule mere forberedte, hvis en bølge af satanisk klingende hvisken begynder at fortælle vores smartphones, hvad de skal gøre.
Redaktørens anbefalinger
- Glem ChatGPT - Siri og Google Assistant gør disse 4 ting bedre
- Siri og Google Assistant siger, at de nu understøtter Black Lives Matter
- Alexa kan nu vise flere følelser, når dit sportshold taber
- Ny forskning viser, at smarte højttalere kan blive kompromitteret af lasere
- Googles nye privatlivsopdatering giver dig mulighed for at slette assistentens stemmekommandohistorik
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
