UC Berkeleyn ja Georgetownin yliopiston tutkijat ovat hyvin tietoisia tästä, minkä vuoksi he päättivät viime vuonna tutkia tarkasti, kuinka haavoittuvainen äänentunnistusohjelmisto, joka käyttää niin monia tietokonelaitteitamme. He keskittyivät Google Assistant, joka elää järjestelmän laajuisesti Android ja iOS: n Google-sovelluksessa ja kehitti tavan vääristää äänikomentoja juuri sen verran, että Google Assistant voisi ymmärtää ne, mutta useimmat ihmiset eivät ymmärtäneet niitä.
Suositellut videot
Tutkijat testasivat useiden hämärtyneiden komentojen, kuten "OK Google" tunnistamista, ja mittasivat ohjelmiston kykyä tulkita viesti verrattuna ihmisten kykyyn. He havaitsivat erityisesti "OK Googlen" tapauksessa, että osallistujien paneeli pystyi vain tunnistaa salatun lauseen 22 prosenttia ajasta, mutta Assistant ymmärsi sen 95 prosenttia aika. Lisäksi ohjelmisto onnistui paremmin dekoodaamaan hämärän version kuin normaalin "OK Googlen" ääntämisen, jonka tunnistusprosentti oli vain 90 prosenttia.
Liittyvät
- Asiantuntijat varoittavat tekoälyassistentit vahingoittavat lasten sosiaalista kehitystä
- Amazon Echo on edelleen kuningas älykkäiden kaiuttimien joukossa, vaikka Yhdysvaltain markkinaosuus pienenee
- Alexa-kaiuttimeen voidaan hakkeroida haitallisia ääniraitoja. Ja laserit.
Demo VoiceHack
Ensi silmäyksellä monet näistä vääristyneistä komennoista voivat vain tulla staattisiksi epämääräisen puheen kadenssin kanssa, vain nopeutuneena. Ihmisinä, kun tiedämme, mikä lause on ennen kuin kuulemme sen, sen tunnistaminen on äärettömän helpompaa. Mutta ilman näitä tietoja olemme monissa tapauksissa jumissa.
Tutkimuksessa todetaan, että jotkin sekalaiset komennot ovat meille helpompia selvittää kuin toiset. Esimerkiksi "Soita 911" tuotti ihmisen tunnistamisasteen 94 prosenttia, kun Google vain 40 prosenttia Assistentti, luultavasti siksi, että se on lause, johon suurin osa amerikanenglannin puhujista on valmistunut kuulla. Mutta oikea niche-komennon yhdistelmä muuttui juuri sen verran, että henkilökohtaiset avustajamme ovat vastaanottavaisia, kun olemme pään raapiminen vasemmalla aiheuttaa ilmeisen riskin, koska useimpien kuluttajalaitteiden ääniohjauksista puuttuu minkäänlainen todennus.
Mitä voimme tehdä suojautuaksemme äänihakkerointia vastaan?
Yksi harvoista ennaltaehkäisevistä toimenpiteistä tämänkaltaista äänikohdistettua manipulointia vastaan on se, että monet komennot kehottavat avustajia pyytämään vahvistusta jälkikäteen. Kuten The Atlantic kuitenkin huomauttaa heidän artikkelinsa tutkimuksesta, se on vain pieni tiesulku, joka on poistettava vääristyneellä "kyllä", ja jos kaikki tapahtuu liian nopeasti, jotta käyttäjä ymmärtää, mitä tapahtuu, hän ei pysty pysäyttämään sitä ajoissa.
Jotkut sekavista komennoista meidän on helpompi selvittää kuin toiset.
Tiimi seurasi löytöään ehdottamalla tapoja palveluille, kuten Google Assistant, Applen Siri ja Amazon. Alexa voi estää nämä hyökkäykset, ja käy ilmi, että on olemassa useita menetelmiä, joita yritykset saattavat olla taipuvaisia toteuttamaan. Jotkut puolustukset, kuten audio-CAPTCHA, voitaisiin heittää lopulliseksi vahvistukseksi ihmisten käyttäjien erottamiseksi koneista – vaikka tutkijat huomauttavatkin. totesi, että audio-CAPTCHA-algoritmit ovat suhteellisen vanhentuneita eivätkä ole pysyneet puheentunnistustekniikan kehityksen tahdissa. Puhumattakaan, CAPTCHA: t ovat raivostuttavia käsitellä.
Monimutkaisempi ratkaisu on tunnistamisen räätälöinti omistajan äänen mukaan, jota monet palvelut käyttävät jo nyt rajoitetusti. Raportissa kuitenkin myönnetään, että ehdotus vaatii laitteen koulutusta ja aiheuttaa ongelman laitteille, jotka on tarkoitettu useiden ihmisten käyttöön, kuten Amazon Echo. Tiimi on päättänyt, että yksi käytännöllisimmistä ja tehokkaimmista puolustuksista olisi suodatin, joka huonontaa hieman ääntä komentojen laatu, mikä tekee useimmat hämärtyneet lauseet laitteen tunnistamattomiksi ja sallivat ihmisten ohittaa kautta.
Vaikka raportit tämän tyyppisistä äänipohjaisista hyökkäyksistä ovat harvinaisia, ellei olemattomia, niistä on aina hyötyä olla tietoinen alueista, joilla on haavoittuvuuksia, jotta ne voidaan hillitä ennen kuin ongelmat alkavat todella ilmaantua ylös. Täällä tehdyn tutkimuksen ansiosta olemme hieman valmistautuneempia siltä varalta, että saatanalliselta kuulostava kuiskausten aalto alkaa kertoa älypuhelimillemme, mitä tehdä.
Toimittajien suositukset
- Unohda ChatGPT – Siri ja Google Assistant tekevät nämä 4 asiaa paremmin
- Siri ja Google Assistant sanovat nyt tukevansa Black Lives Matteria
- Alexa voi nyt näyttää enemmän tunteita, kun urheilujoukkueesi häviää
- Uusi tutkimus osoittaa, että älykkäät kaiuttimet voivat vaarantua laserilla
- Googlen uuden tietosuojapäivityksen avulla voit poistaa Assistantin äänikomentohistorian
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
