Hermoverkkojen huijaaminen fyysisessä maailmassa
Heidän paperissaanMIT: n tutkijoiden ryhmä kuvaa algoritmia, joka muuttaa kohteen tekstuuria juuri sen verran, että se voi huijata kuvien luokittelualgoritmeja. Todiste siitä, mitä ryhmä kutsuu "vastakohtaisiksi esimerkeiksi", osoittautuu hämmentäväksi kuvantunnistusjärjestelmille, riippumatta siitä, mistä kulmasta esineitä tarkastellaan - kuten 3D-tulostettu kilpikonna, joka tunnistetaan johdonmukaisesti kivääri. Tämä on huono uutinen turvajärjestelmille, jotka käyttävät A.I. mahdollisten turvallisuusuhkien havaitsemiseen.
1 / 5
"Se ei itse asiassa ole vain sitä, että he välttävät oikeaa luokittelua - heidät luokitellaan valituiksi vastustajiksi luokkaa, joten olisimme voineet muuttaa niistä mitä tahansa muuta, jos olisimme halunneet", tutkija Anish Athalye kertoi Digitalille Trendit. ”Kivääri- ja espressosarjat valittiin tasaisesti satunnaisesti. Vastakkaiset esimerkit tuotettiin käyttämällä algoritmia nimeltä Expectation Over Transformation (EOT), joka on esitelty tutkimuspaperissamme. Algoritmi ottaa vastaan minkä tahansa teksturoidun 3D-mallin, kuten kilpikonnan, ja löytää tavan muuttaa hienovaraisesti rakenne niin, että se hämmentää tietyn hermoverkon ajattelemaan, että kilpikonna on mikä tahansa valittu kohde luokka."
Liittyvät
- MIT: n pieni kävelyrobotti voisi lopulta rakentaa muita, suurempia robotteja
- Tutkijat onnistuvat tulostamaan 3D-todellisen sydämen käyttämällä ihmissoluja
Vaikka saattaakin olla hauskaa, että 3D-tulostettu kilpikonna tunnistetaan kivääriksi, tutkijat kuitenkin huomauttavat, että seuraukset ovat melko kauhistuttavia. Kuvittele esimerkiksi turvajärjestelmä, joka käyttää tekoälyä aseiden tai pommien liputukseen, mutta joka voidaan huijata ajattelemaan, että ne ovat sen sijaan tomaatteja tai kahvikuppeja tai jopa täysin näkymättömiä. Se korostaa myös heikkoutta sellaisissa kuvantunnistusjärjestelmissä, joihin itse ajavat autot luottavat suurella nopeudella havaitessaan ympäröivän maailman.
Suositellut videot
"Työmme osoittaa, että vastakkaiset esimerkit ovat suurempi ongelma kuin monet ihmiset ovat aiemmin luulleet, ja se osoittaa, että vastakkaiset esimerkit neuroverkot ovat todellinen huolenaihe fyysisessä maailmassa”, Athalye jatkoi. "Tämä ongelma ei ole vain älyllinen uteliaisuus: se on ongelma, joka on ratkaistava, jotta syväoppimista käyttävät käytännön järjestelmät olisivat turvassa hyökkäyksiltä."
Toimittajien suositukset
- Ford voi käyttää ääntäsi tehdäkseen autosi renkaista varkaudenkestäviä
- Biotulostuksen läpimurto voisi mahdollistaa korvaavien elinten 3D-tulostuksen
- Vihdoinkin on olemassa tapa jäljittää "jäljittämättömiä" 3D-tulostettuja aseita
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
