Zavaravanje neuronskih mreža u fizičkom svijetu
U njihovom radu, tim istraživača s MIT-a opisuje algoritam koji mijenja teksturu objekta taman toliko da može prevariti algoritme za klasifikaciju slika. Dokaz onoga što tim naziva "suparničkim primjerima" pokazao se zbunjujućim za sustave za prepoznavanje slike, bez obzira na kut iz kojeg se objekti promatraju — poput 3D ispisane kornjače koja se dosljedno identificira kao puška. To je loša vijest za sigurnosne sustave koji koriste A.I. za uočavanje potencijalnih sigurnosnih prijetnji.
1 od 5
"Zapravo ne samo da izbjegavaju točnu kategorizaciju - oni su klasificirani kao odabrani suparnici klase, tako da smo ih mogli pretvoriti u bilo što drugo da smo htjeli”, rekao je istraživač Anish Athalye za Digital Trendovi. “Klasovi puške i espressa odabrani su jednako nasumično. Suparnički primjeri proizvedeni su korištenjem algoritma pod nazivom Transformacija očekivanja (EOT), koji je predstavljen u našem istraživačkom radu. Algoritam uzima bilo koji teksturirani 3D model, poput kornjače, i pronalazi način da suptilno promijeni tekstura takva da zbunjuje određenu neuronsku mrežu da pomisli da je kornjača bilo koja odabrana meta razred.”
Povezano
- Maleni hodajući robot MIT-a mogao bi s vremenom izgraditi druge, veće robote
- Znanstvenici su uspjeli 3D ispisati stvarno srce pomoću ljudskih stanica
Iako bi moglo biti smiješno da se 3D ispisana kornjača prepozna kao puška, međutim, istraživači ističu da su implikacije prilično zastrašujuće. Zamislite, na primjer, sigurnosni sustav koji koristi AI za označavanje oružja ili bombi, ali ga se može prevariti da misli da su to rajčice, ili šalice kave, ili čak potpuno nevidljivi. Također naglašava slabost u vrsti sustava za prepoznavanje slike na koje će se samovozeći automobili oslanjati, pri velikim brzinama, da razaznaju svijet oko sebe.
Preporučeni videozapisi
“Naš rad pokazuje da su kontradiktorni primjeri veći problem nego što su mnogi ljudi prije mislili i pokazuje da su kontradiktorni primjeri za neuronske mreže stvarna su briga u fizičkom svijetu,” nastavila je Athalye. "Ovaj problem nije samo intelektualna znatiželja: to je problem koji treba riješiti kako bi praktični sustavi koji koriste duboko učenje bili sigurni od napada."
Preporuke urednika
- Ford može upotrijebiti vaš glas kako bi kotače vašeg automobila učinio otpornim na krađu
- Proboj u bioprintanju mogao bi omogućiti 3D printanje zamjenskih organa
- Napokon postoji način da se uđe u trag 3D printanom oružju kojem se ne može ući u trag
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
