Närvivõrkude lollitamine füüsilises maailmas
Nende paberilMIT teadlaste meeskond kirjeldab algoritmi, mis muudab objekti tekstuuri täpselt nii palju, et see võib pildi klassifitseerimise algoritme petta. Tõestus selle kohta, mida meeskond nimetab "vastuolulisteks näideteks", osutub pildituvastussüsteemide jaoks hämminguks, olenemata sellest, millise nurga alt objekte vaadeldakse – näiteks 3D-prinditud kilpkonn, mida järjekindlalt identifitseeritakse püss. See on halb uudis turvasüsteemidele, mis kasutavad A.I. võimalike turvaohtude tuvastamiseks.
1 kohta 5
„Tegelikult ei ole asi ainult selles, et nad väldivad õiget kategoriseerimist – nad liigitatakse valitud võistlejateks. klassis, nii et oleksime tahtmise korral võinud need millekski muuks muuta, ”rääkis uurija Anish Athalye Digitalile Trendid. «Püssi- ja espressoklassid valiti ühtselt juhuslikult. Konkurentsivõimelised näited koostati algoritmi nimega Expectation Over Transformation (EOT), mis on esitatud meie uurimistöös. Algoritm võtab vastu mis tahes tekstureeritud 3D-mudeli, näiteks kilpkonna, ja leiab viisi, kuidas peenelt muuta selline tekstuur, mis ajab antud närvivõrgu segadusse ja arvab, et kilpkonn on mis tahes valitud sihtmärk klass."
Seotud
- MIT-i väike kõndimisrobot võib lõpuks ehitada teisi suuremaid roboteid
- Teadlastel õnnestub inimrakkude abil 3D-printida tegelik süda
Ehkki võib olla naljakas, et 3D-prinditud kilpkonn tunnistatakse vintpüssiks, juhivad teadlased tähelepanu sellele, et selle tagajärjed on üsna hirmutavad. Kujutage ette näiteks turvasüsteemi, mis kasutab AI-d relvade või pommide märgistamiseks, kuid mida võidakse petta arvama, et need on hoopis tomatid või kohvitassid või isegi täiesti nähtamatud. Samuti rõhutab see nõrkust pildituvastussüsteemides, millele isejuhtivad autod suurel kiirusel ümbritsevat maailma eristades toetuvad.
Soovitatavad videod
"Meie töö näitab, et võistlevad näited on suurem probleem, kui paljud inimesed varem arvasid, ja see näitab, et võistlevad näited närvivõrgud on füüsilises maailmas tõeline mure,” jätkas Athalye. "See probleem ei ole lihtsalt intellektuaalne uudishimu: see on probleem, mis tuleb lahendada, et praktilised süsteemid, mis kasutavad süvaõpet, oleksid rünnakute eest kaitstud."
Toimetajate soovitused
- Ford saab teie häält kasutada, et muuta teie auto rattad varguskindlaks
- Bioprintimise läbimurre võib võimaldada asendusorganite 3D-printimist
- Lõpuks on olemas viis jälitamatute 3D-prinditud relvade jälgimiseks
Uuenda oma elustiiliDigitaalsed suundumused aitavad lugejatel hoida silma peal kiirel tehnikamaailmal kõigi viimaste uudiste, lõbusate tooteülevaadete, sisukate juhtkirjade ja ainulaadsete lühiülevaadetega.
