Neuroninių tinklų apgaudinėjimas fiziniame pasaulyje
Jų laikraštyjeMIT tyrėjų komanda aprašo algoritmą, kuris pakeičia objekto tekstūrą tiek, kad galėtų suklaidinti vaizdų klasifikavimo algoritmus. Įrodymas, ką komanda vadina „priešingais pavyzdžiais“, vaizdų atpažinimo sistemoms atrodo gluminantis, nepriklausomai nuo kampo, kuriuo objektai žiūrimi, pvz., 3D spausdintas vėžlys, kuris nuolat identifikuojamas kaip šautuvas. Tai bloga žinia apsaugos sistemoms, kurios naudoja A.I. galimų saugumo grėsmių pastebėjimui.
1 apie 5
„Iš tikrųjų tai ne tik tai, kad jie vengia teisingai suskirstyti į kategorijas – jie klasifikuojami kaip pasirinkti priešininkai klasėje, todėl, jei būtume norėję, būtume galėję juos paversti bet kuo kitu“, – „Digital“ sakė tyrinėtojas Anishas Athalye Tendencijos. „Šautuvų ir espreso kavos klasės buvo pasirinktos vienodai atsitiktinai. Priešingi pavyzdžiai buvo sukurti naudojant algoritmą, vadinamą Expectation Over Transformation (EOT), kuris pateikiamas mūsų tyrimo dokumente. Algoritmas priima bet kokį tekstūruotą 3D modelį, pvz., vėžlį, ir randa būdą, kaip subtiliai pakeisti tekstūra tokia, kad ji painioja tam tikrą neuroninį tinklą manydama, kad vėžlys yra bet koks pasirinktas taikinys klasė."
Susijęs
- Mažytis MIT vaikščiojantis robotas galiausiai galėtų sukurti kitus, didesnius robotus
- Mokslininkai sugeba 3D spausdinti tikrąją širdį naudodami žmogaus ląsteles
Nors gali būti juokinga, kad 3D atspausdintas vėžlys būtų pripažintas šautuvu, tačiau mokslininkai pabrėžia, kad pasekmės yra gana siaubingos. Įsivaizduokite, pavyzdžiui, apsaugos sistemą, kuri naudoja dirbtinį intelektą ginklams ar bomboms žymėti, tačiau gali būti apgautas manyti, kad tai yra pomidorai, kavos puodeliai ar net visiškai nematomi. Tai taip pat pabrėžia vaizdų atpažinimo sistemų silpnumą, važiuojant dideliu greičiu savarankiškai važiuojantys automobiliai, kad atpažintų juos supantį pasaulį.
Rekomenduojami vaizdo įrašai
„Mūsų darbas parodo, kad priešingi pavyzdžiai yra didesnė problema, nei daugelis žmonių manė anksčiau, ir rodo, kad priešingi pavyzdžiai neuroniniai tinklai yra tikras rūpestis fiziniame pasaulyje“, – tęsė Athalye. „Ši problema nėra tik intelektualinis smalsumas: tai problema, kurią reikia išspręsti, kad praktinės sistemos, kuriose naudojamas gilus mokymasis, būtų apsaugotos nuo atakų.
Redaktorių rekomendacijos
- „Ford“ gali naudoti jūsų balsą, kad jūsų automobilio ratai būtų apsaugoti nuo vagysčių
- Proveržis biospausdinimo srityje gali leisti 3D spausdinti pakaitinius organus
- Pagaliau yra būdas atsekti „neatsekamus“ 3D spausdintus ginklus
Atnaujinkite savo gyvenimo būdąSkaitmeninės tendencijos padeda skaitytojams stebėti sparčiai besivystantį technologijų pasaulį – pateikiamos visos naujausios naujienos, smagios produktų apžvalgos, įžvalgūs vedamieji leidiniai ir unikalūs žvilgsniai.
