Neironu tīklu maldināšana fiziskajā pasaulē
Viņu avīzēMIT pētnieku komanda apraksta algoritmu, kas maina objekta tekstūru tieši tik daudz, lai tas varētu apmānīt attēlu klasifikācijas algoritmus. Pierādījums tam, ko komanda sauc par "pretrunīgiem piemēriem", izrādās mulsinošs attēlu atpazīšanas sistēmām, neatkarīgi no leņķa, no kura objekti tiek skatīti, piemēram, 3D drukāts bruņurupucis, kas konsekventi tiek identificēts kā šautene. Tās ir sliktas ziņas drošības sistēmām, kas izmanto A.I. lai atklātu iespējamos drošības apdraudējumus.
1 no 5
"Patiesībā tas nav tikai tas, ka viņi izvairās no pareizas kategorizēšanas, viņi tiek klasificēti kā izvēlēti pretinieki klasei, tāpēc mēs būtu varējuši tos pārvērst par jebko citu, ja vien būtu gribējuši,” Digital sacīja pētnieks Anišs Attālijs Tendences. “Šautenes un espresso klases tika izvēlētas vienādi pēc nejaušības principa. Konkurences piemēri tika izveidoti, izmantojot algoritmu ar nosaukumu Expectation Over Transformation (EOT), kas ir izklāstīts mūsu pētījuma dokumentā. Algoritms izmanto jebkuru teksturētu 3D modeli, piemēram, bruņurupuci, un atrod veidu, kā smalki mainīt tekstūra ir tāda, ka tas sajauc noteiktu neironu tīklu, domājot, ka bruņurupucis ir jebkurš izvēlēts mērķis klase.”
Saistīts
- MIT mazais staigājošais robots galu galā varētu izveidot citus, lielākus robotus
- Zinātniekiem izdodas 3D izdrukāt īstu sirdi, izmantojot cilvēka šūnas
Lai gan varētu būt smieklīgi, ja 3D drukāts bruņurupucis tiek atzīts par šauteni, pētnieki norāda, ka sekas ir diezgan biedējošas. Iedomājieties, piemēram, drošības sistēmu, kas izmanto mākslīgo intelektu, lai apzīmētu ieročus vai bumbas, taču to var maldināt, domājot, ka tie ir tomāti vai kafijas krūzes vai pat pilnīgi neredzami. Tas arī uzsver attēla atpazīšanas sistēmu trauslumu, ko pašbraucošas automašīnas lielā ātrumā izmantos, lai saskatītu apkārtējo pasauli.
Ieteiktie videoklipi
"Mūsu darbs parāda, ka pretrunīgie piemēri ir lielāka problēma, nekā daudzi cilvēki iepriekš domāja, un tas parāda, ka pretrunīgi piemēri neironu tīkli ir patiesas bažas fiziskajā pasaulē,” turpināja Atālija. "Šī problēma nav tikai intelektuāla zinātkāre: tā ir problēma, kas ir jāatrisina, lai praktiskās sistēmas, kas izmanto dziļu mācīšanos, būtu pasargātas no uzbrukumiem."
Redaktoru ieteikumi
- Ford var izmantot jūsu balsi, lai padarītu jūsu automašīnas riteņus drošus pret zādzībām
- Izrāviens biodrukāšanā varētu nodrošināt rezerves orgānu 3D drukāšanu
- Beidzot ir veids, kā izsekot “neizsekojamiem” 3D drukātajiem ieročiem
Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi straujajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.
