Tikriausiai esate susipažinę su gilios klastotės, skaitmeniniu būdu pakeista „sintetinė laikmena“, galinti priversti žmones pamatyti ar išgirsti dalykus, kurių iš tikrųjų nebuvo. Priešingi pavyzdžiai yra tarsi gilūs vaizdų atpažinimo klastotės A.I. sistemos – ir nors jos mums neatrodo net šiek tiek keistos, jos gali išvilioti mašinas.
Turinys
- Priešingų išpuolių atremimas
- Dar reikia nuveikti daugiau darbų
Prieš kelis metusMasačusetso technologijos instituto kompiuterių mokslo ir dirbtinio intelekto laboratorijos (CSAIL) mokslininkai nustatė, kad jie gali suklaidinti net sudėtingus vaizdų atpažinimo algoritmus, kad jie supainiotų objektus, tiesiog šiek tiek pakeisdami jų paviršių tekstūra. Tai taip pat nebuvo smulkmenos.
Tyrėjų demonstracijoje jie parodė, kad buvo įmanoma sukurti pažangiausią neuroninį tinklą, kad būtų galima pažvelgti į 3D spausdintą vėžlį ir vietoj jo pamatyti šautuvą. Arba pažvelgti į beisbolą ir padaryti išvadą, kad tai espreso kava. Jei tokia vizualinė agnozija pasireikštų žmogui, tai būtų toks neurologinis atvejo tyrimas, kuris atsidurtų tokioje knygoje kaip Oliverio Sackso klasika.
Vyras, kuris žmoną laikė skrybėle.Rekomenduojami vaizdo įrašai
Prieštaringi pavyzdžiai rodo įspūdingą pažeidžiamumą, kai kalbama apie tai, kaip vizualiai A.I. sistemos žiūri į pasaulį. Tačiau jie taip pat, kaip galima tikėtis iš trūkumo, painiojančio naują žaislinį vėžlį su šautuvu, gali kelti nerimą. Tai yra tas, kurį tyrėjai desperatiškai sugalvojo, kaip pataisyti.
Dabar kita MIT tyrėjų grupė sugalvojo naują sistemą, kuri galėtų padėti išvengti „priešingo“ įvesties. Proceso metu jie įsivaizdavo atvirai siaubingą priešpriešinių pavyzdžių naudojimo atvejį, kuris, jei įsilaužėliai jį įgyvendintų, galėtų būti panaudotas mirtinai pasekmei.
Scenarijus toks: autonominiai automobiliai vis geriau suvokia juos supantį pasaulį. Bet ką daryti, jei staiga ar tyčia arba netyčia būtų tyčia ar netyčia negalėtų nustatyti, kas yra priešais juos? Klaidingas objekto suskirstymas kelyje, pvz., netinkamas pėsčiojo atpažinimas ir vieta, gali baigtis labai, labai blogai.
Priešingų išpuolių atremimas
„Mūsų grupė jau keletą metų dirba gilaus mokymosi, robotikos ir valdymo teorijos sąsajoje, įskaitant naudokite gilųjį RL [stiprinimo mokymąsi], kad išmokytumėte robotus socialiai sąmoningai naršyti aplink pėsčiuosius. Michaelas EveretasMIT Aeronautikos ir astronautikos katedros doktorantas sakė „Digital Trends“. „Kai svarstėme, kaip šias idėjas pritaikyti didesnėms ir greitesnėms transporto priemonėms, saugumo ir tvirtumo klausimai tapo didžiausiu iššūkiu. Matėme puikią galimybę ištirti šią problemą giliai mokantis iš tvirto valdymo ir patikimo optimizavimo perspektyvos.
Socialiai sąmoningas judesių planavimas su giliu mokymusi
Stiprinamasis mokymasis yra bandymais ir klaidomis pagrįstas mašininio mokymosi metodas, kurį, žinoma, naudojo mokslininkai siekdami gauti kompiuterius, kad išmoktumėte žaisti vaizdo žaidimus aiškiai nemokant, kaip. Komandos naujas sustiprinimo mokymosi ir giluminio neuroninio tinklo algoritmas vadinamas CARRL, sutrumpintai iš sertifikuoto priešpriešinio tvirtumo, skirto giliam mokymuisi. Iš esmės tai yra a neuroninis tinklas su papildoma skepticizmo doze, kai kalbama apie tai, ką jis mato.
Vienoje savo darbo demonstracijoje, kurią parėmė Ford Motor Company, mokslininkai sukūrė sustiprinimo mokymosi algoritmą, galintį žaisti klasikinį Atari žaidimą. Pong. Tačiau, skirtingai nei ankstesni RL žaidėjai, savo versijoje jie taikė priešišką ataką, kuri atmetė A.I. agentas įvertino žaidimo kamuolio padėtį, todėl jis mano, kad jis buvo keliais pikseliais žemesnis nei iš tikrųjų buvo. Paprastai tai sukeltų A.I. žaidėjas atsiduria nepalankioje padėtyje, todėl jis nuolat pralaimi kompiuterio priešininkui. Tačiau šiuo atveju RL agentas galvoja apie visas kamuolio vietas galėtų būti, o tada padėkite irklą ten, kur jis nepraleis, nepaisant padėties pasikeitimo.
„Ši nauja tvirtų gilaus mokymosi algoritmų kategorija bus būtina norint sukurti perspektyvią A.I. technikos į realų pasaulį“.
Žinoma, žaidimai yra daug paprastesni nei realus pasaulis, kaip lengvai pripažįsta Everett.
„Tikrasis pasaulis turi daug daugiau neapibrėžtumo nei vaizdo žaidimai – dėl netobulų jutiklių ar priešiškų išpuolių, kurių gali pakakti giliam mokymuisi. sistemos, leidžiančios priimti pavojingus sprendimus, pavyzdžiui, dažyti tašką ant kelio [dėl kurio savarankiškai važiuojantis automobilis gali išsukti į kitą eismo juostą. paaiškino. „Mūsų darbas pristato gilų RL algoritmą, kuris yra patikimai atsparus netobuliems matavimams. Pagrindinė naujovė yra ta, kad užuot aklai pasitikėję savo matavimais, kaip daroma šiandien, mūsų algoritmas galvoja atlikdamas visus įmanomus matavimus, kuriuos buvo galima atlikti, ir priima sprendimą, atsižvelgdamas į blogiausią atvejį rezultatas."
Kitoje demonstracijoje jie parodė, kad algoritmas imituojamo vairavimo kontekste gali išvengti susidūrimų net tada, kai jo jutiklius atakuoja priešas, norintis, kad agentas susidurtų. „Ši nauja tvirtų gilaus mokymosi algoritmų kategorija bus būtina norint sukurti perspektyvią A.I. metodus realiame pasaulyje“, – sakė Everetas.
Dar reikia nuveikti daugiau darbų
Vis dar ankstyvos šio darbo dienos, ir dar reikia nuveikti. Taip pat gali kilti problemų, dėl kurių kai kuriais atvejais A.I. agentas elgtis pernelyg konservatyviai, todėl jis tampa mažiau veiksmingas. Nepaisant to, tai vertingas tyrimas, galintis turėti didelį poveikį ateityje.
„[Yra ir kitų tyrimų projektų], kuriuose pagrindinis dėmesys skiriamas apsaugai nuo [tam tikrų tipų] priešiškų pavyzdžių, kai neuroninio tinklo užduotis yra Suskirstykite vaizdą ir jis yra teisingas [arba] neteisingas, ir istorija tuo baigiasi", - sakė Everetas, paklaustas apie klasikinį vėžlį prieš šautuvą. problema. „Mūsų darbas remiasi kai kuriomis iš tų idėjų, bet yra orientuotas į mokymąsi sustiprinti, kai agentas turi imtis veiksmų ir gauti tam tikrą atlygį, jei jam sekasi gerai. Taigi svarstome ilgalaikį klausimą „Jei aš sakau, kad tai vėžlys, kokios to sprendimo pasekmės ateityje?“ ir čia mūsų algoritmas tikrai gali padėti. Mūsų algoritmas pagalvotų apie blogiausius būsimus vėžlio ar šautuvo pasirinkimo padarinius. gali būti svarbus žingsnis sprendžiant svarbias saugumo problemas, kai A.I. agentų sprendimai yra ilgalaikiai efektas“.
Tyrimą aprašantis dokumentas yra galima skaityti elektroninėje išankstinio spaudinio saugykloje arXiv.
Redaktorių rekomendacijos
- Analoginis A.I.? Skamba beprotiškai, bet tai gali būti ateitis
- Štai ką tendencijas analizuojantis A.I. mano, kad tai bus kitas didelis dalykas technologijų srityje
- Kailifornijoje yra užtemimo problema. Ar milžiniškos srauto baterijos galėtų būti sprendimas?
- Algoritminė architektūra: ar turėtume leisti A.I. projektuoti pastatus mums?
- Emocijų jutimo A.I. yra čia, ir tai gali būti kitame jūsų darbo pokalbyje
