Nazovite to hipotezom Skyneta, općom umjetnom inteligencijom ili dolaskom singularnosti - godinama su stručnjaci za umjetnu inteligenciju i i nestručnjaci su se uzrujavali (i, za malu skupinu, slavili) zbog ideje da bi umjetna inteligencija jednog dana mogla postati pametnija nego ljudi.
Prema teoriji, napredak u umjetnoj inteligenciji — posebno u tipu strojnog učenja koji može prihvatiti novo informacije i prepisati njezin kod u skladu s tim — na kraju će sustići wetware biološkog mozak. U ovoj interpretaciji događaja, svaki AI napreduje od Opasnost-pobjednički IBM strojevi za masivni AI jezični model GPT-3 vodi čovječanstvo korak bliže egzistencijalnoj prijetnji. Mi doslovno gradimo naše nasljednici koji će uskoro postati svjesni.
Preporučeni videozapisi
Osim što se to nikada neće dogoditi. Barem tako tvrde autori nove knjige Zašto strojevi nikada neće vladati svijetom: Umjetna inteligencija bez straha.
Koautori, profesor filozofije na Sveučilištu Buffalo Barry Smith i Jobst Landgrebe, osnivač njemačke tvrtke za umjetnu inteligenciju Cognotekt, tvrde da ljudsku inteligenciju neće uskoro - niti ikada prestići "besmrtni diktator". Oni su rekli
Digitalni trendovi njihove razloge zašto.
Digital Trends (DT): Kako je ova tema dospjela na vaš radar?
Jobst Landgrebe (JL): Po obrazovanju sam liječnik i biokemičar. Kad sam započeo svoju karijeru, radio sam eksperimente koji su generirali mnogo podataka. Počeo sam studirati matematiku kako bih mogao protumačiti te podatke i vidio koliko je teško modelirati biološke sustave pomoću matematike. Uvijek je postojala ta neusklađenost između matematičkih metoda i bioloških podataka.
U srednjim tridesetima napustio sam akademsku zajednicu i postao poslovni savjetnik i poduzetnik radeći na softverskim sustavima umjetne inteligencije. Pokušavao sam izgraditi AI sustave koji bi oponašali ono što ljudska bića mogu učiniti. Shvatio sam da se susrećem s istim problemom koji sam godinama prije imao na biologiji.
Kupci su mi rekli, 'zašto ne izgradiš chatbotove?' Rekao sam, 'jer oni neće raditi; ne možemo ispravno modelirati ovu vrstu sustava.’ To me je na kraju dovelo do pisanja ove knjige.
Profesor Barry Smith (BS): Mislio sam da je to vrlo zanimljiv problem. Već sam naslućivao slične probleme s umjetnom inteligencijom, ali nikad nisam o njima razmišljao. U početku smo napisali rad pod nazivom "Ponovno stvaranje smisla za umjetnu inteligenciju.’ (To je bilo u Trumpovo doba.) Radilo se o tome zašto neuronske mreže ne uspijevaju u jezičnom modeliranju. Zatim smo odlučili proširiti rad u knjigu koja dublje istražuje ovu temu.
DT: Vaša knjiga izražava skepticizam o načinu na koji neuronske mreže, koje su ključne za moderno duboko učenje, oponašaju ljudski mozak. Oni su aproksimacije, a ne točni modeli funkcioniranja biološkog mozga. Ali prihvaćate li temeljnu premisu da je to moguće, kad bismo razumjeli mozak u granulama dovoljno detalja, moglo bi se umjetno replicirati – i da bi to dovelo do inteligencije ili osjećaj?
JL: Naziv "neuronska mreža" potpuno je pogrešan naziv. Neuronske mreže koje sada imamo, čak i one najsofisticiranije, nemaju nikakve veze s načinom na koji mozak funkcionira. Stav da je mozak skup međusobno povezanih čvorova na način na koji su izgrađene neuronske mreže potpuno je naivan.
Ako pogledate najprimitivniju bakterijsku stanicu, još uvijek ne razumijemo ni kako funkcionira. Razumijemo neke njegove aspekte, ali nemamo model kako funkcionira – a kamoli neuron, koji je puno kompliciraniji, ili milijarde neurona međusobno povezanih. Vjerujem da je znanstveno nemoguće razumjeti kako mozak funkcionira. Možemo razumjeti samo određene aspekte i nositi se s tim aspektima. Nemamo i nećemo dobiti potpuno razumijevanje kako mozak funkcionira.
Kad bismo savršeno razumjeli kako funkcionira svaka molekula mozga, tada bismo to vjerojatno mogli replicirati. To bi značilo staviti sve u matematičke jednadžbe. Tada biste ovo mogli replicirati pomoću računala. Problem je samo u tome što te jednadžbe ne možemo zapisati i stvoriti.
BS: Mnoge od najzanimljivijih stvari na svijetu događaju se na razinama granularnosti kojima ne možemo pristupiti. Jednostavno nemamo opremu za snimanje, a vjerojatno je nikada nećemo ni imati, da uhvatimo većinu onoga što se događa na vrlo finim razinama mozga.
To znači da ne znamo, na primjer, što je odgovorno za svijest. Postoji, zapravo, niz vrlo zanimljivih filozofskih problema, koji će, prema metodi koju slijedimo, uvijek biti nerješivi - pa bismo ih trebali jednostavno zanemariti.
Druga je sloboda volje. Jako smo za ideju da ljudska bića imaju volju; možemo imati namjere, ciljeve i tako dalje. Ali ne znamo je li to slobodna volja ili ne. To je pitanje koje ima veze s fizikom mozga. Što se tiče dokaza koji su nam dostupni, računala ne mogu imati volju.
DT: Podnaslov knjige je ‘umjetna inteligencija bez straha’. Na koji to konkretan strah mislite?
BS: To je izazvano literaturom o singularnosti, za koju znam da ste upoznati. Nick Bostrom, David Chalmers, Elon Musk i slični. Kada smo razgovarali s kolegama u stvarnom svijetu, postalo nam je jasno da doista postoji određeni strah među stanovništvom da će AI na kraju preuzeti vlast i promijeniti svijet na štetu ljudi.
Imamo dosta toga u knjizi o argumentima tipa Bostrum. Osnovni argument protiv njih je da ako stroj ne može imati volju, onda ne može imati ni zlu volju. Bez zle volje nema se čega bojati. Sada se, naravno, još uvijek možemo bojati strojeva, baš kao što se možemo bojati oružja.
Ali to je zato što strojevima upravljaju ljudi sa zlim ciljevima. Ali onda nije umjetna inteligencija ta koja je zla; ljudi su ti koji grade i programiraju AI
DT: Zašto taj pojam singularnosti ili umjetne opće inteligencije toliko zanima ljude? Bez obzira na to jesu li njome uplašeni ili fascinirani, postoji nešto u ovoj ideji što odjekuje kod ljudi na širokoj razini.
JL: Postoji ta ideja, započeta početkom 19. stoljeća, a potom objavljena od strane Nietzschea na kraju tog stoljeća, da je Bog mrtav. Budući da elite našeg društva više nisu kršćani, trebala im je zamjena. Max Stirner, koji je poput Karla Marxa bio Hegelov učenik, napisao je knjigu o tome, rekavši: ‘Ja sam svoj bog.’
Ako ste Bog, također želite biti i kreator. Ako možete stvoriti superinteligenciju onda ste poput Boga. Mislim da to ima veze s hipernarcisoidnim tendencijama u našoj kulturi. O tome ne govorimo u knjizi, ali to mi objašnjava zašto je ova ideja tako privlačna u našem vremenu u kojem više nema transcendentnog entiteta kojemu bismo se mogli obratiti.
DT: Zanimljivo. Dakle, da to pratimo, ideja je da je stvaranje umjetne inteligencije - ili cilj stvaranja umjetne inteligencije - narcisoidan čin. U tom slučaju, koncept da bi te tvorevine na neki način postale moćnije od nas je košmaran obrat. Dijete ubija roditelja.
JL: Pomalo tako, da.
DT: Što bi za vas bio krajnji ishod vaše knjige da su svi bili uvjereni u vaše argumente? Što bi to značilo za budućnost razvoja umjetne inteligencije?
JL: To je vrlo dobro pitanje. Mogu vam točno reći što mislim da bi se dogodilo - i da će se dogoditi. Mislim da će u srednjem roku ljudi prihvatiti naše argumente, a to će stvoriti bolje primijenjenu matematiku.
Nešto čega su svi veliki matematičari i fizičari potpuno svjesni bila su ograničenja onoga što su matematički mogli postići. Budući da su toga svjesni, fokusiraju se samo na određene probleme. Ako si dobro svjestan ograničenja, onda ideš svijetom i tražiš te probleme i rješavaš ih. Tako je Einstein pronašao jednadžbe za Brownovo gibanje; kako je došao do svoje teorije relativnosti; kako je Planck riješio zračenje crnog tijela i time započeo kvantnu teoriju materije. Imali su dobar instinkt za to koji su problemi podložni matematičkim rješenjima, a koji nisu.
Ako ljudi nauče poruku naše knjige, vjerujemo da će moći konstruirati bolje sustave, jer oni usredotočit će se na ono što je doista izvedivo – i prestati rasipati novac i trud na nešto što nije moguće postignuto.
BS: Mislim da neke od poruka već prolaze, ne zbog onoga što govorimo, već zbog iskustva ljudi imaju kada daju velike količine novca za projekte umjetne inteligencije, a onda projekti umjetne inteligencije propadnu. Pretpostavljam da znate za Zajednički centar za umjetnu inteligenciju. Ne mogu se sjetiti točne svote, ali mislim da je to bilo oko 10 milijardi dolara, koje su dali poznatom izvođaču. Na kraju nisu ništa dobili. Raskinuli su ugovor.
(Napomena urednika: JAIC, pododjel Oružanih snaga Sjedinjenih Država, trebao je ubrzati "isporuku i usvajanje umjetne inteligencije za postizanje učinka misije u mjerilu." U lipnju ove godine spojen je u veću jedinstvenu organizaciju, Chief Digital and Artificial Intelligence Officer, s još dva ureda. JAIC je prestao postojati kao vlastiti entitet.)
DT: Što mislite, na visokoj razini, koji je najuvjerljiviji argument koji iznosite u knjizi?
BS: Svaki AI sustav je matematičke prirode. Budući da ne možemo matematički modelirati svijest, volju ili inteligenciju, oni se ne mogu oponašati pomoću strojeva. Stoga strojevi neće postati inteligentni, a kamoli superinteligentni.
JL: Struktura našeg mozga dopušta samo ograničene modele prirode. U fizici odabiremo podskup stvarnosti koji odgovara našim sposobnostima matematičkog modeliranja. Tako su Newton, Maxwell, Einstein ili Schrödinger dobili svoje poznate i lijepe modele. Ali oni mogu opisati ili predvidjeti samo mali skup sustava. Naši najbolji modeli su oni koje koristimo za razvoj tehnologije. Nismo u mogućnosti stvoriti potpuni matematički model žive prirode.
Ovaj intervju je uređen radi duljine i jasnoće.
Preporuke urednika
- Vrhunski autori traže plaćanje od AI tvrtki za korištenje njihovog rada
- Bing Chat se bori protiv zabrana AI-ja na radnom mjestu
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
- Nova AI tvrtka Elona Muska ima za cilj 'razumjeti svemir'
- Rekordni rast ChatGPT-a upravo je skinuta s trona novom virusnom aplikacijom
