Poimenujte to hipoteza Skyneta, umetna splošna inteligenca ali prihod Singularnosti – leta so strokovnjaki za umetno inteligenco in nestrokovnjaki so se vznemirjali (in za majhno skupino slavili) nad idejo, da bo umetna inteligenca nekega dne morda postala pametnejša kot ljudje.
V skladu s teorijo napredek v AI - zlasti na področju strojnega učenja, ki lahko sprejme novo informacije in ustrezno prepisati svojo kodo — bo sčasoma dohitel wetware biološkega možgani. V tej razlagi dogodkov vsak AI napreduje od Nevarnost- zmagovalni IBM-ovi stroji ogromen jezikovni model AI GPT-3 pelje človeštvo korak bližje eksistencialni grožnji. Dobesedno gradimo svoje bodočih naslednikov.
Priporočeni videoposnetki
Le da se to nikoli ne bo zgodilo. Vsaj tako pravijo avtorji nove knjige Zakaj stroji ne bodo nikoli vladali svetu: Umetna inteligenca brez strahu.
Soavtor, profesor filozofije Univerze v Buffalu Barry Smith in Jobst Landgrebe, ustanovitelj nemškega podjetja AI Cognotekt trdi, da človeške inteligence ne bo kmalu prehitel "nesmrtni diktator" - ali nikoli. Povedali so
Digitalni trendi njihovi razlogi, zakaj.
Digitalni trendi (DT): Kako je ta tema prišla na vaš radar?
Jobst Landgrebe (JL): Po izobrazbi sem zdravnik in biokemik. Ko sem začel svojo kariero, sem delal poskuse, ki so ustvarili veliko podatkov. Začel sem študirati matematiko, da bi lahko interpretiral te podatke, in videl, kako težko je modelirati biološke sisteme z uporabo matematike. Vedno je obstajalo neskladje med matematičnimi metodami in biološkimi podatki.
Sredi tridesetih sem zapustil akademsko sfero in postal poslovni svetovalec in podjetnik, ki dela v programskih sistemih umetne inteligence. Poskušal sem zgraditi sisteme umetne inteligence, ki bi posnemali, kaj zmorejo ljudje. Spoznal sem, da naletim na isto težavo, kot sem jo imel pred leti pri biologiji.
Stranke so mi rekle, "zakaj ne zgradiš chatbotov?" Rekel sem, "ker ne bodo delovali; te vrste sistema ne moremo pravilno modelirati.« To me je na koncu pripeljalo do tega, da sem napisal to knjigo.
Profesor Barry Smith (BS): Zdel se mi je zelo zanimiv problem. Slutil sem že o podobnih težavah z AI, a o njih še nikoli nisem razmišljal. Na začetku smo napisali dokument z naslovom "Ponovno osmisliti umetno inteligenco.’ (To je bilo v Trumpovi dobi.) Šlo je za to, zakaj nevronske mreže niso uspešne pri jezikovnem modeliranju. Nato smo se odločili, da prispevek razširimo v knjigo, ki bo to temo globlje raziskala.
DT: Vaša knjiga izraža skepticizem glede načina, kako nevronske mreže, ki so ključne za sodobno globoko učenje, posnemajo človeške možgane. So približki in ne natančni modeli delovanja bioloških možganov. Toda ali sprejemate temeljno predpostavko, da je to možno, če bi razumeli možgane podrobno dovolj podrobnosti, bi ga lahko umetno posnemali – in da bi to povzročilo inteligenco oz. čustvenost?
JL: Ime "nevronska mreža" je popolnoma napačno. Nevronske mreže, ki jih imamo zdaj, tudi najbolj sofisticirane, nimajo nobene zveze z načinom delovanja možganov. Stališče, da so možgani skupek med seboj povezanih vozlišč na način, kot so zgrajene nevronske mreže, je popolnoma naivno.
Če pogledate najbolj primitivno bakterijsko celico, še vedno ne razumemo niti, kako deluje. Razumemo nekatere njegove vidike, vendar nimamo modela, kako deluje – kaj šele nevron, ki je veliko bolj zapleten, ali milijarde med seboj povezanih nevronov. Verjamem, da je znanstveno nemogoče razumeti, kako delujejo možgani. Razumemo lahko samo določene vidike in se s temi vidiki ukvarjamo. Nimamo in ne bomo dobili popolnega razumevanja delovanja možganov.
Če bi popolnoma razumeli, kako deluje vsaka molekula možganov, bi jo verjetno lahko posnemali. To bi pomenilo, da bi vse postavili v matematične enačbe. Potem bi to lahko posnemali z računalnikom. Težava je samo v tem, da teh enačb ne moremo zapisati in ustvariti.
BS: Veliko najzanimivejših stvari na svetu se dogaja na stopnjah razdrobljenosti, ki se jim ne moremo približati. Preprosto nimamo opreme za slikanje in je verjetno nikoli ne bomo imeli, da bi zajeli večino dogajanja na zelo finih ravneh možganov.
To pomeni, da na primer ne vemo, kaj je odgovorno za zavest. Dejansko obstaja vrsta precej zanimivih filozofskih problemov, ki bodo po metodi, ki ji sledimo, vedno nerešljivi – zato bi jih morali preprosto ignorirati.
Druga je svoboda volje. Zelo močno podpiramo idejo, da imajo ljudje voljo; lahko imamo namene, cilje itd. Vendar ne vemo, ali je to svobodna volja ali ne. To je vprašanje, ki je povezano s fiziko možganov. Kar zadeva dokaze, ki so nam na voljo, računalniki ne morejo imeti volje.
DT: Podnaslov knjige je 'umetna inteligenca brez strahu'. Kateri je specifični strah, na katerega se sklicujete?
BS: To je izzvala literatura o singularnosti, za katero vem, da jo poznate. Nick Bostrom, David Chalmers, Elon Musk in podobni. Ko smo se pogovarjali s kolegi v resničnem svetu, nam je postalo jasno, da res obstaja določen strah med prebivalstvom, da bo umetna inteligenca sčasoma prevzela oblast in spremenila svet v škodo ljudi.
V knjigi imamo precej o argumentih tipa Bostrum. Glavni argument proti njim je, da če stroj ne more imeti volje, potem tudi ne more imeti zlobne volje. Brez zle volje se ni ničesar bati. Zdaj se seveda še lahko bojimo strojev, tako kot se lahko bojimo orožja.
Toda to je zato, ker stroje upravljajo ljudje s slabimi nameni. Ampak potem ni AI tisti, ki je zlo; ljudje so tisti, ki gradijo in programirajo AI
DT: Zakaj ta pojem singularnosti ali umetne splošne inteligence tako zanima ljudi? Ne glede na to, ali jih je strah ali očara, nekaj je v tej ideji, kar odmeva med ljudmi na široki ravni.
JL: Obstaja ideja, ki se je pojavila na začetku 19. stoletja in jo je nato ob koncu tega stoletja razglasil Nietzsche, da je Bog mrtev. Ker elite naše družbe niso več kristjani, so potrebovale zamenjavo. Max Stirner, ki je bil, tako kot Karl Marx, Heglov učenec, je o tem napisal knjigo, v kateri je rekel: 'Jaz sem sam svoj bog.'
Če si Bog, želiš biti tudi stvarnik. Če lahko ustvarite superinteligenco, potem ste kot Bog. Mislim, da je to povezano s hipernarciističnimi težnjami v naši kulturi. O tem v knjigi ne govorimo, a to mi pojasni, zakaj je ta ideja tako privlačna v našem času, v katerem ni več nobene transcendentne entitete, na katero bi se lahko obrnil.
DT: Zanimivo. Torej, če temu sledimo, gre za idejo, da je ustvarjanje AI – ali cilj ustvariti AI – narcisoidno dejanje. V tem primeru je koncept, da bi te stvaritve nekako postale močnejše od nas, nočna mora. To je otrok, ki ubije starša.
JL: Malo tako, ja.
DT: Kaj bi bil za vas končni izid vaše knjige, če bi vse prepričali vaši argumenti? Kaj bi to pomenilo za prihodnost razvoja AI?
JL: To je zelo dobro vprašanje. Lahko vam natančno povem, kaj mislim, da bi se zgodilo – in se bo zgodilo. Mislim, da bodo vmes ljudje sprejeli naše argumente in to bo ustvarilo boljšo uporabno matematiko.
Nekaj, česar se vsi veliki matematiki in fiziki popolnoma zavedajo, so bile omejitve tega, kar bi lahko dosegli matematično. Ker se tega zavedajo, se osredotočajo le na določene probleme. Če se dobro zavedaš omejitev, potem greš po svetu in iščeš te probleme ter jih rešuješ. Tako je Einstein našel enačbe za Brownovo gibanje; kako je prišel do svoje teorije relativnosti; kako je Planck rešil sevanje črnega telesa in s tem začel kvantno teorijo materije. Imeli so dober instinkt za to, katere probleme je mogoče rešiti z matematiko in katere ne.
Če se ljudje naučijo sporočila naše knjige, verjamemo, da bodo lahko izdelali boljše sisteme, saj se bo osredotočil na tisto, kar je resnično izvedljivo – in prenehal zapravljati denar in trud za nekaj, kar ni mogoče dosežen.
BS: Mislim, da nekatera sporočila že prihajajo skozi, ne zaradi tega, kar rečemo, ampak zaradi izkušnje, ki jih imajo ljudje, ko dajo velike količine denarja projektom AI, potem pa projekti AI propadejo. Predvidevam, da poznate skupni center za umetno inteligenco. Ne morem se spomniti natančne vsote, vendar mislim, da je bilo približno 10 milijard dolarjev, ki so jih dali slavnemu izvajalcu. Na koncu niso imeli nič od tega. Odpovedali so pogodbo.
(Opomba urednika: JAIC, pododdelek oboroženih sil Združenih držav, je bil namenjen pospeševanju »dostave in sprejemanja umetne inteligence za doseganje učinka misije v obsegu." Junija letos je bil združen v večjo enotno organizacijo, Chief Digital and Artificial Intelligence Officer, z dvema drugima uradoma. JAIC je prenehal obstajati kot lastna entiteta.)
DT: Kateri menite, da je na visoki ravni vaš najprepričljivejši argument v knjigi?
BS: Vsak sistem AI je matematične narave. Ker ne moremo matematično modelirati zavesti, volje ali inteligence, jih ni mogoče posnemati s stroji. Zato stroji ne bodo postali inteligentni, kaj šele superinteligentni.
JL: Struktura naših možganov omogoča le omejene modele narave. V fiziki izberemo podmnožico realnosti, ki ustreza našim zmožnostim matematičnega modeliranja. Tako so Newton, Maxwell, Einstein ali Schrödinger dobili svoje slavne in lepe modele. Toda ti lahko opišejo ali napovejo le majhen nabor sistemov. Naši najboljši modeli so tisti, ki jih uporabljamo za inženirsko tehnologijo. Ne moremo ustvariti popolnega matematičnega modela žive narave.
Ta intervju je bil urejen zaradi dolžine in jasnosti.
Priporočila urednikov
- Najboljši avtorji zahtevajo plačilo od podjetij AI za uporabo njihovega dela
- Bing Chat se bori proti prepovedim umetne inteligence na delovnem mestu
- Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
- Novo podjetje Elona Muska z umetno inteligenco želi "razumeti vesolje"
- Rekordno rast ChatGPT je pravkar zrušila nova virusna aplikacija
