Sauciet to par Skynet hipotēzi, mākslīgo vispārējo intelektu vai singularitātes parādīšanos — gadiem ilgi AI eksperti un gan neeksperti ir satraukušies (un mazai grupai arī svinējuši) domu, ka mākslīgais intelekts kādu dienu var kļūt gudrāks nekā cilvēkiem.
Saskaņā ar teoriju AI sasniegumi — īpaši mašīnmācīšanās veida, kas spēj pārņemt jaunu informāciju un attiecīgi pārrakstīt tās kodu — galu galā tiks panākts ar bioloģisko mitrinātāju smadzenes. Šajā notikumu interpretācijā katrs AI virzās no Apdraudējums- uzvarot IBM mašīnas masīvs AI valodas modelis GPT-3 sper cilvēci vienu soli tuvāk eksistenciālam apdraudējumam. Mēs burtiski veidojam savu drīz būs jūtīgi pēcteči.
Ieteiktie videoklipi
Izņemot to, ka tas nekad nenotiks. Vismaz tā uzskata jaunās grāmatas autori Kāpēc mašīnas nekad nevaldīs pasauli: mākslīgais intelekts bez bailēm.
Līdzautori Bufalo universitātes filozofijas profesors Berijs Smits un Džobsts Landgrebe, Vācijas AI uzņēmuma Cognotekt dibinātājs apgalvo, ka cilvēka intelektu drīz vai nekad nepārsniegs "nemirstīgs diktators". Viņi stāstīja
Digitālās tendences viņu iemesli, kāpēc.
Digitālās tendences (DT): kā šis objekts nokļuva jūsu radarā?
Džobsts Landgrebe (JL): Pēc izglītības esmu ārsts un bioķīmiķis. Kad es sāku savu karjeru, es veicu eksperimentus, kas ģenerēja daudz datu. Es sāku studēt matemātiku, lai varētu interpretēt šos datus, un redzēju, cik grūti ir modelēt bioloģiskās sistēmas, izmantojot matemātiku. Vienmēr pastāvēja šī neatbilstība starp matemātiskajām metodēm un bioloģiskajiem datiem.
Savu trīsdesmito gadu vidū es pametu akadēmisko vidi un kļuvu par biznesa konsultantu un uzņēmēju, kas strādā mākslīgā intelekta programmatūras sistēmās. Es mēģināju izveidot AI sistēmas, lai atdarinātu to, ko var darīt cilvēki. Es sapratu, ka saskaros ar to pašu problēmu, kas man bija gadiem iepriekš bioloģijā.
Klienti man teica: "Kāpēc jūs neveidojat tērzēšanas robotus?" Es atbildēju: "Jo tie nedarbosies; mēs nevaram pareizi modelēt šāda veida sistēmu.” Tas galu galā noveda pie šīs grāmatas rakstīšanas.
Profesors Barijs Smits (BS): Man šķita, ka tā bija ļoti interesanta problēma. Man jau bija nojausmas par līdzīgām problēmām ar AI, bet es nekad nebiju tās pārdomājis. Sākumā mēs uzrakstījām darbu ar nosaukumu "Atkal padarot mākslīgo intelektu jēgpilnu.’ (Tas bija Trampa laikmetā.) Tas bija par to, kāpēc neironu tīkli neizdodas valodu modelēšanā. Tad mēs nolēmām izvērst šo rakstu grāmatā, kurā šī tēma tiek pētīta dziļāk.
DT: Jūsu grāmata pauž skepsi par to, kā neironu tīkli, kas ir būtiski mūsdienu dziļās mācīšanās procesā, līdzinās cilvēka smadzenēm. Tie ir tuvinājumi, nevis precīzi bioloģisko smadzeņu darbības modeļi. Bet vai jūs pieņemat galveno pieņēmumu, ka tas ir iespējams, ja mēs smadzenes saprastu granulēti pietiekami detalizēti, to varētu mākslīgi pavairot – un ka tas radītu izlūkdatus vai jūtīgums?
JL: Nosaukums “neironu tīkls” ir pilnīgs nepareizs nosaukums. Neironu tīkliem, kas mums tagad ir, pat vismodernākajiem, nav nekāda sakara ar smadzeņu darbību. Uzskats, ka smadzenes ir savstarpēji savienotu mezglu kopums tādā veidā, kā tiek veidoti neironu tīkli, ir pilnīgi naivs.
Ja paskatās uz primitīvāko baktēriju šūnu, mēs joprojām nesaprotam, kā tā darbojas. Mēs saprotam dažus tā aspektus, bet mums nav modeļa, kā tas darbojas – nemaz nerunājot par neironu, kas ir daudz sarežģītāks, vai miljardiem savstarpēji savienotu neironu. Es uzskatu, ka tas ir zinātniski neiespējami lai saprastu, kā darbojas smadzenes. Mēs varam izprast tikai atsevišķus aspektus un risināt šos aspektus. Mums nav un mēs nesaņemsim pilnīgu izpratni par to, kā darbojas smadzenes.
Ja mums būtu pilnīga izpratne par to, kā darbojas katra smadzeņu molekula, tad mēs, iespējams, varētu to atkārtot. Tas nozīmētu visu salikt matemātiskajos vienādojumos. Pēc tam jūs varētu to atkārtot, izmantojot datoru. Problēma ir tikai tajā, ka mēs nespējam pierakstīt un izveidot šos vienādojumus.
BS: Daudzas no interesantākajām lietām pasaulē notiek tādā precizitātes līmenī, kam mēs nevaram pietuvoties. Mums vienkārši nav attēlveidošanas aprīkojuma, un mums, iespējams, arī nekad nebūs attēlveidošanas aprīkojuma, lai fiksētu lielāko daļu no tā, kas notiek ļoti smalkajos smadzeņu līmeņos.
Tas nozīmē, ka mēs nezinām, piemēram, kas ir atbildīgs par apziņu. Patiesībā ir virkne diezgan interesantu filozofisku problēmu, kuras saskaņā ar mūsu izmantoto metodi vienmēr būs neatrisināmas, un tāpēc mums tās vienkārši jāignorē.
Vēl viena ir gribas brīvība. Mēs ļoti stingri atbalstām ideju, ka cilvēkiem ir griba; mums var būt nodomi, mērķi un tā tālāk. Bet mēs nezinām, vai tā ir brīva griba. Tā ir problēma, kas ir saistīta ar smadzeņu fiziku. Ciktāl tas attiecas uz mums pieejamajiem pierādījumiem, datoriem nevar būt gribas.
DT: Grāmatas apakšvirsraksts ir “mākslīgais intelekts bez bailēm”. Kādas ir konkrētās bailes, uz kurām jūs atsaucāties?
BS: To izraisīja literatūra par singularitāti, ko es zinu, ka jūs esat pazīstams. Niks Bostroms, Deivids Čalmerss, Īlons Masks un tamlīdzīgi. Kad mēs runājām ar saviem kolēģiem reālajā pasaulē, mums kļuva skaidrs, ka patiešām pastāv a zināmas iedzīvotāju bailes, ka mākslīgais intelekts galu galā pārņems un mainīs pasauli, kaitējot tām cilvēkiem.
Mums grāmatā ir diezgan daudz par Bostrum tipa argumentiem. Galvenais arguments pret viņiem ir tāds, ka, ja mašīnai nevar būt gribas, tad tai nevar būt arī ļaunas gribas. Bez ļaunas gribas nav no kā baidīties. Tagad, protams, mēs joprojām varam baidīties no mašīnām, tāpat kā mēs varam baidīties no ieročiem.
Bet tas ir tāpēc, ka mašīnas pārvalda cilvēki ar ļauniem mērķiem. Bet tad ļaunais nav AI; tie ir cilvēki, kas veido un programmē AI
DT: Kāpēc šis jēdziens par singularitāti vai mākslīgo vispārējo intelektu tik ļoti interesē cilvēkus? Neatkarīgi no tā, vai tas viņus nobiedē vai aizrauj, šajā idejā ir kaut kas, kas rezonē ar cilvēkiem plašā līmenī.
JL: Ir šī ideja, kas aizsākās 19. gadsimta sākumā un pēc tam Nīče pasludināja šī gadsimta beigās, ka Dievs ir miris. Tā kā mūsu sabiedrības elite vairs nav kristieši, viņiem vajadzēja nomainīt. Makss Stirners, kurš tāpat kā Kārlis Markss bija Hēgeļa skolnieks, par to uzrakstīja grāmatu, sakot: "Es esmu pats savs dievs."
Ja tu esi Dievs, tu vēlies būt arī radītājs. Ja jūs varētu izveidot superinteliģenci, tad jūs esat kā Dievs. Es domāju, ka tas ir saistīts ar hipernarcistiskajām tendencēm mūsu kultūrā. Mēs grāmatā par to nerunājam, bet tas man izskaidro, kāpēc šī ideja ir tik pievilcīga mūsu laikos, kad vairs nav transcendentas būtības, pie kuras vērsties.
DT: Interesanti. Tātad, lai to paveiktu, ir doma, ka AI izveide vai mērķis radīt AI ir narcistiska darbība. Tādā gadījumā ideja, ka šie darbi kaut kādā veidā kļūs spēcīgāki par mums, ir murgains pavērsiens. Tas ir bērns, kas nogalina vecāku.
JL: Mazliet tā, jā.
DT: Kāds būtu jūsu grāmatas galīgais rezultāts, ja visus pārliecinātu jūsu argumenti? Ko tas nozīmētu AI attīstības nākotnei?
JL: Tas ir ļoti labs jautājums. Es varu jums precīzi pateikt, kas, manuprāt, notiks un notiks. Es domāju, ka vidusposmā cilvēki pieņems mūsu argumentus, un tas radīs labāk pielietojamu matemātiku.
Kaut kas, ko visi lielie matemātiķi un fiziķi pilnībā apzinās, bija ierobežojumi tam, ko viņi var sasniegt matemātiski. Tā kā viņi to apzinās, viņi koncentrējas tikai uz noteiktām problēmām. Ja tu labi apzinies ierobežojumus, tad tu ej cauri pasaulei un meklē šīs problēmas un risini tās. Tā Einšteins atrada Brauna kustības vienādojumus; kā viņš nāca klajā ar savām relativitātes teorijām; kā Planks atrisināja melnā ķermeņa starojumu un tādējādi aizsāka matērijas kvantu teoriju. Viņiem bija labs instinkts, kuras problēmas ir risināmas ar matemātiku un kuras nav.
Ja cilvēki uzzinās mūsu grāmatas vēstījumu, viņi, mēs uzskatām, spēs izstrādāt labākas sistēmas, jo viņi koncentrēsies uz to, kas ir patiesi iespējams – un pārstās tērēt naudu un pūles tam, kas nevar būt sasniegts.
BS: Es domāju, ka daļa vēstījumu jau tiek pārraidīta, nevis tāpēc, ko mēs sakām, bet gan tāpēc, ka cilvēku pieredze, kad viņi AI projektiem piešķir lielas naudas summas, un tad AI projekti neizdodas. Es domāju, ka jūs zināt par Apvienoto mākslīgā intelekta centru. Es nevaru atcerēties precīzu summu, bet es domāju, ka tā bija aptuveni 10 miljardi USD, ko viņi iedeva slavenam darbuzņēmējam. Galu galā viņi no tā neko nesaņēma. Viņi atcēla līgumu.
(Redaktora piezīme: JAIC, Amerikas Savienoto Valstu bruņoto spēku apakšvienība, bija paredzēts, lai paātrinātu “AI piegādi un pieņemšanu, lai sasniegtu misijas ietekmi mērogā.” Šī gada jūnijā tā tika apvienota lielākā vienotā organizācijā — Galvenā digitālā un mākslīgā intelekta virsnieka amatā ar diviem citiem birojiem. JAIC beidza pastāvēt kā sava vienība.)
DT: Kāds, jūsuprāt, augsta līmeņa izteiksmē ir vienīgais pārliecinošākais arguments, ko jūs izsakāt grāmatā?
BS: Katrai AI sistēmai ir matemātisks raksturs. Tā kā mēs nevaram matemātiski modelēt apziņu, gribu vai intelektu, tos nevar atdarināt, izmantojot mašīnas. Tāpēc mašīnas nekļūs inteliģentas, nemaz nerunājot par superinteliģentām.
JL: Mūsu smadzeņu struktūra pieļauj tikai ierobežotus dabas modeļus. Fizikā mēs izvēlamies realitātes apakškopu, kas atbilst mūsu matemātiskās modelēšanas iespējām. Tā Ņūtons, Maksvels, Einšteins vai Šrēdingers ieguva savus slavenos un skaistos modeļus. Taču tās var aprakstīt vai paredzēt tikai nelielu sistēmu kopumu. Mūsu labākie modeļi ir tie, kurus izmantojam tehnoloģiju izstrādei. Mēs nevaram izveidot pilnīgu dzīvās dabas matemātisko modeli.
Šī intervija ir rediģēta garuma un skaidrības labad.
Redaktoru ieteikumi
- Labākie autori pieprasa samaksu no AI firmām par viņu darba izmantošanu
- Bing Chat cīnās pret AI aizliegumiem darba vietā
- Google Bard tagad var runāt, bet vai tas var noslāpēt ChatGPT?
- Elona Muska jaunā AI uzņēmuma mērķis ir "saprast Visumu"
- ChatGPT rekordlielo izaugsmi tikko gāza jauna vīrusu lietotne
