Vadinkite tai „Skynet“ hipoteze, dirbtiniu bendruoju intelektu arba singuliarumo atsiradimu – ilgus metus dirbtinio intelekto ekspertai ir ir neekspertai nerimavo (ir nedidelei grupelei šventė) mintį, kad dirbtinis intelektas vieną dieną gali tapti protingesnis nei žmonės.
Remiantis teorija, dirbtinio intelekto pažanga – ypač mašininio mokymosi tipo, kuris gali perimti naujus dalykus informaciją ir atitinkamai perrašyti jos kodą – ilgainiui pasivys biologinę programinę įrangą smegenys. Tokiu įvykių aiškinimu kiekvienas DI žengia į priekį Pavojus- laimėjo IBM mašinas masinis AI kalbos modelis GPT-3 žengia žmoniją žingsniu arčiau egzistencinės grėsmės. Mes tiesiogine prasme kuriame savo greitu laiku suvokiančiais įpėdiniais.
Rekomenduojami vaizdo įrašai
Išskyrus tai, kad to niekada nebus. Bent jau naujosios knygos autorių teigimu Kodėl mašinos niekada nevaldys pasaulio: dirbtinis intelektas be baimės.
Bendraautoriai Bafalo universiteto filosofijos profesorius Baris Smitas ir Jobstas Landgrebe'as
, Vokietijos dirbtinio intelekto kompanijos Cognotekt įkūrėjas teigia, kad žmogaus intelekto „nemirtingas diktatorius“ nei greitai, nei kada nors aplenks. Jie pasakojo Skaitmeninės tendencijos jų priežastys.
Skaitmeninės tendencijos (DT): kaip ši tema pateko į jūsų radarą?
Jobstas Landgrebe'as (JL): Pagal išsilavinimą esu gydytojas ir biochemikas. Kai pradėjau savo karjerą, atlikau eksperimentus, kurie sugeneravo daug duomenų. Pradėjau studijuoti matematiką, kad galėčiau interpretuoti šiuos duomenis, ir pamačiau, kaip sunku modeliuoti biologines sistemas naudojant matematiką. Visada buvo toks neatitikimas tarp matematinių metodų ir biologinių duomenų.
Įpusėjęs trisdešimtmetį palikau akademinį pasaulį ir tapau verslo konsultantu bei verslininku, dirbančiu dirbtinio intelekto programinės įrangos sistemose. Bandžiau sukurti AI sistemas, kurios imituotų tai, ką gali padaryti žmonės. Supratau, kad susidūriau su ta pačia problema, kurią turėjau prieš daugelį metų biologijos srityje.
Klientai man pasakė: „Kodėl tu nekuri pokalbių robotų?“ Aš atsakiau: „nes jie neveiks; negalime tinkamai modeliuoti tokio tipo sistemos.“ Tai galiausiai paskatino mane parašyti šią knygą.
Profesorius Barry Smithas (BS): Maniau, kad tai labai įdomi problema. Jau nujaučiau apie panašias AI problemas, bet niekada jų negalvojau. Iš pradžių parašėme dokumentą „Dirbtinis intelektas vėl įprasminamas.’ (Tai buvo Trumpo eroje.) Kalbama apie tai, kodėl neuroniniai tinklai nepavyksta modeliuojant kalbos. Tada nusprendėme išplėsti dokumentą į knygą, kurioje ši tema nagrinėjama giliau.
DT: Jūsų knygoje išreiškiamas skeptiškas požiūris į tai, kaip neuroniniai tinklai, kurie yra labai svarbūs šiuolaikiniam giluminiam mokymuisi, imituoja žmogaus smegenis. Tai apytiksliai, o ne tikslūs biologinių smegenų veikimo modeliai. Bet ar sutinkate su pagrindine prielaida, kad tai įmanoma, jei smegenis suprastume smulkiai pakankamai detalių, ją būtų galima dirbtinai atkartoti – ir kad tai sukeltų intelektą arba jausmingumas?
JL: Pavadinimas „neuroninis tinklas“ yra visiškai klaidingas. Neuroniniai tinklai, kuriuos turime dabar, net patys sudėtingiausi, neturi nieko bendra su smegenų veikla. Požiūris, kad smegenys yra tarpusavyje sujungtų mazgų rinkinys taip, kaip kuriami neuroniniai tinklai, yra visiškai naivus.
Jei pažvelgsite į pačią primityviausią bakterinę ląstelę, mes vis tiek nesuprantame, kaip ji veikia. Mes suprantame kai kuriuos jo aspektus, bet neturime jo veikimo modelio – jau nekalbant apie neuroną, kuris yra daug sudėtingesnis, ar milijardus tarpusavyje sujungtų neuronų. Tikiu, kad tai moksliškai neįmanomas suprasti, kaip veikia smegenys. Galime suprasti tik tam tikrus aspektus ir juos spręsti. Mes neturime ir negausime visiško supratimo apie tai, kaip veikia smegenys.
Jei turėtume puikų supratimą, kaip veikia kiekviena smegenų molekulė, tikriausiai galėtume ją atkartoti. Tai reikštų viską sudėti į matematines lygtis. Tada galite tai pakartoti naudodami kompiuterį. Problema tik ta, kad mes negalime užrašyti ir sukurti tų lygčių.
BS: Daugelis įdomiausių dalykų pasaulyje vyksta tokiais detalumo lygiais, kurių negalime pasiekti. Mes tiesiog neturime vaizdo gavimo įrangos ir tikriausiai niekada neturėsime vaizdo gavimo įrangos, kad galėtume užfiksuoti didžiąją dalį to, kas vyksta labai smulkiuose smegenų lygiuose.
Tai reiškia, kad mes nežinome, pavyzdžiui, kas yra atsakinga už sąmonę. Tiesą sakant, yra daugybė gana įdomių filosofinių problemų, kurios pagal mūsų taikomą metodą visada bus neišspręstos, todėl turėtume jas tiesiog ignoruoti.
Kitas dalykas – valios laisvė. Mes labai tvirtai palaikome idėją, kad žmonės turi valią; galime turėti ketinimų, tikslų ir pan. Bet mes nežinome, ar tai laisva valia, ar ne. Tai yra problema, susijusi su smegenų fizika. Kalbant apie turimus įrodymus, kompiuteriai negali turėti valios.
DT: Knygos paantraštė yra „Dirbtinis intelektas be baimės“. Kokią konkrečią baimę kalbate?
BS: Tai išprovokavo literatūra apie singuliarumą, su kuria, žinau, esate susipažinę. Nickas Bostromas, Davidas Chalmersas, Elonas Muskas ir panašiai. Kai kalbėjomės su savo kolegomis realiame pasaulyje, mums tapo aišku, kad iš tiesų yra a tam tikra gyventojų baimė, kad AI ilgainiui užvaldys ir pakeis pasaulį žmonių.
Knygoje yra gana daug apie Bostrum tipo argumentus. Pagrindinis argumentas prieš juos yra tas, kad jei mašina negali turėti valios, ji negali turėti ir piktos valios. Be piktos valios nėra ko bijoti. Dabar, žinoma, vis dar galime bijoti mašinų, kaip ir ginklų.
Bet taip yra todėl, kad mašinas valdo žmonės, turintys blogų tikslų. Bet tada ne AI yra blogis; tai žmonės, kurie kuria ir programuoja AI
DT: Kodėl ši singuliarumo ar dirbtinio bendro intelekto samprata taip domina žmones? Nesvarbu, ar juos tai gąsdina, ar tai žavi, ši idėja turi kažką, kas atliepia žmones plačiu lygmeniu.
JL: Yra tokia mintis, pradėta XIX amžiaus pradžioje, o vėliau Nietzsche paskelbta to amžiaus pabaigoje, kad Dievas mirė. Kadangi mūsų visuomenės elitas nebėra krikščionys, jiems reikėjo pakeisti. Maksas Stirneris, kuris, kaip ir Karlas Marksas, buvo Hėgelio mokinys, parašė apie tai knygą, sakydamas: „Aš esu savo dievas“.
Jei esi Dievas, nori būti ir kūrėjas. Jei sugebi sukurti superintelektą, tu esi kaip Dievas. Manau, kad tai susiję su hipernarcistinėmis tendencijomis mūsų kultūroje. Knygoje apie tai nekalbame, bet tai man paaiškina, kodėl ši idėja tokia patraukli mūsų laikais, kai nebėra transcendentinės esybės, į kurią būtų galima kreiptis.
DT: Įdomu. Taigi, norint tai įgyvendinti, manoma, kad dirbtinio intelekto sukūrimas – arba tikslas sukurti AI – yra narcisistinis veiksmas. Tokiu atveju idėja, kad šie kūriniai kažkaip taps galingesni už mus, yra košmariškas posūkis. Tai vaikas nužudo tėvą.
JL: Šiek tiek taip, taip.
DT: Koks būtų galutinis jūsų knygos rezultatas, jei visi būtų įtikinti jūsų argumentais? Ką tai reikštų AI plėtros ateičiai?
JL: Tai labai geras klausimas. Galiu tiksliai pasakyti, kas, mano manymu, atsitiks – ir įvyks. Manau, kad viduryje žmonės priims mūsų argumentus, ir tai sukurs geriau taikomą matematiką.
Tai, ką visi puikūs matematikai ir fizikai puikiai žino, buvo riboti to, ką jie gali pasiekti matematiškai. Kadangi jie tai žino, jie susitelkia tik į tam tikras problemas. Jei gerai suvokiate apribojimus, tuomet eini per pasaulį ir ieškai šių problemų bei jas spręsi. Taip Einšteinas rado Brauno judėjimo lygtis; kaip jis sugalvojo savo reliatyvumo teorijas; kaip Plankas išsprendė juodųjų kūnų spinduliuotę ir taip inicijavo kvantinę materijos teoriją. Jie turėjo gerą instinktą, kurios problemos gali būti sprendžiamos matematikos pagalba, o kurios ne.
Jei žmonės sužinos mūsų knygos žinią, jie, mūsų nuomone, galės sukurti geresnes sistemas, nes jos sutelks dėmesį į tai, kas tikrai įmanoma – ir nustosite švaistyti pinigus bei pastangas tam, kas negali būti pasiekti.
BS: Manau, kad dalis žinutės jau sklinda ne dėl to, ką sakome, o dėl to žmonių patirtis, kai jie skiria dideles pinigų sumas AI projektams, o tada AI projektai žlunga. Manau, jūs žinote apie Jungtinį dirbtinio intelekto centrą. Tikslios sumos neprisimenu, bet manau, kad tai buvo kažkas panašaus į 10 milijardų dolerių, kuriuos jie atidavė garsiam rangovui. Galų gale jie iš to nieko negavo. Jie nutraukė sutartį.
(Redaktoriaus pastaba: JAIC, Jungtinių Valstijų ginkluotųjų pajėgų padalinys, buvo skirtas paspartinti „AI pristatymą ir priėmimą, kad būtų pasiektas misijos poveikis mastu“. Šių metų birželį ji buvo sujungta į didesnę vieningą organizaciją – vyriausiąjį skaitmeninio ir dirbtinio intelekto pareigūną su dar dviem biurais. JAIC nustojo egzistuoti kaip atskiras subjektas.)
DT: Koks, jūsų nuomone, yra pats įtikinamiausias argumentas, kurį pateikiate knygoje?
BS: Kiekviena AI sistema yra matematinė. Kadangi negalime matematiškai modeliuoti sąmonės, valios ar intelekto, jų negalima imituoti naudojant mašinas. Todėl mašinos netaps protingos, o tuo labiau superinteligentiškos.
JL: Mūsų smegenų struktūra leidžia tik ribotus gamtos modelius. Fizikoje mes pasirenkame tikrovės poaibį, kuris atitinka mūsų matematinio modeliavimo galimybes. Taip Niutonas, Maksvelas, Einšteinas ar Schrödingeris gavo savo garsius ir gražius modelius. Tačiau jie gali apibūdinti arba numatyti tik nedidelį sistemų rinkinį. Mūsų geriausi modeliai yra tie, kuriuos naudojame kurdami technologijas. Negalime sukurti pilno matematinio gyvosios gamtos modelio.
Šis interviu buvo redaguotas siekiant ilgumo ir aiškumo.
Redaktorių rekomendacijos
- Geriausi autoriai reikalauja iš dirbtinio intelekto įmonių atlyginimo už naudojimąsi jų darbu
- „Bing Chat“ kovoja prieš dirbtinio intelekto draudimus darbo vietoje
- „Google Bard“ dabar gali kalbėti, bet ar gali užgožti „ChatGPT“?
- Naujoji Elono Musko dirbtinio intelekto įmonė siekia „suprasti visatą“
- Rekordinį ChatGPT augimą ką tik nuvertė nauja virusinė programa
