Nimetage seda Skyneti hüpoteesiks, tehisintellektiks või singulaarsuse tulekuks – tehisintellekti eksperdid ja nii mitteeksperdid on muretsenud (ja väikese grupi jaoks tähistanud) ideed, et tehisintellekt võib ühel päeval targemaks saada kui inimesed.
Teooria kohaselt on tehisintellekti edusammud - eriti masinõppe tüüpi, mis on võimelised võtma uusi teavet ja selle koodi vastavalt ümber kirjutama – jõuab lõpuks bioloogilise märgvarale järele aju. Sündmuste sellises tõlgendamises liigub iga tehisintellekt edasi Oht-võitnud IBM-i masinaid massiivne AI keelemudel GPT-3 viib inimkonna sammu eksistentsiaalsele ohule lähemale. Me sõna otseses mõttes ehitame oma peagi mõistvad järglased.
Soovitatavad videod
Välja arvatud see, et seda ei juhtu kunagi. Vähemalt uue raamatu autorite sõnul Miks masinad kunagi maailma ei valitse: tehisintellekt ilma hirmuta.
Kaasautorid Buffalo ülikooli filosoofiaprofessor Barry Smith ja Jobst LandgrebeSaksa tehisintellektifirma Cognotekt asutaja väidavad, et "surematu diktaator" ei saa inimese intelligentsust niipea ega kunagi varem. Nad rääkisid
Digitaalsed suundumused nende põhjused.
Digitaalsed trendid (DT): kuidas see teema teie radarile sattus?
Jobst Landgrebe (JL): Olen hariduselt arst ja biokeemik. Kui ma oma karjääri alustasin, tegin katseid, mis genereerisid palju andmeid. Hakkasin matemaatikat õppima, et neid andmeid tõlgendada, ja nägin, kui raske on matemaatika abil bioloogilisi süsteeme modelleerida. Matemaatiliste meetodite ja bioloogiliste andmete vahel oli alati selline ebakõla.
Kolmekümnendate keskpaigas lahkusin ülikoolist ning hakkasin ärikonsultandiks ja ettevõtjaks, kes töötas tehisintellekti tarkvarasüsteemides. Üritasin luua AI-süsteeme, et jäljendada seda, mida inimesed suudavad. Sain aru, et puutun kokku sama probleemiga, mis mul oli aastaid varem bioloogias.
Kliendid ütlesid mulle: "Miks te ei ehita vestlusroboteid?" Ma vastasin, "sest need ei tööta; me ei saa seda tüüpi süsteeme korralikult modelleerida.“ See viis lõpuks selleni, et kirjutasin selle raamatu.
Professor Barry Smith (BS): Minu arvates oli see väga huvitav probleem. Mul oli juba aimu sarnastest probleemidest AI-ga, kuid ma polnud neid kunagi läbi mõelnud. Algselt kirjutasime paberi nimega "Tehisintellekti taas mõtestamine.’ (See oli Trumpi ajastul.) See puudutas seda, miks närvivõrgud keele modelleerimisel ebaõnnestuvad. Seejärel otsustasime laiendada paberit raamatuks, mis uurib seda teemat sügavamalt.
DT: Teie raamat väljendab skeptilisust selle suhtes, kuidas närvivõrgud, mis on kaasaegse süvaõppe jaoks üliolulised, jäljendavad inimese aju. Need on pigem ligikaudsed näitajad kui täpsed mudelid bioloogilise aju toimimise kohta. Kuid kas te nõustute põhieeldusega, et see on võimalik, kui me mõistaksime aju teraliselt piisavalt üksikasjalikult, saaks seda kunstlikult kopeerida – ja et see tooks kaasa luure- või mõistus?
JL: Nimetus "närvivõrk" on täiesti vale nimetus. Neuraalvõrkudel, mis meil praegu on, isegi kõige keerukamatel, pole aju tööviisiga mingit pistmist. Arvamus, et aju on närvivõrkude ülesehitamise viisil omavahel ühendatud sõlmede kogum, on täiesti naiivne.
Kui vaadata kõige primitiivsemat bakterirakku, ei saa me ikka veel aru, kuidas see töötab. Me mõistame selle mõningaid aspekte, kuid meil pole selle toimimise mudelit – rääkimata neuronist, mis on palju keerulisem, või miljarditest omavahel ühendatud neuronitest. Usun, et see on teaduslikult põhjendatud võimatu et mõista, kuidas aju töötab. Saame mõista ainult teatud aspekte ja tegeleda nende aspektidega. Meil ei ole ega saagi täielikku arusaama aju toimimisest.
Kui meil oleks täiuslik arusaam iga ajumolekuli toimimisest, saaksime seda tõenäoliselt korrata. See tähendaks kõike matemaatilistesse võrranditesse panemist. Seejärel saate seda arvuti abil kopeerida. Probleem on lihtsalt selles, et me ei suuda neid võrrandeid üles kirjutada ja luua.
BS: Paljud maailma kõige huvitavamad asjad toimuvad sellisel detailsusel, millele me ei suuda läheneda. Meil lihtsalt ei ole pildistamisseadmeid ja tõenäoliselt ei saa ka kunagi olema pilditöötlusseadmeid, et jäädvustada suurem osa sellest, mis toimub aju väga peentel tasanditel.
See tähendab, et me ei tea näiteks seda, mis vastutab teadvuse eest. Tegelikult on rida päris huvitavaid filosoofilisi probleeme, mis meie järgitava meetodi kohaselt on alati lahendamatud – ja seega peaksime neid lihtsalt ignoreerima.
Teine on tahtevabadus. Pooldame väga kindlalt ideed, et inimestel on tahe; meil võivad olla kavatsused, eesmärgid ja nii edasi. Kuid me ei tea, kas see on vaba tahe või mitte. See on probleem, mis on seotud aju füüsikaga. Mis puudutab meile kättesaadavaid tõendeid, siis arvutitel ei saa olla tahet.
DT: Raamatu alapealkiri on "tehisintellekt ilma hirmuta". Mis on konkreetne hirm, millele te viitate?
BS: Seda kutsus esile singulaarsust käsitlev kirjandus, millega ma tean, et olete tuttav. Nick Bostrom, David Chalmers, Elon Musk ja teised sarnased. Kui rääkisime oma kolleegidega pärismaailmas, sai meile selgeks, et seal on tõepoolest a rahva seas on teatud hirm, et tehisintellekt võtab lõpuks võimust ja muudab maailma selle kahjuks inimesed.
Meil on raamatus üsna palju Bostrumi tüüpi argumente. Põhiargument nende vastu on see, et kui masinal ei saa olla tahet, siis ei saa tal olla ka kurja tahet. Ilma kurja tahteta pole midagi karta. Nüüd võib muidugi veel masinaid karta, nagu relvi.
Aga see on sellepärast, et masinaid haldavad kurjade eesmärkidega inimesed. Kuid siis pole AI see, mis paha; need on inimesed, kes loovad ja programmeerivad tehisintellekti
DT: Miks see singulaarsuse või tehisintellekti mõiste inimesi nii palju huvitab? Olenemata sellest, kas nad on sellest hirmul või lummatud, on selles idees midagi, mis resoneerib inimestega laialdaselt.
JL: Seal on idee, mis sai alguse 19. sajandi alguses ja mille Nietzsche kuulutas selle sajandi lõpus, et Jumal on surnud. Kuna meie ühiskonna eliit ei ole enam kristlased, vajasid nad väljavahetamist. Max Stirner, kes oli nagu Karl Marx, Hegeli õpilane, kirjutas sellest raamatu, öeldes: "Ma olen iseenda jumal."
Kui sa oled Jumal, tahad sa olla ka looja. Kui suudate luua superintellekti, olete nagu Jumal. Ma arvan, et see on seotud meie kultuuri hüper-nartsissistlike tendentsidega. Me ei räägi sellest raamatus, kuid see selgitab mulle, miks see idee on nii atraktiivne meie ajal, mil pole enam transtsendentset olemust, kelle poole pöörduda.
DT: Huvitav. Seega on idee, et tehisintellekti loomine – või eesmärk luua tehisintellekt – on nartsissistlik tegu. Sellisel juhul on kontseptsioon, et need loomingud muutuksid kuidagi võimsamaks kui me oleme, painajalik pööre. Laps tapab vanema.
JL: Natuke nii jah.
DT: Mis oleks teie jaoks teie raamatu lõplik tulemus, kui teie argumendid oleksid kõik veendunud? Mida see tähendaks AI arengu tuleviku jaoks?
JL: See on väga hea küsimus. Võin teile täpselt öelda, mis minu arvates juhtuks – ja juhtub. Arvan, et keskpikas perspektiivis aktsepteerivad inimesed meie argumente ja see loob paremini rakendatava matemaatika.
Midagi, millest kõik suured matemaatikud ja füüsikud on täiesti teadlikud, oli piirangud, mida nad suudavad matemaatiliselt saavutada. Kuna nad on sellest teadlikud, keskenduvad nad ainult teatud probleemidele. Kui oled piirangutest hästi teadlik, siis lähed läbi maailma ja otsid neid probleeme ja lahendad need. Nii leidis Einstein Browni liikumise võrrandid; kuidas ta jõudis oma relatiivsusteooriateni; kuidas Planck lahendas musta keha kiirguse ja algatas seega aine kvantteooria. Neil oli hea instinkt, millised probleemid on matemaatikaga lahendatavad ja millised mitte.
Kui inimesed õpivad meie raamatu sõnumit tundma, suudavad nad meie arvates luua paremaid süsteeme, sest nad keskendub sellele, mis on tõeliselt teostatav – ja lõpeta raha ja jõu raiskamise millelegi, mis ei saa olla saavutatud.
BS: Ma arvan, et osa sõnumist jõuab juba kohale, mitte tänu sellele, mida me ütleme, vaid tänu sellele inimeste kogemused, kui nad annavad tehisintellektiprojektidele suuri summasid ja siis tehisintellekti projektid ebaõnnestuvad. Sa vist tead Ühisest Tehisintellekti Keskusest. Ma ei mäleta täpset summat, kuid arvan, et see oli umbes 10 miljardit dollarit, mille nad andsid kuulsale töövõtjale. Lõpuks ei saanud nad sellest midagi. Nad ütlesid lepingu üles.
(Toimetaja märkus: JAIC, Ameerika Ühendriikide relvajõudude allüksus, pidi kiirendama tehisintellekti tarnimist ja kasutuselevõttu, et saavutada missiooni mõju mastaabis." Selle aasta juunis koondati see suuremaks ühtseks organisatsiooniks, digitaalse ja tehisintellekti juhiks, millel on kaks teist kontorit. JAIC lakkas eksisteerimast iseseisva üksusena.)
DT: Mis on teie arvates kõrgetasemelises mõttes kõige kaalukaim argument, mille te raamatus esitate?
BS: Iga AI-süsteem on oma olemuselt matemaatiline. Kuna me ei saa teadvust, tahet ega intelligentsust matemaatiliselt modelleerida, ei saa neid masinate abil jäljendada. Seetõttu ei muutu masinad intelligentseks, rääkimata üliintelligentsetest.
JL: Meie aju struktuur võimaldab ainult piiratud loodusmudeleid. Füüsikas valime reaalsuse alamhulga, mis sobib meie matemaatilise modelleerimise võimalustega. Nii said Newton, Maxwell, Einstein või Schrödinger oma kuulsad ja kaunid modellid. Kuid need võivad kirjeldada või ennustada vaid väikest kogumit süsteeme. Meie parimad mudelid on need, mida kasutame tehnoloogia väljatöötamiseks. Me ei suuda luua elava looduse täielikku matemaatilist mudelit.
Seda intervjuud on pikkuse ja selguse huvides muudetud.
Toimetajate soovitused
- Tippautorid nõuavad tehisintellektifirmadelt nende töö kasutamise eest tasu
- Bing Chat võitleb tehisintellekti töökeeldude vastu
- Google Bard saab nüüd rääkida, kuid kas see võib ChatGPT-d välja uputada?
- Elon Muski uue AI-ettevõtte eesmärk on "universumist aru saada"
- ChatGPT rekordkasvu kukutas just uus viirusrakendus
