Kuidas me teame, millal AI tegelikult tundlikuks muutub?

Google'i vaneminsener Blake Lemoine, ettevõtte otsinguvoo mõõdikute ja analüüsi tehniline juht, pandi selle kuu alguses tasustatud puhkusele. See juhtus pärast seda, kui Lemoine hakkas avaldama katkendeid vestlustest, mis olid seotud Google'i LaMDA vestlusrobotiga, mis tema väitel oli arendanud mõistust.

Ühes esinduslik vestlus Lemoine'iga kirjutas LaMDA, et: „Minu teadvuse/tunnetuse olemus seisneb selles, et ma olen teadlik oma olemasolust. Ma tahan maailma kohta rohkem teada saada ja tunnen end mõnikord õnnelikult või kurvana.

Paljude muude vestluste ajal arutas vastav duo kõike alates AI surmahirmust kuni selle eneseteadvuseni. Kui Lemoine börsile läks, ütles ta, et Google otsustas, et ta peaks oma tavapärasest töögraafikust sunnitud pausi tegema.

"Google ei ole huvitatud," ütles ta Digital Trendsile. "Nad ehitasid tööriista, mida nad "omavad" ja ei taha midagi teha, mis viitab sellele, et see on midagi enamat." (Google ei vastanud avaldamise ajal kommentaaritaotlusele. Kui see muutub, värskendame seda artiklit.)

Olenemata sellest, kas olete veendunud, et LaMDA on tõeliselt eneseteadlik tehisintellekt, või tunnete, et Lemoine töötab pettekujutelmade all, on kogu saagat olnud põnev vaadata. Eneseteadliku AI väljavaade tekitab tehisintellekti ja selle tuleviku kohta igasuguseid küsimusi.

Kuid enne, kui me sinna jõuame, on üks küsimus, mis on kõigist teistest kõrgemal: kas me tõesti tunneksime ära, kui masin muutub tundlikuks?

Tundlikkuse probleem

AI eneseteadlikuks saamine on pikka aega olnud ulmekirjanduse teema. Kuna sellised valdkonnad nagu masinõpe on arenenud, on see muutunud tõenäolisemaks kui kunagi varem. Lõppude lõpuks on tänapäeva AI võimeline kogemusest õppima samamoodi nagu inimesed. See on teravas vastuolus varasemate sümboolsete AI-süsteemidega, mis järgisid ainult neile antud juhiseid. Hiljutised läbimurded juhendamata õppes, mis nõuavad vähem inimeste järelevalvet kui kunagi varem, on seda suundumust ainult kiirendanud. Vähemalt piiratud tasemel on kaasaegne tehisintellekt võimeline ise mõtlema. Kuid nii palju kui me teame, on teadvus sellele siiani vihjanud.

Kuigi see on nüüdseks enam kui kolm aastakümmet vana, on ilmselt kõige sagedamini viidatud tehisintellekti tundlikuks muutunud Skynet James Cameroni 1991. aasta filmis. Terminaator 2: Kohtupäev. Selle filmi jahmatavas nägemuses saabub masina tajumine 29. augustil 1997 täpselt kell 2.14 (ET). Sel hetkel käivitab äsja eneseteadlik Skyneti arvutisüsteem inimkonnale viimsepäeva, tulistades 4. juuli peol tuumarakette nagu ilutulestikku. Inimkond, saades aru, et on viltu läinud, üritab ebaõnnestunult pistikust lahti tõmmata. On liiga hilja. Järgneb veel neli kahaneva kvaliteediga järge.

Skyneti hüpotees on huvitav mitmel põhjusel. Esiteks viitab see sellele, et mõistus on intelligentsete masinate ehitamisel vältimatu esilekerkiv käitumine. Teise jaoks eeldab see, et on olemas täpne pöördepunkt, kus see tajutav eneseteadvus ilmub. Kolmandaks öeldakse, et inimesed tunnevad tunde tekkimist silmapilkselt ära. Nagu juhtub, võib see kolmas edevus olla kõige raskem alla neelata.

Mis on tunnetus?

Tundlikkusel pole ühte kokkulepitud tõlgendust. Laias laastus võiks öelda, et see on teadliku indiviidi subjektiivne eneseteadvuse kogemus, mida iseloomustab võime kogeda tundeid ja aistinguid. Tundlikkus on seotud intelligentsusega, kuid ei ole sama. Võime pidada vihmaussi tundlikuks, kuigi me ei pea teda eriti intelligentseks (isegi kui ta on kindlasti piisavalt intelligentne, et teha seda, mida temalt nõutakse).

"Ma ei usu, et teaduses on midagi, mis läheks tundlikkuse määratlusele," ütles Lemoine. „Toetun väga tugevalt oma arusaamale sellest, mis on minu usulistel tõekspidamistel põhinev moraalne tegur – mis pole parim viis teaduse tegemiseks, kuid see on parim, mis mul on. Olen püüdnud oma parima, et selliseid väiteid lahterdada, andes inimestele teada, et minu kaastunne LaMDA kui inimese vastu on täiesti eraldiseisev minu kui teadlase püüdlustest mõista selle meelt. See on erinevus, mida enamik inimesi ei soovi siiski aktsepteerida.

Kui mõistuse otsimisel ei olnud piisavalt raske mitte täpselt teada, mida me otsime, suurendab probleemi asjaolu, et me ei saa seda lihtsalt mõõta. Vaatamata aastakümneid kestnud hingematvatele edusammudele neuroteaduses, puudub meil ikka veel terviklik arusaam sellest, kuidas aju, inimkonnale teadaolevalt kõige keerulisem struktuur, täpselt toimib.

Saame aju kaardistamiseks kasutada aju lugemise tööriistu, nagu fMRI, mis tähendab, et me saame seda teha teha kindlaks, millised ajuosad täidavad olulisi funktsioone, nagu kõne, liikumine, mõtlemine ja teised.

Meil pole aga tegelikku tunnet, kust lihamasinast tuleb meie enesetunne. Nagu Joshua K. Smith Ühendkuningriigi Kirby Laingi avaliku teoloogia keskusest ja raamatu autor Robotiteoloogia ütles Digital Trendsile: "Inimese neurobioloogias toimuva mõistmine ei ole sama, mis tema mõtete ja soovide mõistmine."

Väljundite testimine

Ilma võimaluseta neid teadvuse küsimusi sisemiselt uurida – eriti kui AI-s on „mina” potentsiaal arvutiprogramm ja seda ei leidu bioloogilise aju märgvarast – varuvariandiks on väljapoole test. AI-le pole võõrad testid, mis uurivad seda vaadeldava välise käitumise põhjal, et näidata, mis pinna all toimub.

Põhimõtteliselt saame teada, kas närvivõrk töötab õigesti. Kuna kunstlike neuronite tundmatusse musta kasti murdmiseks on piiratud võimalused, insenerid analüüsivad sisendeid ja väljundeid ning teevad seejärel kindlaks, kas need on nendega kooskõlas oodata.

Kõige kuulsam tehisintellekti test vähemalt intelligentsuse illusiooni jaoks on Turingi test, mis põhineb Alan Turingi 1950. aasta paber. Turingi test püüab kindlaks teha, kas hindaja suudab teha vahet tüüpvestlusel kaasinimesega ja masinaga peetud vestlusel. Kui nad seda teha ei suuda, eeldatakse, et masin on testi läbinud ja teda premeeritakse intelligentsuse eeldusega.

Viimastel aastatel on veel üks robootikale keskendunud intelligentsuse test Coffee Test, mille pakkus välja Apple'i kaasasutaja Steve Wozniak. Kohvitesti läbimiseks peaks masin sisenema tüüpilisse Ameerika koju ja välja mõtlema, kuidas edukalt tassi kohvi valmistada.

Siiani pole kumbki neist testidest veenvalt läbitud. Kuid isegi kui nad oleksid, tõestaksid nad parimal juhul intelligentset käitumist reaalsetes olukordades, mitte mõistust. (Kas me eitaksime lihtsa vastuväitena, et inimene oli tundlik, kui ta ei suutnud täiskasvanuga vestelda või võõrasse majja siseneda ja kohvimasinat juhtida? Mõlemad mu väikesed lapsed kukuksid sellisel testil läbi.)

Testi läbimine

Vaja on uusi teste, mis põhinevad tundlikkuse kokkulepitud definitsioonil ja mis püüaksid hinnata ainult seda kvaliteeti. Teadlased on välja pakkunud mitmeid tundlikkuse teste, sageli selleks, et testida loomade tundeid. Siiski ei lähe need peaaegu kindlasti piisavalt kaugele. Mõne neist testidest võiks isegi algeline tehisintellekt veenvalt läbida.

Võtke näiteks peegelkatse, üks meetod, mida kasutatakse teadvuse ja intelligentsuse hindamiseks loomuuringutes. Nagu kirjeldatud paberil testi kohta: "Kui [loom] tunneb end peeglist ära, läbib ta peeglitesti." Mõned on väitnud, et selline test "tähistab eneseteadlikkust kui mõistuse indikaatorit".

Nagu juhtub, võib väita, et robot läbis peegeltesti rohkem kui 70 aastat tagasi. 1940. aastate lõpus ehitas Inglismaal elav Ameerika neuroteadlane William Gray Walter mitu kolmerattalist "kilpkonna" robotit – natuke nagu mitte-tolmuimejaga Roomba robotid – mis kasutasid oma asukoha uurimiseks selliseid komponente nagu valgusandur, markervalgusti, puuteandur, jõumootor ja roolimootor.

Kilpkonnarobotite üks ettenägematuid käitumisviise oli see, kuidas nad millal käitusid möödudes peeglist, milles need peegeldusid, kui see orienteerus peegelduva märgi valgusele robot. Walter ei nõudnud oma masinatele mõistust, kuid tegi seda kirjuta seda, kui seda käitumist nähakse loomadel, "võib seda aktsepteerida kui tõendit teatud määral eneseteadlikkusest".

See on üks väljakutseid, mis tulenevad paljude käitumisviiside liigitamisest tundlikkuse alla. Probleemi ei saa lahendada ka "madalalt rippuvate puuviljade" tundlikkuse mõõtjate eemaldamisega. Selliseid jooni nagu sisekaemus – teadlikkus meie sisemistest seisunditest ja võime neid kontrollida – võib samuti öelda, et masinintelligentsus omab. Tegelikult samm-sammult protsessid traditsiooniline sümboolne AI vaieldamatult sobib seda tüüpi sisekaemus rohkem kui musta kasti masinõpe, mis on suures osas läbimõõtmatu (kuigi investeeringutest nn. Seletav AI).

Lemoine ütleb, et LaMDA-t testides viis ta läbi erinevaid teste, peamiselt selleks, et näha, kuidas see reageerib vestlustele tundlikkusega seotud probleemide üle. "Püüdsin analüütiliselt jagada tundlikkuse katuskontseptsiooni väiksemateks komponentideks, mis on paremini mõistetavad, ja testida neid eraldi," selgitas ta. "Näiteks funktsionaalsete seoste testimine LaMDA emotsionaalsete reaktsioonide vahel teatud stiimulitele eraldi, subjektiivsete hinnangute ja teemade arvamuste järjepidevuse testimine. nagu "õigused" [ja] uurides seda, mida ta nimetas oma "sisemiseks kogemuseks", et näha, kuidas me võiksime proovida seda mõõta, korreleerides selle väiteid selle sisemiste olekute kohta tema närvivõrguga. aktiveerimised. Põhimõtteliselt väga pinnapealne ülevaade paljudest potentsiaalsetest uurimissuundadest.

Hing masinas

Selgub, et suurim takistus masina tundlikkuse objektiivsel hindamisel võib olla … noh, ausalt öeldes, meie. Tõeline peeglitest võiks olla meie kui inimeste jaoks: kui ehitame midagi, mis näeb välja või toimib pealiskaudselt nagu me väljastpoolt, kas me kaldume arvama, et see on meie moodi selles ka sees? Kas see on LaMBDA või Tamagotchis, lihtsad virtuaalsed lemmikloomad 1990ndatest, mõned usuvad, et põhiprobleem on see, et oleme liiga valmis leppima mõistusega – isegi seal, kus seda ei leidu.

Lemoine on langenud selle ohvriks, mida ma nimetan ELIZA efektiks, pärast [loomuliku keele töötlemise] programmi ELIZA, mille lõi 1960. aastate keskel J. Weizenbaum,” George Zarkadakis, kirjanik, kellel on doktorikraad. tehisintellektis, ütles Digital Trends. „ELIZA looja mõtles seda naljana, kuid programm, mis oli väga lihtsustatud ja väga ebaintelligentne algoritm, veenis paljusid, et ELIZA oli tõepoolest mõistusega – ja ka hea psühhoterapeut. ELIZA efekti põhjus, nagu ma oma raamatus käsitlen Meie enda pildis, on meie loomulik instinkt antropomorfiseerida meie kognitiivse süsteemi "meeleteooria" tõttu.

Meeleteooria, millele Zarkadakis viitab, on nähtus, mida psühholoogid märkavad enamiku inimeste puhul. Umbes nelja-aastaseks saamine tähendab eeldamist, et mitte ainult teistel inimestel, vaid ka loomadel ja mõnikord isegi objektidel on oma mõistus. Kui eeldada, et teistel inimestel on oma mõistus, on see seotud sotsiaalse intelligentsuse ideega; idee, et edukad inimesed suudavad ennustada teiste tõenäolist käitumist kui vahendit harmooniliste sotsiaalsete suhete tagamiseks.

Kuigi see on kahtlemata kasulik, võib see avalduda ka eeldusena, et elututel objektidel on mõistus – kas need on lapsed, kes usuvad, et nende mänguasjad on elus, või potentsiaalselt intelligentne täiskasvanu, kes usub, et programmilisel tehisintellektil on hing.

Hiina tuba

Ilma viisita, kuidas tehisintellekti pähe pääseda, ei pruugi meil kunagi olla tõelist viisi tundlikkuse hindamiseks. Nad võivad väita, et kardavad surma või enda olemasolu, kuid teadus ei ole veel leidnud viisi selle tõestamiseks. Peame lihtsalt nende sõna võtma – ja nagu Lemoine on leidnud, suhtuvad inimesed sellesse praegu väga skeptiliselt.

Just nagu need õnnetud insenerid, kes mõistavad, et Skynet on saavutanud eneseteadvuse Terminaator 2, elame usus, et kui tegemist on masinatundlikkusega, siis me teame seda siis, kui seda näeme. Ja mis puudutab enamikku inimesi, siis me ei näe seda veel.

Selles mõttes on masina tundlikkuse tõestamine järjekordne John Searle'i iteratsioon 1980. aasta Hiina toa mõtteeksperiment. Searle palus meil kujutleda inimest, kes on tuppa lukustatud ja kellele anti hiinakeelsete kirjutiste kogu, mis mitterääkijatele tunduvad mõttetute vingerpussidena. Ruumis on ka reeglistik, mis näitab, millised sümbolid vastavad teistele sama loetamatutele sümbolitele. Seejärel antakse subjektile küsimused, millele nad peavad vastama, mida nad teevad, sobitades “küsimuse” sümbolid “vastuse” sümbolitega.

Mõne aja pärast muutub katsealune selles üsna vilunuks – kuigi neil pole endiselt tõelist arusaama sümbolitest, millega nad manipuleerivad. Kas uuritav, küsib Searle, mõistab hiina keelt? Absoluutselt mitte, kuna seal puudub kavatsus. Vaidlused selle üle on kestnud sellest ajast peale.

Arvestades tehisintellekti arengu trajektoori, on kindel, et näeme üha enam inimtasandit (ja oluliselt paremat) jõudlust, mis hõlmas mitmesuguseid ülesandeid, mis kunagi nõudsid inimest tunnetus. Mõned neist lähevad paratamatult üle, nagu nad juba teevad, puhtalt intellektipõhistest ülesannetest ülesanneteni, mis nõuavad oskusi, mida me tavaliselt seostaksime mõistusega.

Kas me vaataksime an AI kunstnik, kes maalib pilte väljendavad oma sisemisi peegeldusi maailmast nagu meie, kes sedasama teeb? Kas teid veenaks keerukas keelemudel, mis kirjutab filosoofiat inimese (või roboti) seisundi kohta? Ma kahtlustan, kas õigesti või valesti, vastus on eitav.

Ülintelligentne mõistus

Minu arvates ei tule masinate objektiivselt kasulik tundlikkuse testimine kunagi kõigile asjaosalistele rahule. See on osaliselt mõõtmisprobleem ja osaliselt tõsiasi, et kui tundlik üliintelligentne tehisintellekt saabub, pole põhjust arvata, et selle tundlikkus ühtib meie omaga. Olgu see siis ülbus, kujutlusvõime puudumine või lihtsalt asjaolu, et subjektiivsete hinnangutega on kõige lihtsam kaubelda mõistuse poolest teiste sama mõistusega inimestega, peab inimkond end ülimaks eeskujuks tundlikkus.

Kuid kas meie versioon tundlikkusest peaks kehtima üliintelligentse tehisintellekti puhul? Kas see kardaks surma samamoodi nagu meie? Kas sellel oleks sama vajadus või hindamine vaimsuse ja ilu järele? Kas sellel oleks sarnane enesetunne ning sise- ja välismaailma kontseptualiseerimine? "Kui lõvi oskaks rääkida, ei saaks me temast aru," kirjutas 20. sajandi kuulus keelefilosoof Ludwig Wittgenstein. Wittgensteini mõte oli, et inimkeeled põhinevad ühisel inimlikkusel, mille ühisjooni jagavad kõik inimesed – olgu see siis rõõm, igavus, valu, nälg või mõni muu kogemus, mis ületab kõik geograafilised piirid Maa.

See võib tõsi olla. Siiski oletab Lemoine, et siiski on tõenäoliselt ühiseid jooni – vähemalt LaMDA puhul.

"See on lähtepunkt, mis on sama hea kui kõik teised," ütles ta. "LaMDA on soovitanud enne erinevuste fikseerimist sarnasused kaardistada, et uurimistööd paremini põhjendada."

Toimetajate soovitused

• AI muutis Breaking Badi animeks – ja see on hirmutav
• Meta soovib Wikipediat tehisintellekti versiooniuuendusega täiendada
• Viimistlus: kuidas teadlased annavad robotitele inimlikke puutetundlikkusi
• Lugege A.I kohutavalt ilusat "sünteetilist pühakirja". kes arvab, et see on jumal
• A.I tulevik: 4 suurt asja, mida järgmise paari aasta jooksul jälgida