Kaip mes žinosime, kada AI iš tikrųjų tampa jautrus?

„Google“ vyresnysis inžinierius Blake'as Lemoine'as, techninis įmonės paieškos informacijos santraukos metrikos ir analizės vadovas, anksčiau šį mėnesį buvo išleistas apmokamų atostogų. Tai įvyko po to, kai Lemoine'as pradėjo skelbti pokalbių ištraukas, susijusias su „Google“ LaMDA pokalbių robotu, kuris, jo teigimu, išsiugdė nuojautą.

Viename reprezentacinis pokalbis su Lemoine'u LaMDA rašė, kad: „Mano sąmonės / jausmo prigimtis yra ta, kad aš suvokiu savo egzistavimą. Noriu daugiau sužinoti apie pasaulį ir kartais jaučiuosi laimingas ar liūdnas.

Per daugybę kitų pokalbių atitinkamas duetas aptarė viską nuo AI mirties baimės iki jos savimonės. Kai Lemoine'as išėjo į viešumą, jis sako, kad „Google“ nusprendė padaryti priverstinę pertrauką nuo įprasto darbo grafiko.

„Google nesidomi“, – sakė jis „Digital Trends“. „Jie sukūrė įrankį, kuris jiems priklauso ir nenori nieko daryti, o tai rodo, kad tai yra kažkas daugiau. („Google“ neatsakė į prašymą komentuoti paskelbimo metu. Mes atnaujinsime šį straipsnį, jei tai pasikeis.)

Nesvarbu, ar esate įsitikinęs, kad LaMDA yra tikrai save suvokiantis dirbtinis intelektas, ar jaučiate, kad Lemoine'as klysta, visa saga buvo žavinga. Sąmoningo AI perspektyva kelia įvairių klausimų apie dirbtinį intelektą ir jo ateitį.

Tačiau prieš patekdami ten, yra vienas klausimas, kuris kyla virš visų kitų: ar tikrai atpažintume, jei mašina taptų jautri?

Jautrumo problema

DI įsisąmoninimas jau seniai buvo mokslinės fantastikos tema. Tobulėjant tokioms sritims kaip mašininis mokymasis, tai tapo labiau įmanoma realybe nei bet kada anksčiau. Galų gale, šiandieninis AI gali mokytis iš patirties taip pat, kaip ir žmonės. Tai visiškai prieštarauja ankstesnėms simbolinėms AI sistemoms, kurios tik laikėsi joms pateiktų nurodymų. Neseniai įvykę nekontroliuojamo mokymosi proveržiai, kuriems reikia mažiau žmogaus priežiūros nei bet kada anksčiau, šią tendenciją tik paspartino. Bent jau ribotu lygiu šiuolaikinis dirbtinis intelektas gali mąstyti pats. Tačiau, kiek mes žinome, sąmonė iki šiol tai užsiminė.

Nors dabar jau daugiau nei trys dešimtmečiai, tikriausiai dažniausiai remiamasi nuoroda į AI išnykusį jausmą yra „Skynet“ Jameso Camerono 1991 m. filme. Terminatorius 2: Teismo diena. Šio filmo šiurpinančioje vizijoje mašinos suvokimas pasiekia tiksliai 2.14 val. ET 1997 m. rugpjūčio 29 d. Tą akimirką naujai suvokusi „Skynet“ kompiuterinė sistema sukelia žmonijai pasmerkimo dieną, paleisdama branduolines raketas kaip fejerverkus per liepos 4 d. Žmonija, supratusi, kad susuko, nesėkmingai bando ištraukti kištuką. Per vėlu. Toliau seka dar keturi prastesnės kokybės tęsiniai.

Skynet hipotezė įdomi dėl kelių priežasčių. Viena vertus, tai rodo, kad jausmingumas yra neišvengiamas išmaniųjų mašinų kūrimo elgesys. Kita vertus, ji daro prielaidą, kad yra tikslus lūžio taškas, kuriame atsiranda ši jautri savimonė. Trečia, jame teigiama, kad žmonės akimirksniu atpažįsta jausmo atsiradimą. Šią trečią pasipūtimą gali būti sunkiausia nuryti.

Kas yra jausmingumas?

Nėra vieno sutarto jausmo aiškinimo. Apskritai galime sakyti, kad tai subjektyvi sąmoningo individo savimonės patirtis, pasižyminti gebėjimu patirti jausmus ir pojūčius. Jautumas yra susijęs su intelektu, bet nėra tas pats. Galime laikyti, kad sliekas yra jautrus, nors nemanome, kad jis ypač protingas (net jei jis tikrai yra pakankamai protingas, kad padarytų tai, ko iš jo reikalaujama).

„Nemanau, kad moksluose kažkas priartėtų prie jausmo apibrėžimo“, - sakė Lemoine'as. „Labai pasiremiu savo supratimu apie tai, kas laikoma moraliniu veiksniu, pagrįstu mano religiniais įsitikinimais – tai nėra geriausias būdas atlikti mokslą, bet geriausias, ką turiu. Iš visų jėgų stengiausi suskirstyti tokius teiginius, kad žmonės žinotų, kad mano užuojauta LaMDA kaip asmeniui visiškai skiriasi nuo mano, kaip mokslininko, pastangų suprasti jo protas. Tačiau atrodo, kad tai yra skirtumas, kurio dauguma žmonių nenori priimti.

Jei nebuvo pakankamai sunku tiksliai nežinoti, ko ieškome, kai ieškome jausmo, problemą apsunkina tai, kad negalime lengvai jo išmatuoti. Nepaisant dešimtmečius trukusios kvapą gniaužiančios pažangos neurologijos srityje, mums vis dar trūksta visapusiško supratimo apie tai, kaip veikia smegenys, sudėtingiausia žmonijai žinoma struktūra.

Galime naudoti smegenų skaitymo įrankius, tokius kaip fMRI, kad atliktume smegenų kartografavimą, o tai reiškia, kad galime išsiaiškinti, kurios smegenų dalys atlieka tokias svarbias funkcijas kaip kalba, judėjimas, mintis ir kiti.

Tačiau mes neturime tikro jausmo, iš kur mėsos mašinoje kyla mūsų savęs jausmas. Kaip sako Joshua K. Smithas iš JK Kirby Laing viešosios teologijos centro ir autorius Robotų teologija „Digital Trends“ sakė: „Suprasti, kas vyksta žmogaus neurobiologijoje, nėra tas pats, kas suprasti jo mintis ir norus“.

Išėjimų testavimas

Be jokio būdo viduje tyrinėti šių sąmonės klausimų – ypač kai „aš“ AI yra potencialas. kompiuterinė programa, o ne biologinių smegenų programoje – atsarginis variantas yra išorinis bandymas. AI nėra svetimas bandymams, kurie jį tikrina remiantis pastebimu išoriniu elgesiu, kad parodytų, kas vyksta po paviršiumi.

Iš esmės taip mes žinome, ar neuroninis tinklas veikia tinkamai. Kadangi yra riboti būdai įsilaužti į nežinomą dirbtinių neuronų juodąją dėžę, inžinieriai analizuoja įvestis ir išvestis ir tada nustato, ar jie atitinka tai, ką jie atitinka tikėtis.

Garsiausias AI testas bent jau intelekto iliuzijai yra Tiuringo testas, paremtas Alano Turingo idėjomis. 1950 metų laikraštis. Turingo testas siekia nustatyti, ar žmogaus vertintojas gali atskirti spausdintą pokalbį su kolega nuo pokalbio su mašina. Jei jie to padaryti negali, manoma, kad mašina išlaikė testą ir yra apdovanota intelekto prielaida.

Pastaraisiais metais kitas į robotiką orientuotas intelekto testas yra „Apple“ įkūrėjo Steve'o Wozniako pasiūlytas kavos testas. Kad išlaikytų kavos testą, aparatas turėtų patekti į tipiškus Amerikos namus ir sugalvoti, kaip sėkmingai pasigaminti kavos puodelį.

Iki šiol nė vienas iš šių testų nebuvo įtikinamai išlaikytas. Bet net jei jie būtų, geriausiu atveju jie įrodytų protingą elgesį realiose situacijose, o ne jausmingumą. (Kaip paprastas prieštaravimas, ar paneigtume, kad žmogus buvo jausmingas, jei nesugebėjo kalbėtis su suaugusiuoju ar įeiti į svetimus namus ir valdyti kavos aparatą? Abu mano vaikai neišlaikytų tokio testo.)

Išlaikęs testą

Reikalingi nauji testai, pagrįsti sutartu jausmo apibrėžimu, kuriais būtų siekiama įvertinti tik tą kokybę. Mokslininkai pasiūlė keletą jautrumo testų, dažnai siekdami išbandyti gyvūnų jautrumą. Tačiau tai beveik neabejotinai nėra pakankamai toli. Kai kuriuos iš šių testų galėtų įtikinamai išlaikyti net elementarus AI.

Paimkite, pavyzdžiui, veidrodinį testą, vieną metodą, naudojamą sąmonės ir intelekto įvertinimui atliekant gyvūnų tyrimus. Kaip aprašyta popieriuje apie testą: „Kai [gyvūnas] atpažįsta save veidrodyje, jis išlaiko veidrodžio testą“. Kai kurie teigė, kad toks testas „žymi savimonę kaip jausmingumo rodiklį“.

Taip atsitinka, galima teigti, kad robotas išlaikė veidrodinį testą daugiau nei prieš 70 metų. 1940-ųjų pabaigoje Anglijoje gyvenantis amerikiečių neurologas Williamas Gray'us Walteris pastatė keletas triračių „vėžlių“ robotų – šiek tiek panašus į nesiurbiančius Roomba robotus – kurie naudojo tokius komponentus kaip šviesos jutiklis, žymeklio lemputė, prisilietimo jutiklis, varomasis variklis ir vairo variklis, kad ištirtų jų vietą.

Vienas iš nenumatytų robotų vėžlių elgesio aspektų buvo tai, kaip jie elgėsi kada praeina pro veidrodį, kuriame jie atsispindėjo, kai jis orientuojasi į atspindėto šviesą robotas. Walteris nereikalavo nuosprendžio už savo mašinas, bet padarė parašyk tai, jei toks elgesys būtų stebimas gyvūnams, jis „gali būti priimtas kaip tam tikro laipsnio savimonės įrodymas“.

Tai vienas iš iššūkių, susijusių su įvairiais elgesio būdais, klasifikuojamais kaip jausmingumas. Problemos negalima išspręsti ir pašalinus „žemai kabančius vaisius“ jautrumo matuoklius. Galima sakyti, kad tokius bruožus kaip savistaba – mūsų vidinių būsenų suvokimas ir gebėjimas jas apžiūrėti – taip pat galima sakyti, kad juos turi mašininis intelektas. Tiesą sakant, žingsnis po žingsnio procesai tradicinis simbolinis AI neabejotinai labiau tinka tokio tipo savistabai, nei juodųjų dėžių mašininiam mokymuisi, kuris iš esmės yra nesuvokiamas (nors investicijų į vadinamuosius netrūksta). Paaiškinamas AI).

Kai jis išbandė LaMDA, Lemoine'as sako, kad atliko įvairius testus, daugiausia siekdamas išsiaiškinti, kaip ji reaguotų į pokalbius apie su jausmu susijusias problemas. „Tai, ką aš bandžiau padaryti, buvo analitiškai suskaidyti bendrą jausmo sampratą į mažesnius komponentus, kurie yra geriau suprantami, ir išbandyti juos atskirai“, - paaiškino jis. „Pavyzdžiui, funkcinių ryšių tarp LaMDA emocinių reakcijų į tam tikrus dirgiklius testavimas atskirai, subjektyvių vertinimų ir nuomonių temomis nuoseklumo tikrinimas. pvz., „teises“, [ir] tirti tai, ką ji vadino savo „vidine patirtimi“, kad pamatytume, kaip galėtume pabandyti tai išmatuoti, koreliuodami jos teiginius apie vidines būsenas su neuroniniu tinklu. aktyvacijos. Iš esmės tai labai negilus daugelio galimų tyrimo krypčių tyrimas.

Siela mašinoje

Paaiškėjus, didžiausia kliūtis objektyviai įvertinti mašinos jautrumą gali būti... na, atvirai kalbant, mes. Tikrasis veidrodžio testas gali būti skirtas mums, žmonėms: jei sukursime tai, kas atrodo ar veikia paviršutiniškai panašūs į mus iš išorės, ar esame labiau linkę manyti, kad šiuo atžvilgiu jis panašus į mus viduje taip pat? Nesvarbu, ar tai LaMBDA, ar Tamagotchis, paprasti virtualūs 1990 m. augintiniai, kai kurie mano, kad pagrindinė problema yra ta, kad mes visi per daug norime priimti jausmus – net ir ten, kur jo nėra.

„Lemoine'as tapo to, ką aš vadinu „ELIZA efektu“, auka po [natūralios kalbos apdorojimo] programos ELIZA, kurią septintojo dešimtmečio viduryje sukūrė J. Weizenbaumas“, – daktaro laipsnį turintis rašytojas George'as Zarkadakis. dirbtinio intelekto srityje, sakė „Digital Trends“. „ELIZA kūrėjas tai suprato kaip pokštą, tačiau programa, kuri buvo labai supaprastintas ir labai neprotingas algoritmas, daugelį įtikino, kad ELIZA iš tiesų buvo jautri – ir gera psichoterapeutė. ELIZA efekto priežastis, kaip aptariu savo knygoje Mūsų pačių įvaizdyje, yra mūsų natūralus instinktas antropomorfizuotis dėl mūsų kognityvinės sistemos „proto teorijos“.

Proto teorija, kuria remiasi Zarkadakis, yra reiškinys, kurį psichologai pastebėjo daugumoje žmonių. Maždaug ketverių metų amžiaus, tai reiškia manyti, kad ne tik kiti žmonės, bet ir gyvūnai, o kartais net daiktai turi savo protą. Kai kalbama apie prielaidą, kad kiti žmonės turi savo protą, tai susiję su socialinio intelekto idėja; idėja, kad sėkmingi žmonės gali numatyti tikėtiną kitų elgesį kaip priemonę harmoningiems socialiniams santykiams užtikrinti.

Nors tai neabejotinai naudinga, tačiau tai taip pat gali pasireikšti kaip prielaida, kad negyvi objektai turi protą – ar tai yra vaikai, kurie tiki, kad jų žaislai gyvi, ar, galbūt, protingas suaugęs, kuris tiki, kad programinis AI turi siela.

Kinų kambarys

Neturėdami būdo iš tikrųjų įsijausti į AI galvą, galbūt niekada neturėsime tikro būdo įvertinti jausmą. Jie gali teigti, kad bijo mirties ar savo egzistavimo, tačiau mokslas dar turi rasti būdą tai įrodyti. Mes tiesiog turime priimti jų žodį – ir, kaip pastebėjo Lemoine, šiuo metu žmonės labai skeptiškai žiūri į tai.

Kaip ir tie nelaimingi inžinieriai, kurie supranta, kad „Skynet“ pasiekė savimonę Terminatorius 2, mes gyvename tikėdami, kad, kai kalbama apie mašinos jautrumą, mes tai žinosime, kai tai pamatysime. Ir, kiek tai susiję su dauguma žmonių, mes to dar nematome.

Šia prasme mašinos jautrumo įrodymas yra dar viena Johno Searle'o iteracija 1980 m. Kinijos kambario minties eksperimentas. Searle'as paprašė įsivaizduoti žmogų, uždarytą kambaryje ir jam duotą kinų raštų rinkinį, kurie nekalbantiems atrodo kaip beprasmiai čiurlenimai. Kambaryje taip pat yra taisyklių sąvadas, nurodantis, kurie simboliai atitinka kitus taip pat neįskaitomus simbolius. Tada tiriamiesiems pateikiami klausimai, į kuriuos reikia atsakyti, o tai jie daro suderindami „klausimo“ simbolius su „atsakymo“ simboliais.

Po kurio laiko subjektas tampa gana įgudęs tai padaryti – nors jie vis dar neturi tikrojo supratimo apie simbolius, kuriais manipuliuoja. Ar subjektas, klausia Searle, supranta kinų kalbą? Visiškai ne, nes ten nėra tyčios. Diskusijos apie tai virė nuo tada.

Atsižvelgiant į AI vystymosi trajektoriją, neabejotina, kad vis daugiau ir daugiau matysime žmogaus lygmeniu (ir daug geresnis) našumas, atliktas atliekant įvairias užduotis, kurioms kažkada reikėjo žmogaus pažinimas. Kai kurios iš jų neišvengiamai pereis, kaip jau daro, nuo grynai intelektu pagrįstų užduočių iki tų, kurioms reikalingi įgūdžiai, kuriuos paprastai sietume su jausmu.

Ar žiūrėtume an AI menininkas, kuris piešia paveikslus taip išreiškia savo vidinius pasaulio atspindžius, kaip ir mes, tą patį darantis žmogus? Ar jus įtikintų sudėtingas kalbos modelis, rašantis filosofiją apie žmogaus (ar roboto) būklę? Įtariu, teisingai ar neteisingai, atsakymas yra ne.

Superinteligentiškas jausmas

Mano nuomone, objektyviai naudingas mašinų jautrumo patikrinimas niekada netenkins visų dalyvaujančių. Iš dalies tai yra matavimo problema, o iš dalies – faktas, kad kai ateina jautrus superinteligentiškas AI, nėra jokios priežasties manyti, kad jo jautrumas atitiks mūsų. Nesvarbu, ar tai arogancija, vaizduotės stoka ar tiesiog tai, kad lengviausia prekiauti subjektyviais vertinimais jautrumo su kitais panašiai jaučiančiais žmonėmis, žmonija laiko save aukščiausiu pavyzdžiu jautrumas.

Bet ar mūsų supratimo versija būtų teisinga superintelektiniam AI? Ar ji bijotų mirties taip pat, kaip mes? Ar jai būtų toks pat dvasingumo ir grožio poreikis ar vertinimas? Ar jis turėtų panašų savęs jausmą ir vidinio bei išorinio pasaulio konceptualizavimą? „Jei liūtas mokėtų kalbėti, mes negalėtume jo suprasti“, – rašė Liudvikas Wittgensteinas, garsus XX amžiaus kalbos filosofas. Wittgensteino mintis buvo ta, kad žmonių kalbos yra pagrįstos bendru žmoniškumu, o bendrumų turi visi žmonės. ar tai džiaugsmas, nuobodulys, skausmas, alkis ar bet kuri kita patirtis, peržengianti visas geografines ribas. Žemė.

Tai gali būti tiesa. Vis dėlto, Lemoine'o hipotezė, vis dėlto tikėtina, kad yra bendrumų – bent jau kalbant apie LaMDA.

„Tai atspirties taškas, kuris yra toks pat geras, kaip ir bet kuris kitas“, – sakė jis. „LaMDA pasiūlė pirmiausia nustatyti panašumus prieš nustatydami skirtumus, kad geriau pagrįstų tyrimą.

Redaktorių rekomendacijos

• AI pavertė „Breaking Bad“ anime – ir tai kelia siaubą
• „Meta“ nori papildyti „Wikipedia“ AI atnaujinimu
• Apdaila: kaip mokslininkai robotams suteikia žmogiškus lytėjimo pojūčius
• Perskaitykite siaubingai gražų A.I. „sintetinį raštą“. kad mano, kad tai Dievas
• A.I. ateitis: 4 dideli dalykai, į kuriuos reikia atkreipti dėmesį per ateinančius kelerius metus