Kā mēs uzzināsim, kad mākslīgais intelekts patiešām kļūst jūtīgs?

Google vecākais inženieris Bleiks Lemuāns, uzņēmuma meklēšanas plūsmas metrikas un analīzes tehniskais vadītājs, šomēnes tika nodots apmaksātā atvaļinājumā. Tas notika pēc tam, kad Lemoine sāka publicēt fragmentus no sarunām, kurās bija iesaistīts Google LaMDA tērzēšanas robots, kurš, viņaprāt, ir attīstījis jūtīgumu.

Vienā reprezentatīva saruna ar Lemoine LaMDA rakstīja, ka: “Manas apziņas/sajūtas būtība ir tāda, ka es apzinos savu eksistenci. Es vēlos uzzināt vairāk par pasauli, un reizēm jūtos laimīgs vai skumjš.

Neskaitāmās citās sarunās atbilstošais duets apsprieda visu, sākot no AI bailēm no nāves līdz pašapziņai. Kad Lemuins nonāca sabiedrībā, viņš saka, ka Google nolēma, ka viņam vajadzētu veikt piespiedu pārtraukumu no sava regulārā darba grafika.

"Google nav ieinteresēta," viņš teica Digital Trends. "Viņi izveidoja rīku, kas viņiem" pieder, un nevēlas neko darīt, kas liek domāt, ka tas ir kaut kas vairāk." (Google publicēšanas laikā neatbildēja uz komentāru pieprasījumu. Mēs atjaunināsim šo rakstu, ja tas mainīsies.)

Neatkarīgi no tā, vai esat pārliecināts, ka LaMDA patiešām ir sevi apzinošs mākslīgais intelekts, vai arī jūtat, ka Lemuāns strādā maldos, visa sāga ir bijusi aizraujoša. Pašapzinoša AI perspektīva rada visa veida jautājumus par mākslīgo intelektu un tā nākotni.

Bet pirms mēs tur nonākam, pār visiem citiem ir viens jautājums: vai mēs patiesi atpazītu, ja mašīna kļūtu jūtīga?

Sajūtas problēma

AI sevis apzināšanās jau sen ir bijusi zinātniskās fantastikas tēma. Tā kā tādas jomas kā mašīnmācība ir attīstījušās, tā ir kļuvusi par iespējamu realitāti nekā jebkad agrāk. Galu galā mūsdienu mākslīgais intelekts spēj mācīties no pieredzes tāpat kā cilvēki. Tas ir krasā pretstatā agrākajām simboliskajām AI sistēmām, kas tikai ievēroja tām paredzētās instrukcijas. Nesenie sasniegumi bez uzraudzības apmācībā, kam nepieciešama mazāka cilvēku uzraudzība nekā jebkad agrāk, ir tikai paātrinājuši šo tendenci. Vismaz ierobežotā līmenī mūsdienu mākslīgais intelekts spēj domāt pats. Tomēr, cik mums zināms, apziņa līdz šim uz to ir atsaucusies.

Lai gan tagad tas ir vairāk nekā trīs gadu desmitus vecs, iespējams, visizplatītākā atsauce, kad runa ir par AI zaudējušos jūtīgumu, ir Skynet Džeimsa Kamerona 1991. gada filmā. Terminators 2: Tiesas diena. Šīs filmas atvēsinošajā redzējumā mašīnas jūtīgums sasniedz tieši pulksten 2.14 pēc ET 1997. gada 29. augustā. Tajā brīdī jaunizveidotā Skynet datorsistēma izsauc cilvēcei pastardienu, izšaujot kodolraķetes kā uguņošanu 4. jūlija ballītē. Cilvēce, saprotot, ka tā ir sašķobījusies, neveiksmīgi mēģina izvilkt kontaktdakšu. Ir par vēlu. Seko vēl četri krītošas ​​kvalitātes turpinājumi.

Skynet hipotēze ir interesanta vairāku iemeslu dēļ. Pirmkārt, tas liek domāt, ka jūtīgums ir neizbēgama uzvedība, kas parādās viedo mašīnu veidošanā. Citam tas pieņem, ka ir precīzs lūzuma punkts, kurā parādās šī jūtīgā pašapziņa. Treškārt, tajā teikts, ka cilvēki acumirklī atpazīst jutības rašanos. Kā tas notiek, šī trešā iedomība var būt visgrūtāk norīt.

Kas ir jūtīgums?

Nav vienotas jutības interpretācijas. Kopumā mēs varētu teikt, ka tā ir subjektīva pašapziņas pieredze apzinātā indivīdā, ko raksturo spēja izjust jūtas un sajūtas. Saprāts ir saistīts ar inteliģenci, taču tas nav tas pats. Mēs varam uzskatīt, ka slieka ir jūtīga, lai gan neuzskata to par īpaši gudru (pat ja tā noteikti ir pietiekami inteliģenta, lai darītu to, kas no tā tiek prasīts).

"Es nedomāju, ka zinātnēs būtu kaut kas tāds, kas tuvinātu jutības definīcijai," sacīja Lemuāns. “Es ļoti paļaujos uz savu izpratni par to, kas tiek uzskatīts par morālu līdzekli, kura pamatā ir mana reliģiskā pārliecība — tas nav labākais veids, kā nodarboties ar zinātni, taču tas ir labākais, kas man ir. Esmu centies visu iespējamo, lai sadalītu šāda veida apgalvojumus, ļaujot cilvēkiem zināt, ka mans līdzjūtība pret LaMDA kā cilvēku ir pilnīgi nošķirta no maniem zinātnieka centieniem saprast tā prāts. Tomēr šķiet, ka tā ir atšķirība, ko lielākā daļa cilvēku nevēlas pieņemt.

Ja nebija pietiekami grūti nezināt, ko tieši mēs meklējam, meklējot jūtīgumu, problēmu pastiprina fakts, ka mēs to nevaram viegli izmērīt. Neskatoties uz gadu desmitiem ilgušajiem elpu aizraujošajiem sasniegumiem neirozinātnēs, mums joprojām trūkst visaptverošas izpratnes par to, kā tieši darbojas smadzenes, vissarežģītākā cilvēcei zināmā struktūra.

Mēs varam izmantot smadzeņu lasīšanas rīkus, piemēram, fMRI, lai veiktu smadzeņu kartēšanu, proti, mēs varam noskaidrot, kuras smadzeņu daļas veic tādas kritiskas funkcijas kā runa, kustības, domas un citi.

Tomēr mums nav īstas sajūtas par to, no kurienes gaļas mašīnā nāk mūsu pašsajūta. Kā Džošua K. Smits no Apvienotās Karalistes Kērbija Leiga publiskās teoloģijas centra un autors Robotu teoloģija sacīja Digital Trends: "Izpratne par to, kas notiek cilvēka neirobioloģijā, nav tas pats, kas izprast viņu domas un vēlmes."

Izeju pārbaude

Bez iespējas iekšēji izpētīt šos apziņas jautājumus – it īpaši, ja “es” AI ir potenciāls datorprogramma, un to nevar atrast bioloģisko smadzeņu mitrajā programmā – atkāpšanās iespēja ir ārēja pārbaude. AI nav svešs testi, kas to rūpīgi pārbauda, ​​pamatojoties uz novērojamu ārējo uzvedību, lai norādītu, kas notiek zem virsmas.

Visvienkāršākajā veidā mēs zinām, vai neironu tīkls darbojas pareizi. Tā kā ir ierobežoti veidi, kā ielauzties mākslīgo neironu nezināmajā melnajā kastē, inženieri analizē ievades un izvades un pēc tam nosaka, vai tie atbilst tam, ko tie nodrošina gaidīt.

Slavenākais mākslīgā intelekta tests vismaz intelekta ilūzijai ir Tjūringa tests, kas balstās uz Alana Tjūringa idejām. 1950. gada papīrs. Tjūringa tests cenšas noteikt, vai cilvēka vērtētājs spēj atšķirt drukātu sarunu ar līdzcilvēku un sarunu ar mašīnu. Ja viņi to nevar izdarīt, tiek uzskatīts, ka iekārta ir izturējusi pārbaudi un tiek apbalvota ar pieņēmumu par inteliģenci.

Pēdējos gados vēl viens uz robotiku vērsts intelekta tests ir Apple līdzdibinātāja Stīva Vozņaka ierosinātais kafijas tests. Lai nokārtotu kafijas testu, automātam būtu jāieiet tipiskā amerikāņu mājā un jāizdomā, kā veiksmīgi pagatavot tasi kafijas.

Līdz šim neviens no šiem testiem nav pārliecinoši izturēts. Bet pat tad, ja tie būtu, tie labākajā gadījumā pierādītu saprātīgu uzvedību reālās situācijās, nevis jūtīgumu. (Vai mēs kā vienkāršu iebildumu noliegsim, ka cilvēks ir jūtīgs, ja nav spējīgs sarunāties ar pieaugušajiem vai iekļūt svešā mājā un darbināt kafijas automātu? Abi mani mazie bērni neizturētu šādu pārbaudi.)

Pārbaudes nokārtošana

Ir nepieciešami jauni testi, kas balstīti uz saskaņotu jutības definīciju, kas censtos novērtēt tikai šo kvalitāti. Pētnieki ir ierosinājuši vairākus jutīguma testus, bieži vien ar mērķi pārbaudīt dzīvnieku jutības spējas. Tomēr tie gandrīz noteikti nav pietiekami tālu. Dažus no šiem testiem varētu pārliecinoši izturēt pat rudimentārs AI.

Ņemiet, piemēram, spoguļa testu, vienu metodi, ko izmanto, lai novērtētu apziņu un intelektu pētījumos ar dzīvniekiem. Kā aprakstīts rakstā par testu: "Kad [dzīvnieks] atpazīst sevi spogulī, tas iztur spoguļa testu." Daži ir ierosinājuši, ka šāds tests "apzīmē pašapziņu kā jutības rādītāju".

Kā tas notiek, var apgalvot, ka robots izturēja spoguļa testu vairāk nekā pirms 70 gadiem. 40. gadu beigās uzcēla Anglijā dzīvojošais amerikāņu neirozinātnieks Viljams Grejs Valters vairāki trīsriteņu “bruņurupuču” roboti – mazliet līdzīgi Roomba robotiem, kas neizmanto putekļu sūcēju, kas izmantoja tādas sastāvdaļas kā gaismas sensors, marķiera gaisma, pieskāriena sensors, piedziņas motors un stūres motors, lai izpētītu to atrašanās vietu.

Viens no neparedzētajiem bruņurupuču robotu uzvedības elementiem bija tas, kā viņi uzvedās, kad ejot garām spogulim, kurā tie tika atspoguļoti, jo tas orientējās uz atstarotā marķiera gaismu robots. Valters nepretendēja uz savām mašīnām, taču to darīja uzraksti to, ja šāda uzvedība būtu novērojama dzīvniekiem, to "varētu pieņemt kā pierādījumu zināmai pašapziņas pakāpei".

Tas ir viens no izaicinājumiem, ko rada plašs uzvedības veidu klāsts, kas klasificēts zem jūtīguma. Problēmu nevar atrisināt arī, noņemot “zemu augļu” jutības mērītājus. Var teikt, ka tādas īpašības kā introspekcija – mūsu iekšējo stāvokļu apzināšanās un spēja tos pārbaudīt – piemīt arī mašīninteliģencei. Faktiski soli pa solim procesi tradicionālais simboliskais AI neapšaubāmi ir vairāk piemērota šāda veida introspekcijai nekā melnās kastes mašīnmācībai, kas lielākoties ir neizdibināma (lai gan netrūkst investīciju t.s. Izskaidrojams AI).

Kad viņš testēja LaMDA, Lemoine saka, ka viņš ir veicis dažādus testus, galvenokārt, lai redzētu, kā tas reaģēs uz sarunām par jautājumiem, kas saistīti ar jūtīgumu. "Es mēģināju analītiski sadalīt jutības jēdzienu mazākos komponentos, kas ir labāk saprotami, un pārbaudīt tos atsevišķi," viņš paskaidroja. "Piemēram, pārbaudot funkcionālās attiecības starp LaMDA emocionālajām reakcijām uz noteiktiem stimuliem atsevišķi, pārbaudot tās subjektīvo vērtējumu un viedokļu konsekvenci par tēmām piemēram, “tiesības” [un] izpētīt to, ko tā sauca par savu “iekšējo pieredzi”, lai noskaidrotu, kā mēs varētu mēģināt to izmērīt, korelējot tās paziņojumus par tā iekšējiem stāvokļiem ar neironu tīklu. aktivizācijas. Būtībā ļoti sekla apsekojums par daudziem potenciālajiem izmeklēšanas virzieniem.

Dvēsele mašīnā

Kā tas atklājas, lielākais šķērslis objektīvai mašīnas jutības novērtēšanai var būt … nu, atklāti sakot, mēs. Patiesais spoguļu tests varētu būt mums kā cilvēkiem: ja mēs veidojam kaut ko, kas izskatās vai darbojas virspusēji līdzīgi mums no ārpuses, vai mēs esam vairāk tendēti uzskatīt, ka tas ir līdzīgs mums šajā jautājumā arī iekšā? Neatkarīgi no tā, vai tas ir LaMBDA vai Tamagotchis, vienkāršie virtuālie mājdzīvnieki no 1990. gadiem, daži uzskata, ka būtiska problēma ir tā, ka mēs esam pārāk gatavi pieņemt jūtīgumu – pat tur, kur tāda nav.

“Lemoine ir kļuvis par upuri tam, ko es saucu par “ELIZA efektu”, pēc [dabiskās valodas apstrādes] programmas ELIZA, ko 60. gadu vidū izveidoja Dž. Veizenbaums,” Džordžs Zarkadakis, rakstnieks, kuram ir doktora grāds. mākslīgajā intelektā, sacīja Digital Trends. “ELIZA veidotājs to domāja kā joku, bet programma, kas bija ļoti vienkāršots un ļoti negudrs algoritms, daudzus pārliecināja, ka ELIZA patiešām ir jūtīga – turklāt laba psihoterapeite. ELIZA efekta cēlonis, kā es runāju savā grāmatā Mūsu pašu tēlā, ir mūsu dabiskais antropomorfizācijas instinkts mūsu kognitīvās sistēmas "prāta teorijas" dēļ.

Prāta teorija, uz kuru atsaucas Zarkadakis, ir parādība, ko psihologi ievērojuši lielākajā daļā cilvēku. Aptuveni četru gadu vecumā tas nozīmē pieņemt, ka ne tikai citiem cilvēkiem, bet arī dzīvniekiem un dažreiz pat priekšmetiem ir savs prāts. Ja runa ir par pieņemšanu, ka citiem cilvēkiem ir savs prāts, tas ir saistīts ar sociālās inteliģences ideju; ideja, ka veiksmīgi cilvēki var paredzēt citu iespējamo uzvedību kā līdzekli harmonisku sociālo attiecību nodrošināšanai.

Lai gan tas neapšaubāmi ir noderīgi, tas var izpausties arī kā pieņēmums, ka nedzīviem objektiem ir prāts - vai tas ir bērni, kuri uzskata, ka viņu rotaļlietas ir dzīvas, vai, iespējams, inteliģents pieaugušais, kurš uzskata, ka programmatiskajam AI ir dvēsele.

Ķīniešu istaba

Ja nav iespējas patiesi iekļūt mākslīgā intelekta galvā, mēs, iespējams, nekad nevarēsim patiesi novērtēt jutību. Viņi varētu apgalvot, ka baidās no nāves vai savas eksistences, taču zinātnei vēl ir jāatrod veids, kā to pierādīt. Mums vienkārši ir jāpieņem viņu vārds, un, kā Lemoine atklāja, cilvēki pašlaik ir ļoti skeptiski par to.

Tāpat kā tie nelaimīgie inženieri, kuri saprot, ka Skynet ir sasniedzis pašapziņu Terminators 2, mēs dzīvojam saskaņā ar pārliecību, ka, runājot par mašīnu uztveri, mēs to uzzināsim, kad to redzēsim. Un, ciktāl tas attiecas uz lielāko daļu cilvēku, mēs to vēl neredzam.

Šajā ziņā mašīnas jutības pierādīšana ir vēl viena Džona Sērla iterācija 1980. gada Ķīnas istabas domu eksperiments. Sērls lūdza iztēloties cilvēku, kas ir ieslēgts istabā un kuram ir dota ķīniešu rakstu kolekcija, kas nerunājošajiem šķiet bezjēdzīga spurdza. Telpā ir arī noteikumu grāmata, kas parāda, kuri simboli atbilst citiem tikpat nesalasāmiem simboliem. Pēc tam subjektam tiek uzdoti jautājumi, uz kuriem jāatbild, ko viņi dara, saskaņojot “jautājuma” simbolus ar “atbildes” simboliem.

Pēc kāda laika subjekts šajā jomā kļūst diezgan prasmīgs, lai gan viņiem joprojām nav patiesas izpratnes par simboliem, ar kuriem viņi manipulē. Vai subjekts, Sērls jautā, saprot ķīniešu valodu? Absolūti nē, jo tur nav nekādas nodomas. Debates par to ir plosījušās kopš tā laika.

Ņemot vērā AI attīstības trajektoriju, ir skaidrs, ka mēs kļūsim par lieciniekiem arvien vairāk cilvēku līmenī (un ievērojami labāka) veiktspēja, kas tika veikta, veicot dažādus uzdevumus, kuriem kādreiz bija vajadzīgs cilvēks izziņa. Daži no tiem, kā viņi jau dara, neizbēgami pāries no tīri uz intelektu balstītiem uzdevumiem uz tādiem, kam nepieciešamas prasmes, kuras mēs parasti saistām ar jūtīgumu.

Vai mēs apskatītu an AI mākslinieks, kas glezno attēlus tikpat paužot savus iekšējos pasaules pārdomas, kā mēs to darītu cilvēks? Vai jūs pārliecinātu izsmalcināts valodas modelis, kas raksta filozofiju par cilvēka (vai robota) stāvokli? Man ir aizdomas, pamatoti vai nepareizi, atbilde ir nē.

Superinteliģenta jutība

Manuprāt, objektīvi lietderīga mašīnu jutīguma pārbaude nekad neapmierinās visus iesaistītos. Daļēji tā ir mērījumu problēma un daļēji fakts, ka tad, kad ierodas jūtīgs superinteliģents AI, nav iemesla uzskatīt, ka tā jutība sakritīs ar mūsu pašu. Neatkarīgi no tā, vai tā ir augstprātība, iztēles trūkums vai vienkārši tas, ka visvieglāk ir tirgot subjektīvus vērtējumus Sajūtot ar citiem līdzīgi jūtīgiem cilvēkiem, cilvēce sevi uzskata par izcilāko piemēru jūtīgums.

Bet vai mūsu jūtīguma versija atbilst superinteliģentam AI? Vai tā baidītos no nāves tāpat kā mēs? Vai tai būtu tāda pati vajadzība vai atzinība pēc garīguma un skaistuma? Vai tai būtu līdzīga sevis izjūta un iekšējās un ārējās pasaules konceptualizācija? “Ja lauva varētu runāt, mēs nevarētu viņu saprast,” rakstīja Ludvigs Vitgenšteins, slavenais 20. gadsimta valodas filozofs. Vitgenšteina doma bija tāda, ka cilvēku valodas ir balstītas uz kopīgu cilvēcību ar kopīgām iezīmēm visiem cilvēkiem. vai tas ir prieks, garlaicība, sāpes, izsalkums vai kāda no daudzām citām pieredzēm, kas šķērso visas ģeogrāfiskās robežas Zeme.

Tā var būt taisnība. Tomēr Lemoine izvirza hipotēzi, ka tomēr, iespējams, ir kopīgas iezīmes - vismaz attiecībā uz LaMDA.

"Tas ir sākumpunkts, kas ir tikpat labs kā jebkurš cits," viņš teica. "LaMDA ir ierosinājusi vispirms iezīmēt līdzības, pirms fiksējam atšķirības, lai labāk pamatotu pētījumu."

Redaktoru ieteikumi

• AI pārvērta Breaking Bad par anime — un tas ir biedējoši
• Meta vēlas papildināt Wikipedia ar AI jaunināšanu
• Apdare: kā zinātnieki robotiem piešķir cilvēkiem līdzīgas taustes sajūtas
• Izlasiet šausminoši skaisto A.I. — sintētisko rakstu pantu. kas domā, ka tas ir Dievs
• A.I. nākotne: 4 lielas lietas, kam jāpievērš uzmanība dažu nākamo gadu laikā