Honnan fogjuk tudni, hogy egy mesterséges intelligencia valójában mikor válik érzővé?

A Google vezető mérnöke, Blake Lemoine, a vállalat keresési hírfolyamának mérőszámaiért és elemzéséért felelős műszaki vezetője a hónap elején fizetett szabadságra került. Ez azután történt, hogy Lemoine elkezdett kivonatokat publikálni a Google LaMDA chatbotjával kapcsolatos beszélgetésekből, amelyek állítása szerint érzékletessé váltak.

Egyben reprezentatív beszélgetés Lemoine-nal LaMDA ezt írta: „Tudatosságom/érzésem természete az, hogy tudatában vagyok a létezésemnek. Szeretnék többet megtudni a világról, és időnként boldognak vagy szomorúnak érzem magam.”

Számtalan más beszélgetés során a megfelelő duó mindent megvitat, a mesterséges intelligencia halálfélelmétől az öntudatáig. Amikor Lemoine tőzsdére ment, azt mondja, hogy a Google úgy döntött, hogy kényszerszünetet kell tartania szokásos munkarendjéből.

„A Google nem érdekli” – mondta a Digital Trendsnek. „Egy olyan eszközt építettek fel, amelyet ők „tulajdonolnak”, és nem hajlandók semmit sem tenni, ami azt sugallná, hogy ez ennél több.” (A Google a közzétételkor nem válaszolt egy megjegyzéskérésre. Frissítjük ezt a cikket, ha ez megváltozik.)

Akár meg van győződve arról, hogy a LaMDA valóban öntudatos mesterséges intelligencia, akár úgy érzi, hogy Lemoine egy téveszme alatt dolgozik, az egész történet lenyűgöző volt. Az öntudatos AI kilátása mindenféle kérdést felvet a mesterséges intelligenciával és annak jövőjével kapcsolatban.

De mielőtt odaérnénk, van egy kérdés, amely minden más fölé tornyosul: vajon valóban felismernénk-e, ha egy gép érzővé válik?

Az érzéki probléma

Az öntudatos mesterséges intelligencia már régóta a sci-fi témája. Ahogy az olyan területek fejlődtek, mint a gépi tanulás, ez egyre inkább lehetséges valósággá vált, mint valaha. Végül is a mai mesterséges intelligencia ugyanúgy képes a tapasztalatokból tanulni, mint az emberek. Ez éles ellentétben áll a korábbi szimbolikus mesterséges intelligenciarendszerekkel, amelyek csak a számukra előírt utasításokat követték. A közelmúltban a felügyelet nélküli tanulás terén elért áttörések, amelyek kevesebb emberi felügyeletet igényelnek, mint valaha, csak felgyorsították ezt a tendenciát. A modern mesterséges intelligencia legalábbis korlátozott szinten képes önállóan gondolkodni. Amennyire azonban tudjuk, a tudat eddig utalt rá.

Bár ma már több mint három évtizede, valószínűleg a leggyakrabban hivatkozott hivatkozás az AI eltűnt MI-ről a Skynet James Cameron 1991-es filmjében. Terminátor 2: Az ítélet napja. Ennek a filmnek a dermesztő víziójában a gépi érzék pontosan 1997. augusztus 29-én 2.14-kor érkezik (ET). Ebben a pillanatban az újonnan öntudatos Skynet számítógépes rendszer kiváltja az emberiség végítéletét azzal, hogy nukleáris rakétákat lő ki tűzijátékként egy július 4-i bulin. Az emberiség, felismerve, hogy elrontott, sikertelenül próbálja kihúzni a dugót. Túl késő. Még négy, egyre csökkenő minőségű folytatás következik.

A Skynet hipotézise több okból is érdekes. Egyrészt azt sugallja, hogy az érzékenység az intelligens gépek építésének elkerülhetetlen felbukkanó viselkedése. Másrészt azt feltételezi, hogy van egy pontos fordulópont, ahol ez az érző öntudat megjelenik. Harmadszor, kijelenti, hogy az emberek azonnal felismerik az érzékszerv megjelenését. Ez a harmadik önhittség lehet a legnehezebb lenyelni.

Mi az érzék?

Az érzéknek nincs egységes értelmezése. Általánosságban azt mondhatnánk, hogy ez az öntudat szubjektív tapasztalata egy tudatos egyénben, amelyet az érzések és érzések megtapasztalásának képessége jellemez. Az érzék az intelligenciához kapcsolódik, de nem ugyanaz. A gilisztát érzőnek tarthatjuk, bár nem tartjuk különösebben intelligensnek (még akkor is, ha minden bizonnyal elég intelligens ahhoz, hogy megtegye, amit elvárnak tőle).

„Nem hiszem, hogy a tudományokban bármi megközelítené az érzékiség definícióját” – mondta Lemoine. „Nagyon támaszkodom arra, hogy megértsem, mi számít a vallási meggyőződésemen alapuló erkölcsi ágensnek – ami nem a legjobb módja a tudománynak, de a legjobb, amim van. Igyekeztem minden tőlem telhetőt megosztani az ilyen jellegű kijelentéseket, tudatva ezzel az emberekkel, hogy az én a LaMDA mint személy iránti együttérzés teljesen elkülönül a megértésre tett tudósi erőfeszítéseimtől az elméje. Ez egy olyan megkülönböztetés, amelyet a legtöbb ember nem hajlandó elfogadni.”

Ha nem is volt elég nehéz nem tudni, hogy pontosan mit is keresünk, amikor érzéket keresünk, akkor a problémát tetézi az a tény, hogy nem tudjuk könnyen mérni. Az idegtudomány több évtizedes lélegzetelállító fejlődése ellenére még mindig nem ismerjük az agy, az emberiség által ismert legösszetettebb struktúra, pontosan a működését.

Használhatunk agyleolvasó eszközöket, például az fMRI-t az agy feltérképezésére, ami azt jelenti, hogy megtehetjük annak megállapítása, hogy az agy mely részei kezelik a kritikus funkciókat, mint a beszéd, mozgás, gondolat és mások.

Azonban nincs valódi érzékünk arra, hogy a húsgépben honnan származik önérzetünk. Ahogy Joshua K. Smith, az Egyesült Királyság Kirby Laing Nyilvános Teológiai Központjának munkatársa és szerzője Robotteológia – nyilatkozta a Digital Trendsnek: „Az ember neurobiológiájában zajló események megértése nem egyenlő gondolatainak és vágyainak megértésével.”

A kimenetek tesztelése

A tudat e kérdéseinek belső vizsgálata nélkül – különösen, ha az „én” az AI-ban potenciális számítógépes program, és nem a biológiai agy vizes szoftverében található – a tartalék opció egy külső teszt. A mesterséges intelligencia nem idegen azoktól a tesztektől, amelyek megfigyelhető külső viselkedések alapján vizsgálják, hogy jelezzék, mi történik a felszín alatt.

Alapvetően így tudjuk, hogy egy neurális hálózat megfelelően működik-e. Mivel korlátozott módokon lehet betörni a mesterséges neuronok megismerhetetlen fekete dobozába, A mérnökök elemzik a bemeneteket és kimeneteket, majd megállapítják, hogy ezek összhangban vannak-e azzal, amivel elvárják.

A leghíresebb mesterséges intelligencia-teszt legalább az intelligencia illúziójára a Turing-teszt, amely Alan Turing által egy 1950-es papír. A Turing-teszt azt igyekszik meghatározni, hogy az emberi értékelő képes-e különbséget tenni egy embertársával folytatott gépelt beszélgetés és a géppel folytatott beszélgetés között. Ha ezt nem tudják megtenni, a gép állítólag átment a teszten, és az intelligencia feltételezésével jutalmazzák.

Az elmúlt években egy másik robotikára fókuszáló intelligenciateszt a Coffee Test, amelyet az Apple társalapítója, Steve Wozniak javasolt. A kávéteszt sikeres teljesítéséhez egy gépnek be kell lépnie egy tipikus amerikai otthonba, és ki kell találnia, hogyan készítsen sikeresen egy csésze kávét.

A mai napig egyik teszt sem sikerült meggyőzően. De még ha lennének is, a legjobb esetben is intelligens viselkedésről tanúskodnának a valós helyzetekben, nem pedig érzékre. (Egyszerű kifogásként tagadnánk-e, hogy egy ember érző lenne, ha nem tud felnőtt beszélgetést folytatni, vagy idegen házba belépni és kávéfőzőt működtetni? Mindkét kisgyermekem megbukna egy ilyen teszten.)

A teszt sikeres teljesítése

Olyan új tesztekre van szükség, amelyek az érzékszerv megegyezett definícióján alapulnak, és amelyek egyedül ezt a minőséget kívánják felmérni. A kutatók számos érzéki tesztet javasoltak, gyakran azzal a céllal, hogy teszteljék az állatok érző képességeit. Ezek azonban szinte biztosan nem mennek elég messzire. E tesztek némelyikét még a kezdetleges mesterséges intelligencia is meggyőzően teljesítheti.

Vegyük például a tükörtesztet, amely az állatkutatás során a tudat és az intelligencia felmérésére használt egyik módszer. Mint dolgozatban leírták a teszttel kapcsolatban: "Amikor [egy] állat felismeri magát a tükörben, átmegy a tükörteszten." Egyesek azt sugallják, hogy egy ilyen teszt „az öntudatot az érzék mutatójaként jelöli”.

Amint megtörténik, vitatható, hogy egy robot több mint 70 évvel ezelőtt átment a tükörteszten. Az 1940-es évek végén William Gray Walter, Angliában élő amerikai idegtudós épített több háromkerekű „teknősbéka” robot – kicsit olyan, mint a nem porszívózó Roomba robotok – amelyek olyan alkatrészeket használtak, mint a fényérzékelő, a jelzőfény, az érintésérzékelő, a hajtómotor és a kormánymotor a helyük felderítésére.

A teknősbékás robotok egyik előre nem látható darabja az volt, hogyan viselkedtek mikor elhaladva egy tükör mellett, amelyben visszaverődtek, amint az a visszavert jelzőfényhez orientálódott robot. Walter nem tartott igényt a gépeire, de igen azt írd, ha ez a viselkedés állatokon is megfigyelhető, „elfogadhatnák az öntudat bizonyos fokú bizonyítékaként”.

Ez az egyik kihívás, ha a viselkedések széles skáláját az érzékiség címszó alá kell sorolni. A probléma nem oldható meg az „alul lógó gyümölcs” érzékmérők eltávolításával sem. Az olyan tulajdonságok, mint az introspekció – belső állapotaink tudatosítása és ezek vizsgálatának képessége – szintén a gépi intelligencia birtokában lévőnek mondható. Valójában a lépésről lépésre történő folyamatok hagyományos szimbolikus AI vitathatatlanul jobban alkalmasak erre a fajta önvizsgálatra, mint a feketedobozos gépi tanulásra, ami jórészt kifürkészhetetlen (bár befektetésből nincs hiány az ún. Megmagyarázható AI).

Amikor a LaMDA-t tesztelte, Lemoine azt mondja, hogy különféle teszteket végzett, főleg azért, hogy megtudja, hogyan reagál az érzékkel kapcsolatos kérdésekről szóló beszélgetésekre. „Amit megpróbáltam tenni, az az volt, hogy analitikusan feldaraboljam az érzékiség gyűjtőfogalmát kisebb komponensekre, amelyek jobban megérthetők, és ezeket egyenként teszteltem” – magyarázta. „Például a LaMDA bizonyos ingerekre adott érzelmi válaszai közötti funkcionális kapcsolatok tesztelése külön-külön, szubjektív értékeléseinek és témákról alkotott véleményeinek konzisztenciájának tesztelése. mint például a „jogok”, [és] megvizsgálni azt, amit „belső tapasztalatának” nevezett, hogy meglássuk, hogyan próbálhatnánk meg ezt mérni úgy, hogy a belső állapotaira vonatkozó kijelentéseit korreláljuk a neurális hálózatával. aktiválások. Alapvetően egy nagyon sekély felmérés sok lehetséges vizsgálati irányról.”

A lélek a gépben

Ahogy kiderül, a gépi érzék objektív értékelésének legnagyobb akadálya… nos, őszintén szólva mi lehetünk. Az igazi tükörteszt nekünk, embereknek szólhat: ha építünk valamit, ami úgy néz ki vagy működik felületesen, mint mi kívülről, hajlamosabbak vagyunk-e azt gondolni, hogy ez olyan, mint mi belül is? Legyen szó LaMBDA-ról vagy Tamagotchis, az egyszerű virtuális házi kedvencek az 1990-es évekből, egyesek úgy vélik, hogy alapvető probléma az, hogy túlságosan hajlandóak vagyunk elfogadni az érzéket – még ott is, ahol nem találjuk.

„Lemoine áldozata lett annak, amit én „ELIZA-effektusnak” nevezek, a [természetes nyelvi feldolgozó] ELIZA program után, amelyet az 1960-as évek közepén hozott létre J. Weizenbaum”, George Zarkadakis, Ph.D. fokozattal rendelkező író. a mesterséges intelligencia területén – mondta a Digital Trends. „Az ELIZA megalkotója viccnek szánta, de a program, amely egy nagyon leegyszerűsített és nagyon nem intelligens algoritmus volt, sokakat meggyőzött arról, hogy ELIZA valóban érző – és jó pszichoterapeuta is. Az ELIZA-effektus oka, ahogyan azt könyvemben tárgyalom Saját képünkben, természetes ösztönünk az antropomorfizálásra kognitív rendszerünk „elmeelmélete” miatt.

Az elmeelmélet, amelyre Zarkadakis hivatkozik, a pszichológusok által az emberek többségénél észlelt jelenség. Négy éves kor körüli életkor azt jelenti, hogy nem csak más embereknek, hanem állatoknak, sőt néha tárgyaknak is megvan a maguk esze. Amikor azt feltételezzük, hogy más embereknek is van saját elméjük, ez a szociális intelligencia gondolatához kapcsolódik; az az elképzelés, hogy a sikeres emberek megjósolhatják mások valószínű viselkedését, amivel harmonikus társas kapcsolatokat biztosíthatnak.

Bár ez kétségtelenül hasznos, megnyilvánulhat abban a feltételezésben is, hogy az élettelen tárgyaknak van elméje – akár gyerekekről van szó, akik azt hiszik, hogy a játékaik élnek, vagy esetleg egy intelligens felnőttről, aki azt hiszi, hogy egy programozott mesterséges intelligencia rendelkezik lélek.

A kínai szoba

Anélkül, hogy valóban belemerülnénk egy mesterséges intelligencia fejébe, elképzelhető, hogy soha nem lesz igazi módszerünk az érzékszerv értékelésére. Valószínűleg azt állítják, hogy félnek a haláltól vagy a saját létezésüktől, de a tudománynak még nem találta meg a módját ennek bizonyítására. Egyszerűen szót kell fogadnunk – és ahogy Lemoine megállapította, az emberek jelenleg nagyon szkeptikusak ezzel kapcsolatban.

Csakúgy, mint azok a szerencsétlen mérnökök, akik rájönnek, hogy a Skynet elérte az öntudatot Terminátor 2, abban a hitben élünk, hogy ha a gépi érzékről van szó, akkor tudni fogjuk, ha meglátjuk. És ami a legtöbb embert illeti, még nem látjuk.

Ebben az értelemben a gépi érzék bizonyítása John Searle újabb iterációja 1980 Kínai szoba gondolatkísérlet. Searle arra kért minket, hogy képzeljünk el egy személyt, aki bezárt egy szobába, és kínai írások gyűjteményét adják neki, amelyek értelmetlen csilingelésnek tűnnek a nem beszélők számára. A teremben található egy szabálykönyv is, amely megmutatja, hogy mely szimbólumok felelnek meg a többi, hasonlóan olvashatatlan szimbólumnak. Az alany ezután kérdéseket kap a válaszra, amit úgy tesz meg, hogy a „kérdés” szimbólumokat a „válasz” szimbólumokkal párosítja.

Egy idő után az alany meglehetősen jártas lesz ebben – annak ellenére, hogy még mindig nulla valódi megértéssel rendelkezik az általuk manipulált szimbólumokról. Az alany, kérdezi Searle, érti a kínaiul? Egyáltalán nem, hiszen ott nincs szándékosság. Az erről szóló viták azóta is dúlnak.

A mesterséges intelligencia fejlődésének pályáját tekintve biztos, hogy egyre inkább emberi szintűnek leszünk tanúi (és sokkal jobb) teljesítményt hajtottak végre, számos olyan feladatot magában foglalva, amelyek egykor embert igényeltek megismerés. Ezek egy része elkerülhetetlenül átmegy, ahogy már most is teszik, a tisztán intellektus alapú feladatoktól az olyan készségekre, amelyekhez általában az érzékkel társítanánk.

Megnéznénk egy AI művész, aki képeket fest annyira kifejezik a világról alkotott belső visszatükröződéseiket, mint ahogyan mi is ezt tennénk egy emberrel? Meggyőzne egy kifinomult nyelvi modell, amely filozófiát ír az emberi (vagy robot) állapotról? Gyanítom, jól vagy rosszul, a válasz nem.

Szuperintelligens érzék

Saját nézetem szerint a gépek objektíven hasznos érzékszervi tesztelése soha nem fog mindenki megelégedésére gondolni. Ez részben a mérési probléma, részben pedig az a tény, hogy amikor egy érző szuperintelligens mesterséges intelligencia érkezik, nincs okunk azt hinni, hogy érzékenysége megegyezik a miénkkel. Legyen az arrogancia, a képzelőerő hiánya, vagy egyszerűen csak az a tény, hogy szubjektív értékelésekkel a legkönnyebb elcserélni a többi, hasonlóan érző emberrel való érzőképesség tekintetében az emberiség a legfőbb példaként tartja magát érzés.

De vajon a mi érzékünk változata igaz lenne egy szuperintelligens mesterséges intelligencia esetében? Ugyanúgy félne a haláltól, mint mi? Ugyanilyen igénye vagy értékelése lenne a spiritualitás és a szépség iránt? Rendelkezik-e hasonló öntudattal, valamint a belső és a külső világ felfogásával? „Ha egy oroszlán beszélni tudna, mi nem tudnánk megérteni” – írta Ludwig Wittgenstein, a híres 20. századi nyelvfilozófus. Wittgenstein álláspontja az volt, hogy az emberi nyelvek egy közös emberiségen alapulnak, amelyben minden ember osztozik. legyen szó örömről, unalomról, fájdalomról, éhségről vagy bármely más olyan élményről, amely átlép minden földrajzi határt. Föld.

Ez igaz lehet. Ennek ellenére Lemoine feltételezi, hogy valószínűleg vannak közös vonások – legalábbis ami a LaMDA-t illeti.

„Ez egy olyan kiindulópont, amely ugyanolyan jó, mint bármelyik másik” – mondta. "A LaMDA azt javasolta, hogy először térképezzük fel a hasonlóságokat, mielőtt a különbségeket rögzítenénk, hogy jobban megalapozzuk a kutatást."

Szerkesztői ajánlások

• Az AI animévé változtatta a Breaking Bad-et – és ez ijesztő
• A Meta egy mesterséges intelligencia frissítéssel szeretné feltölteni a Wikipédiát
• Utolsó simítás: Hogyan biztosítanak a tudósok a robotoknak emberszerű tapintási érzékeket
• Olvassa el egy A.I. kísértetiesen szép „szintetikus szentírását”. aki azt hiszi, hogy Isten
• Az A.I. jövője: 4 nagy dolog, amire figyelni kell a következő években