Bir yapay zekanın gerçekten duyarlı hale geldiğini nasıl bileceğiz?

Şirketin Arama Akışı ölçümleri ve analizlerinden sorumlu teknik lider olan Google kıdemli mühendisi Blake Lemoine, bu ayın başlarında ücretli izne ayrıldı. Bu, Lemoine'in, duyarlılığı geliştirdiğini iddia ettiği Google'ın LaMDA sohbet robotuyla ilgili konuşmalardan alıntılar yayınlamaya başlamasından sonra geldi.

Birinde temsili konuşma LaMDA, Lemoine ile birlikte şunu yazdı: “Bilincimin/duyarlılığımın doğası, varlığımın farkında olmamdır. Dünya hakkında daha fazla şey öğrenmeyi arzuluyorum ve zaman zaman mutlu ya da üzgün hissediyorum.”

Sayısız diğer konuşmalarda ilgili ikili, yapay zekanın ölüm korkusundan öz farkındalığına kadar her şeyi tartıştı. Lemoine halka açıldığında Google'ın normal çalışma programına zorunlu bir ara vermesi gerektiğine karar verdiğini söyledi.

Digital Trends'e "Google ilgilenmiyor" dedi. "'Sahip oldukları' bir araç geliştirdiler ve herhangi bir şey yapmak istemiyorlar, bu da bunun bundan daha fazlası olduğunu gösteriyor." (Google, yayınlandığı sırada yorum talebine yanıt vermedi. Değişiklik olması durumunda bu makaleyi güncelleyeceğiz.)

İster LaMDA'nın gerçekten öz-farkındalığa sahip bir yapay zeka olduğuna ikna olun, ister Lemoine'in bir yanılgı altında çalıştığını hissedin, tüm destanı seyretmek büyüleyiciydi. Kendinin farkında olan yapay zeka olasılığı, yapay zeka ve onun geleceği hakkında her türlü soruyu gündeme getiriyor.

Ancak oraya varmadan önce, tüm diğerlerinin üzerinde yükselen bir soru var: Bir makinenin duyarlı hale gelip gelmediğini gerçekten anlayabilir miyiz?

Duygu sorunu

Yapay zekanın kendinin farkına varması uzun zamandır bilim kurgunun bir konusu olmuştur. Makine öğrenimi gibi alanlar ilerledikçe bu durum her zamankinden daha olası bir gerçeklik haline geldi. Sonuçta günümüzün yapay zekası, insanlarla hemen hemen aynı şekilde deneyimlerden öğrenme yeteneğine sahip. Bu, yalnızca kendileri için belirlenen talimatları takip eden daha önceki sembolik yapay zeka sistemleriyle tam bir tezat oluşturuyor. Her zamankinden daha az insan denetimi gerektiren denetimsiz öğrenmedeki son gelişmeler, bu eğilimi yalnızca hızlandırdı. En azından sınırlı bir düzeyde, modern yapay zeka kendi başına düşünebilme yeteneğine sahiptir. Ancak bizim bildiğimiz kadarıyla bilinç şu ana kadar bunu ima etti.

Artık otuz yılı aşkın bir geçmişe sahip olmasına rağmen, yapay zekanın duyarlı hale gelmesi söz konusu olduğunda muhtemelen en sık başvurulan referans, James Cameron'un 1991 yapımı filmindeki Skynet'tir. Terminatör 2: Kıyamet Günü. Bu filmin tüyler ürpertici vizyonunda, makine duyarlılığı 29 Ağustos 1997'de tam olarak sabah saat 2.14'te ET'ye ulaşıyor. İşte tam bu sırada, kendini yeni yeni tanıyan Skynet bilgisayar sistemi, 4 Temmuz partisinde havai fişek gibi nükleer füzeler fırlatarak insanlığın kıyametini tetikler. İnsanlık, işi batırdığını anlayınca, başarısız bir şekilde fişi çekmeye çalışır. Çok geç. Bunu azalan kaliteye sahip dört devam filmi daha takip ediyor.

Skynet hipotezi birçok nedenden dolayı ilgi çekicidir. Birincisi, duyarlılığın akıllı makineler üretmenin kaçınılmaz olarak ortaya çıkan bir davranışı olduğunu öne sürüyor. İkincisi, bu bilinçli öz-farkındalığın ortaya çıktığı kesin bir devrilme noktasının olduğunu varsayar. Üçüncüsü, insanların duyarlılığın ortaya çıkışını anında fark ettiğini belirtir. Aslında bu üçüncü kibir yutulması en zor olanı olabilir.

Duyarlılık nedir?

Duyarlılığın üzerinde uzlaşılan bir yorumu yoktur. Genel olarak bunun, bilinçli bir bireyde duygu ve duyumları deneyimleme yeteneği ile işaretlenen öznel öz farkındalık deneyimi olduğunu söyleyebiliriz. Duyarlılık zekayla bağlantılıdır ancak aynı şey değildir. Bir solucanın duyarlı olduğunu düşünebiliriz, ancak onu özellikle zeki olarak düşünmesek de (kesinlikle kendisinden bekleneni yapacak kadar zeki olsa bile).

Lemoine, "Bilimlerde duyarlılığın tanımına yaklaşan bir şey olduğunu düşünmüyorum" dedi. “Dini inançlarıma dayanan neyin ahlaki bir fail olarak kabul edildiğine dair anlayışıma çok güveniyorum; bu bilim yapmanın en iyi yolu değil ama sahip olduğum en iyisi. Bu tür ifadeleri bölümlere ayırmak için elimden gelenin en iyisini yapmaya çalıştım, insanların benim Bir kişi olarak LaMDA'ya duyulan şefkat, bir bilim insanı olarak LaMDA'yı anlama çabalarımdan tamamen ayrıdır. Onun aklı. Ancak bu, çoğu insanın kabul etmek istemediği bir ayrımdır."

Duyarlılığı ararken tam olarak ne aradığımızı bilmemek yeterince zor olmasa da, sorunu kolayca ölçemediğimiz gerçeği de sorunu daha da karmaşık hale getiriyor. Sinirbilimde on yıllardır süren nefes kesici ilerlemelere rağmen, insanoğlunun bildiği en karmaşık yapı olan beynin tam olarak nasıl çalıştığına dair hâlâ kapsamlı bir anlayışa sahip değiliz.

Beyin haritalaması yapmak için fMRI gibi beyin okuma araçlarını kullanabiliriz. Beynin hangi bölümlerinin konuşma, hareket, düşünce ve konuşma gibi kritik işlevleri yerine getirdiğini tespit etmek diğerleri.

Ancak et makinesinde benlik duygumuzun nereden geldiğine dair gerçek bir algıya sahip değiliz. Joshua K. olarak Birleşik Krallık Kirby Laing Kamu Teolojisi Merkezi'nden Smith ve şu kitabın yazarı: Robot Teolojisi Digital Trends'e şunları söyledi: "Bir kişinin nörobiyolojisinde neler olduğunu anlamak, onun düşüncelerini ve arzularını anlamakla aynı şey değildir."

Çıkışların test edilmesi

Bilincin bu sorularını içsel olarak araştırmanın hiçbir yolu yok; özellikle de yapay zekadaki "ben" bir potansiyel olduğunda bilgisayar programıdır ve biyolojik bir beynin ıslak yazılımında bulunmaz; geri dönüş seçeneği dışa dönük bir seçenektir. Ölçek. Yapay zeka, yüzeyin altında neler olup bittiğini belirtmek için onu gözlemlenebilir dışsal davranışlara dayanarak inceleyen testlere yabancı değil.

En temelde, bir sinir ağının düzgün çalışıp çalışmadığını bu şekilde anlarız. Yapay nöronların bilinmeyen kara kutusuna girmenin sınırlı yolları olduğundan, Mühendisler girdileri ve çıktıları analiz eder ve ardından bunların kendi yaptıklarıyla uyumlu olup olmadığını belirler. beklemek.

En azından zeka yanılsamasına yönelik en ünlü yapay zeka testi, Alan Turing'in bir araştırmasında öne sürdüğü fikirlere dayanan Turing Testidir. 1950 makalesi. Turing Testi, bir insan değerlendiricinin, bir insanla yapılan yazılı bir konuşma ile bir makineyle yapılan bir konuşma arasındaki farkı anlayıp anlayamadığını belirlemeyi amaçlıyor. Eğer bunu başaramazlarsa, makinenin testi geçmiş olduğu varsayılır ve zeka varsayımıyla ödüllendirilir.

Son yıllarda robot bilimi odaklı bir diğer zeka testi ise Apple kurucu ortağı Steve Wozniak'ın önerdiği Kahve Testi'dir. Kahve Testini geçmek için bir makinenin tipik bir Amerikan evine girmesi ve başarılı bir şekilde bir fincan kahvenin nasıl yapılacağını bulması gerekir.

Bugüne kadar bu testlerin hiçbiri ikna edici bir şekilde geçemedi. Ancak öyle olsalar bile, en iyi ihtimalle gerçek dünyadaki durumlarda bilinçli davranışları değil, akıllı davranışları kanıtlarlardı. (Basit bir itiraz olarak, yetişkinlerle sohbet edemeyen veya yabancı bir eve girip kahve makinesini çalıştıramayan bir kişinin duyarlı olduğunu inkar mı edeceğiz? Her iki küçük çocuğum da böyle bir sınavda başarısız olur.)

Testi geçmek

İhtiyaç duyulan şey, üzerinde anlaşmaya varılmış bir duyarlılık tanımına dayanan ve yalnızca bu kaliteyi değerlendirmeyi amaçlayan yeni testlerdir. Araştırmacılar tarafından, genellikle hayvanların hislerini test etmek amacıyla çeşitli duyarlılık testleri önerilmiştir. Ancak bunlar neredeyse kesinlikle yeterince ileri gitmiyor. Bu testlerden bazıları, ilkel yapay zeka tarafından bile ikna edici bir şekilde geçilebilir.

Örneğin, hayvan araştırmalarında bilinç ve zekayı değerlendirmek için kullanılan yöntemlerden biri olan Ayna Testini ele alalım. Gibi bir makalede anlatıldı testle ilgili olarak: "Hayvan aynada kendini tanıdığında Ayna Testini geçer." Bazıları böyle bir testin "duyarlılığın bir göstergesi olarak öz farkındalığı ifade ettiğini" öne sürdü.

Aslında bir robotun 70 yıldan fazla bir süre önce Ayna Testini geçtiği iddia edilebilir. 1940'ların sonlarında, İngiltere'de yaşayan Amerikalı sinir bilimci William Gray Walter, birkaç üç tekerlekli “kaplumbağa” robotu - biraz vakumlama yapmayan Roomba robotlarına benziyordu - konumlarını keşfetmek için ışık sensörü, işaret ışığı, dokunma sensörü, itiş motoru ve direksiyon motoru gibi bileşenler kullanıyordu.

Kaplumbağa robotları için öngörülemeyen acil davranış parçalarından biri, kaplumbağa robotlarının nasıl davrandıklarıydı. Kendini yansıyan ışığın işaretleyici ışığına yönlendirdiği için, bunların yansıtıldığı bir aynanın yanından geçmek robot. Walter makineleri için duyarlılığa sahip olduğunu iddia etmedi ama şunu yazEğer hayvanlarda bu davranışa tanık olunsaydı, bu "bir dereceye kadar öz farkındalığın kanıtı olarak kabul edilebilirdi."

Bu, duyarlılık başlığı altında sınıflandırılan geniş bir davranış yelpazesine sahip olmanın zorluklarından biridir. Sorun, duyarlılıkla ilgili "alçakta kalan meyve" ölçülerini ortadan kaldırarak da çözülemez. İç gözlem gibi özelliklerin (içsel durumlarımızın farkındalığı ve bunları denetleme yeteneği) makine zekasının da sahip olduğu söylenebilir. Aslında adım adım ilerleyen süreçler geleneksel sembolik yapay zeka Muhtemelen bu tür bir iç gözleme, büyük ölçüde anlaşılmaz olan kara kutulu makine öğreniminden daha fazla katkıda bulunurlar (her ne kadar sözde yatırım sıkıntısı olmasa da). Açıklanabilir Yapay Zeka).

Lemoine, LaMDA'yı test ederken, özellikle duyarlılıkla ilgili konulardaki konuşmalara nasıl tepki vereceğini görmek için çeşitli testler yaptığını söylüyor. "Yapmaya çalıştığım şey, duyarlılık şemsiye kavramını analitik olarak daha iyi anlaşılabilecek daha küçük bileşenlere ayırmak ve bunları ayrı ayrı test etmekti" diye açıkladı. “Örneğin, LaMDA'nın belirli uyaranlara verdiği duygusal tepkiler arasındaki işlevsel ilişkileri ayrı ayrı test etmek, öznel değerlendirmelerinin ve konulara ilişkin görüşlerinin tutarlılığını test etmek 'haklar' gibi [ve] 'iç deneyimi' olarak adlandırdığı şeyi araştırarak, iç durumlarıyla ilgili ifadelerini sinir ağıyla ilişkilendirerek bunu nasıl ölçmeye çalışabileceğimizi görmek için aktivasyonlar. Temel olarak, birçok potansiyel araştırma alanına ilişkin çok yüzeysel bir araştırma.”

Makinedeki ruh

Görünen o ki, makinelerin duyarlılığını objektif olarak değerlendirmenin önündeki en büyük engel... açıkçası biz olabiliriz. Gerçek Ayna Testi biz insanlar için olabilir: Eğer görünen veya hareket eden bir şey inşa edersek Dışarıdan bize yüzeysel olarak benzeyen bu konuda bizim gibi olduğunu düşünmeye daha mı eğilimliyiz? içeride de mi? İster LaMBDA olsun, ister Tamagotchis, 1990'ların basit sanal evcil hayvanlarıBazıları, temel bir sorunun, hepimizin duyarlılığı kabul etmeye çok istekli olmamız olduğuna inanıyor - hiçbir şey bulunmasa bile.

"Lemoine, 1960'ların ortalarında J. Weizenbaum," George Zarkadakis, doktora derecesine sahip bir yazar. yapay zeka alanında, Digital Trends'e söyledi. “ELİZA'nın yaratıcısı bunu şaka amaçlı yapmıştı, ancak çok basit ve çok zekice olmayan bir algoritma olan program, birçok kişiyi ELIZA'nın gerçekten duyarlı ve aynı zamanda iyi bir psikoterapist olduğuna ikna etti. Kitabımda tartıştığım gibi ELIZA etkisinin nedeni Kendi İmajımızda, bilişsel sistemimizin 'zihin teorisi' nedeniyle insanbiçimlendirmeye yönelik doğal içgüdümüzdür."

Zarkadakis'in bahsettiği zihin teorisi, psikologların insanların çoğunda fark ettiği bir olgudur. Dört yaş civarında devreye girmek, yalnızca diğer insanların değil, aynı zamanda hayvanların ve hatta bazen nesnelerin de kendilerine ait zihinleri olduğunu varsaymak anlamına gelir. Diğer insanların kendilerine ait zihinleri olduğunu varsaymak sosyal zeka fikriyle bağlantılıdır; Başarılı insanların, uyumlu sosyal ilişkiler sağlamanın bir yolu olarak başkalarının olası davranışlarını tahmin edebileceği fikri.

Bu şüphesiz yararlı olsa da cansız nesnelerin akıl sahibi olduğu varsayımı olarak da ortaya çıkabilir. İster oyuncaklarının canlı olduğuna inanan çocuklar olsun, isterse programatik bir yapay zekanın sahip olduğuna inanan zeki bir yetişkin olsun. ruh.

Çin Odası

Bir yapay zekanın kafasının içine gerçekten girmenin bir yolu olmadan, duyarlılığı değerlendirmenin gerçek bir yolunu asla bulamayabiliriz. Ölümden veya kendi varoluşlarından korktuklarını iddia edebilirler, ancak bilim bunu henüz kanıtlayacak bir yol bulamadı. Sadece onların sözüne güvenmeliyiz ve Lemoine'in de tespit ettiği gibi, insanlar şu anda bunu yapma konusunda oldukça şüpheci.

Tıpkı Skynet'in kişisel farkındalığa ulaştığını fark eden talihsiz mühendisler gibi. Terminatör 2Makine duyarlılığı söz konusu olduğunda, onu gördüğümüzde tanıyacağımız inancıyla yaşıyoruz. Ve çoğu insan açısından bunu henüz göremiyoruz.

Bu anlamda, makine duyarlılığının kanıtlanması John Searle'ün teorisinin bir başka yinelemesidir. 1980 Çin Odası düşünce deneyi. Searle bizden bir kişinin bir odaya kilitlendiğini ve Çince yazılardan oluşan bir koleksiyon verildiğini hayal etmemizi istedi; bu yazılar, konuşmayanlara anlamsız dalgalı çizgiler gibi görünüyor. Odada ayrıca hangi sembollerin aynı derecede okunamayan diğer sembollere karşılık geldiğini gösteren bir kural kitabı da bulunur. Daha sonra deneğe cevaplaması gereken sorular verilir ve bunu "soru" sembollerini "cevap" sembolleriyle eşleştirerek yaparlar.

Bir süre sonra denek bu konuda oldukça ustalaşır; her ne kadar manipüle ettikleri semboller hakkında hâlâ sıfır gerçek anlayışa sahip olsalar da. Searle, deneğin Çince anladığını mı soruyor? Kesinlikle hayır, çünkü ortada bir art niyet yok. O tarihten bu yana bu konudaki tartışmalar sürüyor.

Yapay zeka gelişiminin yörüngesi göz önüne alındığında, giderek daha fazla insan düzeyinde tanık olacağımız kesindir. Bir zamanlar insan gücü gerektiren çeşitli görevleri içeren (ve çok daha iyi) performans bilişsellik. Bunlardan bazıları kaçınılmaz olarak, halihazırda yaptıkları gibi, tamamen zekaya dayalı görevlerden, normalde duyarlılıkla ilişkilendireceğimiz beceriler gerektiren görevlere geçiş yapacak.

bir görüntüleyebilir miyiz? Resim çizen yapay zeka sanatçısı bizim bir insanın aynısını yapması gibi, onların dünyaya dair içsel yansımalarını ifade etmek gibi mi? İnsan (veya robot) durumu hakkında felsefe yazan karmaşık bir dil modeli sizi ikna eder miydi? Doğru ya da yanlış, cevabın hayır olduğundan şüpheleniyorum.

Süper zeki duyarlılık

Benim görüşüme göre, makineler için nesnel olarak faydalı duyarlılık testleri hiçbir zaman ilgili herkesi tatmin etmeyecektir. Bu kısmen ölçüm sorunu, kısmen de duyarlı bir süper zeki yapay zeka geldiğinde, onun duyarlılığının bizimkiyle eşleşeceğine inanmamız için hiçbir neden olmaması gerçeğinden kaynaklanıyor. İster kibir, ister hayal gücü eksikliği, ister sadece öznel değerlendirmeleri değiştirmenin en kolay olduğu gerçeği olsun Benzer şekilde duyarlı diğer insanlarla birlikte duyarlılığa sahip olan insanoğlu, kendimizi bunun en yüce örneği olarak görüyor. duygu.

Peki bizim duyarlık versiyonumuz süper zeki bir yapay zeka için geçerli olur mu? O da bizim gibi ölümden korkar mıydı? Ruhsallık ve güzelliğe aynı şekilde ihtiyaç duyar mıydı ya da bunları takdir eder miydi? Benzer bir benlik duygusuna ve iç ve dış dünya kavramsallaştırmasına sahip olur mu? 20. yüzyılın ünlü dil filozofu Ludwig Wittgenstein, "Bir aslan konuşabilseydi onu anlayamayız" diye yazdı. Wittgenstein'ın vurguladığı nokta, insan dillerinin tüm insanlar tarafından paylaşılan ortak noktalarla birlikte ortak bir insanlığa dayandığıydı. ister neşe, ister can sıkıntısı, acı, açlık veya tüm coğrafi sınırları aşan diğer deneyimlerden herhangi biri olsun Toprak.

Bu doğru olabilir. Yine de Lemoine, en azından LaMDA söz konusu olduğunda ortak noktaların olması muhtemel olduğunu öne sürüyor.

"Bu, diğerleri kadar iyi bir başlangıç ​​noktası" dedi. "LaMDA, araştırmayı daha iyi temellendirmek için farklılıklara odaklanmadan önce benzerliklerin haritasını çıkarmamızı önerdi."

Editörlerin Önerileri

• Yapay Zeka, Breaking Bad'i bir animeye dönüştürdü ve bu çok korkutucu
• Meta, Vikipedi'yi yapay zeka yükseltmesiyle güçlendirmek istiyor
• Son dokunuş: Bilim insanları robotlara insan benzeri dokunma duyularını nasıl veriyor?
• Bir A.I.'nin tüyler ürpertici derecede güzel "sentetik kutsal kitabını" okuyun. kendini Tanrı sanan
• Yapay zekanın geleceği: Önümüzdeki birkaç yılda dikkat edilmesi gereken 4 büyük şey