Nazwij to hipotezą Skynetu, sztuczną inteligencją ogólną lub pojawieniem się Osobliwości – od lat eksperci AI i zarówno osoby niebędące ekspertami niepokoiły się (a w przypadku małej grupy celebrowały) pomysł, że sztuczna inteligencja może pewnego dnia stać się mądrzejsza niż ludzie.
Zgodnie z teorią postęp w sztucznej inteligencji – szczególnie w zakresie uczenia maszynowego, który jest w stanie przyjąć nowe informacji i odpowiednio przepisz jej kod — w końcu dogonią oprogramowanie biologiczne mózg. W tej interpretacji wydarzeń każda sztuczna inteligencja postępuje Niebezpieczeństwo-zwycięskie maszyny IBM do masywny model języka AI GPT-3 przybliża ludzkość o krok do egzystencjalnego zagrożenia. Dosłownie budujemy nasze wkrótce świadomi następcy.
Polecane filmy
Tyle że to nigdy nie nastąpi. Przynajmniej według autorów nowej książki Dlaczego maszyny nigdy nie będą rządzić światem: sztuczna inteligencja bez strachu.
Współautorzy profesor filozofii na Uniwersytecie w Buffalo Barry'ego Smitha
I Jobsta Landgrebe’a, założyciel niemieckiej firmy Cognotekt zajmującej się sztuczną inteligencją, argumentuje, że ludzka inteligencja nie zostanie przejęta przez „nieśmiertelnego dyktatora” w najbliższej przyszłości ani nigdy. Oni powiedzieli Trendy cyfrowe ich powody.
Trendy cyfrowe (DT): Jak ten temat znalazł się na Twoim radarze?
Jobst Landgrebe (JL): Z wykształcenia jestem lekarzem i biochemikiem. Kiedy zaczynałem karierę, przeprowadzałem eksperymenty, które wygenerowały wiele danych. Zacząłem studiować matematykę, aby móc interpretować te dane, i zobaczyłem, jak trudno jest modelować systemy biologiczne za pomocą matematyki. Zawsze istniała niezgodność pomiędzy metodami matematycznymi a danymi biologicznymi.
Po trzydziestce porzuciłem środowisko akademickie i zostałem konsultantem biznesowym oraz przedsiębiorcą pracującym nad systemami oprogramowania wykorzystującymi sztuczną inteligencję. Próbowałem zbudować systemy sztucznej inteligencji, które naśladowałyby możliwości ludzi. Zdałem sobie sprawę, że napotykam ten sam problem, który miałem wiele lat wcześniej na biologii.
Klienci mówili mi: „dlaczego nie zbudujesz chatbotów?” Odpowiedziałem: „ponieważ one nie będą działać; nie potrafimy właściwie modelować tego typu systemów”. Ostatecznie doprowadziło to do napisania tej książki.
Profesor Barry Smith (BS): Pomyślałem, że to bardzo interesujący problem. Już wcześniej przeczuwałem podobne problemy ze sztuczną inteligencją, ale nigdy ich nie przemyślałem. Na początku napisaliśmy artykuł pt.Nadanie sztucznej inteligencji ponownego znaczenia.’ (To było za czasów Trumpa.) Mówiło o tym, dlaczego sieci neuronowe nie radzą sobie z modelowaniem języka. Następnie postanowiliśmy rozszerzyć artykuł w książkę pogłębiającą ten temat.
DT: Twoja książka wyraża sceptycyzm co do sposobu, w jaki sieci neuronowe, które są kluczowe dla współczesnego głębokiego uczenia się, naśladują ludzki mózg. Są to przybliżenia, a nie dokładne modele działania mózgu biologicznego. Ale czy akceptujesz podstawowe założenie, że jest to możliwe, jeśli zrozumiemy mózg w sposób szczegółowy? wystarczająco szczegółowy, mógłby zostać sztucznie odtworzony – i że dałoby to początek inteligencji lub wrażliwość?
J L: Nazwa „sieć neuronowa” jest całkowitym błędnym określeniem. Sieci neuronowe, które mamy obecnie, nawet te najbardziej wyrafinowane, nie mają nic wspólnego ze sposobem działania mózgu. Pogląd, że mózg to zbiór wzajemnie połączonych węzłów w budowie sieci neuronowych, jest całkowicie naiwny.
Jeśli spojrzymy na najbardziej prymitywną komórkę bakteryjną, nadal nie rozumiemy nawet, jak ona działa. Rozumiemy niektóre jego aspekty, ale nie mamy modelu jego działania – nie mówiąc już o neuronie, który jest znacznie bardziej skomplikowany, czy miliardach neuronów połączonych ze sobą. Wierzę, że jest to naukowe niemożliwe aby zrozumieć, jak działa mózg. Możemy zrozumieć tylko niektóre aspekty i sobie z nimi poradzić. Nie mamy i nie będziemy mieć pełnej wiedzy na temat działania mózgu.
Gdybyśmy doskonale rozumieli, jak działa każda cząsteczka mózgu, prawdopodobnie moglibyśmy to odtworzyć. Oznaczałoby to umieszczenie wszystkiego w równaniach matematycznych. Następnie można to odtworzyć za pomocą komputera. Problem polega na tym, że nie jesteśmy w stanie zapisać i utworzyć tych równań.
licencjat: Wiele z najciekawszych rzeczy na świecie dzieje się na poziomach szczegółowości, do których nie możemy się zbliżyć. Po prostu nie mamy sprzętu do obrazowania i prawdopodobnie nigdy nie będziemy go mieli, aby uchwycić większość tego, co dzieje się na bardzo subtelnych poziomach mózgu.
Oznacza to, że nie wiemy na przykład, co odpowiada za świadomość. Tak naprawdę istnieje szereg dość interesujących problemów filozoficznych, które zgodnie z metodą, którą stosujemy, zawsze będą nierozwiązywalne – dlatego powinniśmy je po prostu ignorować.
Innym jest wolność woli. Bardzo zdecydowanie opowiadamy się za koncepcją, że istoty ludzkie mają wolę; możemy mieć intencje, cele i tak dalej. Ale nie wiemy, czy jest to wolna wola. Jest to kwestia związana z fizyką mózgu. Z dostępnych nam dowodów wynika, że komputery nie mogą posiadać testamentu.
DT: Podtytuł książki brzmi „sztuczna inteligencja bez strachu”. O jakim konkretnym strachu mówisz?
licencjat: Zostało to sprowokowane przez literaturę dotyczącą osobliwości, którą, jak wiem, znasz. Nick Bostrom, David Chalmers, Elon Musk i podobni. Kiedy rozmawialiśmy z naszymi kolegami w prawdziwym świecie, stało się dla nas jasne, że rzeczywiście istnieje pewien strach wśród społeczeństwa, że sztuczna inteligencja w końcu przejmie kontrolę i zmieni świat na szkodę ludzie.
W książce mamy całkiem sporo na temat argumentów typu Bostrum. Podstawowym argumentem przeciwko nim jest to, że jeśli maszyna nie może mieć woli, to nie może też mieć złej woli. Bez złej woli nie ma się czego bać. Teraz oczywiście nadal możemy bać się maszyn, tak samo jak możemy bać się broni.
Dzieje się tak dlatego, że maszynami zarządzają ludzie o złych celach. Ale w takim razie to nie sztuczna inteligencja jest zła; to ludzie budują i programują sztuczną inteligencję
DT: Dlaczego pojęcie osobliwości czy sztucznej inteligencji ogólnej tak bardzo interesuje ludzi? Niezależnie od tego, czy się tego boją, czy są tym zafascynowani, jest coś w tym pomyśle, co przemawia do ludzi na szerokim poziomie.
J L: Istnieje koncepcja, zapoczątkowana na początku XIX wieku, a następnie ogłoszona przez Nietzschego pod koniec tego stulecia, że Bóg nie żyje. Ponieważ elity naszego społeczeństwa nie są już chrześcijanami, potrzebowały następcy. Max Stirner, który podobnie jak Karol Marks był uczniem Hegla, napisał na ten temat książkę, w której stwierdził: „Jestem swoim własnym bogiem”.
Jeśli jesteś Bogiem, chcesz być także twórcą. Jeśli potrafisz stworzyć superinteligencję, jesteś jak Bóg. Myślę, że ma to związek z tendencjami hipernarcystycznymi w naszej kulturze. Nie mówimy o tym w książce, ale to wyjaśnia, dlaczego ta idea jest tak atrakcyjna w naszych czasach, w których nie ma już transcendentnej istoty, do której można by się zwrócić.
D.T.: Ciekawe. Kontynuując tę myśl, należy przyjąć, że stworzenie sztucznej inteligencji – lub cel stworzenia sztucznej inteligencji – jest aktem narcystycznym. W takim przypadku koncepcja, że te stworzenia w jakiś sposób staną się potężniejsze od nas, jest koszmarnym przewrotem. To dziecko zabija rodzica.
J L: Trochę tak, tak.
DT: Jaki byłby dla Ciebie ostateczny wynik Twojej książki, gdyby Twoje argumenty przekonały wszystkich? Co to oznaczałoby dla przyszłości rozwoju sztucznej inteligencji?
J L: To bardzo dobre pytanie. Mogę ci dokładnie powiedzieć, co według mnie by się wydarzyło – i co się stanie. Myślę, że w perspektywie średnioterminowej ludzie zaakceptują nasze argumenty, co doprowadzi do powstania lepiej stosowanej matematyki.
Coś, czego wszyscy wielcy matematycy i fizycy są całkowicie świadomi, to ograniczenia tego, co mogli osiągnąć matematycznie. Ponieważ są tego świadomi, skupiają się tylko na określonych problemach. Jeśli jesteś świadomy ograniczeń, to idziesz po świecie, szukasz tych problemów i je rozwiązujesz. W ten sposób Einstein znalazł równania ruchu Browna; jak wpadł na swoje teorie względności; jak Planck rozwiązał promieniowanie ciała doskonale czarnego i w ten sposób zapoczątkował kwantową teorię materii. Mieli dobre wyczucie, które problemy można rozwiązać za pomocą matematyki, a które nie.
Wierzymy, że jeśli ludzie poznają przesłanie naszej książki, będą w stanie konstruować lepsze systemy, ponieważ skoncentruje się na tym, co jest naprawdę wykonalne – i przestanie marnować pieniądze i wysiłek na coś, co nie jest możliwe osiągnięty.
licencjat: Myślę, że część przesłania już dociera do odbiorców, nie z powodu tego, co mówimy, ale z powodu Doświadczenia ludzi, którzy przekazują duże kwoty na projekty AI, a następnie projekty AI kończą się niepowodzeniem. Chyba wiesz o Wspólnym Centrum Sztucznej Inteligencji. Nie pamiętam dokładnie kwoty, ale myślę, że było to około 10 miliardów dolarów, które przekazali znanemu wykonawcy. Ostatecznie nic im z tego nie wyszło. Anulowali umowę.
(Nota wydawcy: JAIC, jednostka pododdziałowa Sił Zbrojnych Stanów Zjednoczonych, miała na celu przyspieszenie „dostarczenia i przyjęcia sztucznej inteligencji w celu osiągnięcia wpływu na misję na wadze." W czerwcu tego roku zostało połączone w większą, zjednoczoną organizację – dyrektora ds. cyfryzacji i sztucznej inteligencji – oraz dwa inne biura. JAIC przestał istnieć jako samodzielny podmiot.)
DT: Jak myślisz, ogólnie rzecz biorąc, najbardziej przekonujący argument, jaki przytaczasz w książce?
licencjat: Każdy system sztucznej inteligencji ma naturę matematyczną. Ponieważ nie możemy matematycznie modelować świadomości, woli ani inteligencji, nie można ich naśladować za pomocą maszyn. Dlatego maszyny nie staną się inteligentne, a co dopiero superinteligentne.
J L: Struktura naszego mózgu pozwala jedynie na ograniczone modele natury. W fizyce wybieramy podzbiór rzeczywistości, który pasuje do naszych możliwości modelowania matematycznego. W ten sposób Newton, Maxwell, Einstein czy Schrödinger uzyskali swoje słynne i piękne modele. Ale mogą one jedynie opisywać lub przewidywać niewielki zestaw systemów. Nasze najlepsze modele to te, których używamy do projektowania technologii. Nie jesteśmy w stanie stworzyć kompletnego modelu matematycznego przyrody ożywionej.
Ten wywiad został zredagowany pod kątem długości i przejrzystości.
Zalecenia redaktorów
- Czołowi autorzy żądają zapłaty od firm zajmujących się sztuczną inteligencją za korzystanie z ich pracy
- Bing Chat walczy z zakazami stosowania sztucznej inteligencji w miejscu pracy
- Google Bard może teraz mówić, ale czy może zagłuszyć ChatGPT?
- Nowa firma Elona Muska zajmująca się sztuczną inteligencją ma na celu „zrozumienie wszechświata”
- Rekordowy wzrost ChatGPT został właśnie zdetronizowany przez nową aplikację wirusową
