Říkejte tomu hypotéza Skynetu, umělá všeobecná inteligence nebo příchod Singularity – po celá léta odborníci na umělou inteligenci a i laici znepokojovali (a pro malou skupinu oslavovali) myšlenku, že umělá inteligence může být jednoho dne chytřejší než lidé.
Podle teorie pokroky v AI – konkrétně typu strojového učení, které je schopné přijímat nové informace a podle toho přepsat svůj kód — nakonec dožene wetware biologických mozek. V této interpretaci událostí každá AI postupuje od Ohrožení-vyhrávat stroje IBM na masivní model jazyka AI GPT-3 posouvá lidstvo o krok blíže k existenciální hrozbě. Doslova budujeme naše brzy vnímající nástupce.
Doporučená videa
Až na to, že se to nikdy nestane. Alespoň podle autorů nové knihy Proč stroje nikdy neovládnou svět: Umělá inteligence beze strachu.
Spoluautoři profesor filozofie na univerzitě v Buffalu Barry Smith a Jobst Landgrebe, zakladatel německé společnosti Cognotekt s umělou inteligencí tvrdí, že lidskou inteligenci „nesmrtelný diktátor“ v brzké době – ani nikdy nikdy nepřekoná. Oni řekli Digitální trendy jejich důvody proč.
Digitální trendy (DT): Jak se toto téma dostalo na váš radar?
Jobst Landgrebe (JL): Jsem vystudovaný lékař a biochemik. Když jsem začínal svou kariéru, dělal jsem experimenty, které generovaly spoustu dat. Začal jsem studovat matematiku, abych byl schopen tato data interpretovat, a viděl jsem, jak těžké je modelovat biologické systémy pomocí matematiky. Vždy existoval tento nesoulad mezi matematickými metodami a biologickými daty.
V polovině třicátých let jsem opustil akademickou půdu a stal se obchodním konzultantem a podnikatelem pracujícím v softwarových systémech umělé inteligence. Snažil jsem se vytvořit systémy umělé inteligence, které by napodobovaly to, co dokážou lidské bytosti. Uvědomil jsem si, že narážím na stejný problém, jaký jsem měl před lety v biologii.
Zákazníci mi řekli: ‚Proč si nepostavíš chatboty?‘ Řekl jsem, ‚protože nebudou fungovat; nemůžeme tento typ systému správně modelovat.‘ To mě nakonec vedlo k napsání této knihy.
Profesor Barry Smith (BS): Myslel jsem, že je to velmi zajímavý problém. Už jsem tušil o podobných problémech s AI, ale nikdy jsem je nepromyslel. Zpočátku jsme psali práci s názvem „Aby umělá inteligence opět měla smysl.‘ (Bylo to v Trumpově éře.) Šlo o to, proč neuronové sítě selhávají při jazykovém modelování. Pak jsme se rozhodli článek rozšířit na knihu, která toto téma prozkoumá hlouběji.
DT: Vaše kniha vyjadřuje skepticismus ohledně způsobu, jakým neuronové sítě, které jsou klíčové pro moderní hluboké učení, napodobují lidský mozek. Jsou to spíše přiblížení než přesné modely fungování biologického mozku. Ale přijímáte základní premisu, že je to možné, kdybychom rozuměli mozku v granulích? dost detailů, dalo by se to uměle replikovat – a že by z toho vznikla inteligence resp cit?
JL: Název „neuronová síť“ je zcela nesprávné pojmenování. Neuronové sítě, které máme nyní, dokonce i ty nejsofistikovanější, nemají nic společného s tím, jak funguje mozek. Názor, že mozek je souborem vzájemně propojených uzlů způsobem, jakým jsou budovány neuronové sítě, je zcela naivní.
Když se podíváte na nejprimitivnější bakteriální buňku, stále nerozumíme ani tomu, jak funguje. Rozumíme některým jeho aspektům, ale nemáme žádný model, jak to funguje – natož neuron, který je mnohem složitější, nebo miliardy propojených neuronů. Věřím, že je to vědecky nemožné pochopit, jak mozek funguje. Můžeme porozumět pouze určitým aspektům a zabývat se těmito aspekty. Nemáme a nezískáme úplné pochopení toho, jak mozek funguje.
Pokud bychom dokonale rozuměli tomu, jak každá molekula mozku funguje, pak bychom ji pravděpodobně mohli replikovat. To by znamenalo dát vše do matematických rovnic. Pak byste to mohli replikovat pomocí počítače. Problém je jen v tom, že nejsme schopni tyto rovnice zapsat a vytvořit.
BS: Mnoho z nejzajímavějších věcí na světě se děje na úrovních granularity, kterým se nemůžeme přiblížit. Prostě nemáme zobrazovací zařízení a pravděpodobně nikdy nebudeme mít zobrazovací zařízení, abychom zachytili většinu toho, co se děje na velmi jemných úrovních mozku.
To znamená, že například nevíme, co je zodpovědné za vědomí. Ve skutečnosti existuje řada docela zajímavých filozofických problémů, které podle metody, kterou sledujeme, budou vždy neřešitelné – a tak bychom je měli prostě ignorovat.
Dalším je svoboda vůle. Velmi silně podporujeme myšlenku, že lidské bytosti mají vůli; můžeme mít záměry, cíle a tak dále. Ale nevíme, zda je to svobodná vůle nebo ne. To je problém, který souvisí s fyzikou mozku. Pokud jde o důkazy, které máme k dispozici, počítače nemohou mít vůli.
DT: Podtitul knihy je ‚umělá inteligence beze strachu‘. Jaký konkrétní strach máte na mysli?
BS: To bylo vyvoláno literaturou o singularitě, kterou, jak vím, znáte. Nick Bostrom, David Chalmers, Elon Musk a podobně. Když jsme hovořili s našimi kolegy v reálném světě, bylo nám jasné, že skutečně existuje určitý strach mezi obyvatelstvem, že AI nakonec převezme vládu a změní svět v neprospěch lidé.
O argumentech typu Bostrum máme v knize docela dost. Hlavním argumentem proti nim je, že pokud stroj nemůže mít vůli, nemůže mít ani zlou vůli. Bez zlé vůle se není čeho bát. Nyní se samozřejmě stále můžeme bát strojů, stejně jako se můžeme bát zbraní.
Ale je to proto, že stroje jsou řízeny lidmi se zlými konci. Ale pak to není AI, co je zlé; jsou to lidé, kteří vytvářejí a programují AI
DT: Proč tento pojem singularity nebo umělé obecné inteligence lidi tolik zajímá? Ať už se toho bojí, nebo je to fascinuje, na této myšlence je něco, co s lidmi rezonuje na široké úrovni.
JL: Existuje myšlenka, která začala na začátku 19. století a poté prohlásil Nietzsche na konci tohoto století, že Bůh je mrtvý. Protože elity naší společnosti již nejsou křesťané, potřebovali náhradu. Max Stirner, který byl stejně jako Karel Marx Hegelovým žákem, o tom napsal knihu a řekl: ‚Jsem svým vlastním bohem‘.
Jste-li Bůh, chcete být také stvořitelem. Pokud byste dokázali vytvořit superinteligenci, jste jako Bůh. Myslím, že to souvisí s hypernarcistickými tendencemi v naší kultuře. V knize o tom nemluvíme, ale to mi vysvětluje, proč je tato myšlenka tak atraktivní v naší době, kdy už neexistuje žádná transcendentní entita, ke které bych se mohl obrátit.
DT: Zajímavé. Abychom to dotáhli do konce, je to myšlenka, že vytvoření AI – nebo cíl vytvořit AI – je narcistický akt. V tom případě je představa, že by se tyto výtvory nějak staly mocnějšími, než jsme my, noční můrou. Dítě zabíjí rodiče.
JL: Tak trochu ano.
DT: Co by pro vás bylo konečným výsledkem vaší knihy, kdyby všichni byli přesvědčeni vašimi argumenty? Co by to znamenalo pro budoucnost vývoje AI?
JL: je to velmi dobrá otázka. Mohu vám přesně říct, co si myslím, že by se stalo – a stane se. Myslím, že v polovině období lidé přijmou naše argumenty, a to vytvoří lépe použitelnou matematiku.
Něco, co si všichni velcí matematici a fyzici plně uvědomují, byla omezení toho, čeho mohli matematicky dosáhnout. Protože si to uvědomují, zaměřují se pouze na určité problémy. Pokud jste si dobře vědomi omezení, pak procházíte světem a hledáte tyto problémy a řešíte je. Tak Einstein našel rovnice pro Brownův pohyb; jak přišel ke svým teoriím relativity; jak Planck vyřešil záření černého tělesa a tím zahájil kvantovou teorii hmoty. Měli dobrý instinkt, pro které problémy lze řešit pomocí matematiky a které ne.
Pokud se lidé seznámí s poselstvím naší knihy, budou, jak věříme, schopni konstruovat lepší systémy, protože oni se soustředí na to, co je skutečně proveditelné – a přestane plýtvat penězi a úsilím na něco, co nemůže být dosaženo.
BS: Myslím, že některá z těch zpráv se už dostává skrz, ne kvůli tomu, co říkáme, ale kvůli tomu zkušenosti, které lidé mají, když dávají velké množství peněz na projekty AI, a pak projekty AI selžou. Předpokládám, že víte o Společném centru umělé inteligence. Přesnou částku si nepamatuji, ale myslím, že to bylo něco kolem 10 miliard dolarů, které dali slavnému dodavateli. Nakonec z toho nic neměli. Zrušili smlouvu.
(Pozn. redakce: JAIC, pododdělení ozbrojených sil Spojených států, bylo zamýšleno urychlit „dodání a přijetí umělé inteligence k dosažení účinku mise“. v měřítku." V červnu tohoto roku byla složena do větší jednotné organizace, Chief Digital and Artificial Intelligence Officer, se dvěma dalšími kancelářemi. JAIC přestala existovat jako vlastní entita.)
DT: Jaký je podle vás, na vysoké úrovni, ten jediný nejpřesvědčivější argument, který v knize uvádíte?
BS: Každý systém umělé inteligence je ve své podstatě matematický. Protože nemůžeme matematicky modelovat vědomí, vůli nebo inteligenci, nelze je napodobovat pomocí strojů. Stroje se proto nestanou inteligentními, natož superinteligentními.
JL: Struktura našeho mozku umožňuje pouze omezené modely přírody. Ve fyzice vybíráme podmnožinu reality, která odpovídá našim schopnostem matematického modelování. Tak získali své slavné a krásné modely Newton, Maxwell, Einstein nebo Schrödinger. Ty však mohou popsat nebo předpovědět pouze malou množinu systémů. Naše nejlepší modely jsou ty, které používáme k vývoji technologie. Nejsme schopni vytvořit úplný matematický model živé přírody.
Tento rozhovor byl z důvodu délky a srozumitelnosti upraven.
Doporučení redakce
- Špičkoví autoři požadují od firem zabývajících se umělou inteligencí platby za použití jejich díla
- Bing Chat bojuje proti zákazu umělé inteligence na pracovišti
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
- Nová společnost Elona Muska zaměřená na umělou inteligenci si klade za cíl ‚porozumět vesmíru‘
- Rekordní růst ChatGPT byl právě sesazen z trůnu novou virální aplikací
