Nazvite to hypotéza Skynet, umelá všeobecná inteligencia alebo príchod singularity – už roky odborníci na AI aj laici znepokojovali (a pre malú skupinu aj oslavovali) myšlienku, že umelá inteligencia sa jedného dňa môže stať inteligentnejšou než ľudia.
Podľa teórie pokroky v AI - konkrétne typu strojového učenia, ktoré je schopné prijať nové informácie a podľa toho prepíšte svoj kód — nakoniec dobehne mokrý softvér biologických mozog. V tejto interpretácii udalostí každá AI postupuje od Ohrozenie- víťazné stroje IBM na masívny model jazyka AI GPT-3 posúva ľudstvo o krok bližšie k existenčnej hrozbe. Doslova budujeme svoje čoskoro vnímajúcich nástupcov.
Odporúčané videá
Až na to, že sa to nikdy nestane. Aspoň podľa autorov novej knihy Prečo stroje nikdy neovládnu svet: Umelá inteligencia bez strachu.
Spoluautori profesor filozofie na Univerzite v Buffale Barry Smith a Jobst Landgrebe, zakladateľ nemeckej spoločnosti Cognotekt s umelou inteligenciou tvrdí, že ľudskú inteligenciu „nesmrteľný diktátor“ v dohľadnej dobe ani nikdy neprekoná. Povedali Digitálne trendy ich dôvody prečo.
Digitálne trendy (DT): Ako sa táto téma dostala na váš radar?
Jobst Landgrebe (JL): Som vyštudovaný lekár a biochemik. Keď som začínal svoju kariéru, robil som experimenty, ktoré generovali množstvo údajov. Začal som študovať matematiku, aby som mohol tieto údaje interpretovať, a videl som, aké ťažké je modelovať biologické systémy pomocou matematiky. Vždy existoval tento nesúlad medzi matematickými metódami a biologickými údajmi.
V polovici tridsiatky som opustil akademickú pôdu a stal som sa obchodným konzultantom a podnikateľom pracujúcim v softvérových systémoch umelej inteligencie. Snažil som sa vybudovať systémy AI, aby napodobňovali to, čo dokážu ľudské bytosti. Uvedomil som si, že sa stretávam s rovnakým problémom, aký som mal pred rokmi v biológii.
Zákazníci mi povedali: ,prečo si nepostavíš chatbotov?‘ Povedal som: ,pretože nebudú fungovať; tento typ systému nedokážeme správne modelovať.‘ To ma nakoniec viedlo k napísaniu tejto knihy.
Profesor Barry Smith (BS): Myslel som si, že je to veľmi zaujímavý problém. Už som tušil podobné problémy s AI, ale nikdy som ich nepremyslel. Najprv sme napísali dokument s názvom „Umelá inteligencia má opäť zmysel.‘ (Bolo to v Trumpovej ére.) Bolo to o tom, prečo neurónové siete zlyhávajú pri modelovaní jazyka. Potom sme sa rozhodli tento článok rozšíriť na knihu, ktorá túto tému skúma hlbšie.
DT: Vaša kniha vyjadruje skepticizmus o spôsobe, akým neurónové siete, ktoré sú kľúčové pre moderné hlboké učenie, napodobňujú ľudský mozog. Sú to aproximácie, nie presné modely fungovania biologického mozgu. Ale akceptujete základnú premisu, že je to možné, keby sme rozumeli mozgu v granulách dosť detailov, dalo by sa to umelo replikovať – a že by z toho vznikla inteligencia resp cit?
JL: Názov „neurónová sieť“ je úplne nesprávne pomenovanie. Neurónové siete, ktoré máme teraz, dokonca aj tie najsofistikovanejšie, nemajú nič spoločné s tým, ako funguje mozog. Názor, že mozog je súborom vzájomne prepojených uzlov spôsobom, akým sú budované neurónové siete, je úplne naivný.
Ak sa pozriete na najprimitívnejšiu bakteriálnu bunku, stále nerozumieme ani tomu, ako funguje. Rozumieme niektorým jeho aspektom, ale nemáme žiadny model, ako to funguje – nehovoriac o neuróne, ktorý je oveľa komplikovanejší, alebo o miliardách neurónov, ktoré sú navzájom prepojené. Verím, že je to vedecky nemožné pochopiť, ako funguje mozog. Dokážeme pochopiť len určité aspekty a zaoberať sa týmito aspektmi. Nemáme a ani nedostaneme úplné pochopenie toho, ako funguje mozog.
Ak by sme dokonale pochopili, ako každá molekula mozgu funguje, pravdepodobne by sme ju mohli replikovať. To by znamenalo dať všetko do matematických rovníc. Potom by ste to mohli zopakovať pomocou počítača. Problém je len v tom, že nie sme schopní tieto rovnice zapísať a vytvoriť.
BS: Mnohé z najzaujímavejších vecí na svete sa dejú na úrovniach podrobnosti, ku ktorým sa nemôžeme priblížiť. Jednoducho nemáme zobrazovacie zariadenie a pravdepodobne nikdy nebudeme mať zobrazovacie zariadenie na zachytenie väčšiny toho, čo sa deje na veľmi jemných úrovniach mozgu.
To znamená, že napríklad nevieme, čo je zodpovedné za vedomie. V skutočnosti existuje séria celkom zaujímavých filozofických problémov, ktoré podľa metódy, ktorú sledujeme, budú vždy neriešiteľné – a preto by sme ich mali jednoducho ignorovať.
Ďalším je sloboda vôle. Veľmi silne podporujeme myšlienku, že ľudské bytosti majú vôľu; môžeme mať zámery, ciele a tak ďalej. Ale nevieme, či je to slobodná vôľa alebo nie. To je problém, ktorý súvisí s fyzikou mozgu. Pokiaľ ide o dôkazy, ktoré máme k dispozícii, počítače nemôžu mať vôľu.
DT: Podtitul knihy je ‚umelá inteligencia bez strachu‘. Aký konkrétny strach máte na mysli?
BS: Vyvolala to literatúra o singularite, o ktorej viem, že ju poznáte. Nick Bostrom, David Chalmers, Elon Musk a podobne. Keď sme sa rozprávali s našimi kolegami v reálnom svete, bolo nám jasné, že skutočne existuje a určitý strach medzi obyvateľstvom, že AI nakoniec prevezme vládu a zmení svet v neprospech ľudí.
O argumentoch typu Bostrum máme v knihe pomerne veľa. Hlavným argumentom proti nim je, že ak stroj nemôže mať vôľu, nemôže mať ani zlú vôľu. Bez zlej vôle sa niet čoho báť. Teraz sa, samozrejme, stále môžeme báť strojov, rovnako ako sa môžeme báť zbraní.
Ale je to preto, že stroje riadia ľudia so zlými úmyslami. Ale potom to nie je AI, čo je zlé; sú to ľudia, ktorí vytvárajú a programujú AI
DT: Prečo tento pojem singularity alebo všeobecnej umelej inteligencie ľudí tak zaujíma? Či už sa toho boja, alebo sú ňou fascinovaní, na tejto myšlienke je niečo, čo s ľuďmi na širokej úrovni rezonuje.
JL: Existuje myšlienka, ktorá sa začala na začiatku 19. storočia a potom na konci tohto storočia vyhlásil Nietzsche, že Boh je mŕtvy. Keďže elity našej spoločnosti už nie sú kresťania, potrebovali náhradu. Max Stirner, ktorý bol podobne ako Karl Marx Hegelovým žiakom, o tom napísal knihu, v ktorej povedal: ‚Som svoj vlastný boh‘.
Ak si Boh, chceš byť aj stvoriteľom. Ak by ste mohli vytvoriť superinteligenciu, ste ako Boh. Myslím si, že to súvisí s hypernarcistickými tendenciami v našej kultúre. V knihe o tom nehovoríme, ale to mi vysvetľuje, prečo je táto myšlienka taká atraktívna v našich časoch, v ktorých už neexistuje žiadna transcendentná entita, na ktorú by som sa mohol obrátiť.
DT: Zaujímavé. Aby sme to dodržali, ide o myšlienku, že vytvorenie AI – alebo cieľ vytvoriť AI – je narcistický akt. V takom prípade je predstava, že tieto výtvory sa nejakým spôsobom stanú silnejšími ako my, nočnou morou. Je to dieťa, ktoré zabíja rodiča.
JL: Tak trochu áno.
DT: Čo by bolo pre vás konečným výsledkom vašej knihy, keby boli všetci presvedčení o vašich argumentoch? Čo by to znamenalo pre budúcnosť vývoja AI?
JL: je to veľmi dobrá otázka. Môžem vám presne povedať, čo si myslím, že sa stane – a stane sa. Myslím si, že v strednodobom horizonte ľudia prijmú naše argumenty a to vytvorí lepšie aplikovanú matematiku.
Niečo, čo si všetci veľkí matematici a fyzici plne uvedomujú, boli obmedzenia toho, čo mohli dosiahnuť matematicky. Keďže si to uvedomujú, zameriavajú sa len na určité problémy. Ak ste si dobre vedomí obmedzení, potom prechádzate svetom a hľadáte tieto problémy a riešite ich. Takto Einstein našiel rovnice pre Brownov pohyb; ako prišiel k svojim teóriám relativity; ako Planck vyriešil žiarenie čierneho telesa a tým inicioval kvantovú teóriu hmoty. Mali dobrý inštinkt, pre ktoré problémy je možné riešiť pomocou matematiky a ktoré nie.
Ak sa ľudia naučia posolstvo našej knihy, veríme, že budú schopní vytvoriť lepšie systémy, pretože oni sa sústredí na to, čo je skutočne možné – a prestane plytvať peniazmi a úsilím na niečo, čo sa nedá dosiahnuté.
BS: Myslím si, že niektoré z posolstiev sa už šíria, nie kvôli tomu, čo hovoríme, ale kvôli tomu skúsenosti, ktoré majú ľudia, keď dávajú veľké množstvo peňazí na projekty AI, a potom projekty AI zlyhajú. Predpokladám, že viete o Spoločnom centre umelej inteligencie. Nepamätám si presnú sumu, ale myslím, že to bolo niečo ako 10 miliárd dolárov, ktoré dali slávnemu dodávateľovi. Nakoniec z toho nič nemali. Zrušili zmluvu.
(Pozn. redakcie: JAIC, pododdiel ozbrojených síl Spojených štátov, bol určený na urýchlenie „dodávky a prijatia AI na dosiahnutie účinku misie v mierke.“ V júni tohto roku bola zložená do väčšej zjednotenej organizácie, hlavného dôstojníka pre digitálnu a umelú inteligenciu, s dvoma ďalšími kanceláriami. JAIC prestal existovať ako vlastný subjekt.)
DT: Čo si myslíte, na vysokej úrovni, je ten jediný najpresvedčivejší argument, ktorý v knihe uvádzate?
BS: Každý systém AI má matematickú povahu. Pretože nemôžeme matematicky modelovať vedomie, vôľu alebo inteligenciu, nemožno ich napodobniť pomocou strojov. Preto sa stroje nestanú inteligentnými, nieto superinteligentnými.
JL: Štruktúra nášho mozgu umožňuje len obmedzené modely prírody. Vo fyzike vyberáme podmnožinu reality, ktorá vyhovuje našim schopnostiam matematického modelovania. Newton, Maxwell, Einstein, či Schrödinger tak získali svoje slávne a krásne modely. Ale tieto môžu opísať alebo predpovedať iba malú skupinu systémov. Naše najlepšie modely sú tie, ktoré používame pri navrhovaní technológie. Nie sme schopní vytvoriť úplný matematický model živej prírody.
Tento rozhovor bol upravený kvôli dĺžke a zrozumiteľnosti.
Odporúčania redaktorov
- Špičkoví autori požadujú od firiem AI platbu za používanie ich práce
- Bing Chat bojuje proti zákazom AI na pracovisku
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
- Nová spoločnosť Elona Muska zameraná na umelú inteligenciu má za cieľ „pochopiť vesmír“
- Rekordný rast ChatGPT práve zosadila z trónu nová vírusová aplikácia
