Kalla det Skynet-hypotesen, artificiell allmän intelligens eller tillkomsten av singulariteten - i åratal har AI-experter och både icke-experter har irriterat (och, för en liten grupp, firat) tanken att artificiell intelligens en dag kan bli smartare än människor.
Enligt teorin, framsteg inom AI - speciellt av typen maskininlärning som kan ta sig an nya information och skriva om dess kod i enlighet därmed — kommer så småningom att komma ikapp med den biologiska våtvaran hjärna. I denna tolkning av händelser går varje AI framåt från Jeopardy-vinnande IBM-maskiner till massiv AI-språkmodell GPT-3 tar mänskligheten ett steg närmare ett existentiellt hot. Vi bygger bokstavligen vår snart att vara kännande efterträdare.
Rekommenderade videor
Förutom att det aldrig kommer att hända. Åtminstone enligt författarna till den nya boken Varför maskiner aldrig kommer att styra världen: Artificiell intelligens utan rädsla.
Medförfattare University at Buffalo filosofiprofessor Barry Smith och Jobst Landgrebe
, grundare av det tyska AI-företaget Cognotekt hävdar att mänsklig intelligens inte kommer att bli omkörd av "en odödlig diktator" någon gång snart - eller någonsin. De berättade Digitala trender deras skäl varför.
Digital Trends (DT): Hur kom detta ämne på din radar?
Jobst Landgrebe (JL): Jag är läkare och biokemist av utbildning. När jag började min karriär gjorde jag experiment som genererade mycket data. Jag började studera matematik för att kunna tolka dessa data, och såg hur svårt det är att modellera biologiska system med matematik. Det har alltid funnits denna missanpassning mellan de matematiska metoderna och de biologiska uppgifterna.
I mitten av trettioårsåldern lämnade jag akademin och blev affärskonsult och entreprenör som arbetade med mjukvarusystem för artificiell intelligens. Jag försökte bygga AI-system för att efterlikna vad människor kan göra. Jag insåg att jag stötte på samma problem som jag hade år tidigare inom biologi.
Kunder sa till mig, 'varför bygger du inte chatbots?' Jag sa, 'för de kommer inte att fungera; vi kan inte modellera den här typen av system ordentligt.’ Det ledde till slut till att jag skrev den här boken.
Professor Barry Smith (BS): Jag tyckte det var ett väldigt intressant problem. Jag hade redan aning om liknande problem med AI, men jag hade aldrig tänkt igenom dem. Inledningsvis skrev vi ett papper som heter "Att göra artificiell intelligens meningsfull igen.’ (Detta var i Trump-eran.) Det handlade om varför neurala nätverk misslyckas för språkmodellering. Sedan bestämde vi oss för att utöka uppsatsen till en bok som utforskar detta ämne djupare.
DT: Din bok uttrycker skepsis mot hur neurala nätverk, som är avgörande för modern djupinlärning, efterliknar den mänskliga hjärnan. De är uppskattningar snarare än exakta modeller av hur den biologiska hjärnan fungerar. Men accepterar du kärnpremissen att det är möjligt att om vi skulle förstå hjärnan i granulär form tillräckligt detaljer, det skulle kunna replikeras på konstgjord väg – och att detta skulle ge upphov till intelligens eller känsla?
JL: Namnet "neurala nätverk" är en fullständig felaktig benämning. De neurala nätverk som vi har nu, även de mest sofistikerade, har ingenting att göra med hur hjärnan fungerar. Synen att hjärnan är en uppsättning sammankopplade noder på det sätt som neurala nätverk är uppbyggda på är helt naiv.
Om du tittar på den mest primitiva bakteriecellen förstår vi fortfarande inte ens hur den fungerar. Vi förstår några av dess aspekter, men vi har ingen modell för hur det fungerar – än mindre en neuron, som är mycket mer komplicerad, eller miljarder neuroner sammankopplade. Jag tror att det är vetenskapligt omöjlig för att förstå hur hjärnan fungerar. Vi kan bara förstå vissa aspekter och hantera dessa aspekter. Vi har inte, och vi kommer inte att få, en fullständig förståelse för hur hjärnan fungerar.
Om vi hade en perfekt förståelse för hur varje molekyl i hjärnan fungerar, då skulle vi förmodligen kunna replikera det. Det skulle innebära att lägga allt i matematiska ekvationer. Sedan kan du replikera detta med en dator. Problemet är bara att vi inte kan skriva ner och skapa dessa ekvationer.
BS: Många av de mest intressanta sakerna i världen händer på nivåer av granularitet som vi inte kan närma oss. Vi har helt enkelt inte bildutrustningen, och vi kommer förmodligen aldrig att ha bildutrustningen, för att fånga det mesta av vad som händer på de mycket fina nivåerna i hjärnan.
Det betyder att vi till exempel inte vet vad som är ansvarigt för medvetandet. Det finns faktiskt en rad ganska intressanta filosofiska problem, som, enligt den metod vi följer, alltid kommer att vara olösliga – och därför bör vi bara ignorera dem.
En annan är viljans frihet. Vi är mycket för tanken att människor har en vilja; vi kan ha avsikter, mål och så vidare. Men vi vet inte om det är en fri vilja eller inte. Det är en fråga som har med hjärnans fysik att göra. När det gäller de bevis som är tillgängliga för oss kan datorer inte ha ett testamente.
DT: Bokens undertitel är 'artificiell intelligens utan rädsla.' Vilken är den specifika rädsla du hänvisar till?
BS: Det framkallades av litteraturen om singulariteten, som jag vet att du är bekant med. Nick Bostrom, David Chalmers, Elon Musk och liknande. När vi pratade med våra kollegor i den verkliga världen blev det klart för oss att det verkligen fanns en viss rädsla bland befolkningen för att AI så småningom skulle ta över och förändra världen till skada för människor.
Vi har ganska mycket i boken om argumenten av Bostrum-typ. Kärnargumentet mot dem är att om maskinen inte kan ha en vilja, så kan den inte heller ha en ond vilja. Utan en ond vilja finns det inget att vara rädd för. Nu kan vi förstås fortfarande vara rädda för maskiner, precis som vi kan vara rädda för vapen.
Men det beror på att maskinerna hanteras av människor med onda mål. Men då är det inte AI som är det onda; det är människorna som bygger och programmerar AI
DT: Varför intresserar denna föreställning om singularitet eller artificiell allmän intelligens människor så mycket? Oavsett om de är rädda av det eller fascinerade av det, finns det något med den här idén som resonerar med människor på en bred nivå.
JL: Det finns den här idén, som startade i början av 1800-talet och sedan förklarades av Nietzsche i slutet av det århundradet, att Gud är död. Eftersom eliten i vårt samhälle inte är kristen längre, behövde de en ersättare. Max Stirner, som var, liksom Karl Marx, en elev till Hegel, skrev en bok om detta och sa: "Jag är min egen gud."
Om du är Gud vill du också vara en skapare. Om du kunde skapa en superintelligens så är du som Gud. Jag tror att det har att göra med de hypernarcissistiska tendenserna i vår kultur. Vi pratar inte om detta i boken, men det förklarar för mig varför denna idé är så attraktiv i vår tid där det inte längre finns någon transcendent enhet att vända sig till.
DT: Intressant. Så för att följa det, är det tanken att skapandet av AI – eller målet att skapa AI – är en narcissistisk handling. I så fall är konceptet att dessa skapelser på något sätt skulle bli mer kraftfulla än vad vi är en mardrömslik twist på det. Det är barnet som dödar föräldern.
JL: Lite sådär, ja.
DT: Vad skulle det slutliga resultatet av din bok bli för dig om alla var övertygade av dina argument? Vad skulle det betyda för framtiden för AI-utveckling?
JL: Det är en mycket bra fråga. Jag kan berätta exakt vad jag tror skulle hända – och kommer att hända. Jag tror att folk under mellantiden kommer att acceptera våra argument, och detta kommer att skapa bättre tillämpad matematik.
Något som alla stora matematiker och fysiker är helt medvetna om var begränsningarna för vad de kunde uppnå matematiskt. Eftersom de är medvetna om detta fokuserar de bara på vissa problem. Om du är väl medveten om begränsningarna så går du genom världen och letar efter dessa problem och löser dem. Det är så Einstein hittade ekvationerna för Brownsk rörelse; hur han kom på sina relativitetsteorier; hur Planck löste svartkroppsstrålning och därmed initierade materiens kvantteorin. De hade en god instinkt för vilka problem som är mottagliga för lösningar med matematik och vilka som inte är det.
Om människor lär sig budskapet i vår bok, tror vi att de kommer att kunna konstruera bättre system, eftersom de kommer att koncentrera sig på vad som verkligen är genomförbart – och sluta slösa pengar och ansträngning på något som inte kan vara uppnått.
BS: Jag tror att en del av budskapet redan når fram, inte på grund av vad vi säger utan på grund av erfarenheter människor har när de ger stora summor pengar till AI-projekt, och sedan misslyckas AI-projekten. Jag antar att du känner till Joint Artificiell Intelligens Center. Jag kan inte komma ihåg den exakta summan, men jag tror att det var ungefär 10 miljarder dollar som de gav till en berömd entreprenör. Till slut fick de inget ut av det. De sa upp avtalet.
(Redaktörens anteckning: JAIC, en underavdelning av USA: s väpnade styrkor, var avsedd att påskynda "leveransen och adoptionen av AI för att uppnå uppdragets effekt i skala." Det veks till en större enhetlig organisation, Chief Digital and Artificial Intelligence Officer, med två andra kontor i juni i år. JAIC upphörde att existera som sin egen enhet.)
DT: Vad tycker du, i termer på hög nivå, är det enskilt mest övertygande argumentet som du framför i boken?
BS: Varje AI-system är av matematisk natur. Eftersom vi inte kan modellera medvetenhet, vilja eller intelligens matematiskt, kan dessa inte efterliknas med hjälp av maskiner. Därför kommer maskiner inte att bli intelligenta, än mindre superintelligenta.
JL: Strukturen i vår hjärna tillåter bara begränsade modeller av naturen. Inom fysiken väljer vi en delmängd av verkligheten som passar våra matematiska modelleringsmöjligheter. Det var så Newton, Maxwell, Einstein eller Schrödinger fick sina berömda och vackra modeller. Men dessa kan bara beskriva eller förutsäga en liten uppsättning system. Våra bästa modeller är de som vi använder för att konstruera teknik. Vi kan inte skapa en komplett matematisk modell av animerad natur.
Denna intervju har redigerats för längd och tydlighet.
Redaktörens rekommendationer
- Toppförfattare kräver betalning från AI-företag för att de använder deras arbete
- Bing Chat slår tillbaka mot arbetsplatsförbud mot AI
- Google Bard kan nu tala, men kan det överrösta ChatGPT?
- Elon Musks nya AI-företag syftar till att "förstå universum"
- ChatGPTs rekordtillväxt avsattes precis av en ny viral app
