Hvorfor AI aldri vil styre verden

Kall det Skynet-hypotesen, kunstig generell intelligens eller ankomsten av singulariteten – i årevis har AI-eksperter og både ikke-eksperter har irritert (og, for en liten gruppe, feiret) ideen om at kunstig intelligens en dag kan bli smartere enn mennesker.

I følge teorien, fremskritt innen AI - spesielt av typen maskinlæring som er i stand til å ta på seg nytt informasjon og omskrive koden tilsvarende — vil til slutt ta igjen våtvaren til den biologiske hjerne. I denne tolkningen av hendelser går hver AI videre fra Fare-vinnende IBM-maskiner til massiv AI-språkmodell GPT-3 tar menneskeheten et skritt nærmere en eksistensiell trussel. Vi bygger bokstavelig talt vår snart-å-være-sansende etterfølgere.

Anbefalte videoer

Bortsett fra at det aldri vil skje. I hvert fall ifølge forfatterne av den nye boken Hvorfor maskiner aldri vil styre verden: Kunstig intelligens uten frykt.

Medforfattere University at Buffalo filosofiprofessor Barry Smith og Jobst Landgrebe, grunnlegger av det tyske AI-selskapet Cognotekt hevder at menneskelig intelligens ikke vil bli forbigått av "en udødelig diktator" med det første - eller noen gang. De fortalte

Digitale trender deres grunner.

bilde som viser AI, med nevroner som forgrener seg fra det menneskelige hodet

Digitale trender (DT): Hvordan kom dette emnet på radaren din?

Jobst Landgrebe (JL): Jeg er lege og biokjemiker av utdannelse. Da jeg startet min karriere, gjorde jeg eksperimenter som genererte mye data. Jeg begynte å studere matematikk for å kunne tolke disse dataene, og så hvor vanskelig det er å modellere biologiske systemer ved hjelp av matematikk. Det var alltid denne mistilpasningen mellom de matematiske metodene og de biologiske dataene.

I midten av trettiårene forlot jeg akademia og ble bedriftskonsulent og gründer som jobbet med programvaresystemer for kunstig intelligens. Jeg prøvde å bygge AI-systemer for å etterligne hva mennesker kan gjøre. Jeg skjønte at jeg løp inn i det samme problemet som jeg hadde mange år før i biologi.

Kunder sa til meg, ‘hvorfor bygger du ikke chatbots?’ Jeg sa, ‘fordi de vil ikke fungere; vi kan ikke modellere denne typen system riktig.’ Det førte til slutt til at jeg skrev denne boken.

Professor Barry Smith (BS): Jeg syntes det var et veldig interessant problem. Jeg hadde allerede anelse om lignende problemer med AI, men jeg hadde aldri tenkt gjennom dem. Til å begynne med skrev vi en artikkel kalt 'Gjør kunstig intelligens meningsfull igjen.’ (Dette var i Trump-tiden.) Det handlet om hvorfor nevrale nettverk mislykkes for språkmodellering. Så bestemte vi oss for å utvide artikkelen til en bok som utforsker dette emnet dypere.

DT: Boken din uttrykker skepsis til måten nevrale nettverk, som er avgjørende for moderne dyp læring, etterligner den menneskelige hjernen. De er tilnærminger, snarere enn nøyaktige modeller av hvordan den biologiske hjernen fungerer. Men aksepterer du kjernepremisset om at det er mulig at hvis vi skulle forstå hjernen i detaljer nok detaljer, det kunne bli kunstig replikert – og at dette ville gi opphav til intelligens eller følelse?

JL: Navnet "nevralt nettverk" er en fullstendig feilbetegnelse. De nevrale nettverkene vi har nå, selv de mest sofistikerte, har ingenting å gjøre med måten hjernen fungerer på. Synet på at hjernen er et sett med sammenkoblede noder på den måten nevrale nettverk er bygget på, er fullstendig naivt.

Hvis du ser på den mest primitive bakteriecellen, forstår vi fortsatt ikke engang hvordan den fungerer. Vi forstår noen av dens aspekter, men vi har ingen modell for hvordan det fungerer – enn si et nevron, som er mye mer komplisert, eller milliarder av nevroner sammenkoblet. Jeg tror det er vitenskapelig umulig for å forstå hvordan hjernen fungerer. Vi kan bare forstå visse aspekter og håndtere disse aspektene. Vi har ikke, og vi vil ikke få, en full forståelse av hvordan hjernen fungerer.

Hvis vi hadde en perfekt forståelse av hvordan hvert molekyl i hjernen fungerer, så kunne vi sannsynligvis gjenskape det. Det ville bety å sette alt inn i matematiske ligninger. Deretter kan du replikere dette ved hjelp av en datamaskin. Problemet er bare at vi ikke klarer å skrive ned og lage disse ligningene.

profil av kunstig intelligens med hodet på databrikken — Digital trendgrafikk

BS: Mange av de mest interessante tingene i verden skjer på nivåer av granularitet som vi ikke kan nærme oss. Vi har bare ikke bildebehandlingsutstyret, og vi vil sannsynligvis aldri ha bildeutstyret, for å fange opp det meste som skjer på de veldig fine nivåene i hjernen.

Dette betyr at vi for eksempel ikke vet hva som er ansvarlig for bevissthet. Det er faktisk en rekke ganske interessante filosofiske problemer, som, i henhold til metoden vi følger, alltid vil være uløselige – og derfor bør vi bare ignorere dem.

En annen er viljens frihet. Vi er veldig for tanken om at mennesker har en vilje; vi kan ha intensjoner, mål og så videre. Men vi vet ikke om det er en fri vilje eller ikke. Det er et problem som har med hjernens fysikk å gjøre. Når det gjelder bevisene som er tilgjengelige for oss, kan ikke datamaskiner ha en vilje.

DT: Bokens undertittel er ‘kunstig intelligens uten frykt.’ Hva er den spesifikke frykten du referer til?

BS: Det ble provosert av litteraturen om singulariteten, som jeg vet du er kjent med. Nick Bostrom, David Chalmers, Elon Musk og lignende. Da vi snakket med kollegene våre i den virkelige verden, ble det klart for oss at det faktisk var en viss frykt blant befolkningen for at AI til slutt ville ta over og forandre verden til skade for mennesker.

Vi har ganske mye i boken om argumentene av Bostrum-typen. Kjerneargumentet mot dem er at hvis maskinen ikke kan ha en vilje, så kan den heller ikke ha en ond vilje. Uten en ond vilje er det ingenting å være redd for. Nå kan vi selvfølgelig fortsatt være redde for maskiner, akkurat som vi kan være redde for våpen.

Men det er fordi maskinene blir administrert av mennesker med onde mål. Men da er det ikke AI som er ond; det er menneskene som bygger og programmerer AI

DT: Hvorfor interesserer denne forestillingen om singulariteten eller kunstig generell intelligens folk så mye? Enten de er redde av det eller fascinert av det, er det noe med denne ideen som gir gjenklang med folk på et bredt nivå.

JL: Det er denne ideen, startet på begynnelsen av 1800-tallet og deretter erklært av Nietzsche på slutten av det århundret, at Gud er død. Siden eliten i samfunnet vårt ikke er kristne lenger, trengte de en erstatning. Max Stirner, som var, i likhet med Karl Marx, en elev av Hegel, skrev en bok om dette og sa: 'Jeg er min egen gud.'

Hvis du er Gud, vil du også være en skaper. Hvis du kunne skape en superintelligens, så er du som Gud. Jeg tror det har å gjøre med de hypernarsissistiske tendensene i vår kultur. Vi snakker ikke om dette i boken, men det forklarer for meg hvorfor denne ideen er så attraktiv i vår tid der det ikke lenger er noen transcendent enhet å vende seg til.

hjerne med datatekstrullende kunstig intelligens — Chris DeGraw/Digital Trends, Getty Images

DT: Interessant. Så for å følge det gjennom, er det ideen om at etableringen av AI – eller målet om å skape AI – er en narsissistisk handling. I så fall er konseptet om at disse kreasjonene på en eller annen måte ville blitt kraftigere enn vi er en marerittaktig vri på det. Det er barnet som dreper forelderen.

JL: Litt sånn, ja.

DT: Hva ville for deg vært det endelige resultatet av boken din hvis alle ble overbevist av argumentene dine? Hva vil det bety for fremtiden for AI-utvikling?

JL: Det er et veldig godt spørsmål. Jeg kan fortelle deg nøyaktig hva jeg tror vil skje – og vil skje. Jeg tror på mellomtiden vil folk akseptere argumentene våre, og dette vil skape bedre anvendt matematikk.

Noe som alle store matematikere og fysikere er fullstendig klar over var begrensningene for hva de kunne oppnå matematisk. Fordi de er klar over dette, fokuserer de kun på visse problemer. Hvis du er godt klar over begrensningene, så går du gjennom verden og ser etter disse problemene og løser dem. Det var slik Einstein fant ligningene for Brownsk bevegelse; hvordan han kom opp med relativitetsteoriene sine; hvordan Planck løste svartlegemestråling og dermed initierte kvanteteorien om materie. De hadde et godt instinkt for hvilke problemer som er mottagelige for løsninger med matematikk og hvilke som ikke er det.

Hvis folk lærer budskapet i boken vår, vil de, tror vi, være i stand til å konstruere bedre systemer, fordi de vil konsentrere seg om det som virkelig er mulig – og slutte å kaste bort penger og krefter på noe som ikke kan være oppnådd.

BS: Jeg tror at noe av budskapet allerede når frem, ikke på grunn av det vi sier, men på grunn av erfaringer folk har når de gir store beløp til AI-prosjekter, og så mislykkes AI-prosjektene. Jeg antar at du vet om Joint Artificial Intelligence Center. Jeg kan ikke huske den nøyaktige summen, men jeg tror det var noe sånt som 10 milliarder dollar, som de ga til en kjent entreprenør. Til slutt fikk de ingenting ut av det. De kansellerte kontrakten.

(Redaktørens notat: JAIC, en underavdeling av USAs væpnede styrker, var ment å akselerere "levering og adopsjon av AI for å oppnå misjonseffekt i skala." Den ble slått sammen til en større enhetlig organisasjon, Chief Digital and Artificial Intelligence Officer, med to andre kontorer i juni i år. JAIC sluttet å eksistere som sin egen enhet.)

DT: Hva tror du, i termer på høyt nivå, er det mest overbevisende argumentet du kommer med i boken?

BS: Hvert AI-system er av matematisk natur. Fordi vi ikke kan modellere bevissthet, vilje eller intelligens matematisk, kan disse ikke etterlignes ved hjelp av maskiner. Derfor vil ikke maskiner bli intelligente, enn si superintelligente.

JL: Strukturen til hjernen vår tillater bare begrensede modeller av naturen. I fysikk velger vi en undergruppe av virkeligheten som passer til våre matematiske modelleringsevner. Det var slik Newton, Maxwell, Einstein eller Schrödinger fikk tak i sine berømte og vakre modeller. Men disse kan bare beskrive eller forutsi et lite sett med systemer. Våre beste modeller er de som vi bruker til å konstruere teknologi. Vi er ikke i stand til å lage en komplett matematisk modell av animert natur.

Dette intervjuet er redigert for lengde og klarhet.