Kald det Skynet-hypotesen, kunstig generel intelligens eller fremkomsten af singulariteten - i årevis har AI-eksperter og både ikke-eksperter har ærgret sig (og, for en lille gruppe, fejret) ideen om, at kunstig intelligens en dag kan blive klogere end mennesker.
Ifølge teorien er fremskridt inden for kunstig intelligens - specielt af typen maskinlæring, der er i stand til at tage nyt information og omskriv dens kode i overensstemmelse hermed - vil i sidste ende indhente det biologiske vådware hjerne. I denne fortolkning af begivenheder går hver AI videre fra Fare-vindende IBM-maskiner til massiv AI-sprogmodel GPT-3 tager menneskeheden et skridt tættere på en eksistentiel trussel. Vi bygger bogstaveligt talt vores snart at være sansende efterfølgere.
Anbefalede videoer
Bortset fra at det aldrig vil ske. I hvert fald ifølge forfatterne til den nye bog Hvorfor maskiner aldrig vil regere verden: Kunstig intelligens uden frygt.
Medforfattere University at Buffalo filosofiprofessor Barry Smith
og Jobst Landgrebe, grundlægger af det tyske kunstig intelligens-firma Cognotekt hævder, at menneskelig intelligens ikke vil blive overhalet af "en udødelig diktator" på et tidspunkt - eller nogensinde. De fortalte Digitale trends deres grunde hvorfor.
Digitale tendenser (DT): Hvordan kom dette emne på din radar?
Jobst Landgrebe (JL): Jeg er uddannet læge og biokemiker. Da jeg startede min karriere, lavede jeg eksperimenter, der genererede en masse data. Jeg begyndte at studere matematik for at kunne fortolke disse data, og så hvor svært det er at modellere biologiske systemer ved hjælp af matematik. Der var altid denne uoverensstemmelse mellem de matematiske metoder og de biologiske data.
I midten af trediverne forlod jeg den akademiske verden og blev virksomhedskonsulent og iværksætter, der arbejdede med softwaresystemer til kunstig intelligens. Jeg prøvede at bygge AI-systemer for at efterligne, hvad mennesker kan gøre. Jeg indså, at jeg løb ind i det samme problem, som jeg havde år før i biologi.
Kunder sagde til mig, ’hvorfor bygger du ikke chatbots?’ Jeg sagde, ’fordi de vil ikke virke; vi kan ikke modellere denne type system ordentligt.’ Det førte i sidste ende til, at jeg skrev denne bog.
Professor Barry Smith (BS): Jeg syntes, det var et meget interessant problem. Jeg havde allerede anelse om lignende problemer med AI, men jeg havde aldrig tænkt dem igennem. Til at begynde med skrev vi et papir kaldet 'Gør kunstig intelligens meningsfuld igen.’ (Dette var i Trump-æraen.) Det handlede om, hvorfor neurale netværk fejler til sprogmodellering. Så besluttede vi at udvide papiret til en bog, der udforsker dette emne dybere.
DT: Din bog udtrykker skepsis over for den måde, neurale netværk, som er afgørende for moderne dyb læring, efterligner den menneskelige hjerne. De er tilnærmelser snarere end nøjagtige modeller af, hvordan den biologiske hjerne fungerer. Men accepterer du den centrale forudsætning, at det er muligt, hvis vi skulle forstå hjernen i granuleret form nok detaljer, det kunne kunstigt replikeres – og at dette ville give anledning til intelligens el sansning?
JL: Navnet 'neuralt netværk' er en fuldstændig forkert betegnelse. De neurale netværk, vi har nu, selv de mest sofistikerede, har intet at gøre med den måde, hjernen fungerer på. Synspunktet om, at hjernen er et sæt af indbyrdes forbundne noder på den måde, neurale netværk er bygget op, er fuldstændig naiv.
Hvis du ser på den mest primitive bakteriecelle, forstår vi stadig ikke, hvordan den fungerer. Vi forstår nogle af dets aspekter, men vi har ingen model for, hvordan det virker – endsige en neuron, som er meget mere kompliceret, eller milliarder af neuroner forbundet. Jeg tror på, at det er videnskabeligt umulig at forstå, hvordan hjernen fungerer. Vi kan kun forstå visse aspekter og håndtere disse aspekter. Vi har ikke, og vi vil ikke få, en fuld forståelse af, hvordan hjernen fungerer.
Hvis vi havde en perfekt forståelse af, hvordan hvert molekyle i hjernen fungerer, så kunne vi sandsynligvis kopiere det. Det ville betyde at lægge alt ind i matematiske ligninger. Så kan du kopiere dette ved hjælp af en computer. Problemet er bare, at vi ikke er i stand til at skrive ned og lave de ligninger.
BS: Mange af de mest interessante ting i verden sker på et granularitetsniveau, som vi ikke kan nærme os. Vi har bare ikke det billeddannende udstyr, og vi vil sandsynligvis aldrig have det billeddannende udstyr, til at fange det meste af, hvad der foregår på de meget fine niveauer af hjernen.
Det betyder, at vi for eksempel ikke ved, hvad der er ansvarligt for bevidstheden. Der er faktisk en række ganske interessante filosofiske problemer, som ifølge den metode, vi følger, altid vil være uløselige - og derfor bør vi bare ignorere dem.
En anden er viljens frihed. Vi går meget stærkt ind for tanken om, at mennesker har en vilje; vi kan have hensigter, mål og så videre. Men vi ved ikke, om det er en fri vilje. Det er et spørgsmål, der har at gøre med hjernens fysik. Hvad angår de beviser, der er tilgængelige for os, kan computere ikke have et testamente.
DT: Bogens undertitel er 'kunstig intelligens uden frygt.' Hvad er den specifikke frygt, du henviser til?
BS: Det blev fremkaldt af litteraturen om singulariteten, som jeg ved, du er bekendt med. Nick Bostrom, David Chalmers, Elon Musk og lignende. Da vi talte med vores kolleger i den virkelige verden, blev det klart for os, at der faktisk var en vis frygt blandt befolkningen for, at AI med tiden ville overtage og ændre verden til skade for mennesker.
Vi har ret meget i bogen om de Bostrum-agtige argumenter. Kerneargumentet imod dem er, at hvis maskinen ikke kan have en vilje, så kan den heller ikke have en ond vilje. Uden en ond vilje er der intet at være bange for. Nu kan vi selvfølgelig stadig være bange for maskiner, ligesom vi kan være bange for våben.
Men det er fordi maskinerne bliver styret af mennesker med onde mål. Men så er det ikke AI, der er det onde; det er folkene, der bygger og programmerer AI
DT: Hvorfor interesserer denne forestilling om singularitet eller kunstig generel intelligens folk så meget? Uanset om de er bange for det eller fascinerede af det, er der noget ved denne idé, der giver genklang hos folk på et bredt plan.
JL: Der er denne idé, som startede i begyndelsen af det 19. århundrede og derefter erklærede af Nietzsche i slutningen af det århundrede, at Gud er død. Da vores samfunds eliter ikke længere er kristne, havde de brug for en erstatning. Max Stirner, der ligesom Karl Marx var elev af Hegel, skrev en bog om dette og sagde: 'Jeg er min egen gud.'
Hvis du er Gud, vil du også gerne være en skaber. Hvis du kunne skabe en superintelligens, så er du som Gud. Jeg tror, det har at gøre med de hyper-narcissistiske tendenser i vores kultur. Vi taler ikke om dette i bogen, men det forklarer mig, hvorfor denne idé er så attraktiv i vores tid, hvor der ikke længere er nogen transcendent enhed at henvende sig til.
DT: Interessant. Så for at følge det igennem, er det ideen, at skabelsen af AI - eller målet om at skabe AI - er en narcissistisk handling. I så fald er konceptet om, at disse kreationer på en eller anden måde ville blive mere magtfulde, end vi er, et mareridtsagtigt twist på det. Det er barnet, der slår forælderen ihjel.
JL: Lidt sådan, ja.
DT: Hvad ville for dig være det ultimative resultat af din bog, hvis alle var overbevist af dine argumenter? Hvad ville det betyde for fremtiden for AI-udvikling?
JL: Det er et meget godt spørgsmål. Jeg kan fortælle dig præcis, hvad jeg tror, der ville ske - og vil ske. Jeg tror på mellemlangt, at folk vil acceptere vores argumenter, og det vil skabe bedre anvendt matematik.
Noget, som alle store matematikere og fysikere er fuldstændig klar over, var begrænsningerne for, hvad de kunne opnå matematisk. Fordi de er klar over dette, fokuserer de kun på visse problemer. Hvis du er godt klar over begrænsningerne, så går du gennem verden og leder efter disse problemer og løser dem. Sådan fandt Einstein ligningerne for Brownsk bevægelse; hvordan han kom med sine relativitetsteorier; hvordan Planck løste sortlegemestråling og dermed indledte kvanteteorien om stof. De havde et godt instinkt for, hvilke problemer der er modtagelige for løsninger med matematik, og hvilke der ikke er.
Hvis folk lærer budskabet i vores bog, vil de, tror vi, være i stand til at konstruere bedre systemer, fordi de vil koncentrere sig om, hvad der virkelig er muligt - og holde op med at spilde penge og kræfter på noget, der ikke kan være opnået.
BS: Jeg tror, at noget af budskabet allerede når igennem, ikke på grund af det, vi siger, men på grund af erfaringer, folk har, når de giver store beløb til AI-projekter, og så mislykkes AI-projekterne. Jeg gætter på, at du kender til Joint Artificial Intelligence Center. Jeg kan ikke huske den nøjagtige sum, men jeg tror, det var noget i retning af 10 milliarder dollars, som de gav til en berømt entreprenør. Til sidst fik de intet ud af det. De annullerede kontrakten.
(Redaktørens note: JAIC, en underafdeling af USA's væbnede styrker, var beregnet til at fremskynde "leveringen og adoptionen af AI for at opnå missionspåvirkning i skala." Det blev foldet sammen til en større samlet organisation, Chief Digital and Artificial Intelligence Officer, med to andre kontorer i juni i år. JAIC ophørte med at eksistere som sin egen enhed.)
DT: Hvad tror du, i termer på højt niveau, er det mest overbevisende argument, du fremfører i bogen?
BS: Ethvert AI-system er af matematisk natur. Fordi vi ikke kan modellere bevidsthed, vilje eller intelligens matematisk, kan disse ikke efterlignes ved hjælp af maskiner. Derfor bliver maskiner ikke intelligente, endsige superintelligente.
JL: Strukturen af vores hjerne tillader kun begrænsede modeller af naturen. I fysik vælger vi en delmængde af virkeligheden, der passer til vores matematiske modelleringsevner. Det var sådan, Newton, Maxwell, Einstein eller Schrödinger fik deres berømte og smukke modeller. Men disse kan kun beskrive eller forudsige et lille sæt systemer. Vores bedste modeller er dem, vi bruger til at konstruere teknologi. Vi er ikke i stand til at skabe en komplet matematisk model af animeret natur.
Dette interview er blevet redigeret for længde og klarhed.
Redaktørens anbefalinger
- Topforfattere kræver betaling fra AI-virksomheder for at bruge deres arbejde
- Bing Chat kæmper tilbage mod forbud mod AI på arbejdspladsen
- Google Bard kan nu tale, men kan den overdøve ChatGPT?
- Elon Musks nye AI-virksomhed har til formål at 'forstå universet'
- ChatGPTs rekordvækst blev netop detroniseret af en ny viral app
