Waarom AI nooit de wereld zal regeren

Noem het de Skynet-hypothese, kunstmatige algemene intelligentie of de komst van de singulariteit – jarenlang hebben AI-experts en Zowel niet-experts hebben zich zorgen gemaakt (en, voor een kleine groep, gevierd) over het idee dat kunstmatige intelligentie ooit slimmer kan worden dan mensen.

Volgens de theorie is er sprake van vooruitgang op het gebied van AI, met name van het machine learning-type dat in staat is nieuwe ontwikkelingen aan te gaan informatie en de code dienovereenkomstig herschrijven – zal uiteindelijk de wetware van het biologische inhalen brein. Bij deze interpretatie van gebeurtenissen gaat elke AI verder Gevaar-winnende IBM-machines naar de enorm AI-taalmodel GPT-3 brengt de mensheid een stap dichter bij een existentiële dreiging. We bouwen letterlijk onze toekomstige, bewuste opvolgers.

Aanbevolen video's

Behalve dat het nooit zal gebeuren. Althans, volgens de auteurs van het nieuwe boek Waarom machines nooit de wereld zullen regeren: kunstmatige intelligentie zonder angst.

Co-auteurs filosofieprofessor aan de Universiteit van Buffalo Barry Smit En Jobst Landgrebe, betoogt oprichter van het Duitse AI-bedrijf Cognotekt dat de menselijke intelligentie niet snel of ooit zal worden ingehaald door “een onsterfelijke dictator”. Ze zeiden Digitale trends hun redenen waarom.

afbeelding van AI, met neuronen die zich vertakken vanuit het humanoïde hoofd

Digitale Trends (DT): Hoe is dit onderwerp op uw radar gekomen?

Jobst Landgrebe (JL): Ik ben arts en biochemicus van opleiding. Toen ik aan mijn carrière begon, deed ik experimenten die veel gegevens opleverden. Ik begon wiskunde te studeren om deze gegevens te kunnen interpreteren, en zag hoe moeilijk het is om biologische systemen te modelleren met behulp van wiskunde. Er was altijd een discrepantie tussen de wiskundige methoden en de biologische gegevens.

Halverwege de dertig verliet ik de academische wereld en werd een bedrijfsadviseur en ondernemer die werkte in softwaresystemen voor kunstmatige intelligentie. Ik probeerde AI-systemen te bouwen om na te bootsen wat mensen kunnen doen. Ik besefte dat ik tegen hetzelfde probleem aanliep als jaren geleden bij de biologie.

Klanten zeiden tegen mij: ‘Waarom bouwen jullie geen chatbots?’ Ik zei: ‘omdat ze niet werken; we kunnen dit soort systemen niet goed modelleren.’ Dat heeft er uiteindelijk toe geleid dat ik dit boek heb geschreven.

Professor Barry Smith (BS): Ik vond het een heel interessant probleem. Ik had al vermoedens van soortgelijke problemen met AI, maar ik had er nog nooit over nagedacht. Aanvankelijk schreven we een artikel met de titel ‘Kunstmatige intelligentie weer betekenis geven.’ (Dit was in het Trump-tijdperk.) Het ging over waarom neurale netwerken falen in taalmodellering. Toen besloten we het artikel uit te breiden tot een boek waarin dit onderwerp dieper werd onderzocht.

DT: Uw boek drukt scepsis uit over de manier waarop neurale netwerken, die cruciaal zijn voor modern diepgaand leren, het menselijk brein nabootsen. Het zijn benaderingen, in plaats van nauwkeurige modellen van hoe het biologische brein werkt. Maar aanvaardt u de kernuitgangspunt dat het mogelijk is dat, als we de hersenen gedetailleerd zouden begrijpen? voldoende gedetailleerd is, zou het kunstmatig kunnen worden gerepliceerd – en dat dit aanleiding zou geven tot intelligentie of gevoel?

JL: De naam ‘neuraal netwerk’ is een complete verkeerde benaming. De neurale netwerken die we nu hebben, zelfs de meest geavanceerde, hebben niets te maken met de manier waarop de hersenen werken. De opvatting dat de hersenen een reeks onderling verbonden knooppunten zijn in de manier waarop neurale netwerken worden opgebouwd, is volkomen naïef.

Als je naar de meest primitieve bacteriecel kijkt, begrijpen we nog steeds niet eens hoe deze werkt. We begrijpen een aantal aspecten ervan, maar we hebben geen model van hoe het werkt – laat staan een neuron, dat veel gecompliceerder is, of miljarden neuronen die met elkaar verbonden zijn. Ik geloof dat het wetenschappelijk is onmogelijk om te begrijpen hoe de hersenen werken. We kunnen alleen bepaalde aspecten begrijpen en ermee omgaan. We hebben geen volledig begrip van hoe de hersenen werken, en zullen dat ook niet krijgen.

Als we perfect zouden begrijpen hoe elk molecuul in de hersenen werkt, zouden we het waarschijnlijk kunnen repliceren. Dat zou betekenen dat je alles in wiskundige vergelijkingen moet zetten. Dan zou je dit kunnen repliceren met behulp van een computer. Het probleem is alleen dat we deze vergelijkingen niet kunnen opschrijven en maken.

Profiel van hoofd op computerchip kunstmatige intelligentie — Grafische digitale trends

BS: Veel van de meest interessante dingen in de wereld gebeuren op niveaus van granulariteit die we niet kunnen benaderen. We beschikken gewoon niet over de beeldapparatuur, en we zullen waarschijnlijk nooit de beeldapparatuur hebben, om het meeste vast te leggen van wat er op de allerfijnste niveaus van de hersenen gebeurt.

Dit betekent dat we bijvoorbeeld niet weten wat verantwoordelijk is voor het bewustzijn. Er zijn in feite een reeks behoorlijk interessante filosofische problemen die, volgens de methode die we volgen, altijd onoplosbaar zullen zijn – en die we dus gewoon moeten negeren.

Een andere is de vrijheid van de wil. Wij zijn een groot voorstander van het idee dat mensen een wil hebben; we kunnen intenties, doelen, enzovoort hebben. Maar we weten niet of het een vrije wil is. Dat is een kwestie die te maken heeft met de fysica van de hersenen. Wat het ons beschikbare bewijsmateriaal betreft, kunnen computers geen wil hebben.

DT: De ondertitel van het boek is ‘kunstmatige intelligentie zonder angst’. Wat is de specifieke angst waarnaar u verwijst?

BS: Dat werd uitgelokt door de literatuur over de singulariteit, waarvan ik weet dat u daar bekend mee bent. Nick Bostrom, David Chalmers, Elon Musk en dergelijke. Toen we met onze collega's in de echte wereld spraken, werd het ons duidelijk dat er inderdaad sprake was van een Er heerste een zekere angst onder de bevolking dat AI uiteindelijk de macht zou overnemen en de wereld zou veranderen ten koste van mensen.

Er staat heel veel in het boek over de argumenten van het Bostrum-type. Het kernargument hiertegen is dat als de machine geen wil kan hebben, zij ook geen kwade wil kan hebben. Zonder kwade wil is er niets om bang voor te zijn. Nu kunnen we natuurlijk nog steeds bang zijn voor machines, net zoals we bang kunnen zijn voor wapens.

Maar dat komt omdat de machines worden beheerd door mensen met kwade bedoelingen. Maar dan is het niet de AI die slecht is; het zijn de mensen die de AI bouwen en programmeren

DT: Waarom interesseert dit idee van de singulariteit of kunstmatige algemene intelligentie mensen zo? Of ze er nu bang voor zijn of erdoor gefascineerd, er is iets aan dit idee dat resoneert met mensen op een breed niveau.

JL: Er is een idee, begonnen aan het begin van de 19e eeuw en vervolgens door Nietzsche aan het einde van die eeuw verklaard, dat God dood is. Omdat de elites van onze samenleving geen christenen meer zijn, hadden ze een vervanging nodig. Max Stirner, die net als Karl Marx een leerling van Hegel was, schreef hierover een boek en zei: ‘Ik ben mijn eigen god.’

Als je God bent, wil je ook een schepper zijn. Als je een superintelligentie zou kunnen creëren, dan ben je als God. Ik denk dat het te maken heeft met de hypernarcistische neigingen in onze cultuur. We praten hier niet over in het boek, maar dat verklaart voor mij waarom dit idee zo aantrekkelijk is in onze tijd waarin er geen transcendente entiteit meer is waartoe we ons kunnen wenden.

hersenen met computertekst scrollen door kunstmatige intelligentie — Chris DeGraw/Digitale Trends, Getty Images

DT: Interessant. Dus om dat door te voeren: het is het idee dat het creëren van AI – of het doel om AI te creëren – een narcistische daad is. In dat geval is het concept dat deze creaties op de een of andere manier krachtiger zouden worden dan wij, daar een nachtmerrieachtige draai aan. Het is het kind dat de ouder vermoordt.

JL: Een beetje zo, ja.

DT: Wat zou voor u de uiteindelijke uitkomst van uw boek zijn als iedereen overtuigd zou zijn door uw argumenten? Wat zou dat betekenen voor de toekomst van AI-ontwikkeling?

JL: Het is een heel goede vraag. Ik kan je precies vertellen wat ik denk dat er zou gebeuren – en zal gebeuren. Ik denk dat mensen op de middellange termijn onze argumenten zullen accepteren, en dit zal leiden tot beter toegepaste wiskunde.

Iets waar alle grote wiskundigen en natuurkundigen zich volledig van bewust zijn, zijn de beperkingen van wat ze wiskundig kunnen bereiken. Omdat ze zich hiervan bewust zijn, richten ze zich alleen op bepaalde problemen. Als je je goed bewust bent van de beperkingen, dan ga je de wereld rond en zoek je naar deze problemen en los je ze op. Zo vond Einstein de vergelijkingen voor de Brownse beweging; hoe hij op zijn relativiteitstheorieën kwam; hoe Planck de straling van zwarte lichamen oploste en zo de kwantumtheorie van materie op gang bracht. Ze hadden een goed instinct voor welke problemen vatbaar zijn voor oplossingen met wiskunde en welke niet.

Als mensen de boodschap van ons boek leren kennen, zullen ze, naar onze mening, betere systemen kunnen ontwikkelen, omdat ze zal zich concentreren op wat werkelijk haalbaar is – en stoppen met het verspillen van geld en moeite aan iets dat niet mogelijk is bereikt.

BS: Ik denk dat een deel van de boodschap al doordringt, niet vanwege wat we zeggen, maar vanwege de ervaringen die mensen hebben als ze grote sommen geld aan AI-projecten geven, en de AI-projecten mislukken. Ik neem aan dat je wel weet van het Joint Artificial Intelligence Center. Ik weet het exacte bedrag niet meer, maar ik denk dat het ongeveer 10 miljard dollar was, dat ze aan een beroemde aannemer gaven. Uiteindelijk hebben ze er niets van meegekregen. Ze hebben het contract opgezegd.

(Noot van de redactie: JAIC, een onderdeel van de strijdkrachten van de Verenigde Staten, was bedoeld om de “levering en adoptie van AI te versnellen om missie-impact te bereiken op schaal." In juni van dit jaar werd het samengevoegd tot een grotere, verenigde organisatie, de Chief Digital and Artificial Intelligence Officer, met twee andere kantoren. JAIC hield op te bestaan als zijn eigen entiteit.)

DT: Wat is volgens jou, op hoog niveau, het meest overtuigende argument dat je in het boek naar voren brengt?

BS: Elk AI-systeem is wiskundig van aard. Omdat we bewustzijn, wil of intelligentie niet wiskundig kunnen modelleren, kunnen deze niet met behulp van machines worden nagebootst. Daarom zullen machines niet intelligent worden, laat staan superintelligent.

JL: De structuur van onze hersenen laat slechts beperkte modellen van de natuur toe. In de natuurkunde kiezen we een subset van de werkelijkheid die past bij onze wiskundige modelleringsmogelijkheden. Zo kwamen Newton, Maxwell, Einstein of Schrödinger aan hun beroemde en mooie modellen. Maar deze kunnen slechts een klein aantal systemen beschrijven of voorspellen. Onze beste modellen zijn de modellen die we gebruiken om technologie te ontwikkelen. We zijn niet in staat een compleet wiskundig model van de levende natuur te creëren.

Dit interview is aangepast voor lengte en duidelijkheid.