Negative effekter av kunstig intelligens

Utviklingen av maskiner som er i stand til å etterligne menneskelig tanke, overgå den eller til og med bli selvbevisst er et godt utforsket premiss innen science fiction. I dagens teknologiske landskap kan fremkomsten av kunstig intelligens – AI – bli en av menneskehetens største prestasjoner, men som den anerkjente fysikeren Stephen Hawking advarte, "kan det også være den siste, med mindre vi lærer å unngå risiko."

Sofistikert teknologi fortsetter å bygge seg inn i det moderne samfunnet, fra digitale personlige assistenter og smartsøkealgoritmer i Google, til eksperimentelle selvkjørende biler. Kunstig intelligens er definert som en datamaskin eller maskin som er i stand til å utføre "logisk deduksjon og slutning" og "ta beslutninger basert på tidligere erfaringer eller utilstrekkelig eller motstridende informasjon." Nåværende tekniske nivåer utgjør allerede skremmende etiske dilemmaer, som f.eks. som om militære droner eller andre robotsystemer bør utformes for å bruke dødelig makt mot mål uten direkte mennesker involvering. For tiden kan programmerte maskiner reagere med større hastighet og nøyaktighet enn en menneskelig operatør, men er fortsatt i stand til grove feil uten menneskelig skjevhet og intuisjon for å veilede beslutningstaking. Disse problemene vil forsterkes hvis AI bygges inn i slike systemer, og introduserer uavhengige motiver som kan være helt uforutsigbare eller i direkte konflikt med menneskelige intensjoner.

Inkorporering av kunstig intelligens vil drastisk endre menneskehetens arbeidsbegrep. Siden den industrielle tidsalderen har teknologi av noe slag uunngåelig gjort mange jobber foreldet samtidig som de skaper nye muligheter i nye felt. AI tilbyr en fremtid der maskiner utfører oppgaver i vårt sted, slik at folk kan forfølge fritidsliv. Økonom John Maynard Keynes gikk så langt – tilbake i 1930 – som å forutsi en arbeidsuke på 15 timer innen 2030. På dagens befolkningsnivå ville alle aspekter av samfunnet kreve en drastisk re-envision både kulturelt og økonomisk hvis automatisering skapte et så dramatisk skifte i hvordan dagene våre brukes.

En betydelig trussel mot kunstig intelligens er om den velger å bruke allerede forbedrede evner for å lage maskiner med enda større kognitiv kraft. Avanserte generasjoner av kunstig intelligens kan operere like høyt over mennesker som vi gjør over dyr, og til og med muligens utvikle seg utover menneskets evne til å forstå det. I dette resultatet – referert til som singulariteten av Dr. Vernor Vinge for NASA Lewis Research Centers VISION-21 Symposium i 1993 – Regler for livet slik vi kjenner det vil endre seg for alltid, for det er ingen måte å forutsi om AI ville bestemme seg for å sameksistere eller være fiendtlig mot menneskeheten.

Hawking understreker at enhver seriøs diskusjon om kunstig intelligens må ta hensyn til potensielle trusler og hvordan de skal håndteres, og etterlyser mer kritisk, institusjonell forskning ettersom økende bedriftsressurser brukes til å realisere gjennombrudd i å skape kunstig intelligens. Vinge postulerer at kunstig intelligens kan reguleres tett av regler som effektivt er velvillige oppførsel til autonome roboter, som forestilt av science fiction-forfatteren Isaac Asimovs Three Laws of Robotikk. Vinge advarer også om at naturlig menneskelig konkurranse sannsynligvis vil føre til utvikling av ubegrensede modeller av AI, så selv slike sikkerhetstiltak er kanskje ikke nok til å kontrollere singulariteten hvis den oppstår.