Negative effekter af kunstig intelligens

Udviklingen af ​​maskiner, der er i stand til at efterligne menneskelig tanke, overgå den eller endda blive selvbevidst er en veludforsket forudsætning inden for science fiction. I nutidens teknologiske landskab kan fremkomsten af ​​kunstig intelligens – AI – blive en af ​​menneskehedens største præstationer, men som den berømte fysiker Stephen Hawking advarede, "kan det også være den sidste, medmindre vi lærer at undgå risici."

Sofistikeret teknologi bliver ved med at indlejre sig i det moderne samfund, fra digitale personlige assistenter og smarte søgealgoritmer i Google til eksperimentelle selvkørende biler. Kunstig intelligens er defineret som en computer eller maskine, der er i stand til at udføre "logisk deduktion og inferens" og "tage beslutninger baseret på tidligere erfaringer eller utilstrækkelig eller modstridende information." De nuværende tekniske niveauer udgør allerede skræmmende etiske dilemmaer, som f.eks. som om militære droner eller andre robotsystemer skal designes til at bruge dødelig magt mod mål uden direkte mennesker involvering. I øjeblikket kan programmerede maskiner reagere med større hastighed og nøjagtighed end en menneskelig operatør, men de er stadig i stand til at begå grove fejl uden menneskelig skævhed og intuition til at vejlede beslutningstagningen. Disse problemer vil blive intensiveret, hvis AI er indbygget i sådanne systemer, hvilket introducerer uafhængige motiver, der kan være fuldstændig uforudsigelige eller i direkte konflikt med menneskelige intentioner.

Inkorporering af kunstig intelligens vil drastisk ændre menneskehedens arbejdsbegreb. Siden den industrielle tidsalder har teknologi af enhver art uundgåeligt gjort mange job forældede og samtidig skabe nye muligheder inden for nye områder. AI tilbyder en fremtid, hvor maskiner udfører opgaver i vores sted, hvilket giver folk mulighed for at forfølge et fritidsliv. Økonom John Maynard Keynes gik så langt - tilbage i 1930 - som at forudsige en arbejdsuge på 15 timer i 2030. På nuværende befolkningsniveau ville alle aspekter af samfundet kræve en drastisk omlægning både kulturelt og økonomisk, hvis automatisering skabte et så dramatisk skift i, hvordan vores dage bliver brugt.

En væsentlig trussel ved kunstig intelligens er, om den vælger at bruge allerede forbedrede evner til at skabe maskiner med endnu større kognitiv kraft. Avancerede generationer af kunstig intelligens kunne fungere lige så højt over mennesker, som vi gør over dyr, og endda muligvis udvikle sig ud over menneskets evne til at forstå det. I dette resultat – omtalt som singulariteten af ​​Dr. Vernor Vinge for NASA Lewis Research Centers VISION-21 Symposium i 1993 – regler for livet, som vi kender det, ville ændre sig for altid, for der er ingen måde at forudsige, om AI ville beslutte sig for at sameksistere eller være fjendtlig over for menneskeheden.

Hawking understreger, at enhver seriøs diskussion om kunstig intelligens skal tage højde for de potentielle trusler og hvordan man håndterer dem, og opfordrer til mere kritisk, institutionel forskning, efterhånden som flere virksomheders ressourcer afsættes til at realisere gennembrud i at skabe kunstige intelligens. Vinge postulerer, at kunstig intelligens kan reguleres stramt af regler, der effektivt er velvillige adfærd til autonome robotter, som forestillet af science fiction-forfatteren Isaac Asimovs Three Laws of Robotik. Vinge advarer også om, at naturlig menneskelig konkurrence sandsynligvis vil føre til udviklingen af ​​ubegrænsede modeller af AI, så selv sådanne sikkerhedsforanstaltninger er muligvis ikke nok til at kontrollere Singulariteten, hvis den opstår.