Negativa effekter av artificiell intelligens

Utvecklingen av maskiner som kan efterlikna mänskliga tankar, överträffa dem eller till och med bli självmedvetna är en väl utforskad premiss inom science fiction. I dagens tekniska landskap kan tillkomsten av artificiell intelligens – AI – bli en av mänsklighetens största prestationer, men som den kända fysikern Stephen Hawking varnade, "det kan också vara det sista, om vi inte lär oss att undvika risker."

Sofistikerad teknik fortsätter att bädda in sig i det moderna samhället, från digitala personliga assistenter och smarta sökalgoritmer i Google, till experimentella självkörande bilar. Artificiell intelligens definieras som en dator eller maskin som kan utföra "logisk deduktion och slutledning" och "fatta beslut baserat på tidigare erfarenheter eller otillräcklig eller motstridig information." Nuvarande tekniska nivåer utgör redan skrämmande etiska dilemman, som t.ex. som huruvida militära drönare eller andra robotsystem ska utformas för att använda dödligt våld mot mål utan direkt människa medverkan. För närvarande kan programmerade maskiner reagera med större hastighet och noggrannhet än en mänsklig operatör, men är fortfarande kapabla att göra grova fel utan mänsklig fördomar och intuition för att vägleda beslutsfattande. Dessa frågor kommer att intensifieras om AI byggs in i sådana system, vilket introducerar oberoende motiv som kan vara helt oförutsägbara eller i direkt konflikt med mänskliga avsikter.

Införlivandet av artificiell intelligens kommer att drastiskt förändra mänsklighetens arbetsbegrepp. Sedan industriåldern har teknologi av alla slag oundvikligen gjort många jobb föråldrade samtidigt som det skapar nya möjligheter inom framväxande områden. AI erbjuder en framtid där maskiner utför uppgifter i vårt ställe, så att människor kan utöva fritidsliv. Ekonomen John Maynard Keynes gick så långt - redan 1930 - att han förutspådde en arbetsvecka på 15 timmar till 2030. På nuvarande befolkningsnivåer skulle alla aspekter av samhället kräva en drastisk omstrukturering både kulturellt och ekonomiskt om automatisering skapade en så dramatisk förändring av hur våra dagar spenderas.

Ett betydande hot mot artificiell intelligens är om den väljer att använda redan förbättrade förmågor för att skapa maskiner med ännu större kognitiv kraft. Avancerade generationer av AI skulle kunna fungera lika högt över människor som vi gör över djur, och till och med möjligen utvecklas bortom människans förmåga att förstå det. I detta resultat – kallat Singularity av Dr. Vernor Vinge för NASA Lewis Research Centers VISION-21 Symposium 1993 – regler för livet som vi känner det skulle förändras för alltid, för det finns inget sätt att förutsäga om AI skulle besluta sig för att samexistera eller vara fientlig mot mänskligheten.

Hawking betonar att all seriös diskussion om artificiell intelligens måste ta hänsyn till de potentiella hoten och hur man hanterar dem, och efterlyser mer kritisk, institutionell forskning eftersom ökande företagsresurser ägnas åt att förverkliga genombrott för att skapa konstgjorda intelligens. Vinge postulerar att AI kan regleras hårt av regler som effektivt är välvilliga beteende till autonoma robotar, som föreställts av science fiction-författaren Isaac Asimovs Three Laws of Robotik. Vinge varnar också för att naturlig mänsklig konkurrens sannolikt kommer att leda till utvecklingen av obegränsade modeller av AI, så även sådana skyddsåtgärder kanske inte räcker för att kontrollera singulariteten om den inträffar.