Negativni učinci umjetne inteligencije

Razvoj strojeva koji mogu oponašati ljudsku misao, nadmašiti je ili čak postati samosvjestan dobro je istražena premisa unutar znanstvene fantastike. U današnjem tehnološkom krajoliku, pojava umjetne inteligencije – AI – mogla bi postati jedna od najvećih ljudskih vrsta dostignuća, ali kao što je upozorio poznati fizičar Stephen Hawking, "moglo bi biti i posljednje, osim ako ne naučimo izbjegavati rizici."

Sofisticirana tehnologija nastavlja se ugrađivati ​​u moderno društvo, od digitalnih osobnih pomoćnika i algoritama pametnog pretraživanja u Googleu, do eksperimentalnih samovozećih automobila. Umjetna inteligencija definirana je kao računalo ili stroj koji može izvoditi "logičku dedukciju i zaključivanje" i "donositi odluke na temelju prošlog iskustva ili nedovoljnih ili proturječnih informacija." Trenutne razine tehnologije već predstavljaju zastrašujuće etičke dileme, kao što su kao i treba li vojne dronove ili druge robotske sustave projektirati za korištenje smrtonosne sile protiv ciljeva bez izravnog čovjeka uključenost. Trenutno, programirani strojevi mogu reagirati s većom brzinom i točnošću nego ljudski operater, ali su još uvijek sposobni za velike pogreške bez ljudskih predrasuda i intuicije koja bi usmjerila donošenje odluka. Ova pitanja će se intenzivirati ako se AI ugradi u takve sustave, uvodeći nezavisne motive koji mogu biti potpuno nepredvidivi ili u izravnom sukobu s ljudskim namjerama.

Uključivanje umjetne inteligencije drastično će promijeniti koncept rada čovječanstva. Od industrijskog doba, tehnologija bilo koje vrste neizbježno čini mnoga radna mjesta zastarjelima, stvarajući nove prilike u novim područjima. AI nudi budućnost u kojoj strojevi rade zadatke umjesto nas, dopuštajući ljudima da se bave životom u slobodno vrijeme. Ekonomist John Maynard Keynes otišao je tako daleko -- još 1930. -- da je predvidio radni tjedan od 15 sati do 2030. godine. Na sadašnjim razinama stanovništva, svi aspekti društva zahtijevali bi drastično preispitivanje i kulturno i gospodarsko ako bi automatizacija stvorila tako dramatičan pomak u načinu na koji provodimo dane.

Jedna značajna prijetnja umjetne inteligencije je hoće li se odlučiti za korištenje već poboljšanih sposobnosti za stvaranje strojeva još veće kognitivne moći. Napredne generacije umjetne inteligencije mogle bi djelovati jednako visoko iznad ljudskih bića kao mi iznad životinja, pa čak i vrlo vjerojatno evoluirati izvan ljudske sposobnosti da to razumije. U ovom ishodu -- kojeg je dr. Vernor Vinge nazvao Singularitet za simpozij VISION-21 NASA-inog istraživačkog centra Lewis 1993. -- pravila za život kakav znamo zauvijek bi se promijenila, jer ne postoji način da se predvidi hoće li AI odlučiti koegzistirati ili biti neprijateljski raspoložen prema čovječanstvu.

Hawking naglašava da svaka ozbiljna rasprava o umjetnoj inteligenciji mora uzeti u obzir potencijalne prijetnje i kako njima upravljati, te poziva na kritičnije, institucionalno istraživanje jer se sve veći korporativni resursi posvećuju ostvarenju proboja u stvaranju umjetnih inteligencija. Vinge postulira da AI može biti strogo regulirana pravilima koja učinkovito povezuju dobronamjerne ponašanje u autonomne robote, kako ga je zamislio pisac znanstvene fantastike Isaac Asimov u Tri zakona Robotika. Vinge također upozorava da će prirodna ljudska konkurencija vjerojatno dovesti do razvoja neograničenih modela umjetne inteligencije, pa čak i takve mjere zaštite možda neće biti dovoljne za kontrolu Singularnosti ako se dogodi.