Негативни ефекти вештачке интелигенције

Развој машина које могу да опонашају људску мисао, да је надмаше или чак постану самосвесне је добро истражена премиса у оквиру научне фантастике. У данашњем технолошком пејзажу, појављивање вештачке интелигенције – вештачке интелигенције – може постати један од највећих у човечанству достигнућа, али као што је упозорио познати физичар Стивен Хокинг, „могао би бити и последњи, осим ако не научимо да избегавамо ризици“.

Софистицирана технологија наставља да се уграђује у модерно друштво, од дигиталних личних асистената и алгоритама паметне претраге у Гуглу, до експерименталних аутомобила који се сами возе. Вештачка интелигенција је дефинисана као рачунар или машина која је у стању да изводи „логичку дедукцију и закључивање“ и „доноси одлуке засновано на прошлом искуству или недовољним или конфликтним информацијама." Тренутни нивои технологије већ представљају застрашујуће етичке дилеме, као што су као и да ли војни дронови или други роботски системи треба да буду дизајнирани да користе смртоносну силу против циљева без директног човека учешће. Тренутно, програмиране машине могу да реагују са већом брзином и прецизношћу него људски оператер, али су и даље способне да праве велике грешке без људских пристрасности и интуиције која би водила доношење одлука. Ова питања ће се интензивирати ако се АИ угради у такве системе, уводећи независне мотиве који могу бити потпуно непредвидиви или у директном сукобу са људским намерама.

Укључивање вештачке интелигенције ће драстично променити концепт рада човечанства. Од индустријског доба, технологија било које врсте неизбежно чини многе послове застарелим, а истовремено ствара нове могућности у областима у настајању. АИ нуди будућност у којој машине раде задатке уместо нас, омогућавајући људима да се баве животом у слободно време. Економиста Џон Мејнард Кејнс отишао је тако далеко - још 1930. - да је предвидео радну недељу од 15 сати до 2030. године. На садашњим нивоима становништва, сви аспекти друштва би захтевали драстично преиспитивање и културног и економског, ако би аутоматизација створила тако драматичну промену у начину на који се наши дани проводе.

Једна значајна претња вештачке интелигенције је да ли се одлучи да користи већ побољшане способности за стварање машина још веће когнитивне моћи. Напредне генерације вештачке интелигенције могле би да делују високо изнад људских бића као ми изнад животиња, па чак и врло могуће да еволуирају изван људске способности да то разуме. У овом исходу -- који је др Вернор Винге назвао Сингуларност за симпозијум ВИСИОН-21 НАСА-иног истраживачког центра Луис 1993. -- правила за живот каква знамо заувек би се променила, јер не постоји начин да се предвиди да ли ће АИ одлучити да коегзистира или буде непријатељски расположена према човечанству.

Хокинг наглашава да свака озбиљна расправа о вештачкој интелигенцији мора да узме у обзир потенцијалне претње и како се њима управља, и позива на критичније, институционално истраживање јер су све већи корпоративни ресурси посвећени остварењу открића у стварању вештачких интелигенција. Винге постулира да АИ може бити строго регулисан правилима која ефикасно повезују добронамерне понашање у аутономне роботе, како га замишљају три закона писца научне фантастике Исака Асимова Роботика. Винџ такође упозорава да ће природна људска конкуренција вероватно довести до развоја неограничених модела вештачке интелигенције, тако да чак и такве мере заштите можда неће бити довољне да контролишу Сингуларност ако се догоди.