Tehisintellekti negatiivsed tagajärjed

Masinate arendamine, mis on võimelised jäljendama inimmõtet, ületama seda või isegi ennast teadvustama, on ulmekirjanduses hästi uuritud eeldus. Tänapäeva tehnoloogilisel maastikul võib tehisintellekti – AI – tulekust saada üks inimkonna suurimaid. saavutusi, kuid nagu hoiatas tuntud füüsik Stephen Hawking, "see võib olla ka viimane, kui me ei õpi riskid."

Täiustatud tehnoloogia juurdub tänapäeva ühiskonda, alates digitaalsetest isiklikest abilistest ja nutikatest otsingualgoritmidest Google'is kuni eksperimentaalsete isejuhtivate autodeni. Tehisintellekt on defineeritud kui arvuti või masin, mis on võimeline tegema "loogilisi järeldusi ja järeldusi" ning "otsuseid langetama". põhineb varasematel kogemustel või ebapiisaval või vastuolulisel teabel." Praegune tehniline tase tekitab juba hirmutavaid eetilisi dilemmasid, nagu kas sõjalised droonid või muud robotsüsteemid peaksid olema kavandatud kasutama surmavat jõudu sihtmärkide vastu ilma otsese inimeseta kaasamine. Praegu suudavad programmeeritud masinad reageerida suurema kiiruse ja täpsusega kui inimkäija, kuid on siiski võimelised tegema suuri vigu ilma inimlike eelarvamuste ja intuitsioonita, mis juhiks otsuste langetamist. Need probleemid süvenevad, kui tehisintellekt on sellistesse süsteemidesse sisse ehitatud, tuues sisse iseseisvad motiivid, mis võivad olla täiesti ettearvamatud või olla otseses vastuolus inimeste kavatsustega.

Tehisintellekti kaasamine muudab inimkonna töökontseptsiooni drastiliselt. Alates tööstusajastust muudab igasugune tehnoloogia paratamatult paljud töökohad aegunuks, luues samal ajal uusi võimalusi esilekerkivates valdkondades. Tehisintellekt pakub tulevikku, kus masinad teevad meie asemel ülesandeid, võimaldades inimestel elada vabal ajal. Majandusteadlane John Maynard Keynes läks 1930. aastal nii kaugele, et ennustas 2030. aastaks 15-tunnist töönädalat. Praegusel rahvastikutasemel vajaksid kõik ühiskonna aspektid nii kultuuriliselt kui ka majanduslikult drastilist ümberkujundamist, kui automatiseerimine tooks meie päevade veetmises kaasa nii dramaatilise nihke.

Üks tehisintellekti märkimisväärne oht on see, kas ta otsustab kasutada juba täiustatud võimeid veelgi suurema kognitiivse jõuga masinate loomiseks. Tehisintellekti arenenud põlvkonnad võiksid toimida inimestest sama kõrgel kui meie loomadest kõrgemal ja isegi üsna tõenäoliselt areneda kaugemale, kui inimene suudab seda mõista. Selles tulemuses – mida dr Vernor Vinge nimetas NASA Lewise uurimiskeskuse VISION-21 sümpoosionil 1993. aastal singulaarsuseks – Meie teada olevad elureeglid muutuvad igaveseks, sest pole võimalik ennustada, kas tehisintellekt otsustab koos eksisteerida või on inimkonna suhtes vaenulik.

Hawking rõhutab, et igasugune tõsine tehisintellekti puudutav arutelu peab võtma arvesse võimalikke ohte ja nende ohjamist. nõuab kriitilisemat, institutsionaalset uurimistööd, kuna üha rohkem ettevõtte ressursse pühendatakse tehisliku loomise läbimurde realiseerimiseks intelligentsus. Vinge postuleerib, et tehisintellekti saab rangelt reguleerida reeglitega, mis on tõhusalt heatahtlikud käitumine autonoomseteks robotiteks, nagu kujutas ette ulmekirjanik Isaac Asimov kolm seadust Robootika. Vinge hoiatab ka, et inimeste loomulik konkurents viib tõenäoliselt AI piiramatute mudelite väljatöötamiseni, nii et isegi sellistest kaitsemeetmetest ei pruugi piisata singulaarsuse kontrollimiseks, kui see ilmneb.