Negativni učinki umetne inteligence

Razvoj strojev, ki lahko posnemajo človeško misel, jo presežejo ali celo postanejo samozavedni, je dobro raziskana premisa znanstvene fantastike. V današnji tehnološki pokrajini lahko prihod umetne inteligence – AI – postane eden največjih človeštva. dosežkov, a kot je opozoril priznani fizik Stephen Hawking, "lahko je tudi zadnji, razen če se naučimo izogibati tveganja."

Sofisticirana tehnologija se še naprej vpeljuje v sodobno družbo, od digitalnih osebnih pomočnikov in algoritmov pametnega iskanja v Googlu do eksperimentalnih samovozečih avtomobilov. Umetna inteligenca je opredeljena kot računalnik ali stroj, ki je sposoben izvajati "logično sklepanje in sklepanje" in "sprejemati odločitve na podlagi preteklih izkušenj ali nezadostnih ali nasprotujočih si informacij." Trenutna tehnološka raven že predstavlja zastrašujoče etične dileme, kot je npr. ali naj bodo vojaška brezpilotna letala ali drugi robotski sistemi zasnovani tako, da uporabljajo smrtonosno silo proti ciljem brez neposrednega človeka sodelovanje. Trenutno se lahko programirani stroji odzovejo z večjo hitrostjo in natančnostjo kot človeški operater, vendar so še vedno sposobni narediti velike napake brez človeških pristranskosti in intuicije za vodenje odločanja. Ta vprašanja se bodo okrepila, če bo umetna inteligenca vgrajena v takšne sisteme, ki uvaja neodvisne motive, ki so lahko popolnoma nepredvidljivi ali v neposrednem nasprotju s človeškimi nameni.

Vključitev umetne inteligence bo drastično spremenila koncept dela človeštva. Od industrijske dobe kakršna koli tehnologija neizogibno povzroči zastarelost številnih delovnih mest, hkrati pa ustvarja nove priložnosti na nastajajočih področjih. Umetna inteligenca ponuja prihodnost, v kateri stroji namesto nas opravljajo naloge in ljudem omogočajo preživljanje prostega časa. Ekonomist John Maynard Keynes je šel tako daleč - že leta 1930 -, da je do leta 2030 predvidel delovni teden 15 ur. Na sedanjih ravneh prebivalstva bi vsi vidiki družbe zahtevali drastično preoblikovanje tako v kulturnem kot gospodarskem smislu, če bi avtomatizacija povzročila tako dramatičen premik v načinu preživljanja naših dni.

Ena od pomembnih groženj umetne inteligence je, ali se odloči uporabiti že izboljšane sposobnosti za ustvarjanje strojev še večje kognitivne moči. Napredne generacije umetne inteligence bi lahko delovale tako visoko nad ljudmi kot mi nad živalmi in bi se lahko celo razvile onkraj človeških zmožnosti razumevanja. V tem izidu – ki ga je dr. Vernor Vinge na simpoziju VISION-21 raziskovalnega centra NASA Lewis leta 1993 imenoval Singularnost – pravila za življenje, kot vemo, bi se za vedno spremenila, saj ni mogoče napovedati, ali bi se AI odločila za sobivanje ali bo sovražna do človeštva.

Hawking poudarja, da mora vsaka resna razprava o umetni inteligenci upoštevati morebitne grožnje in kako jih obvladovati, in poziva k bolj kritičnim, institucionalnim raziskavam, saj se vse več sredstev podjetij namenja uresničevanju prebojev pri ustvarjanju umetnih inteligenca. Vinge domneva, da je umetno inteligenco mogoče strogo regulirati s pravili, ki učinkovito spodbujajo dobronamerne obnašanje v avtonomne robote, kot si ga predstavlja pisatelj znanstvene fantastike Isaac Asimov v Trije zakoni robotika. Vinge tudi opozarja, da bo naravna človeška konkurenca verjetno vodila k razvoju neomejenih modelov AI, zato tudi takšni zaščitni ukrepi morda ne bodo dovolj za nadzor Singularnosti, če se pojavi.