Negativní účinky umělé inteligence

Vývoj strojů schopných napodobit lidské myšlení, překonat je nebo se dokonce stát sebevědomým je dobře prozkoumaným předpokladem ve sci-fi. V dnešním technologickém prostředí se nástup umělé inteligence – AI – může stát jednou z největších v lidstvu úspěchy, ale jak varoval renomovaný fyzik Stephen Hawking, „může to být také poslední, pokud se nenaučíme vyhýbat se rizika."

Sofistikovaná technologie se i nadále začleňuje do moderní společnosti, od digitálních osobních asistentů a inteligentních vyhledávacích algoritmů v Googlu až po experimentální samořídící auta. Umělá inteligence je definována jako počítač nebo stroj schopný provádět „logické dedukce a vyvozování“ a „rozhodovat se“. založené na minulých zkušenostech nebo nedostatečných či protichůdných informacích." Současná technická úroveň již představuje děsivá etická dilemata, např. jako zda by vojenské drony nebo jiné robotické systémy měly být navrženy k použití smrtící síly proti cílům bez přímého člověka účast. V současné době mohou naprogramované stroje reagovat rychleji a přesněji než lidský operátor, ale stále jsou schopny hrubé chyby bez lidských předsudků a intuice, které by vedly k rozhodování. Tyto problémy se zesílí, pokud bude do takových systémů zabudována umělá inteligence, přičemž se zavedou nezávislé motivy, které mohou být zcela nepředvídatelné nebo v přímém rozporu s lidskými záměry.

Začlenění umělé inteligence drasticky posune pojetí práce lidstva. Od průmyslového věku technologie jakéhokoli druhu nevyhnutelně činí mnoho pracovních míst zastaralými a zároveň vytváří nové příležitosti v nově vznikajících oborech. Umělá inteligence nabízí budoucnost, ve které stroje vykonávají úkoly místo nás a umožňují lidem žít volným životem. Ekonom John Maynard Keynes zašel v roce 1930 tak daleko, že do roku 2030 předpověděl pracovní týden 15 hodin. Při současné úrovni populace by všechny aspekty společnosti vyžadovaly drastické přehodnocení jak kulturně, tak ekonomicky, pokud by automatizace vytvořila tak dramatický posun v tom, jak trávíme naše dny.

Jednou z významných hrozeb umělé inteligence je, zda se rozhodne použít již vylepšené schopnosti k vytvoření strojů s ještě větší kognitivní silou. Pokročilé generace umělé inteligence by mohly fungovat tak vysoko nad lidskými bytostmi jako my nad zvířaty, a dokonce se dost možná vyvinout nad rámec lidských schopností tomu porozumět. V tomto výsledku – označovaném Dr. Vernorem Vingem jako Singularita pro symposium VISION-21 NASA Lewis Research Center v roce 1993 – pravidla pro život, jak ho známe, by se navždy změnil, protože neexistuje způsob, jak předpovědět, zda se AI rozhodne koexistovat nebo být vůči lidstvu nepřátelské.

Hawking zdůrazňuje, že jakákoli seriózní diskuse o umělé inteligenci musí brát v úvahu potenciální hrozby a jak je zvládat vyzývá ke kritičtějšímu, institucionálnímu výzkumu, protože rostoucí podnikové zdroje jsou věnovány realizaci průlomů ve vytváření umělých inteligence. Vinge předpokládá, že AI může být přísně regulována pravidly, která účinně benevolentní chování do autonomních robotů, jak si je představoval spisovatel sci-fi Isaac Asimov ve třech zákonech Robotika. Vinge také varuje, že přirozená lidská soutěž pravděpodobně povede k vývoji neomezených modelů umělé inteligence, takže ani taková ochranná opatření nemusí stačit k ovládání Singularity, pokud k ní dojde.