Negatívne účinky umelej inteligencie

Vývoj strojov schopných napodobňovať ľudské myšlienky, prekonávať ich alebo sa dokonca stať sebavedomými je dobre preskúmaná premisa v rámci sci-fi. V dnešnom technologickom prostredí sa príchod umelej inteligencie – AI – môže stať jednou z najväčších ľudských bytostí úspechy, ale ako varoval renomovaný fyzik Stephen Hawking, „môže to byť aj posledné, pokiaľ sa nenaučíme vyhýbať sa riziká."

Sofistikovaná technológia sa neustále udomácňuje v modernej spoločnosti, od digitálnych osobných asistentov a inteligentných vyhľadávacích algoritmov v Google až po experimentálne autá s vlastným riadením. Umelá inteligencia je definovaná ako počítač alebo stroj schopný vykonávať „logickú dedukciu a dedukciu“ a „robiť rozhodnutia“ na základe minulých skúseností alebo nedostatočných či protichodných informácií." Súčasné technologické úrovne už predstavujú desivé etické dilemy, ako napr. ako by vojenské drony alebo iné robotické systémy mali byť navrhnuté tak, aby používali smrtiacu silu proti cieľom bez priameho ľudského pôsobenia zapojenie. V súčasnosti môžu naprogramované stroje reagovať s vyššou rýchlosťou a presnosťou ako ľudský operátor, ale stále sú schopné hrubej chyby bez ľudskej zaujatosti a intuície, ktorá by usmerňovala rozhodovanie. Tieto problémy sa zintenzívnia, ak sa do takýchto systémov zabuduje AI, pričom sa zavedú nezávislé motívy, ktoré môžu byť úplne nepredvídateľné alebo v priamom rozpore s ľudskými zámermi.

Začlenenie umelej inteligencie drasticky zmení koncepciu práce ľudstva. Od priemyselného veku technológia akéhokoľvek druhu nevyhnutne robí mnohé pracovné miesta zastaranými, pričom vytvára nové príležitosti v rozvíjajúcich sa oblastiach. Umelá inteligencia ponúka budúcnosť, v ktorej stroje vykonávajú úlohy namiesto nás a umožňujú ľuďom žiť vo voľnom čase. Ekonóm John Maynard Keynes zašiel v roku 1930 tak ďaleko, že do roku 2030 predpovedal pracovný týždeň 15 hodín. Pri súčasnej úrovni populácie by si všetky aspekty spoločnosti vyžadovali drastické prehodnotenie kultúrnej aj ekonomickej stránky, ak by automatizácia vytvorila taký dramatický posun v tom, ako trávime naše dni.

Jednou z významných hrozieb umelej inteligencie je, či sa rozhodne použiť už vylepšené schopnosti na vytvorenie strojov s ešte väčšou kognitívnou silou. Pokročilé generácie AI by mohli fungovať tak vysoko nad ľudskými bytosťami, ako my nad zvieratami, a dokonca je dosť možné, že sa vyvinú za hranice ľudskej schopnosti jej porozumieť. V tomto výsledku - Dr. Vernor Vinge na sympóziu VISION-21 sympózia NASA Lewis Research Center v roku 1993 - pravidlá života, ako ich poznáme, by sa navždy zmenili, pretože neexistuje spôsob, ako predpovedať, či by sa AI rozhodla koexistovať alebo byť nepriateľská voči ľudstvu.

Hawking zdôrazňuje, že každá seriózna diskusia o umelej inteligencii musí brať do úvahy potenciálne hrozby a ako ich zvládať vyzýva na kritickejší, inštitucionálny výskum, keďže narastajúce podnikové zdroje sa venujú realizácii prelomov vo vytváraní umelých inteligenciu. Vinge predpokladá, že AI môže byť prísne regulovaná pravidlami, ktoré sú skutočne benevolentné správanie do autonómnych robotov, ako si to predstavoval spisovateľ sci-fi Isaac Asimov v troch zákonoch Robotické. Vinge tiež varuje, že prirodzená ľudská konkurencia pravdepodobne povedie k vývoju neobmedzených modelov AI, takže ani takéto záruky nemusia stačiť na kontrolu Singularity, ak k nej dôjde.