Отрицателни ефекти на изкуствения интелект

Развитието на машини, способни да имитират човешката мисъл, да я превъзхождат или дори да се самоосъзнават, е добре проучена предпоставка в рамките на научната фантастика. В днешния технологичен пейзаж появата на изкуствения интелект - AI - може да се превърне в едно от най-големите на човечеството постижения, но както предупреди известният физик Стивън Хокинг, „може да е и последното, освен ако не се научим да избягваме рискове."

Усъвършенстваните технологии продължават да се вграждат в съвременното общество, от цифрови лични асистенти и алгоритми за интелигентно търсене в Google, до експериментални самоуправляващи се автомобили. Изкуственият интелект се дефинира като компютър или машина, която може да извършва „логически изводи и изводи“ и „взема решения въз основа на минал опит или недостатъчна или противоречива информация." Настоящите технологични нива вече поставят плашещи етични дилеми, като като това дали военните дронове или други роботизирани системи трябва да бъдат проектирани да използват смъртоносна сила срещу цели без директен човек участие. Понастоящем програмираните машини могат да реагират с по-голяма скорост и точност от човешки оператор, но все още са способни на груби грешки без човешки пристрастия и интуиция, за да ръководят вземането на решения. Тези проблеми ще се задълбочат, ако AI бъде вграден в такива системи, въвеждайки независими мотиви, които могат да бъдат напълно непредвидими или в пряк конфликт с човешките намерения.

Включването на изкуствен интелект ще промени драстично концепцията за работа на човечеството. След Индустриалната ера, технологиите от всякакъв вид неизбежно правят много работни места остарели, като същевременно създават нови възможности в нововъзникващите области. AI предлага бъдеще, в което машините изпълняват задачи вместо нас, позволявайки на хората да преследват живот в свободното си време. Икономистът Джон Мейнард Кейнс стигна толкова далеч - през 1930 г. - че прогнозира работна седмица от 15 часа до 2030 г. При сегашните нива на населението всички аспекти на обществото биха изисквали драстично преосмисляне както в културно, така и в икономическо отношение, ако автоматизацията създаде толкова драматична промяна в начина, по който прекарваме дните ни.

Една значителна заплаха за изкуствения интелект е дали той избере да използва вече подобрени способности за създаване на машини с още по-голяма когнитивна сила. Напредналите поколения AI биха могли да действат толкова високо над човешките същества, колкото и ние над животните, и дори много вероятно да се развият отвъд способността на човека да го разбере. В този резултат - наричан Singularity от д-р Вернър Виндж за симпозиума VISION-21 на НАСА Lewis Research Center през 1993 г. - правилата за живота, каквито познаваме, ще се променят завинаги, тъй като няма начин да се предвиди дали ИИ ще реши да съществува съвместно или да бъде враждебен към човечеството.

Хокинг подчертава, че всяка сериозна дискусия за изкуствения интелект трябва да вземе предвид потенциалните заплахи и как да ги управлява, и призовава за по-критични, институционални изследвания, тъй като нарастващите корпоративни ресурси са посветени на реализирането на пробиви в създаването на изкуствени интелигентност. Vinge постулира, че AI може да бъде строго регулиран от правила, които ефективно свързват добронамерените поведение в автономни роботи, както си го представя писателят на научната фантастика Айзък Азимов в Трите закона на роботика. Vinge също така предупреждава, че естествената човешка конкуренция вероятно ще доведе до разработването на неограничени модели на AI, така че дори такива предпазни мерки може да не са достатъчни, за да контролират сингулярността, ако се появи.