Негативний вплив штучного інтелекту

Розробка машин, здатних імітувати людську думку, перевершувати її або навіть усвідомлювати себе, є добре вивченою передумовою наукової фантастики. У сучасному технологічному ландшафті поява штучного інтелекту – ШІ ​​– може стати одним з найбільших у людстві досягнень, але, як попереджав відомий фізик Стівен Хокінг, «це також може бути останнім, якщо ми не навчимося уникати ризики».

Складні технології продовжують впроваджуватися в сучасне суспільство, від цифрових персональних помічників і алгоритмів розумного пошуку в Google до експериментальних самокерованих автомобілів. Штучний інтелект визначається як комп’ютер або машина, здатна виконувати «логічні висновки та висновки» і «приймати рішення». на основі минулого досвіду або недостатньої чи суперечливої ​​інформації." Нинішні технологічні рівні вже ставлять перед собою страшні етичні дилеми, такі як як військові дрони чи інші роботизовані системи повинні бути розроблені для використання летальної сили проти цілей без безпосередньої людини залучення. В даний час запрограмовані машини можуть реагувати з більшою швидкістю та точністю, ніж людина-оператор, але все ще здатні до грубих помилок без людських упереджень та інтуїції, щоб керувати прийняттям рішень. Ці проблеми будуть посилюватися, якщо ШІ буде вбудовано в такі системи, впроваджуючи незалежні мотиви, які можуть бути абсолютно непередбачуваними або суперечити намірам людини.

Включення штучного інтелекту різко змінить концепцію роботи людства. Починаючи з індустріальної ери, будь-які технології неминуче застарівають багато робочих місць, створюючи нові можливості в нових сферах. ШІ пропонує майбутнє, в якому машини будуть виконувати завдання замість нас, дозволяючи людям вести дозвілля. Економіст Джон Мейнард Кейнс зайшов так далеко – ще в 1930 році – передбачивши до 2030 року 15-годинний робочий тиждень. На нинішніх рівнях населення всі аспекти суспільства потребували б кардинального переосмислення як культурного, так і економічного, якби автоматизація спричинила настільки різкі зміни в тому, як ми проводимо наші дні.

Однією з значущих загроз штучного інтелекту є те, чи вирішить він використовувати вже розширені здібності для створення машин ще більшої когнітивної сили. Передові покоління штучного інтелекту можуть діяти так само високо над людьми, як ми над тваринами, і навіть цілком можливо розвиватися за межі людської здатності зрозуміти це. У цьому підсумку, який доктор Вернор Віндж назвав сингулярністю на симпозіумі VISION-21 дослідницького центру NASA Lewis у 1993 році, правила життя, які ми знаємо, зміняться назавжди, оскільки неможливо передбачити, чи вирішить ШІ існувати співіснувати чи бути ворожим по відношенню до людства.

Хокінг підкреслює, що будь-яке серйозне обговорення штучного інтелекту має враховувати потенційні загрози та способи управління ними, а також закликає до більш критичних, інституційних досліджень, оскільки збільшення корпоративних ресурсів спрямовується на досягнення проривів у створенні штучних інтелекту. Віндж постулує, що ШІ можна жорстко регулювати правилами, які ефективно підсилюють доброзичливість поведінка автономних роботів, як це уявляв письменник-фантаст Айзек Азімов «Три закони Робототехніка. Віндж також попереджає, що природна людська конкуренція, ймовірно, призведе до розробки необмежених моделей ШІ, тому навіть таких запобіжних заходів може бути недостатньо, щоб контролювати Сингулярність, якщо вона станеться.