Назвіть це гіпотезою Скайнет, загальним штучним інтелектом або появою сингулярності — роками експерти зі штучного інтелекту та Нефахівці однаково хвилювалися (і, для невеликої групи, раділи) ідеї, що штучний інтелект одного дня може стати розумнішим ніж люди.
Згідно з теорією, прогрес у ШІ — зокрема, типу машинного навчання, здатного сприймати нове інформації та відповідно переписати її код — зрештою наздожене wetware біологічного мозок. У цій інтерпретації подій кожен ШІ просувається з Небезпека-переможні машини IBM до масивна мовна модель ШІ GPT-3 робить людство на крок ближче до екзистенційної загрози. Ми буквально будуємо свій незабаром розумні наступники.
Рекомендовані відео
За винятком того, що цього ніколи не станеться. Принаймні, так стверджують автори нової книги Чому машини ніколи не будуть правити світом: Штучний інтелект без страху.
Співавтори: професор філософії університету Баффало Баррі Сміт і Йобст Ландгребе, засновник німецької компанії зі штучного інтелекту Cognotekt, стверджує, що людський інтелект не буде переможений «безсмертним диктатором» найближчим часом або ніколи. Вони розповіли
Digital Trends (DT): Як ця тема потрапила на ваш радар?
Йобст Ландгребе (JL): За освітою я лікар-біохімік. Коли я починав свою кар’єру, я проводив експерименти, які генерували багато даних. Я почав вивчати математику, щоб мати можливість інтерпретувати ці дані, і побачив, як важко моделювати біологічні системи за допомогою математики. Завжди була ця невідповідність між математичними методами та біологічними даними.
У середині тридцяти років я залишив науку та став бізнес-консультантом і підприємцем, який працював у системах програмного забезпечення штучного інтелекту. Я намагався створити системи ШІ, щоб імітувати те, що можуть робити люди. Я зрозумів, що зіткнувся з тією ж проблемою, що й багато років тому в біології.
Клієнти запитували мене: «Чому б тобі не створити чат-ботів?» Я відповів: «Тому що вони не працюватимуть; ми не можемо правильно змоделювати такий тип системи». Зрештою це спонукало мене написати цю книгу.
Професор Баррі Сміт (BS): Мені здалося, що це дуже цікава проблема. У мене вже були натяки на подібні проблеми з ШІ, але я ніколи не думав про них. Спочатку ми написали статтю під назвою "Як знову зробити штучний інтелект значущим.’ (Це було в епоху Трампа.) Мова йшла про те, чому нейронні мережі не підходять для мовного моделювання. Потім ми вирішили розширити статтю в книгу, яка глибше досліджує цю тему.
DT: Ваша книга висловлює скептицизм щодо того, як нейронні мережі, які мають вирішальне значення для сучасного глибокого навчання, емулюють людський мозок. Це наближення, а не точні моделі того, як працює біологічний мозок. Але чи приймаєте ви основну передумову про те, що це можливо, якби ми розуміли мозок у деталях достатньо деталей, його можна було б штучно відтворити – і це призвело б до інтелекту або почуття?
JL: Назва «нейронна мережа» є абсолютно неправильною. Нейронні мережі, які ми маємо зараз, навіть найскладніші, не мають нічого спільного з тим, як працює мозок. Думка про те, що мозок — це набір взаємопов’язаних вузлів за принципом нейронних мереж, абсолютно наївна.
Якщо ви подивитеся на найпримітивнішу бактеріальну клітину, ми все ще не зрозуміємо, як вона працює. Ми розуміємо деякі її аспекти, але у нас немає моделі того, як вона працює – не кажучи вже про нейрон, який набагато складніший, або мільярди нейронів, пов’язаних між собою. Я вважаю, що це науково неможливо зрозуміти, як працює мозок. Ми можемо розуміти лише певні аспекти та мати справу з цими аспектами. Ми не маємо і не отримаємо повного розуміння того, як працює мозок.
Якби ми досконало розуміли, як працює кожна молекула мозку, то, ймовірно, могли б це відтворити. Це означало б поставити все в математичні рівняння. Тоді ви можете відтворити це за допомогою комп’ютера. Проблема лише в тому, що ми не можемо записати та створити ці рівняння.
BS: Багато найцікавіших речей у світі відбуваються на рівнях деталізації, до яких ми не можемо підійти. У нас просто немає обладнання для обробки зображень, і ми, ймовірно, ніколи не матимемо обладнання для обробки зображень, щоб зафіксувати більшість того, що відбувається на дуже тонких рівнях мозку.
Це означає, що ми не знаємо, наприклад, що відповідає за свідомість. Насправді існує низка досить цікавих філософських проблем, які, згідно з методом, якого ми дотримуємося, завжди будуть нерозв’язними – і тому ми повинні їх просто ігнорувати.
Інша – свобода волі. Ми дуже рішуче підтримуємо ідею, що люди мають волю; ми можемо мати наміри, цілі тощо. Але ми не знаємо, чи це вільна воля. Це проблема, яка пов’язана з фізикою мозку. Що стосується наявних у нас доказів, комп’ютери не можуть мати волі.
DT: Підзаголовок книги: «Штучний інтелект без страху». Про який конкретний страх ви говорите?
BS: Це було спровоковано літературою про сингулярність, з якою, я знаю, ви знайомі. Нік Бостром, Девід Чалмерс, Ілон Маск тощо. Коли ми спілкувалися з нашими колегами в реальному світі, нам стало зрозуміло, що це дійсно було певний страх серед населення, що штучний інтелект врешті-решт візьме верх і змінить світ на шкоду людей.
У книзі ми маємо досить багато про аргументи типу Бострум. Основний аргумент проти них полягає в тому, що якщо машина не має волі, то вона також не може мати злої волі. Без злої волі нема чого боятися. Зараз, звичайно, ми все ще можемо боятися машин, так само як ми можемо боятися зброї.
Але це тому, що машинами керують люди зі злими цілями. Але тоді не штучний інтелект є злом; це люди, які створюють і програмують ШІ
DT: Чому це поняття сингулярності або штучного загального інтелекту так цікавить людей? Незалежно від того, чи їх це лякає, чи захоплює, у цій ідеї є щось, що резонує з людьми на широкому рівні.
JL: Існує така ідея, яка була висловлена на початку 19 століття, а потім проголошена Ніцше наприкінці того століття, що Бог мертвий. Оскільки еліти нашого суспільства вже не є християнами, їм потрібна була заміна. Макс Штірнер, який, як і Карл Маркс, був учнем Гегеля, написав про це книгу, сказавши: «Я сам собі бог».
Якщо ти Бог, ти також хочеш бути творцем. Якщо ви можете створити суперінтелект, то ви схожі на Бога. Я думаю, що це пов’язано з гіпернарцисичними тенденціями в нашій культурі. Ми не говоримо про це в книзі, але це пояснює мені, чому ця ідея така приваблива в наш час, коли більше немає трансцендентної сутності, до якої можна було б звернутися.
ДТ: Цікаво. Отже, щоб прослідкувати це, це ідея, що створення ШІ – або мета створити ШІ – є нарцисичним актом. У такому випадку концепція про те, що ці створіння якимось чином стануть могутнішими за нас, є жахливим поворотом. Це дитина вбиває батьків.
JL: Трохи так, так.
DT: Яким би для вас був остаточний результат вашої книги, якби всіх переконали ваші аргументи? Що це означатиме для майбутнього розвитку ШІ?
JL: Це дуже гарне запитання. Я можу точно сказати вам, що, на мою думку, станеться – і станеться. Я думаю, що в середньостроковій перспективі люди приймуть наші аргументи, і це створить кращу прикладну математику.
Те, що всі великі математики та фізики повністю усвідомлюють, це обмеження того, чого вони могли досягти математично. Усвідомлюючи це, вони зосереджуються лише на окремих проблемах. Якщо ви добре усвідомлюєте обмеження, тоді ви йдете світом, шукаєте ці проблеми та вирішуєте їх. Ось як Ейнштейн знайшов рівняння для броунівського руху; як він придумав свою теорію відносності; як Планк розгадав випромінювання чорного тіла і таким чином започаткував квантову теорію матерії. У них був гарний інстинкт: які проблеми можна розв’язувати за допомогою математики, а які ні.
Якщо люди засвоять ідею нашої книги, ми віримо, що вони зможуть створювати кращі системи, тому що вони зосередиться на тому, що справді можливо, і припинить витрачати гроші та зусилля на те, що неможливо досягнуто.
BS: Я думаю, що деякі повідомлення вже доходять, не через те, що ми говоримо, а через досвід людей, коли вони дають великі суми грошей на проекти ШІ, а потім проекти ШІ провалюються. Думаю, ви знаєте про Об’єднаний центр штучного інтелекту. Я не можу згадати точну суму, але я думаю, що це було близько 10 мільярдів доларів, які вони дали відомому підряднику. Зрештою, вони нічого не отримали. Вони розірвали договір.
(Примітка редактора: JAIC, підрозділ Збройних сил Сполучених Штатів, мав на меті прискорити «доставку та впровадження ШІ для досягнення результату місії у масштабі». У червні цього року його було об’єднано в більшу об’єднану організацію — Головного спеціаліста з цифрового та штучного інтелекту, а також два інші офіси. JAIC припинив існування як власна організація.)
DT: Який, на вашу думку, найпереконливіший аргумент, який ви наводите в книзі, з точки зору високого рівня?
BS: Кожна система штучного інтелекту має математичний характер. Оскільки ми не можемо змоделювати свідомість, волю чи інтелект математично, їх неможливо імітувати за допомогою машин. Тому машини не стануть розумними, не кажучи вже про надрозумні.
JL: Структура нашого мозку допускає лише обмежені моделі природи. У фізиці ми вибираємо підмножину реальності, яка відповідає нашим можливостям математичного моделювання. Так Ньютон, Максвелл, Ейнштейн чи Шредінгер отримали свої відомі та прекрасні моделі. Але вони можуть описати або передбачити лише невеликий набір систем. Наші найкращі моделі – це ті, які ми використовуємо для розробки технологій. Ми не можемо створити повну математичну модель живої природи.
Це інтерв’ю було відредаговано для тривалості та ясності.
Рекомендації редакції
- Найпопулярніші автори вимагають від фірм штучного інтелекту плату за використання їхніх робіт
- Bing Chat бореться з заборонами ШІ на робочих місцях
- Google Bard тепер може говорити, але чи може він заглушити ChatGPT?
- Нова компанія ШІ Ілона Маска прагне «розуміти Всесвіт»
- Рекордне зростання ChatGPT було повалено новою вірусною програмою
