Наречете го хипотезата на Скайнет, изкуствен общ интелект или появата на сингулярността - години наред експертите по ИИ и и неспециалисти се притесняват (и за малка група празнуват) идеята, че изкуственият интелект може един ден да стане по-умен отколкото хората.
Според теорията напредъкът в AI - по-специално на типа машинно обучение, който е в състояние да поеме ново информация и съответно да пренапише нейния код - в крайна сметка ще настигне мокрия софтуер на биологичното мозък. В тази интерпретация на събитията всеки AI напредва от опасност-печеливши машини на IBM към масивен AI езиков модел GPT-3 приближава човечеството една стъпка по-близо до екзистенциална заплаха. Ние буквално изграждаме нашите скоро съзнателни наследници.
Препоръчани видеоклипове
Само дето никога няма да се случи. Поне според авторите на новата книга Защо машините никога няма да управляват света: Изкуствен интелект без страх.
Съавтори Професор по философия в университета в Бъфало Бари Смит и Йобст Ландгребе, основател на немската компания за изкуствен интелект Cognotekt, твърдят, че човешкият интелект няма да бъде изпреварен от „безсмъртен диктатор“ скоро – или никога. Те казаха
Дигитални тенденции техните причини защо.
Digital Trends (DT): Как тази тема попадна на вашия радар?
Йобст Ландгребе (JL): По образование съм лекар и биохимик. Когато започнах кариерата си, направих експерименти, които генерираха много данни. Започнах да уча математика, за да мога да интерпретирам тези данни, и видях колко трудно е да се моделират биологични системи с помощта на математика. Винаги е имало това несъответствие между математическите методи и биологичните данни.
В средата на тридесетте си години напуснах академичните среди и станах бизнес консултант и предприемач, работещ в софтуерни системи с изкуствен интелект. Опитвах се да изградя AI системи, които да имитират това, което могат да правят човешките същества. Осъзнах, че се натъквам на същия проблем, който имах преди години в биологията.
Клиентите ми казаха: „Защо не създадеш чатботове?“ Казах, „защото няма да работят; не можем да моделираме правилно този тип система.“ Това в крайна сметка ме накара да напиша тази книга.
Професор Бари Смит (BS): Мислех, че това е много интересен проблем. Вече имах предположения за подобни проблеми с AI, но никога не съм ги обмислял. Първоначално написахме документ, наречен „Да направим изкуствения интелект отново значим.’ (Това беше в ерата на Тръмп.) Беше за това защо невронните мрежи се провалят при езиковото моделиране. След това решихме да разширим статията в книга, изследваща тази тема по-задълбочено.
DT: Вашата книга изразява скептицизъм относно начина, по който невронните мрежи, които са от решаващо значение за съвременното дълбоко обучение, емулират човешкия мозък. Те са по-скоро приближения, отколкото точни модели за това как работи биологичният мозък. Но приемате ли основната предпоставка, че е възможно това, ако разбираме мозъка в детайли достатъчно подробности, може да бъде изкуствено възпроизведено – и че това ще доведе до интелект или чувствителност?
JL: Името „невронна мрежа“ е напълно погрешно. Невронните мрежи, които имаме сега, дори и най-сложните, нямат нищо общо с начина, по който работи мозъкът. Гледката, че мозъкът е набор от взаимосвързани възли по начина, по който са изградени невронните мрежи, е напълно наивна.
Ако погледнете най-примитивната бактериална клетка, ние все още не разбираме дори как работи. Ние разбираме някои от неговите аспекти, но нямаме модел за това как работи – да не говорим за неврон, който е много по-сложен, или милиарди неврони, свързани помежду си. Вярвам, че е научно невъзможен да разбере как работи мозъкът. Можем да разберем само определени аспекти и да се справим с тях. Ние нямаме и няма да получим пълно разбиране за това как работи мозъкът.
Ако имахме идеално разбиране за това как работи всяка молекула на мозъка, вероятно бихме могли да я възпроизведем. Това би означавало да поставим всичко в математически уравнения. След това можете да копирате това с помощта на компютър. Проблемът е просто, че не можем да напишем и създадем тези уравнения.
BS: Много от най-интересните неща в света се случват на нива на детайлност, до които не можем да се доближим. Ние просто нямаме оборудване за изображения и вероятно никога няма да имаме оборудване за изображения, за да уловим повечето от това, което се случва на много фините нива на мозъка.
Това означава, че ние не знаем например какво е отговорно за съзнанието. Всъщност има поредица от доста интересни философски проблеми, които според метода, който следваме, винаги ще бъдат неразрешими – и затова трябва просто да ги игнорираме.
Друга е свободата на волята. Ние силно подкрепяме идеята, че човешките същества имат воля; можем да имаме намерения, цели и т.н. Но ние не знаем дали това е свободна воля или не. Това е въпрос, който е свързан с физиката на мозъка. Що се отнася до доказателствата, с които разполагаме, компютрите не могат да имат воля.
DT: Подзаглавието на книгата е „изкуствен интелект без страх“. Какъв е конкретният страх, за който говорите?
BS: Това беше провокирано от литературата за сингулярността, с която знам, че сте запознати. Ник Бостром, Дейвид Чалмърс, Илон Мъск и други подобни. Когато разговаряхме с нашите колеги в реалния свят, ни стана ясно, че наистина има известен страх сред населението, че AI в крайна сметка ще поеме и ще промени света в ущърб на хора.
В книгата имаме доста за аргументите от типа на Бострум. Основният аргумент срещу тях е, че ако машината не може да има воля, тогава тя не може да има и зла воля. Без зла воля няма от какво да се страхувате. Сега, разбира се, все още можем да се страхуваме от машини, точно както можем да се страхуваме от оръжия.
Но това е така, защото машините се управляват от хора със зли цели. Но тогава не AI е злото; това са хората, които изграждат и програмират AI
DT: Защо това понятие за сингулярност или изкуствен общ интелект интересува толкова много хората? Независимо дали се страхуват от нея или са очаровани от нея, има нещо в тази идея, което резонира с хората на широко ниво.
JL: Има една идея, започнала в началото на 19 век и след това обявена от Ницше в края на този век, че Бог е мъртъв. Тъй като елитите на нашето общество вече не са християни, те се нуждаеха от заместник. Макс Щирнер, който, подобно на Карл Маркс, беше ученик на Хегел, написа книга за това, казвайки: „Аз сам съм си бог“.
Ако си Бог, ти също искаш да бъдеш творец. Ако можете да създадете суперинтелигентност, значи сте като Бог. Мисля, че това е свързано с хипер-нарцистичните тенденции в нашата култура. Ние не говорим за това в книгата, но това ми обяснява защо тази идея е толкова привлекателна в нашето време, в което вече няма трансцендентно същество, към което да се обърнем.
DT: Интересно. Така че, за да проследим това, това е идеята, че създаването на AI – или целта да се създаде AI – е нарцистичен акт. В такъв случай концепцията, че тези творения по някакъв начин биха станали по-мощни от нас, е кошмарен обрат в това отношение. Детето убива родителя.
JL: Малко така, да.
DT: Какъв би бил за вас крайният резултат от вашата книга, ако всички бяха убедени от вашите аргументи? Какво би означавало това за бъдещето на развитието на ИИ?
JL: Това е много добър въпрос. Мога да ви кажа точно какво мисля, че ще се случи – и ще се случи. Мисля, че в средносрочен план хората ще приемат нашите аргументи и това ще създаде по-добре приложна математика.
Нещо, което всички велики математици и физици напълно осъзнават, са ограниченията на това, което могат да постигнат математически. Тъй като осъзнават това, те се фокусират само върху определени проблеми. Ако сте наясно с ограниченията, тогава преминавате през света и търсите тези проблеми и ги решавате. Ето как Айнщайн намира уравненията за брауновото движение; как е измислил своите теории за относителността; как Планк решава радиацията на черното тяло и по този начин поставя началото на квантовата теория за материята. Те имаха добър инстинкт за това кои проблеми се поддават на решения с математика и кои не.
Ако хората научат посланието на нашата книга, ние вярваме, че ще могат да проектират по-добри системи, защото те ще се концентрира върху това, което е наистина осъществимо – и ще спре да пилее пари и усилия за нещо, което не може да бъде постигнати.
BS: Мисля, че част от посланието вече минава, не заради това, което казваме, а заради преживяванията, които хората имат, когато дават големи суми пари за AI проекти, а след това AI проектите се провалят. Предполагам, че знаете за Съвместния център за изкуствен интелект. Не мога да си спомня точната сума, но мисля, че бяха около 10 милиарда долара, които те дадоха на известен изпълнител. В крайна сметка не получиха нищо от това. Развалиха договора.
(Бележка на редактора: JAIC, подразделение на въоръжените сили на Съединените щати, имаше за цел да ускори „доставянето и приемането на AI за постигане на въздействие върху мисията в мащаб.“ Тя беше сгъната в по-голяма обединена организация, главен служител по цифров и изкуствен интелект, с два други офиса през юни тази година. JAIC престана да съществува като собствено образувание.)
DT: Кой според вас, от гледна точка на високо ниво, е единственият най-убедителен аргумент, който излагате в книгата?
BS: Всяка AI система е математическа по природа. Тъй като не можем да моделираме математически съзнание, воля или интелект, те не могат да бъдат емулирани с помощта на машини. Следователно машините няма да станат интелигентни, камо ли свръхинтелигентни.
JL: Структурата на нашия мозък позволява само ограничени модели на природата. Във физиката ние избираме подгрупа от реалността, която отговаря на нашите способности за математическо моделиране. Така Нютон, Максуел, Айнщайн или Шрьодингер получават своите известни и красиви модели. Но те могат да опишат или предскажат само малък набор от системи. Нашите най-добри модели са тези, които използваме за инженерна технология. Ние не сме в състояние да създадем пълен математически модел на живата природа.
Това интервю е редактирано за дължина и яснота.
Препоръки на редакторите
- Топ автори изискват заплащане от фирми за изкуствен интелект за използване на работата им
- Bing Chat се бори срещу забраните на работното място за AI
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- Новата AI компания на Илон Мъск има за цел да „разбере вселената“
- Рекордният растеж на ChatGPT току-що беше детрониран от ново вирусно приложение
