Чому нейросимволічний штучний інтелект є штучним інтелектом Майбутнього

Зобразити піднос. На підносі є різноманітні фігури: одні кубики, інші сфери. Форми виготовляються з різних матеріалів і представляють асортимент різних розмірів. Всього об'єктів, мабуть, вісім. Моє запитання: «Дивлячись на предмети, чи однакова кількість великих предметів і металевих куль?»

Це не підступне запитання. Той факт, що це звучить так, ніби це так, є доказом того, наскільки це насправді просто. Це те питання, на яке дошкільник міг би з легкістю відповісти. Але це майже неможливо для сучасних нейронних мереж. Це потрібно змінити. І це має статися шляхом переосмислення штучного інтелекту, яким ми його знаємо.

Це не моя думка; це думка Девід Кокс, директор MIT-IBM Watson А.І. Лабораторія в Кембриджі, Массачусетс. У минулому Кокс був професором Гарвардського університету, де його команда використовувала знання нейронауки, щоб допомогти створити кращі комп’ютерні системи машинного навчання, натхненні мозком. На своїй нинішній посаді в IBM він керує унікальним партнерством між MIT і IBM, яке сприяє розвитку штучного інтелекту. дослідження, зокрема Watson A.I. платформа. Уотсон, для тих, хто не знає, був ШІ. який знаменито переміг двох найкращих гравців ігрових шоу

в історії на телевізійній вікторині Небезпека. Watson також є переважно системою машинного навчання, яка навчається з використанням маси даних, а не з правилами, отриманими людиною.

Тож коли Кокс каже, що світ має переосмислити штучний інтелект. на порозі нового десятиліття це звучить якось дивно. Зрештою, 2010-ті були, мабуть, найуспішнішими десятьма роками в А.І. історія: період, коли прориви відбуваються, здавалося б, щотижня, і без морозного натяку на А.І. зима в поле зору. Саме тому, на його думку, А.І. однак потребує змін. І його пропозиція щодо цієї зміни, поки незрозумілий термін під назвою «нейросимволічний штучний інтелект», цілком може стати однією з тих фраз, з якими ми близько знайомі, коли 2020-ті закінчаться.

Злет і падіння символічного А.І.

Нейросимволічний А.І. не є, строго кажучи, абсолютно новим способом створення штучного інтелекту. Це поєднання двох існуючих підходів до створення мислячих машин; ті, які колись протистояли як смертельні вороги.

«Символічна» частина назви відноситься до першого основного підходу до створення штучного інтелекту. З 1950-х по 1980-ті роки символічний А.І. правив верховним. До символічного А.І. Дослідник, інтелект базується на здатності людини розуміти навколишній світ шляхом формування внутрішніх символічних уявлень. Потім вони створюють правила для роботи з цими концепціями, і ці правила можуть бути формалізовані таким чином, щоб охопити повсякденні знання.

Якщо мозок аналогічний комп’ютеру, це означає, що кожна ситуація, з якою ми стикаємося, залежить від того, як ми запускаємо внутрішня комп’ютерна програма, яка крок за кроком пояснює, як виконати операцію, повністю заснована на логіка. За умови, що це так, символічний А.І. Дослідники вважають, що ті самі правила про організацію світу можна виявити, а потім кодифікувати у вигляді алгоритму для комп’ютера виконувати.

Символічний А.І. призвело до досить вражаючих демонстрацій. Наприклад, у 1964 році комп’ютерний вчений Бертрам Рафаель розробив систему під назвою SIR, що означає «Пошук семантичної інформації.” SIR була обчислювальною системою міркування, яка, здавалося, була здатна вивчати зв’язки між об’єктами у спосіб, який нагадував справжній інтелект. Якби ви сказали, наприклад, що «Джон хлопчик; хлопець – особистість; у людини дві руки; на руці п’ять пальців», тоді SIR відповість на запитання «Скільки пальців у Джона?» з правильною цифрою 10.

Комп’ютерні системи на основі символічного штучного інтелекту. досягли піку своєї влади (і занепаду) у 1980-х роках. Це було десятиліття так званої «експертної системи», яка намагалася використовувати системи на основі правил для вирішення проблем реального світу, таких як допомагаючи хімікам-органікам ідентифікувати невідомі органічні молекули або допомагаючи лікарям рекомендувати правильну дозу антибіотиків для інфекції.

Основна концепція цих експертних систем була надійною. Але у них були проблеми. Системи були дорогими, вимагали постійного оновлення і, що найгірше, могли стати менш точними, чим більше правил було включено.

Світ нейронних мереж

«Нейро» частина нейросимволічного ШІ. відноситься до нейронні мережі глибокого навчання. Нейронні мережі — це тип обчислень, натхненний мозком, який спонукав до розвитку багатьох ШІ. прориви, які спостерігалися за останнє десятиліття. А.І. які вміють водити машини? Нейронні мережі. А.І. який може перекладати текст десятками різних мов? Нейронні мережі. А.І. який допомагає розумному динаміку у вашому домі розуміти ваш голос? Нейронні мережі — це технологія, за яку варто подякувати.

Нейронні мережі працюють інакше, ніж символічний штучний інтелект. оскільки вони керуються даними, а не правилами. Щоб пояснити щось символічному А.І. система означає чітке надання їй кожного біта інформації, необхідної для правильної ідентифікації. Як аналогію, уявіть, що ви відправляєте когось забрати вашу маму з автобусної станції, але вам потрібно описати її, надавши набір правил, які дозволять вашому другові виділити її з натовпу. Щоб навчити нейронну мережу робити це, ви просто показуєте їй тисячі зображень відповідного об’єкта. Коли він стане достатньо розумним, він не тільки зможе розпізнати цей об’єкт; він може створювати власні подібні об’єкти, які мають насправді ніколи не існувало в реальному світі.

«Безумовно, глибоке навчання дозволило досягти неймовірних успіхів», — сказав Девід Кокс Digital Trends. «У той же час у стіні починають проявлятися тривожні тріщини».

Один із цих так званих тріщин покладається саме на те, що зробило сучасні нейронні мережі такими потужними: дані. Як і людина, нейронна мережа навчається на прикладах. Але в той час як людині може знадобитися лише побачити один або два навчальних приклади об’єкта, щоб правильно його запам’ятати, ШІ. буде потрібно багато, багато іншого. Точність залежить від наявності великої кількості анотованих даних, за допомогою яких він може вивчати кожне нове завдання.

Горять світлофори

Це робить їх менш вправними у статистично рідкісних проблемах «чорного лебедя». Подія «Чорний лебідь», популяризована Нассім Ніколас Талеб, це кутовий випадок, який статистично рідкісний. «Багато наших сьогоднішніх рішень для глибокого навчання — якими б дивовижними вони не були — є на кшталт 80-20 рішень, — продовжив Кокс. «Вони отримають 80% випадків правильно, але якщо ці кутові випадки мають значення, вони, як правило, впадуть. Якщо ви бачите об’єкт, який зазвичай не належить [у певному місці], або об’єкт у дещо дивній орієнтації, навіть дивовижні системи впадуть».

Перш ніж приєднатися до IBM, Кокс був співзасновником компанії, Перцептивні автомати, яка розробила програмне забезпечення для безпілотних автомобілів. У команди був канал Slack, у якому вони публікували смішні зображення, на які випадково натрапили під час збору даних. На одному з них, знятому на перехресті, видно, як горить світлофор. «Це один із тих випадків, які ви можете ніколи не побачити у своєму житті», — сказав Кокс. «Я не знаю, чи мають Waymo і Tesla зображення світлофорів у вогні в наборах даних, які вони використовують для тренувати свої нейронні мережі, але я готовий посперечатися... якщо вони й мають такі, вони матимуть лише дуже небагато».

Одна справа, коли наріжний випадок є чимось незначним, оскільки це трапляється рідко, і не має особливого значення, коли трапляється. Отримати погану рекомендацію щодо ресторану може бути не ідеальним рішенням, але, ймовірно, цього буде недостатньо, щоб навіть зіпсувати вам день. Поки попередні 99 рекомендацій системи є хорошими, немає причин для розчарування. Безпілотний автомобіль, який не зреагує належним чином на перехресті через запалений світлофор або кінний екіпаж, може зробити набагато більше, ніж зіпсувати вам день. Можливо, це малоймовірно, але якщо це станеться, ми хочемо знати, що система розроблена таким чином, щоб бути в змозі впоратися з цим.

«Якщо у вас є здатність міркувати та екстраполювати за межі того, що ми бачили раніше, ми зможемо впоратися з цими сценаріями», — пояснив Кокс. «Ми знаємо, що люди можуть це зробити. Якщо я бачу світлофор, який горить, я можу принести багато знань. Я знаю, наприклад, що світло не підкаже мені, зупинятися чи йти. Я знаю, що мені потрібно бути обережним, тому що [водії навколо мене будуть збентежені.] Я знаю, що водії, які рухаються з іншого боку, можуть поводитися по-іншому, тому що їхні фари можуть працювати. Я можу скласти план дій, який приведе мене туди, куди мені потрібно. У таких критично важливих для безпеки та критично важливих умовах глибоке навчання, на мою думку, ще не дуже добре служить нам. Тому нам потрібні додаткові рішення».

Додаткові ідеї

Ідея нейросимволічного А.І. полягає в тому, щоб об’єднати ці підходи, щоб поєднати як навчання, так і логіку. Нейронні мережі допоможуть зробити символічний ШІ. системи розумніші, розбиваючи світ на символи, а не покладаючись на людей-програмістів, які зроблять це за них. Тим часом символічний А.І. алгоритми допоможуть включити міркування здорового глузду та знання предметної області в глибоке навчання. Результати можуть призвести до значного прогресу в галузі штучного інтелекту. системи, що вирішують складні завдання, пов’язані з усім, від самокерованих автомобілів до обробки природної мови. І все це вимагає значно менше даних для навчання.

«Нейронні мережі та символічні ідеї справді чудово доповнюють одна одну», — сказав Кокс. «Оскільки нейронні мережі дають вам відповіді, як перейти від безладу реального світу до символічного представлення світу, знаходячи всі кореляції в зображеннях. Отримавши це символічне представлення, ви зможете робити деякі досить магічні речі з точки зору міркувань».

Наприклад, у прикладі форми, з якого я почав цю статтю, нейросимволічна система використовувала б можливості розпізнавання образів нейронної мережі для ідентифікації об’єктів. Тоді він спирався б на символічний А.І. застосовувати логіку та семантичне міркування для виявлення нових зв’язків. Такі системи мають вже доведено ефективність роботи.

Це також було б корисно не лише в кутових випадках. Все більш важливим є те, що А.І. системи можна пояснити, коли це необхідно. Нейронна мережа може надзвичайно добре виконувати певні завдання, але більша частина її внутрішніх міркувань є «чорною скринькою», яка стає недоступною для тих, хто хоче знати, як вона прийняла своє рішення. Знову ж таки, це не так важливо, якщо це бот, який рекомендує неправильний трек на Spotify. Але якщо вам відмовили в банківській позиці, відмовили в прийомі на роботу або хтось отримав травму інциденту з автономним автомобілем, вам краще пояснити, чому були певні рекомендації зробив. Ось де нейросимволічний ШІ. міг зайти.

А.І. дослідження: наступне покоління

Кілька десятиліть тому світи символічного штучного інтелекту. і нейронні мережі суперечили одна одній. Відомі діячі, які відстоювали ці підходи, не тільки вірили, що їхній підхід був правильним; вони вважали, що це означає, що інший підхід був неправильним. Вони не обов’язково були неправильні, щоб зробити це. Змагаючись у розв’язанні одних і тих самих проблем і маючи обмежене фінансування, обидві школи А.І. виявилися принципово протилежними одна одній. Сьогодні здається, що може виявитися навпаки.

«Це справді захоплююче бачити молоде покоління», — сказав Кокс. «[Багато людей у ​​моїй команді] відносно молоді люди: свіжі, схвильовані, нещодавно отримали ступінь доктора філософії. Вони просто не мають жодної цієї історії. Їм просто байдуже [про протиставлення двох підходів] — і байдужість є справді сильною, оскільки відкриває вас і позбавляє цих упереджень. Вони із задоволенням досліджують перехрестя... Вони просто хочуть зробити щось круте з ШІ».

Якщо все піде за планом, усі ми виграємо від результатів.

Рекомендації редакції

• Аналоговий ШІ? Це звучить божевільно, але це може бути майбутнє
• Прочитайте моторошно красиве «синтетичне писання» штучного інтелекту. що думає, що це Бог
• Алгоритмічна архітектура: чи повинні ми дозволити А.І. проектувати будівлі для нас?
• Мовна супермодель: як GPT-3 тихо запроваджує ШІ. революція
• Жінки з Байтом: план Вів’єн Мін вирішити «безладні людські проблеми» за допомогою штучного інтелекту.