Почему нейросимволический искусственный интеллект — это искусственный интеллект Будущего

Представьте себе поднос. На подносе лежит набор фигурок: одни кубики, другие сферы. Формы изготавливаются из самых разных материалов и представляют собой ассортимент размеров. Всего объектов, пожалуй, восемь. Мой вопрос: «Глядя на предметы, равное ли количество крупных вещей и металлических сфер?»

Это не вопрос с подвохом. Тот факт, что это звучит так, как будто это так, является убедительным доказательством того, насколько это на самом деле просто. Это тот вопрос, на который дошкольник, скорее всего, сможет легко ответить. Но это практически невозможно для современных нейронных сетей. Это необходимо изменить. И это должно произойти путем изобретения искусственного интеллекта, каким мы его знаем.

Это не мое мнение; это мнение Дэвид Кокс, директор MIT-IBM Watson А.И. Лаборатория в Кембридже, Массачусетс. В прошлой жизни Кокс был профессором Гарвардского университета, где его команда использовала знания нейробиологии, чтобы создать более совершенные компьютерные системы машинного обучения, основанные на мозге. На своей нынешней должности в IBM он курирует уникальное партнерство между MIT и IBM, которое способствует развитию искусственного интеллекта. исследования, в том числе IBM Watson A.I. Платформа. Ватсон, для тех, кто не знает, был ИИ. который классно победил двух лучших игроков игрового шоу

в истории в телевикторине Опасность. Watson также представляет собой в первую очередь систему машинного обучения, обученную с использованием массы данных, а не правил, созданных человеком.

Поэтому, когда Кокс говорит, что миру необходимо переосмыслить ИИ. В преддверии нового десятилетия это звучит странно. В конце концов, 2010-е годы были, пожалуй, самым успешным десятилетием в сфере искусственного интеллекта. История: период, когда прорывы происходят, казалось бы, еженедельно и без какого-либо ледяного намека на А.И. зима понимание. Именно поэтому он считает, что А.И. однако необходимо измениться. И его предложение об этом изменении, пока малоизвестный термин под названием «нейросимволический ИИ», вполне может стать одной из тех фраз, с которыми мы хорошо знакомы к концу 2020-х годов.

Взлет и падение символического ИИ.

Нейросимволический А.И. строго говоря, это не совершенно новый способ реализации ИИ. Это комбинация двух существующих подходов к созданию думающих машин; те, которые когда-то были настроены друг против друга как смертельные враги.

«Символическая» часть названия относится к первому массовому подходу к созданию искусственного интеллекта. С 1950-х по 1980-е годы символический А.И. правил верховно. Символическому А.И. По мнению исследователя, интеллект основан на способности людей понимать окружающий мир посредством формирования внутренних символических представлений. Затем они создают правила для работы с этими концепциями, и эти правила можно формализовать таким образом, чтобы они охватывали повседневные знания.

Если мозг аналогичен компьютеру, это означает, что каждая ситуация, с которой мы сталкиваемся, зависит от того, что мы запускаем компьютер. внутренняя компьютерная программа, которая шаг за шагом объясняет, как выполнить операцию, полностью основываясь на логика. При условии, что это так, символический А.И. исследователи полагают, что те же самые правила относительно организацию мира можно было бы открыть и затем систематизировать в виде алгоритма для компьютера. осуществить.

Символический А.И. привели к довольно впечатляющим демонстрациям. Например, в 1964 году ученый-компьютерщик Бертрам Рафаэль разработал систему под названием SIR, что означает «Семантический поиск информации». SIR представляла собой систему вычислительного мышления, которая, по-видимому, была способна изучать отношения между объектами, напоминая настоящий интеллект. Если бы вы сказали ему, например: «Джон — мальчик; мальчик – личность; у человека две руки; на руке пять пальцев», то СЭР отвечал на вопрос: «Сколько пальцев у Джона?» с правильным номером 10.

Компьютерные системы на основе символического ИИ. достигли пика своего могущества (и упадка) в 1980-е годы. Это было десятилетие так называемой «экспертной системы», которая пыталась использовать системы, основанные на правилах, для решения реальных проблем, таких как помогая химикам-органикам идентифицировать неизвестные органические молекулы или помогая врачам рекомендовать правильную дозу антибиотиков для лечения инфекции.

Основная концепция этих экспертных систем была прочной. Но у них были проблемы. Системы были дорогими, требовали постоянного обновления и, что хуже всего, могли становиться менее точными по мере включения большего количества правил.

Мир нейронных сетей

«Нейро» часть нейросимволического ИИ. относится к нейронные сети глубокого обучения. Нейронные сети — это тип вычислений, вдохновленный мозгом, который привел к появлению многих проектов искусственного интеллекта. прорывы, произошедшие за последнее десятилетие. А.И. который умеет водить машины? Нейронные сети. А.И. который может переводить текст на десятки разных языков? Нейронные сети. А.И. что помогает умному динамику в вашем доме понимать ваш голос? Нейронные сети — это технология, заслуживающая благодарности.

Нейронные сети работают иначе, чем символический ИИ. потому что они основаны на данных, а не на правилах. Чтобы объяснить что-то символическому А.И. Система означает явное предоставление ей каждого бита информации, необходимой для правильной идентификации. В качестве аналогии представьте, что вы отправляете кого-то забрать вашу маму с автовокзала, но вам нужно описать ее, предоставив набор правил, которые позволят вашему другу выделить ее из толпы. Чтобы научить нейронную сеть делать это, вы просто показываете ей тысячи изображений рассматриваемого объекта. Как только он станет достаточно умным, он сможет не только распознавать этот объект; он может создавать свои собственные подобные объекты, которые имеют никогда не существовало в реальном мире.

«Конечно, глубокое обучение привело к удивительным достижениям», — сказал Дэвид Кокс в интервью Digital Trends. «В то же время в стене начинают проявляться тревожные трещины».

Одна из этих так называемых «взломов» основана именно на том, что сделало сегодняшние нейронные сети такими мощными: на данных. Как и человек, нейронная сеть учится на примерах. Но в то время как человеку, возможно, достаточно увидеть только один или два обучающих примера объекта, чтобы правильно его запомнить, ИИ. потребуется еще много, многое другое. Точность зависит от наличия больших объемов аннотированных данных, с помощью которых можно изучать каждую новую задачу.

Горящие светофоры

Это делает их менее успешными в решении статистически редких задач «черного лебедя». Событие «черный лебедь», популяризированное Нассим Николас Талеб, является крайним случаем, который встречается статистически редко. «Многие из наших сегодняшних решений глубокого обучения — какими бы удивительными они ни были — представляют собой своего рода решения 80-20», — продолжил Кокс. «Они решают 80% дел правильно, но если эти крайние случаи имеют значение, они, как правило, терпят неудачу. Если вы увидите объект, который обычно не принадлежит [в определенном месте], или объект в немного странной ориентации, даже удивительные системы падут».

Прежде чем присоединиться к IBM, Кокс стал соучредителем компании Перцептивные автоматы, которая разработала программное обеспечение для беспилотных автомобилей. У команды был канал в Slack, где они размещали забавные изображения, на которые наткнулись в процессе сбора данных. На одном из них, сделанном на перекрестке, был запечатлен горящий светофор. «Это один из тех случаев, которые вы, возможно, никогда не увидите в своей жизни», — сказал Кокс. «Я не знаю, есть ли у Waymo и Tesla изображения горящих светофоров в наборах данных, которые они используют для обучать свои нейронные сети, но я готов поспорить... если они у них и будут, то только очень немного."

Одно дело, когда крайний случай является чем-то незначительным, потому что он случается редко и не имеет большого значения, когда это происходит. Получение плохой рекомендации ресторана может быть не идеальным решением, но, вероятно, этого будет недостаточно, чтобы даже испортить вам день. Пока предыдущие 99 рекомендаций системы хороши, реальных причин для разочарования нет. Беспилотный автомобиль, который не реагирует должным образом на перекрестке из-за горящего светофора или конной повозки, может сделать гораздо больше, чем просто испортить вам день. Это вряд ли произойдет, но если это произойдет, мы хотим знать, что система спроектирована так, чтобы справиться с этим.

«Если у вас есть способность рассуждать и экстраполировать за пределы того, что мы видели раньше, мы сможем справиться с этими сценариями», — объяснил Кокс. «Мы знаем, что люди могут это сделать. Если я вижу горящий светофор, я могу применить много знаний. Я знаю, например, что свет не скажет мне, остановиться мне или идти. Я знаю, что мне нужно быть осторожным, потому что [водители вокруг меня будут в замешательстве.] Я знаю, что водители, едущие в другую сторону, могут вести себя по-другому, потому что у них может работать свет. Я могу придумать план действий, который приведет меня туда, куда мне нужно. Я не думаю, что глубокое обучение в таких критически важных для безопасности и критически важных ситуациях пока служит нам очень хорошо. Вот почему нам нужны дополнительные решения».

Дополнительные идеи

Идея нейросимволического ИИ. состоит в том, чтобы объединить эти подходы, чтобы объединить обучение и логику. Нейронные сети помогут создать символический ИИ. системы становятся умнее, разбивая мир на символы, вместо того, чтобы полагаться на людей-программистов, которые сделают это за них. Тем временем символический А.И. Алгоритмы помогут включить здравый смысл и знания предметной области в глубокое обучение. Результаты могут привести к значительному прогрессу в области искусственного интеллекта. системы, решающие сложные задачи, касающиеся всего: от беспилотных автомобилей до обработки естественного языка. И все это при том, что для обучения требуется гораздо меньше данных.

«Нейронные сети и символические идеи действительно чудесно дополняют друг друга», — сказал Кокс. «Потому что нейронные сети дают вам ответы, позволяющие перейти от беспорядка реального мира к его символическому представлению, найти все корреляции внутри изображений. Получив это символическое представление, вы сможете совершать довольно волшебные вещи с точки зрения рассуждения».

Например, в примере формы, с которого я начал эту статью, нейросимволическая система будет использовать возможности распознавания образов нейронной сети для идентификации объектов. Тогда он будет полагаться на символический ИИ. применять логику и семантические рассуждения для выявления новых связей. Такие системы имеют уже доказано, что он эффективен.

И это не только крайние случаи, когда это может быть полезно. Все более важным становится то, что А.И. системы объяснимы, когда это необходимо. Нейронная сеть может исключительно хорошо выполнять определенные задачи, но большая часть ее внутренних рассуждений скрыта в «черном ящике» и становится непостижимой для тех, кто хочет знать, как она приняла свое решение. Опять же, это не имеет большого значения, если это бот, который рекомендует неправильный трек на Spotify. Но если вам отказали в банковском кредите, отказали в приеме на работу или кто-то получил травму в результате инцидента с участием беспилотного автомобиля, вам лучше объяснить, почему были даны определенные рекомендации. сделал. Вот где нейро-символический ИИ. мог бы войти.

А.И. исследование: следующее поколение

Несколько десятилетий назад миры символического ИИ. и нейронные сети противоречили друг другу. Известные деятели, отстаивавшие эти подходы, не только верили, что их подход верен; они считали, что это означает, что другой подход неверен. Они не обязательно были неправы, поступая так. Конкурируя за решение одних и тех же задач и имея ограниченное финансирование, обе школы ИИ. оказались принципиально противоположными друг другу. Сегодня кажется, что обратное может оказаться правдой.

«Действительно интересно видеть молодое поколение», — сказал Кокс. «[Многие люди в моей команде] относительно молодые люди: свежие, взволнованные, совсем недавно получившие докторскую степень. У них просто нет такой истории. Их просто не волнует [противопоставление двух подходов] — и отсутствие заботы действительно мощно, потому что оно открывает вас и избавляет от этих предрассудков. Они рады исследовать перекрестки… Они просто хотят сделать что-нибудь крутое с помощью ИИ».

Если все пойдет по плану, результаты принесут пользу всем нам.

Рекомендации редакции

• Аналоговый ИИ? Это звучит безумно, но это может быть будущее
• Прочтите устрашающе красивое «синтетическое писание» ИИ. который думает, что это Бог
• Алгоритмическая архитектура: стоит ли позволять ИИ проектировать для нас здания?
• Языковая супермодель: как GPT-3 незаметно открывает путь искусственному интеллекту революция
• Женщины с байтом: план Вивьен Минг по решению «грязных человеческих проблем» с помощью искусственного интеллекта