Назовите это гипотезой Скайнета, общим искусственным интеллектом или появлением сингулярности — в течение многих лет эксперты по искусственному интеллекту и как неспециалистов беспокоила (а для небольшой группы радовала) идея о том, что искусственный интеллект однажды может стать умнее. чем люди.
Согласно теории, достижения в области искусственного интеллекта — особенно в области машинного обучения, способного решать новые задачи. информацию и соответствующим образом переписать ее код — в конечном итоге догонит «мокрое» программное обеспечение биологического мозг. В такой интерпретации событий каждый ИИ продвигается от Опасность-победившие машины IBM массивная модель языка искусственного интеллекта GPT-3 приближает человечество на шаг ближе к экзистенциальной угрозе. Мы буквально строим нашу преемники, которые скоро станут разумными.
Рекомендуемые видео
Вот только этого никогда не произойдет. По крайней мере, по мнению авторов новой книги Почему машины никогда не будут править миром: искусственный интеллект без страха.
Соавторы, профессор философии Университета Буффало Барри Смит и Йобст Ландгребе, основатель немецкой компании в области искусственного интеллекта Cognotekt, утверждает, что человеческий интеллект не будет обойден «бессмертным диктатором» в ближайшее время — или когда-либо. Они сказали Цифровые тенденции их причины, почему.
Digital Trends (DT): Как эта тема попала в поле вашего зрения?
Йобст Ландгребе (JL): По образованию я врач и биохимик. Когда я начал свою карьеру, я проводил эксперименты, в результате которых было получено много данных. Я начал изучать математику, чтобы иметь возможность интерпретировать эти данные, и увидел, насколько сложно моделировать биологические системы с помощью математики. Всегда существовало несоответствие между математическими методами и биологическими данными.
Когда мне было около тридцати, я оставил академию и стал бизнес-консультантом и предпринимателем, работающим над программными системами искусственного интеллекта. Я пытался создать системы искусственного интеллекта, чтобы имитировать то, что могут делать люди. Я понял, что столкнулся с той же проблемой, с которой столкнулся много лет назад в биологии.
Клиенты говорили мне: «Почему бы вам не создать чат-ботов?» Я ответил: «Потому что они не будут работать; мы не можем правильно смоделировать системы такого типа». В конечном итоге это привело меня к написанию этой книги.
Профессор Барри Смит (бакалавр): Я подумал, что это очень интересная проблема. Я уже подозревал подобные проблемы с ИИ, но никогда не задумывался над ними. Сначала мы написали статью под названием «Искусственный интеллект снова становится значимым(Это было в эпоху Трампа.) Речь шла о том, почему нейронные сети не справляются с моделированием языка. Затем мы решили расширить статью до книги, более глубоко исследующей эту тему.
Д.Т.: В вашей книге выражается скептицизм по поводу того, как нейронные сети, имеющие решающее значение для современного глубокого обучения, имитируют человеческий мозг. Это приближения, а не точные модели того, как работает биологический мозг. Но согласны ли вы с основной предпосылкой, что возможно, если бы мы поняли мозг в гранулярном виде? достаточно деталей, его можно было бы воспроизвести искусственно – и это привело бы к появлению интеллекта или разум?
ДЛ: Название «нейронная сеть» — совершенно неправильное употребление. Нейронные сети, которые мы имеем сейчас, даже самые сложные, не имеют ничего общего с тем, как работает мозг. Представление о том, что мозг представляет собой набор взаимосвязанных узлов, в которых построены нейронные сети, совершенно наивно.
Если посмотреть на самую примитивную бактериальную клетку, мы до сих пор не понимаем даже, как она работает. Мы понимаем некоторые его аспекты, но у нас нет модели того, как он работает – не говоря уже о нейроне, который гораздо сложнее, или о миллиардах нейронов, связанных между собой. Я считаю, что это научно невозможный чтобы понять, как работает мозг. Мы можем понять только некоторые аспекты и разобраться с этими аспектами. У нас нет и не будет полного понимания того, как работает мозг.
Если бы мы прекрасно понимали, как работает каждая молекула мозга, мы, вероятно, смогли бы воспроизвести это. Это означало бы сведение всего к математическим уравнениям. Затем вы можете повторить это с помощью компьютера. Проблема в том, что мы не можем записать и составить эти уравнения.
БС: Многие из самых интересных вещей в мире происходят на уровнях детализации, к которым мы не можем приблизиться. У нас просто нет оборудования для визуализации, и, вероятно, никогда не будет оборудования для визуализации, чтобы запечатлеть большую часть того, что происходит на очень тонких уровнях мозга.
Это значит, что мы не знаем, например, что отвечает за сознание. На самом деле существует ряд весьма интересных философских проблем, которые, согласно методу, которому мы следуем, всегда будут неразрешимыми – и поэтому нам следует их просто игнорировать.
Другое дело – свобода воли. Мы решительно поддерживаем идею о том, что у людей есть воля; у нас могут быть намерения, цели и так далее. Но мы не знаем, является ли это свободной волей. Это проблема, связанная с физикой мозга. Что касается имеющихся у нас доказательств, у компьютеров не может быть воли.
Д.Т.: Подзаголовок книги — «искусственный интеллект без страха». О каком конкретном страхе вы говорите?
БС: Это было спровоцировано литературой о сингулярности, с которой, я знаю, вы знакомы. Ник Бостром, Дэвид Чалмерс, Илон Маск и им подобные. Когда мы поговорили с нашими коллегами в реальном мире, нам стало ясно, что действительно существует определенные опасения среди населения, что ИИ в конечном итоге возьмет верх и изменит мир в ущерб люди.
В книге довольно много говорится об аргументах типа Бострума. Основной аргумент против них заключается в том, что если у машины не может быть воли, то у нее не может быть и злой воли. Без злой воли бояться нечего. Сейчас, конечно, мы все еще можем бояться машин, так же, как мы можем бояться оружия.
Но это потому, что машинами управляют люди со злыми целями. Но тогда зло не ИИ; именно люди создают и программируют ИИ
Д.Т.: Почему идея сингулярности или общего искусственного интеллекта так интересует людей? Независимо от того, напуганы ли они этим или очарованы, в этой идее есть что-то такое, что находит отклик у людей на широком уровне.
ДЛ: Существует идея, зародившаяся в начале 19-го века и затем провозглашенная Ницше в конце того же века, что Бог мертв. Поскольку элиты нашего общества больше не являются христианами, им нужна была замена. Макс Штирнер, который, как и Карл Маркс, был учеником Гегеля, написал об этом книгу, сказав: «Я сам себе бог».
Если вы Бог, вы также хотите быть творцом. Если бы вы могли создать сверхразум, вы были бы подобны Богу. Я думаю, это связано с гипернарциссическими тенденциями в нашей культуре. Мы не говорим об этом в книге, но это объясняет мне, почему эта идея так привлекательна в наше время, когда больше нет трансцендентной сущности, к которой можно было бы обратиться.
ДТ: Интересно. Итак, если продолжить, то идея заключается в том, что создание ИИ – или цель создания ИИ – является нарциссическим актом. В этом случае идея о том, что эти создания каким-то образом станут более могущественными, чем мы, является кошмарным поворотом. Это ребенок убивает родителя.
ДЛ: Немного так, да.
Д.Т.: Каким бы для вас был конечный результат вашей книги, если бы ваши аргументы убедили всех? Что это будет означать для будущего развития ИИ?
ДЛ: Это очень хороший вопрос. Я могу точно сказать вам, что, по моему мнению, произойдет – и произойдет. Я думаю, что в среднесрочной перспективе люди примут наши аргументы, и это приведет к созданию более качественной прикладной математики.
Все великие математики и физики прекрасно осознавали ограниченность того, чего они могли достичь математически. Поскольку они осознают это, они сосредотачиваются только на определенных проблемах. Если вы хорошо осознаёте ограничения, то вы ходите по миру и ищете эти проблемы и решаете их. Именно так Эйнштейн нашел уравнения броуновского движения; как он придумал свои теории относительности; как Планк решил проблему излучения черного тела и тем самым положил начало квантовой теории материи. У них было хорошее чутье, позволяющее определить, какие проблемы можно решить с помощью математики, а какие нет.
Если люди усвоят послание нашей книги, мы считаем, что они смогут создавать более совершенные системы, потому что они сосредоточится на том, что действительно осуществимо, и перестанет тратить деньги и усилия на то, что невозможно достигнуто.
БС: Я думаю, что часть послания уже дошла не из-за того, что мы говорим, а из-за опыт людей, когда они вкладывают большие суммы денег в проекты ИИ, а затем проекты ИИ терпят неудачу. Думаю, вы знаете об Объединенном центре искусственного интеллекта. Я не могу вспомнить точную сумму, но думаю, это было что-то около 10 миллиардов долларов, которые они отдали известному подрядчику. В итоге они ничего от этого не получили. Они расторгли контракт.
(Примечание редактора: JAIC, подразделение Вооружённых сил США, было призвано ускорить «поставку и внедрение искусственного интеллекта для достижения эффективности миссии». в масштабе». В июне этого года он был преобразован в более крупную объединенную организацию — директора по цифровым технологиям и искусственному интеллекту — с двумя другими офисами. JAIC прекратил свое существование как самостоятельное предприятие.)
Д.Т.: Что, по вашему мнению, в общих чертах является самым убедительным аргументом, который вы приводите в книге?
БС: Каждая система искусственного интеллекта имеет математическую природу. Поскольку мы не можем математически смоделировать сознание, волю или интеллект, их нельзя имитировать с помощью машин. Следовательно, машины не станут разумными, не говоря уже о сверхразумных.
ДЛ: Структура нашего мозга допускает лишь ограниченные модели природы. В физике мы выбираем подмножество реальности, которое соответствует нашим возможностям математического моделирования. Именно так Ньютон, Максвелл, Эйнштейн или Шрёдингер получили свои знаменитые и прекрасные модели. Но они могут описать или предсказать лишь небольшой набор систем. Наши лучшие модели — это те, которые мы используем для разработки технологий. Мы не способны создать полную математическую модель живой природы.
Это интервью было отредактировано для обеспечения длины и ясности.
Рекомендации редакции
- Ведущие авторы требуют от компаний, занимающихся искусственным интеллектом, оплату за использование их работ
- Bing Chat борется с запретами на использование ИИ на рабочих местах
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- Новая компания Илона Маска, занимающаяся искусственным интеллектом, стремится «понять вселенную»
- Рекордный рост ChatGPT был свергнут новым вирусным приложением
