Если люди, находящиеся в авангарде технологий искусственного интеллекта, комментируют потенциально катастрофические последствия высокоинтеллектуальных систем искусственного интеллекта, то, вероятно, будет разумно сесть и принять уведомление.
Всего пару месяцев назад Джеффри Хинтон, человек, которого считают одним из «крестных отцов» ИИ за его новаторскую работу в этой области, сказал, что быстрые темпы развития технологии означало, что это было «немыслимо» что сверхразумный ИИ, который считается превосходящим человеческий разум, может в конечном итоге уничтожить человечество.
Рекомендуемые видео
И Сэм Альтман, генеральный директор OpenAI, компании, стоящей за вирусный чат-бот ChatGPT, признался, что был «немного напуган» потенциальным воздействием передовых систем ИИ на общество.
Связанный
- Производитель ChatGPT OpenAI столкнулся с расследованием FTC по поводу законов о защите прав потребителей
- Посещаемость сайта ChatGPT впервые упала
- Я научил ChatGPT обучать меня настольным играм, и теперь я никогда не вернусь
Альтман настолько обеспокоен, что в среду его компания объявила о создании нового подразделения под названием Сверхсогласование, направленное на то, чтобы сверхразумный ИИ не привел к хаосу или чему-то далекому худший.
«Сверхразум станет самой эффективной технологией, которую когда-либо изобретало человечество, и может помочь нам решить многие из самых важных мировых проблем». OpenAI сказал в сообщении, представляющем новую инициативу. «Но огромная сила сверхразума также может быть очень опасной и может привести к лишению человечества прав и возможностей или даже к вымиранию человечества».
OpenAI заявила, что, хотя сверхинтеллектуальный ИИ может показаться чем-то далеким, она полагает, что его можно будет разработать к 2030 году. И он с готовностью признает, что в настоящее время не существует системы «для управления или контроля потенциально сверхразумного ИИ и предотвращения его выхода из-под контроля».
Чтобы справиться с ситуацией, OpenAI хочет создать «автоматизированного исследователя выравнивания примерно на уровне человека», который будет выполнять проверки безопасности на сверхразумный ИИ, добавив, что управление этими рисками также потребует новых институтов управления и решения проблемы сверхразума. выравнивание.
Чтобы Superalignment возымело эффект, OpenAI необходимо собрать первоклассную команду ведущих исследователей и инженеров в области машинного обучения.
Компания кажется очень откровенной в отношении своих усилий, описывая их как «невероятно амбициозную цель», а также признавая, что это «не гарантирует успеха». Но он добавляет, что «оптимистично, что целенаправленные, согласованные усилия могут решить эту проблему». проблема."
Новые инструменты искусственного интеллекта, такие как ChatGPT от OpenAI и Bard от Google, среди многих других, настолько революционны, что эксперты уверены. что даже на этом до-сверхинтеллектуальном уровне рабочее место и общество в целом столкнутся с фундаментальными изменениями в ближайшем будущем. срок.
Вот почему правительства во всем мире пытаются наверстать упущенное, торопясь ввести правила для быстро развивающейся индустрии искусственного интеллекта в стремлении обеспечить безопасное и ответственное развертывание технологии. способ. Однако, если не будет сформирован единый орган, у каждой страны будут свои взгляды на то, как лучше всего использовать эту технологию, а это означает, что эти правила могут сильно различаться и приводить к заметно разным результатам. И именно эти разные подходы сделают достижение цели Супервыравнивания еще более трудным.
Рекомендации редакции
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- Новая компания Илона Маска, занимающаяся искусственным интеллектом, стремится «познать вселенную»
- OpenAI раскрывает местоположение своего первого международного аванпоста
- Адвокаты Нью-Йорка оштрафованы за использование поддельных дел ChatGPT в юридическом бюллетене
- Этот веб-браузер по-новому интегрирует ChatGPT.
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, проницательным редакционным статьям и единственным в своем роде кратким обзорам.
