Генеративный ИИ развивался с невероятной скоростью в последние месяцы с запуском различных инструментов и ботов, таких как ChatGPT от OpenAI, Гугл Бард, и более. Тем не менее, это быстрое развитие вызывает серьезную озабоченность у опытных ветеранов в области ИИ. настолько, что более 1000 из них подписали открытое письмо, призывающее разработчиков ИИ резко критиковать тормоза.
Письмо опубликовано на сайте Институт будущего жизни, организация, чья заявленная миссия состоит в том, чтобы «направить преобразующие технологии на благо жизни и избежать экстремальных крупномасштабных рисков». Среди подписали несколько видных ученых и лидеров в области технологий, в том числе соучредитель Apple Стив Возняк, генеральный директор Twitter Илон Маск и политик Эндрю. Ян.
Рекомендуемые видео
В статье содержится призыв ко всем компаниям, работающим над моделями ИИ, более мощными, чем недавно выпущенный GPT-4 немедленно прекратить работу не менее чем на шесть месяцев. Этот мораторий должен быть «общедоступным и поддающимся проверке» и давать время для «совместной разработки и реализации набора общих протоколы безопасности для передового проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними эксперты».
Связанный
- Производитель ChatGPT OpenAI столкнулся с расследованием FTC по поводу законов о защите прав потребителей
- Функция просмотра Bing в ChatGPT отключена из-за уязвимости платного доступа
- Конкурент Apple ChatGPT может автоматически писать код для вас
В письме говорится, что это необходимо, потому что «системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества». Те риски включают распространение пропаганды, уничтожение рабочих мест, возможную замену и устаревание человеческой жизни, а также «потерю контроля над нашей цивилизации». Авторы добавляют, что решение о том, двигаться ли вперед в этом будущем, не должно оставаться на усмотрение «неизбранных технических специалистов». лидеры».
ИИ «на благо всех»
Письмо пришло сразу после заявлений о том, что GPT-5, следующая версия технологии, используемой в ChatGPT, может достичь искусственного общего интеллекта. Если это правильно, это означает, что он сможет понять и изучить все, что может понять человек. Это может сделать его невероятно мощным в способах, которые еще не были полностью изучены.
Более того, в письме утверждается, что ответственного планирования и управления разработкой систем ИИ не происходит, «хотя в последние месяцы ИИ лаборатории вовлечены в неконтролируемую гонку по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать или надежно контроль."
Вместо этого в письме утверждается, что должны быть созданы новые системы управления, которые будут регулировать развитие ИИ, помогать людям различать созданные ИИ и контент, созданный людьми, привлечение лабораторий искусственного интеллекта, таких как OpenAI, к ответственности за любой вред, который они причиняют, предоставление обществу возможности справиться с нарушением искусственного интеллекта (особенно демократии), и более.
Авторы заканчивают на позитивной ноте, утверждая, что «человечество может наслаждаться процветающим будущим с ИИ… в котором мы пожинаем плоды, разработайте эти системы для всеобщего блага и дайте обществу возможность адаптироваться». Нажатие паузы в системах ИИ более мощное чем ГПТ-4 позволили бы этому случиться, заявляют они.
Будет ли письмо иметь ожидаемый эффект? Трудно сказать. У OpenAI явно есть стимулы для продолжения работы над продвинутыми моделями, как финансовые, так и репутационные. Но с таким количеством потенциальных рисков — и с очень небольшим пониманием их — авторы письма явно считают, что эти стимулы слишком опасны, чтобы их использовать.
Рекомендации редакции
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- Посещаемость сайта ChatGPT впервые упала
- 81% считают, что ChatGPT представляет угрозу безопасности, согласно опросу
- Я научил ChatGPT обучать меня настольным играм, и теперь я никогда не вернусь
- Адвокаты Нью-Йорка оштрафованы за использование поддельных дел ChatGPT в юридическом бюллетене
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, проницательным редакционным статьям и единственным в своем роде кратким обзорам.
