Пионер искусственного интеллекта Джеффри Хинтон удивил многих в понедельник, когда сообщил, что уволился с работы в Google, где последнее десятилетие работал над проектами ИИ.
Хинтон, уроженец Великобритании, которому сейчас 75 лет, которого часто называют «крестным отцом искусственного интеллекта» за его новаторскую работу, лежащую в основе многих сегодняшних систем искусственного интеллекта. рассказал Нью-Йорк Таймс что у него есть серьезные опасения по поводу скорости, с которой подобные Open AI с его ЧатGPT инструмент и Google с Бард, работают над развитием своей продукции, особенно потому, что это может стоить безопасности.
Рекомендуемые видео
Хинтон настолько обеспокоен, что даже сказал, что часть его сожалеет о своих прошлых усилиях в области искусственного интеллекта, сообщает Times.
Связанный
- GPT-4: как использовать чат-бота с искусственным интеллектом, который посрамляет ChatGPT
- Лучшие инструменты для редактирования видео с искусственным интеллектом
- Производитель ChatGPT OpenAI сталкивается с расследованием Федеральной торговой комиссии по поводу законов о защите прав потребителей
Как отмечается в отчете, инструменты генеративного искусственного интеллекта уже приближаются к замене рабочих-людей, и эту технологию также можно использовать для создания и распространения дезинформации.
Действительно, одно из опасений Хинтона заключается в том, что Интернет, данные которого используются для обучения инструментам генеративного искусственного интеллекта, будет затоплен. с ложной информацией, которая может привести к тому, что чат-боты, такие как ChatGPT и Bard, будут выплесывать бесконечную неправду так, как это звучит правдоподобно.
Поскольку компании, стоящие за этой технологией, выпускают свои инструменты на базе искусственного интеллекта для публичного использования, не зная полностью их потенциал, Хинтон опасается, что «трудно представить, как можно помешать злоумышленникам использовать его во вред». вещи."
Хинтон сказал, что регулировать технологию будет сложно, поскольку компании и правительства могут работать над технологией в значительной степени в секрет, добавив, что один из способов решения этой проблемы — попытаться заставить ведущих ученых работать вместе над способами контроля над технологии.
В понедельник эксперт по искусственному интеллекту сообщил в твиттере, что решил покинуть Google, чтобы «поговорить об опасностях искусственного интеллекта». без учета того, как это повлияет на Google», предполагая, что мы услышим от него гораздо больше, поскольку технология продолжает развиваться. развивать.
Выразив еще большую обеспокоенность в прошлом месяце, когда его спросили интервью CBS О вероятности того, что ИИ «уничтожит человечество», Хинтон сказал: «Это не является чем-то невероятным».
После новостей об уходе Хинтона Джефф Дин, главный научный сотрудник Google, заявил в своем заявлении: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».
Хинтон — не единственный эксперт, выражающий обеспокоенность по поводу новой волны технологий искусственного интеллекта, которая покорила мир.
Возможно, это удивительно, но руководитель OpenAI Сэм Альтман недавно признался в быть «немного напуганным» потенциальных эффектов технологии искусственного интеллекта.
И в марте письмо подписано технологическими лидерами и учеными заявил, что эта технология представляет «серьезные риски для общества и человечества».
В письме, опубликованном Институтом будущего жизни, среди подписантов которого был Илон Маск, содержится призыв к шестимесячному сроку. приостановить работу по разработке, чтобы дать время для создания и внедрения протоколов безопасности для передовых инструменты.
В нем добавлено, что при правильном подходе человечество сможет «наслаждаться процветающим будущим с ИИ».
Рекомендации редакции
- Ведущие авторы требуют от компаний, занимающихся искусственным интеллектом, оплату за использование их работ
- Wix использует ChatGPT, чтобы помочь вам быстро создать целый веб-сайт.
- Google Bard теперь может говорить, но сможет ли он заглушить ChatGPT?
- Новая компания Илона Маска, занимающаяся искусственным интеллектом, стремится «понять вселенную»
- Трафик сайта ChatGPT впервые упал
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, содержательным редакционным статьям и уникальным кратким обзорам.
