Останніми місяцями генеративний штучний інтелект розвивається з неймовірною швидкістю із запуском різних інструментів і ботів, таких як ChatGPT від OpenAI, Google Bard, і більше. Проте цей швидкий розвиток викликає серйозне занепокоєння серед досвідчених ветеранів у сфері ШІ настільки, що понад 1000 із них підписали відкритий лист із закликом до розробників ШІ критикувати гальма.
Лист опубліковано на сайті Інститут майбутнього життя, організація, проголошена місія якої полягає в тому, щоб «скеровувати трансформаційні технології на благо життя й уникати надзвичайно масштабних ризиків». Серед підписантами є кілька відомих науковців і лідерів у сфері технологій, зокрема співзасновник Apple Стів Возняк, генеральний директор Twitter Ілон Маск і політик Ендрю Ян.
Рекомендовані відео
Стаття закликає всі компанії, які працюють над моделями штучного інтелекту, які є потужнішими нещодавно випущений GPT-4 негайно припинити роботу мінімум на шість місяців. Цей мораторій має бути «публічним і таким, що підлягає перевірці», і дасть час для «спільної розробки та впровадження набору спільних протоколи безпеки для вдосконаленого проектування та розробки ШІ, які ретельно перевіряються та контролюються незалежними зовнішніми експерти».
Пов'язані
- Розробник ChatGPT OpenAI стикається з розслідуванням FTC щодо законів про захист прав споживачів
- Функцію перегляду Bing у ChatGPT вимкнено через помилку платного доступу
- Конкурент Apple ChatGPT може автоматично написати код для вас
У листі йдеться, що це необхідно, оскільки «системи штучного інтелекту з людським конкурентним інтелектом можуть становити серйозні ризики для суспільства та людства». Ті Ризики включають поширення пропаганди, знищення робочих місць, потенційну заміну та моральне старіння людського життя та «втрату контролю». нашої цивілізації». Автори додають, що рішення про те, чи просуватися вперед у це майбутнє, не слід залишати «необраним технікам». лідери».
ШІ «на користь усім»
Лист надійшов одразу після заяв про те, що GPT-5, наступна версія технології ChatGPT, може досягти загального штучного інтелекту. Якщо це правильно, це означає, що він зможе зрозуміти та вивчити все, що може зрозуміти людина. Це може зробити його неймовірно потужним у способах, які ще не повністю вивчені.
Більше того, у листі стверджується, що відповідального планування та управління розробкою систем штучного інтелекту не відбувається, «хоча останні місяці спостерігали ШІ лабораторії, які вийшли з-під контролю за розробкою та розгортанням все більш потужних цифрових розумів, які ніхто — навіть їхні творці — не можуть зрозуміти, передбачити чи надійно КОНТРОЛЬ."
Натомість у листі стверджується, що необхідно створити нові системи управління, які регулюватимуть розвиток штучного інтелекту, допомагатимуть людям відрізняти створений штучним інтелектом і контент, створений людьми, покладає на такі лабораторії ШІ, як OpenAI, відповідальність за будь-яку шкоду, яку вони завдають, дозволяє суспільству впоратися з підривом ШІ (особливо для демократії), і більше.
Автори закінчують на позитивній ноті, стверджуючи, що «людство може насолоджуватися процвітаючим майбутнім зі штучним інтелектом... в якому ми пожинаємо плоди, розробити ці системи на користь усім і дати суспільству можливість адаптуватися». Натискання паузи на потужніших системах AI ніж ГПТ-4 дозволили б цьому статися, заявляють вони.
Чи матиме лист очікуваний ефект? Це важко сказати. Для OpenAI явно є стимули продовжувати працювати над передовими моделями, як фінансові, так і репутаційні. Але з такою кількістю потенційних ризиків — і з дуже слабким їх розумінням — автори листа явно вважають, що ці стимули надто небезпечні, щоб шукати їх.
Рекомендації редакції
- Google Bard тепер може говорити, але чи може він заглушити ChatGPT?
- Трафік веб-сайту ChatGPT впав вперше
- Згідно з опитуванням, 81% вважають, що ChatGPT становить загрозу безпеці
- Я навчив ChatGPT навчити мене настільним іграм, і тепер я ніколи не повернуся
- Юристів Нью-Йорка оштрафовано за використання підроблених справ ChatGPT у юридичній довідці
Оновіть свій спосіб життяDigital Trends допомагає читачам стежити за динамічним світом технологій завдяки всім останнім новинам, цікавим оглядам продуктів, проникливим редакційним статтям і унікальним у своєму роді коротким оглядам.
