Пионерът в областта на изкуствения интелект Джефри Хинтън изненада мнозина в понеделник, когато разкри, че ще напусне работата си в Google, където през последното десетилетие работи по проекти за изкуствен интелект.
Често наричан „кръстникът на AI“ заради революционната си работа, която стои в основата на много от днешните AI системи, роденият във Великобритания Хинтън, сега на 75 години, каза пред New York Times че има сериозни притеснения относно скоростта, с която харесва Open AI с неговия ChatGPT инструмент и Google с Бард, работят за разработването на своите продукти, особено тъй като това може да бъде за сметка на безопасността.
Препоръчани видеоклипове
Хинтън е толкова притеснен, че дори каза, че част от него съжалява за миналите си усилия в областта на ИИ, съобщава Times.
Свързани
- GPT-4: как да използвате AI chatbot, който засрамва ChatGPT
- Най-добрите AI инструменти за редактиране на видео
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
Както се посочва в доклада, генеративните AI инструменти вече се движат към замяна на човешки работници и технологията може да се използва и за създаване и разпространение на дезинформация.
Всъщност едно от притесненията на Хинтън е, че интернет, чиито данни се използват за обучение на генеративни AI инструменти, ще бъде наводнен с невярна информация, която може да накара чатботове като ChatGPT и Bard да бълват безкрайни неистини по начин, който звучи правдоподобно.
Тъй като компаниите, които стоят зад технологията, пускат своите базирани на AI инструменти за обществено ползване, без да ги познават напълно потенциал, Хинтън се страхува, че е „трудно да се види как можете да попречите на лошите актьори да го използват за лошо неща.”
Хинтън каза, че регулирането на технологията ще бъде трудно, тъй като компаниите и правителствата могат да работят върху технологията до голяма степен тайна, добавяйки, че един от начините за справяне с проблема е да се опитаме да накараме водещи учени да работят заедно за начини за контролиране на технология.
Експертът по AI каза в туит в понеделник, че е решил да напусне Google, за да може „да говори за опасностите от AI без да обмисляме как това се отразява на Google“, което предполага, че ще чуваме много повече от него, тъй като технологията продължава да развиват се.
Изразява още по-големи опасения миналия месец, когато го попитаха интервю за CBS относно вероятността ИИ да „унищожи човечеството“, Хинтън каза: „Това не е немислимо“.
След новината за напускането на Хинтън, Джеф Дийн, главен учен на Google, каза в изявление: „Ние оставаме ангажирани с отговорен подход към ИИ. Непрекъснато се учим да разбираме възникващите рискове, като същевременно внедряваме смело иновации.“
Хинтън не е единственият експерт, който изразява загриженост относно новата вълна от AI технология, която завладя света.
Може би изненадващо, шефът на OpenAI, Сам Алтман, наскоро призна да съм „малко уплашен“ за потенциалните ефекти на AI технологията.
И през март, писмо подписан от технически лидери и академици твърди, че технологията представлява „дълбоки рискове за обществото и човечеството“.
Публикувано от Future of Life Institute и чиито подписани лица включваше Илон Мъск, писмото изискваше шест месеца пауза в развойната работа, за да се даде време за създаване и прилагане на протоколи за безопасност за напреднали инструменти.
Добавя се, че ако се третира по правилния начин, човечеството ще може да се „наслади на процъфтяващо бъдеще с ИИ“.
Препоръки на редакторите
- Топ автори изискват заплащане от фирми за изкуствен интелект за използване на работата им
- Wix използва ChatGPT, за да ви помогне бързо да създадете цял уебсайт
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- Новата AI компания на Илон Мъск има за цел да „разбере вселената“
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
