Generative AI се движи с невероятна скорост през последните месеци, с пускането на различни инструменти и ботове като ChatGPT на OpenAI, Google Bard, и още. И все пак това бързо развитие предизвиква сериозна загриженост сред опитните ветерани в областта на ИИ - така дотолкова, че над 1000 от тях са подписали отворено писмо, призоваващо разработчиците на изкуствен интелект да нападнат спирачки.
Писмото е публикувано на сайта на Институт за бъдещето на живота, организация, чиято обявена мисия е „насочване на трансформативната технология към ползи за живота и далеч от екстремни мащабни рискове“. Сред подписалите са няколко видни академици и лидери в технологиите, включително съоснователят на Apple Стив Возняк, главният изпълнителен директор на Twitter Илон Мъск и политикът Андрю Янг.
Препоръчани видеоклипове
Статията призовава всички компании, работещи върху AI модели, които са по-мощни от наскоро пуснат GPT-4 незабавно да спре работа най-малко за шест месеца. Този мораториум трябва да бъде „публичен и проверим“ и ще даде време за „съвместно разработване и прилагане на набор от споделени протоколи за безопасност за усъвършенстван AI дизайн и разработка, които са строго одитирани и наблюдавани от независими външни лица експерти.”
Свързани
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
- Функцията за сърфиране в Bing на ChatGPT е деактивирана поради грешка в достъпа до платена стена
- Съперникът на Apple ChatGPT може автоматично да напише код вместо вас
В писмото се казва, че това е необходимо, защото „системите с изкуствен интелект с човешки конкурентен интелект могат да представляват дълбоки рискове за обществото и човечеството“. Тези рисковете включват разпространението на пропаганда, унищожаването на работни места, потенциалната подмяна и остаряването на човешкия живот и „загубата на контрол на нашата цивилизация." Авторите добавят, че решението дали да продължим напред в това бъдеще не трябва да бъде оставено на „неизбраните технологии лидери.”
AI „за ясната полза на всички“
Писмото идва точно след твърденията, че GPT-5, следващата версия на технологията, захранваща ChatGPT, може да постигне изкуствен общ интелект. Ако е правилно, това означава, че ще може да разбере и научи всичко, което човек може да разбере. Това може да го направи невероятно мощен по начини, които все още не са напълно проучени.
Нещо повече, в писмото се твърди, че отговорното планиране и управление около разработването на AI системи не се случва, „въпреки че последните месеци видяхме AI лаборатории, заключени в извънконтролна надпревара за разработване и внедряване на все по-мощни цифрови умове, които никой - дори техните създатели - не може да разбере, предвиди или надеждно контрол."
Вместо това писмото твърди, че трябва да бъдат създадени нови системи за управление, които ще регулират развитието на ИИ, ще помогнат на хората да разграничат създадените от ИИ и създадено от хора съдържание, държат AI лаборатории като OpenAI отговорни за всяка вреда, която причиняват, позволяват на обществото да се справи с прекъсването на AI (особено за демокрацията), и още.
Авторите завършват с положителна нотка, като твърдят, че „човечеството може да се радва на процъфтяващо бъдеще с ИИ... в което ние берем наградите, проектирайте тези системи за ясната полза за всички и дайте на обществото шанс да се адаптира.“ Натискане на пауза на по-мощни AI системи отколкото GPT-4 биха позволили това да се случи, заявяват те.
Ще има ли писмото желания ефект? Това е трудно да се каже. Съществуват очевидни стимули OpenAI да продължи да работи върху напреднали модели, както финансови, така и репутационни. Но с толкова много потенциални рискове - и с много малко разбиране за тях - авторите на писмото ясно смятат, че тези стимули са твърде опасни, за да се преследват.
Препоръки на редакторите
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
- 81% смятат, че ChatGPT е риск за сигурността, установи проучване
- Научих ChatGPT да ме научи на настолни игри и сега никога няма да се върна
- Адвокатите от Ню Йорк са глобени за използване на фалшиви случаи на ChatGPT в съдебна справка
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
