Ako pojedinci koji su na samom čelu tehnologije umjetne inteligencije komentiraju potencijalno katastrofalne učinke visoko inteligentnih sustava umjetne inteligencije, onda je vjerojatno mudro sjesti i poduzeti obavijest.
Prije samo nekoliko mjeseci, Geoffrey Hinton, čovjek kojeg se smatra jednim od "kumova" umjetne inteligencije zbog njegovog pionirskog rada na tom polju, rekao je da je brz tempo razvoja tehnologije značilo da to "nije nezamislivo" da bi superinteligentna umjetna inteligencija - koja se smatra superiornom u odnosu na ljudski um - mogla na kraju izbrisati čovječanstvo.
Preporučeni videozapisi
I Sam Altman, izvršni direktor OpenAI-ja, tvrtke koja stoji iza toga virusni chatbot ChatGPT, priznao je da se "pomalo boji" potencijalnih učinaka naprednih AI sustava na društvo.
Povezano
- Proizvođač ChatGPT-a OpenAI suočava se s istragom FTC-a zbog zakona o zaštiti potrošača
- Promet web stranice ChatGPT pao je po prvi put
- Naučio sam ChatGPT da me nauči društvenim igrama i sada se više nikada neću vratiti
Altman je toliko zabrinut da je njegova tvrtka u srijedu objavila da osniva novu jedinicu tzv Superporavnanje koje ima za cilj osigurati da superinteligentna umjetna inteligencija na kraju ne izazove kaos ili nešto daleko gore.
“Superinteligencija će biti najutjecajnija tehnologija koju je čovječanstvo ikada izumilo i mogla bi nam pomoći u rješavanju mnogih najvažnijih svjetskih problema.” rekao je OpenAI u objavi koja predstavlja novu inicijativu. “Ali ogromna moć superinteligencije također može biti vrlo opasna i može dovesti do obespravljivanja čovječanstva ili čak do izumiranja.”
OpenAI je rekao da, iako se čini da je superinteligentni AI daleko od toga, vjeruje da bi se mogao razviti do 2030. I spremno priznaje da u ovom trenutku ne postoji sustav "za upravljanje ili kontrolu potencijalno superinteligentne umjetne inteligencije i sprječavanje da postane skitnica".
Kako bi se nosio sa situacijom, OpenAI želi izgraditi "otprilike automatiziranog istraživača poravnanja na ljudskoj razini" koji bi vršio sigurnosne provjere na superinteligentne umjetne inteligencije, dodajući da će upravljanje ovim rizicima zahtijevati i nove institucije za upravljanje i rješavanje problema superinteligencije. poravnanje.
Da bi Superalignment imao učinak, OpenAI treba okupiti crack tim vrhunskih istraživača i inženjera strojnog učenja.
Čini se da je tvrtka vrlo iskrena u pogledu svog truda, opisujući ga kao "nevjerojatno ambiciozan cilj" dok također priznaje da nije "zajamčeno da će uspjeti". Ali dodaje da je "optimistično da se fokusiranim, zajedničkim naporom to može riješiti problem."
Novi AI alati poput OpenAI-jevog ChatGPT-a i Googleovog Barda, između mnogih drugih, toliko su revolucionarni da su stručnjaci sigurni da se čak i na ovoj razini prije superinteligencije radno mjesto i šire društvo suočavaju s temeljnim promjenama u bliskoj budućnosti termin.
To je razlog zašto se vlade diljem svijeta bore da sustignu, žurno krećući na nametanje propisa industriji umjetne inteligencije koja se brzo razvija u pokušaju da osigura da se tehnologija primjenjuje na siguran i odgovoran način način. Međutim, ako se ne formira jedinstveno tijelo, svaka će država imati vlastita stajališta o tome kako najbolje koristiti tehnologiju, što znači da bi se ti propisi mogli uvelike razlikovati i dovesti do izrazito različitih ishoda. Upravo će ovi različiti pristupi učiniti cilj Superalignmenta još težim za postizanje.
Preporuke urednika
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
- Nova AI tvrtka Elona Muska ima za cilj 'razumjeti svemir'
- OpenAI otkriva lokaciju svoje prve međunarodne ispostave
- Njujorški odvjetnici kažnjeni zbog korištenja lažnih ChatGPT slučajeva u pravnom sažetku
- Ovaj web preglednik integrira ChatGPT na fascinantan nov način
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
