Generativni AI kreće se nevjerojatnom brzinom posljednjih mjeseci, s lansiranjem raznih alata i robota kao što su OpenAI-jev ChatGPT, Google Bard, i više. Ipak, ovaj brzi razvoj izaziva ozbiljnu zabrinutost među iskusnim veteranima u području umjetne inteligencije - dakle više od 1000 njih potpisalo je otvoreno pismo pozivajući programere umjetne inteligencije da oštro udare na kočnice.
Pismo je objavljeno na stranicama Udruge Institut budućnosti života, organizacija čija je deklarirana misija "usmjeravanje transformativne tehnologije prema dobrobiti života i dalje od ekstremnih rizika velikih razmjera." Među potpisnici su nekoliko istaknutih akademika i lidera u tehnologiji, uključujući suosnivača Applea Stevea Wozniaka, izvršnog direktora Twittera Elona Muska i političara Andrewa Yang.
Preporučeni videozapisi
Članak poziva sve tvrtke koje rade na AI modelima koji su moćniji od nedavno objavljen GPT-4 odmah prekinuti rad na najmanje šest mjeseci. Ovaj bi moratorij trebao biti "javan i provjerljiv" i omogućio bi vrijeme za "zajednički razvoj i provedbu skupa zajedničkih sigurnosni protokoli za napredni dizajn i razvoj umjetne inteligencije koji su rigorozno revidirani i nadzirani od strane nezavisnih vanjskih stručnjaci.”
Povezano
- Proizvođač ChatGPT-a OpenAI suočava se s istragom FTC-a zbog zakona o zaštiti potrošača
- ChatGPT-ova Bing značajka pregledavanja onemogućena je zbog greške u pristupu sustavu plaćanja
- Appleov rival ChatGPT može automatski napisati kod za vas
U pismu se kaže da je to neophodno jer "AI sustavi s ljudskom konkurentskom inteligencijom mogu predstavljati duboke rizike za društvo i čovječanstvo." Oni rizici uključuju širenje propagande, uništavanje radnih mjesta, potencijalnu zamjenu i zastarjelost ljudskog života i „gubitak kontrole naše civilizacije.” Autori dodaju da odluka o tome hoće li se krenuti naprijed u ovu budućnost ne bi trebala biti prepuštena "neizabranim tehničarima vođe.”
AI 'za jasnu dobrobit svih'
Pismo dolazi odmah nakon što su iznesene tvrdnje da GPT-5, sljedeća verzija tehnologije koja pokreće ChatGPT, mogao postići umjetnu opću inteligenciju. Ako je točno, to znači da bi moglo razumjeti i naučiti sve što čovjek može shvatiti. To bi ga moglo učiniti nevjerojatno moćnim na načine koji još nisu u potpunosti istraženi.
Štoviše, u pismu se tvrdi da se odgovorno planiranje i upravljanje oko razvoja sustava umjetne inteligencije ne događa, "iako je posljednjih mjeseci AI laboratoriji zaključani u utrci izvan kontrole za razvoj i implementaciju sve moćnijih digitalnih umova koje nitko - čak ni njihovi kreatori - ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati."
Umjesto toga, pismo tvrdi da se moraju stvoriti novi sustavi upravljanja koji će regulirati razvoj umjetne inteligencije, pomoći ljudima da razlikuju stvorenu umjetnom inteligencijom i sadržaj koji su stvorili ljudi, smatra laboratorije umjetne inteligencije kao što je OpenAI odgovornima za svaku štetu koju prouzrokuju, omogućuje društvu da se nosi s poremećajem umjetne inteligencije (osobito demokracije), i više.
Autori završavaju pozitivno, tvrdeći da "čovječanstvo može uživati u cvjetajućoj budućnosti s umjetnom inteligencijom... u kojoj žanjemo nagrade, projektirati ove sustave za jasnu dobrobit svih i dati društvu priliku da se prilagodi.” Pritisnite pauzu na snažnijim AI sustavima od GPT-4 bi dopustio da se to dogodi, navode.
Hoće li pismo imati željeni učinak? To je teško reći. Jasno je da postoje poticaji za OpenAI da nastavi raditi na naprednim modelima, kako financijski tako i reputacijski. Ali s toliko potencijalnih rizika - i s vrlo malo razumijevanja istih - autori pisma očito smatraju da su ti poticaji preopasni da bi ih slijedili.
Preporuke urednika
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
- Promet web stranice ChatGPT pao je po prvi put
- 81% misli da je ChatGPT sigurnosni rizik, pokazalo je istraživanje
- Naučio sam ChatGPT da me nauči društvenim igrama i sada se više nikada neću vratiti
- Njujorški odvjetnici kažnjeni zbog korištenja lažnih ChatGPT slučajeva u pravnom sažetku
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
