Tehnični voditelji pozivajo k premoru pri razvoju za GPT-4.5, GPT-5

Generativni AI se v zadnjih mesecih premika z neverjetno hitrostjo, z lansiranjem različnih orodij in botov, kot je npr. OpenAI's ChatGPT, Google Bard, in več. Vendar ta hiter razvoj povzroča resno zaskrbljenost med izkušenimi veterani na področju umetne inteligence – tako tako da jih je več kot 1000 podpisalo odprto pismo, v katerem poziva razvijalce umetne inteligence, naj udarijo po zavore.

Pismo je bilo objavljeno na spletni strani Zavod Prihodnost življenja, organizacija, katere navedeno poslanstvo je "usmerjanje transformativne tehnologije v korist življenja in proč od ekstremno velikih tveganj." Med podpisniki so številni ugledni akademiki in voditelji v tehnologiji, vključno s soustanoviteljem Appla Stevom Wozniakom, izvršnim direktorjem Twitterja Elonom Muskom in politikom Andrewom Yang.

Članek poziva vsa podjetja, ki delajo na modelih AI, ki so močnejši od nedavno izdan GPT-4 nemudoma prekiniti delo za najmanj šest mesecev. Ta moratorij bi moral biti „javen in preverljiv“ ter bi omogočil čas za „skupen razvoj in izvajanje sklopa skupnih varnostni protokoli za napredno načrtovanje in razvoj AI, ki so strogo revidirani in nadzorovani s strani neodvisnih zunanjih strokovnjaki."

Pismo pravi, da je to potrebno, ker "lahko sistemi umetne inteligence s človekovo konkurenčno inteligenco predstavljajo velika tveganja za družbo in človeštvo." Tisti tveganja vključujejo širjenje propagande, uničenje delovnih mest, morebitno zamenjavo in zastarelost človeškega življenja ter »izgubo nadzora«. naše civilizacije." Avtorji dodajajo, da odločitev o tem, ali nadaljevati v to prihodnost, ne bi smela biti prepuščena »neizvoljenim tehnološkim voditelji."

Umetna inteligenca "v jasno korist vseh"

Pismo je prišlo takoj po trditvah, da GPT-5, naslednja različica tehnologije, ki poganja ChatGPT, bi lahko dosegli umetno splošno inteligenco. Če je pravilno, to pomeni, da bi lahko razumel in se naučil vse, kar človek lahko razume. To bi ga lahko naredilo neverjetno močnega na načine, ki še niso v celoti raziskani.

Še več, pismo trdi, da se odgovorno načrtovanje in upravljanje v zvezi z razvojem sistemov umetne inteligence ne dogaja, "čeprav je v zadnjih mesecih prišlo do umetne inteligence laboratoriji ujeti v tekmi izpod nadzora za razvoj in uvajanje vedno močnejših digitalnih umov, ki jih nihče – niti njihovi ustvarjalci – ne more razumeti, predvideti ali zanesljivo nadzor."

Namesto tega pismo zatrjuje, da je treba ustvariti nove sisteme upravljanja, ki bodo urejali razvoj umetne inteligence, ljudem pomagali razlikovati od umetne inteligence in vsebino, ki jo je ustvaril človek, prevzame odgovornost laboratorijev AI, kot je OpenAI, za kakršno koli škodo, ki jo povzročijo, omogoči družbi, da se spopade z motnjami AI (zlasti demokracije), in več.

Avtorji končajo pozitivno in trdijo, da »lahko človeštvo uživa v cvetoči prihodnosti z AI... v kateri žanjemo nagrade, načrtovati te sisteme v jasno korist vseh in dati družbi priložnost, da se prilagodi.« Pritisnite premor na močnejših sistemih AI kot GPT-4 bi dovolili, da se to zgodi, navajajo.

Ali bo pismo imelo želeni učinek? To je težko reči. Jasno je, da obstajajo spodbude za OpenAI, da nadaljuje z delom na naprednih modelih, tako finančne kot ugledne. Toda s toliko potencialnimi tveganji - in z zelo malo razumevanja le-teh - avtorji pisma očitno menijo, da so te spodbude prenevarne, da bi jim sledili.

Priporočila urednikov

• Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
• Obisk spletnega mesta ChatGPT je prvič upadel
• 81 % meni, da ChatGPT predstavlja varnostno tveganje, ugotavlja raziskava
• Naučil sem ChatGPT, da me nauči družabnih iger, in zdaj se ne bom nikoli več vrnil
• Odvetniki iz New Yorka so bili kaznovani zaradi uporabe ponarejenih primerov ChatGPT v pravnih navodilih

Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.