Tehnikas vadītāji aicina apturēt GPT-4.5, GPT-5 izstrādes pauzi

Ģeneratīvais AI pēdējos mēnešos ir pārvietojies neticamā ātrumā, izlaižot dažādus rīkus un botus, piemēram, OpenAI ChatGPT, Google Bard, un vēl. Tomēr šī straujā attīstība rada nopietnas bažas pieredzējušiem veterāniem AI jomā - tā vairāk nekā 1000 no viņiem ir parakstījuši atklātu vēstuli, aicinot mākslīgā intelekta izstrādātājus apšaubīt bremzes.

Vēstule tika publicēta tīmekļa vietnē Dzīves nākotnes institūts, organizācija, kuras izvirzītā misija ir "virzīt pārveidojošu tehnoloģiju, lai gūtu labumu dzīvībai un izvairītos no ārkārtīgi liela mēroga riskiem." Starp parakstītāji ir vairāki ievērojami akadēmiķi un tehnoloģiju līderi, tostarp Apple līdzdibinātājs Stīvs Vozņaks, Twitter izpilddirektors Elons Masks un politiķis Endrjū. Yang.

Raksts aicina visus uzņēmumus, kas strādā pie AI modeļiem, kas ir jaudīgāki par nesen izlaista GPT-4 nekavējoties pārtraukt darbu vismaz uz sešiem mēnešiem. Šim moratorijam vajadzētu būt “publiskam un pārbaudāmam”, un tas dotu laiku, lai “kopīgi izstrādātu un īstenotu kopīgu drošības protokoli uzlabotai mākslīgā intelekta izstrādei un izstrādei, kurus stingri pārbauda un uzrauga neatkarīga ārēja puse eksperti."

Vēstulē teikts, ka tas ir nepieciešams, jo "AI sistēmas ar cilvēku konkurētspējīgu intelektu var radīt nopietnus riskus sabiedrībai un cilvēcei." Tie riski ietver propagandas izplatīšanos, darba vietu iznīcināšanu, iespējamo cilvēka dzīves aizstāšanu un novecošanu un “kontroles zaudēšanu mūsu civilizācijas. Autori piebilst, ka lēmumu par to, vai virzīties uz priekšu šajā nākotnē nevajadzētu atstāt "neizvēlētu tehnoloģiju ziņā". līderi.”

AI "nepārprotami visu labā"

Vēstule nāk tieši pēc tam, kad tika izteikti apgalvojumi, ka GPT-5, nākamā ChatGPT darbināmās tehnoloģijas versija, varētu sasniegt mākslīgo vispārējo intelektu. Ja tas ir pareizi, tas nozīmē, ka tas spēs saprast un iemācīties visu, ko cilvēks var saprast. Tas varētu padarīt to neticami spēcīgu veidos, kas vēl nav pilnībā izpētīti.

Turklāt vēstulē ir apgalvots, ka atbildīga plānošana un pārvaldība saistībā ar AI sistēmu izstrādi nenotiek, “lai gan pēdējos mēnešos AI ir novērots. laboratorijas ir iesaistītas nekontrolējamā sacensībā, lai izstrādātu un ieviestu arvien jaudīgākus digitālos prātus, ko neviens — pat ne to veidotāji — nevar saprast, paredzēt vai uzticami kontrole.”

Tā vietā vēstulē tiek apgalvots, ka ir jāizveido jaunas pārvaldības sistēmas, kas regulēs AI attīstību, palīdzēs cilvēkiem atšķirt AI radītās un cilvēku radīts saturs, AI laboratorijas, piemēram, OpenAI, ir atbildīgas par jebkādu kaitējumu, ko tās rada, ļauj sabiedrībai tikt galā ar mākslīgā intelekta traucējumiem (jo īpaši attiecībā uz demokrātiju), un vēl.

Autori beidzas ar pozitīvu noti, apgalvojot, ka "cilvēce var baudīt plaukstošu nākotni ar AI, kurā mēs gūstam labumu, izstrādāt šīs sistēmas, lai sniegtu skaidru labumu visiem, un dot sabiedrībai iespēju pielāgoties. Pauzes ieslēgšana AI sistēmām ir jaudīgāka nekā GPT-4 ļautu tam notikt, viņi norāda.

Vai vēstulei būs paredzētais efekts? To ir grūti pateikt. Ir skaidrs, ka OpenAI ir stimuls turpināt darbu pie progresīviem modeļiem gan finansiāli, gan reputācijas jomā. Taču, ņemot vērā tik daudz iespējamo risku un tos ļoti maz saprotot, vēstules autori skaidri uzskata, ka šie stimuli ir pārāk bīstami, lai tos īstenotu.

Redaktoru ieteikumi

• Google Bard tagad var runāt, bet vai tas var noslāpēt ChatGPT?
• ChatGPT vietnes trafika ir samazinājusies pirmo reizi
• 81% uzskata, ka ChatGPT ir drošības risks, liecina aptauja
• Es iemācīju ChatGPT mācīt man galda spēles, un tagad es vairs neatgriezīšos
• Ņujorkas juristi sodīti par viltotu ChatGPT lietu izmantošanu juridiskajā īsumā

Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi straujajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.