Ja personas, kuras ir mākslīgā intelekta tehnoloģiju priekšgalā, komentē par ļoti inteliģentu AI sistēmu potenciāli katastrofālas sekas, tad droši vien ir prātīgi piecelties un paņemt paziņojums.
Tikai pirms pāris mēnešiem Džefrijs Hintons, cilvēks, kurš tika uzskatīts par vienu no mākslīgā intelekta “krusttēviem” par savu novatorisko darbu šajā jomā, sacīja, ka tehnoloģijas straujais attīstības temps. nozīmēja, ka tas nebija "neiedomājami" ka superinteliģentais AI, kas tiek uzskatīts par pārāku par cilvēka prātu, var beigties ar cilvēces iznīcināšanu.
Ieteiktie videoklipi
Un Sam Altman, uzņēmuma OpenAI izpilddirektors vīrusu ChatGPT tērzēšanas robots, bija atzinis, ka ir “nedaudz nobijies” par progresīvu AI sistēmu iespējamo ietekmi uz sabiedrību.
Saistīts
- ChatGPT veidotājs OpenAI saskaras ar FTC izmeklēšanu par patērētāju aizsardzības likumiem
- ChatGPT vietnes trafika ir samazinājusies pirmo reizi
- Es iemācīju ChatGPT mācīt man galda spēles, un tagad es vairs neatgriezīšos
Altmans ir tik noraizējies, ka trešdien viņa uzņēmums paziņoja, ka izveido jaunu vienību ar nosaukumu Superlīdzināšana, kuras mērķis ir nodrošināt, lai superinteliģentais AI neizraisītu haosu vai kaut ko tālu sliktāk.
"Superinteliģence būs visietekmīgākā tehnoloģija, ko cilvēce jebkad ir izgudrojusi, un tā varētu mums palīdzēt atrisināt daudzas no pasaules svarīgākajām problēmām." OpenAI teica ierakstā, kurā iepazīstina ar jauno iniciatīvu. "Bet milzīgais superinteliģences spēks var būt arī ļoti bīstams un var izraisīt cilvēces spēku zaudēšanu vai pat cilvēku izzušanu."
OpenAI teica, ka, lai gan var šķist, ka superinteliģentais AI tas ir ceļš, tas uzskata, ka to varētu izstrādāt līdz 2030. Un tā viegli atzīst, ka pašlaik nepastāv neviena sistēma, kas "varētu vadīt vai kontrolēt potenciāli superinteliģentu AI un neļautu tam kļūt par negodīgu".
Lai risinātu šo situāciju, OpenAI vēlas izveidot "aptuveni cilvēka līmeņa automatizētu saskaņošanas pētnieku", kas veiktu drošības pārbaudes superinteliģentais AI, piebilstot, ka šo risku pārvaldībai būs nepieciešamas arī jaunas institūcijas pārvaldībai un superinteliģences problēmas risināšanai izlīdzināšana.
Lai Superalignment radītu efektu, OpenAI ir jāapvieno izcilu mašīnmācības pētnieku un inženieru komanda.
Uzņēmums šķiet ļoti atklāts par saviem centieniem, raksturojot to kā "neticami ambiciozu mērķi", vienlaikus atzīstot, ka tas nav "garantēts, ka veiksies". Taču tas piebilst, ka ir "optimistiski, ka mērķtiecīgi, saskaņoti centieni var atrisināt šo problēmu problēma.”
Jaunie AI rīki, piemēram, OpenAI ChatGPT un Google Bard, cita starpā, ir tik revolucionāri, ka eksperti ir pārliecināti. ka pat šajā pirmssuperinteliģences līmenī darbavieta un plašāka sabiedrība tuvākajā laikā saskaras ar fundamentālām izmaiņām jēdziens.
Šī iemesla dēļ valdības visā pasaulē cīnās, lai panāktu panākumus, un steidzīgi virzās uz noteikumu ieviešanu strauji augošā AI nozare, cenšoties nodrošināt, ka tehnoloģija tiek izmantota drošā un atbildīgā veidā veidā. Tomēr, ja netiks izveidota viena struktūra, katrai valstij būs savs viedoklis par to, kā vislabāk izmantot tehnoloģiju, kas nozīmē, ka šie noteikumi var ievērojami atšķirties un novest pie ievērojami atšķirīgiem rezultātiem. Un tieši šīs dažādās pieejas padarīs Superalignment mērķa sasniegšanu vēl grūtāku.
Redaktoru ieteikumi
- Google Bard tagad var runāt, bet vai tas var noslāpēt ChatGPT?
- Elona Muska jaunā AI uzņēmuma mērķis ir "saprast Visumu"
- OpenAI atklāj sava pirmā starptautiskā priekšposteņa atrašanās vietu
- Ņujorkas juristi sodīti par viltotu ChatGPT lietu izmantošanu juridiskajā īsumā
- Šī tīmekļa pārlūkprogramma integrē ChatGPT aizraujošā jaunā veidā
Uzlabojiet savu dzīvesveiduDigitālās tendences palīdz lasītājiem sekot līdzi straujajai tehnoloģiju pasaulei, izmantojot visas jaunākās ziņas, jautrus produktu apskatus, ieskatu saturošus rakstus un unikālus ieskatus.
