Generatyvusis dirbtinis intelektas pastaraisiais mėnesiais juda neįtikėtinu greičiu, nes buvo išleisti įvairūs įrankiai ir robotai, pvz. OpenAI ChatGPT, Google Bard, ir dar. Tačiau ši sparti plėtra kelia rimtą susirūpinimą patyrusiems dirbtinio intelekto veteranams – taigi tiek, kad daugiau nei 1 000 iš jų pasirašė atvirą laišką, raginantį dirbtinio intelekto kūrėjus užpulti stabdžiai.
Laiškas buvo paskelbtas VšĮ interneto svetainėje Gyvenimo ateities institutas, organizacija, kurios deklaruojama misija yra „pakeisti transformacines technologijas, kad jos būtų naudingos gyvybei ir išvengtų itin didelio masto rizikos“. Tarp pasirašiusieji yra keli žinomi akademikai ir technologijų lyderiai, įskaitant „Apple“ įkūrėją Steve'ą Wozniaką, „Twitter“ generalinį direktorių Eloną Muską ir politiką Andrew. Yang.
Rekomenduojami vaizdo įrašai
Straipsnyje raginama visas įmones, dirbančias su AI modeliais, kurie yra galingesni už neseniai išleistas GPT-4 nedelsiant nutraukti darbą bent šešiems mėnesiams. Šis moratoriumas turėtų būti „viešas ir patikrinamas“ ir turėtų skirti laiko „bendrai sukurti ir įgyvendinti bendrų saugos protokolai, skirti pažangiam AI projektavimui ir kūrimui, kurie yra griežtai tikrinami ir prižiūrimi nepriklausomos išorės ekspertai“.
Susijęs
- „ChatGPT“ gamintoja „OpenAI“ susiduria su FTC tyrimu dėl vartotojų apsaugos įstatymų
- „ChatGPT“ „Bing“ naršymo funkcija išjungta dėl prieigos prie mokamos sienos trūkumo
- „Apple“ „ChatGPT“ konkurentas gali automatiškai parašyti kodą už jus
Laiške sakoma, kad tai būtina, nes „AI sistemos, turinčios konkurencingą žmogaus intelektą, gali kelti didelį pavojų visuomenei ir žmonijai“. Tie rizika apima propagandos plitimą, darbo vietų naikinimą, galimą žmogaus gyvenimo pakeitimą ir pasenimą ir „kontrolės praradimą“. mūsų civilizacijos“. Autoriai priduria, kad sprendimas, ar tęsti šią ateitį, neturėtų būti paliktas „neatrinktoms technologijoms“. lyderiai“.
AI „aiškiai visų naudai“
Laiškas buvo gautas iškart po to, kai buvo pareikšti teiginiai, kad GPT-5, kita technologijos, maitinančios ChatGPT, versija, galėtų pasiekti dirbtinį bendrą intelektą. Jei tai teisinga, tai reiškia, kad jis galės suprasti ir išmokti viską, ką gali suprasti žmogus. Tai gali padaryti jį neįtikėtinai galingą tais būdais, kurie dar nebuvo iki galo ištirti.
Be to, laiške teigiama, kad atsakingas planavimas ir valdymas, susijęs su AI sistemų kūrimu, nevyksta, „nors pastaraisiais mėnesiais AI pastebimas. laboratorijos, užsidarančios nekontroliuojamose lenktynėse, siekdamos sukurti ir įdiegti vis galingesnius skaitmeninius protus, kurių niekas – net jų kūrėjai – negali suprasti, numatyti ar patikimai kontrolė."
Vietoj to laiške teigiama, kad turi būti sukurtos naujos valdymo sistemos, kurios reguliuotų dirbtinio intelekto vystymąsi, padėtų žmonėms atskirti dirbtinio intelekto sukurtus ir žmonių sukurtas turinys, AI laboratorijos, pvz., OpenAI, atsakingos už bet kokią jų daromą žalą, įgalinkite visuomenę susidoroti su AI trikdymu (ypač demokratijai), ir dar.
Autoriai baigia teigiama nata, teigdami, kad „žmonija gali džiaugtis klestinčia ateitimi, naudodama dirbtinį intelektą... kurioje mes gauname atlygį, sukurti šias sistemas, kad jos būtų akivaizdžios visiems, ir suteikti visuomenei galimybę prisitaikyti. Pauzės paspaudimas AI sistemose yra galingesnės nei GPT-4 leistų tai įvykti, teigia jie.
Ar laiškas turės numatytą poveikį? Tai sunku pasakyti. Akivaizdu, kad OpenAI skatina toliau dirbti su pažangiais finansiniais ir reputacijos modeliais. Tačiau turėdami tiek daug galimų pavojų – ir labai mažai jų supratę – laiško autoriai aiškiai mano, kad tos paskatos yra pernelyg pavojingos.
Redaktorių rekomendacijos
- „Google Bard“ dabar gali kalbėti, bet ar gali užgožti „ChatGPT“?
- ChatGPT svetainės srautas sumažėjo pirmą kartą
- 81% mano, kad „ChatGPT“ kelia pavojų saugumui, rodo apklausa
- Išmokiau „ChatGPT“, kad išmokytų mane stalo žaidimų, ir dabar niekada negrįšiu
- Niujorko teisininkai nubausti bauda už netikrų „ChatGPT“ bylų naudojimą teisinėje trumpoje padėtyje
Atnaujinkite savo gyvenimo būdąSkaitmeninės tendencijos padeda skaitytojams stebėti sparčiai besivystantį technologijų pasaulį – pateikiamos visos naujausios naujienos, smagios produktų apžvalgos, įžvalgūs vedamieji leidiniai ir unikalūs žvilgsniai.
