AI generativă s-a mișcat cu o viteză incredibilă în ultimele luni, odată cu lansarea diferitelor instrumente și roboți, cum ar fi ChatGPT de la OpenAI, Google Bard, și altele. Cu toate acestea, această dezvoltare rapidă provoacă îngrijorare serioasă în rândul veteranilor experimentați în domeniul AI - așadar atât de mult încât peste 1.000 dintre ei au semnat o scrisoare deschisă prin care le solicită dezvoltatorilor AI să răspundă frane.
Scrisoarea a fost publicată pe site-ul web al Institutul Viitorul Vieții, o organizație a cărei misiune declarată este „direcționarea tehnologiei transformatoare spre beneficii vieții și departe de riscuri extreme la scară largă”. Printre semnatarii sunt câțiva academicieni și lideri proeminenți în domeniul tehnologiei, inclusiv co-fondatorul Apple Steve Wozniak, CEO-ul Twitter Elon Musk și politicianul Andrew Yang.
Videoclipuri recomandate
Articolul solicită tuturor companiilor care lucrează la modele AI care sunt mai puternice decât GPT-4 lansat recent
pentru a opri imediat munca timp de cel puțin șase luni. Acest moratoriu ar trebui să fie „public și verificabil” și ar permite timp pentru „dezvoltarea și implementarea în comun a unui set comun de protocoale de siguranță pentru proiectarea și dezvoltarea avansată a IA, care sunt auditate riguros și supravegheate de exterior independent experți.”Legate de
- Creatorul de ChatGPT OpenAI se confruntă cu o anchetă FTC cu privire la legile privind protecția consumatorilor
- Funcția de navigare Bing de la ChatGPT a fost dezactivată din cauza unui defect de acces la paywall
- Rivalul ChatGPT al Apple poate scrie automat cod pentru tine
Scrisoarea spune că acest lucru este necesar deoarece „sistemele AI cu inteligență competitivă umană pot prezenta riscuri profunde pentru societate și umanitate”. Acestea riscurile includ răspândirea propagandei, distrugerea locurilor de muncă, potențiala înlocuire și învechire a vieții umane și „pierderea controlului”. a civilizației noastre.” Autorii adaugă că decizia de a continua în acest viitor nu ar trebui lăsată în seama „tehnologiilor nealese”. lideri.”
AI „în beneficiul clar al tuturor”
Scrisoarea vine imediat după ce s-au făcut afirmații că GPT-5, următoarea versiune a tehnologiei care alimentează ChatGPT, ar putea atinge inteligența generală artificială. Dacă este corect, înseamnă că ar fi capabil să înțeleagă și să învețe orice poate înțelege un om. Acest lucru l-ar putea face incredibil de puternic în moduri care nu au fost încă explorate pe deplin.
Mai mult decât atât, scrisoarea susține că planificarea și managementul responsabil în jurul dezvoltării sistemelor AI nu are loc, „deși în ultimele luni s-a văzut AI. laboratoare blocate într-o cursă scăpată de sub control pentru a dezvolta și implementa minți digitale din ce în ce mai puternice pe care nimeni – nici măcar creatorii lor – nu le poate înțelege, prezice sau în mod fiabil Control."
În schimb, scrisoarea afirmă că trebuie create noi sisteme de guvernare care să reglementeze dezvoltarea AI, să îi ajute pe oameni să distingă cele create de AI și conținut creat de oameni, responsabilizează laboratoarele de AI precum OpenAI pentru orice prejudiciu pe care îl provoacă, permit societății să facă față perturbărilor AI (în special democrației); și altele.
Autorii se încheie pe o notă pozitivă, susținând că „omenirea se poate bucura de un viitor înfloritor cu AI... în care culegem roadele, proiectează aceste sisteme în beneficiul clar al tuturor și oferă societății șansa de a se adapta.” Atingeți pauză pe sistemele AI mai puternice decât GPT-4 ar permite ca acest lucru să se întâmple, spun ei.
Va avea scrisoarea efectul dorit? Asta e greu de spus. Există în mod clar stimulente pentru ca OpenAI să continue să lucreze la modele avansate, atât financiare, cât și reputaționale. Dar cu atât de multe riscuri potențiale - și cu o înțelegere foarte mică a acestora - autorii scrisorii simt clar că aceste stimulente sunt prea periculoase pentru a fi urmărite.
Recomandările editorilor
- Google Bard poate vorbi acum, dar poate îneca ChatGPT?
- Traficul site-ului ChatGPT a scăzut pentru prima dată
- 81% cred că ChatGPT este un risc de securitate, arată sondajul
- Am învățat ChatGPT să mă învețe jocuri de societate și acum nu mă voi întoarce niciodată
- Avocații din New York amendați pentru că au folosit cazuri false ChatGPT în termeni juridici
Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.
