Dacă indivizii care se află în fruntea tehnologiei inteligenței artificiale comentează despre efectele potențial catastrofale ale sistemelor AI foarte inteligente, atunci probabil că este înțelept să vă ridicați și să luați înștiințare.
Cu doar câteva luni în urmă, Geoffrey Hinton, un bărbat considerat unul dintre „nașii” AI pentru munca sa de pionierat în domeniu, a spus că ritmul rapid de dezvoltare al tehnologiei însemna că „nu este de neconceput” acea IA suprainteligentă – considerată ca fiind superioară minții umane – ar putea sfârși prin a șterge umanitatea.
Videoclipuri recomandate
Și Sam Altman, CEO al OpenAI, compania din spate chatbot-ul viral ChatGPT, a recunoscut că este „puțin speriat” de potențialele efecte ale sistemelor AI avansate asupra societății.
Legate de
- Creatorul de ChatGPT OpenAI se confruntă cu o anchetă FTC cu privire la legile privind protecția consumatorilor
- Traficul site-ului ChatGPT a scăzut pentru prima dată
- Am învățat ChatGPT să mă învețe jocuri de societate și acum nu mă voi întoarce niciodată
Altman este atât de îngrijorat încât miercuri compania sa a anunțat că va înființa o nouă unitate numită Superalinierea menită să se asigure că inteligența artificială superinteligentă nu sfârșește prin a provoca haos sau ceva de departe mai rau.
„Superintelligence va fi cea mai de impact tehnologie pe care omenirea a inventat-o vreodată și ne-ar putea ajuta să rezolvăm multe dintre cele mai importante probleme ale lumii.” a spus OpenAI într-o postare de prezentare a noii inițiative. „Dar puterea imensă a superinteligenței ar putea fi, de asemenea, foarte periculoasă și ar putea duce la dezactivarea umanității sau chiar la dispariția umană.”
OpenAI a spus că, deși AI superinteligentă poate părea că este o cale departe, crede că ar putea fi dezvoltată până în 2030. Și admite cu ușurință că în prezent, nu există niciun sistem „pentru a conduce sau controla o IA potențial superinteligentă și pentru a preveni să devină necinstiți”.
Pentru a face față situației, OpenAI dorește să construiască un „cercetător de aliniere automată aproximativ la nivel uman” care să efectueze verificări de siguranță pe un IA superinteligentă, adăugând că gestionarea acestor riscuri va necesita, de asemenea, noi instituții pentru guvernare și rezolvarea problemei superinteligenței aliniere.
Pentru ca Superalignment să aibă un efect, OpenAI trebuie să adune o echipă excelentă de cercetători și ingineri de top în învățarea automată.
Compania pare foarte sinceră cu privire la efortul său, descriindu-l ca un „obiectiv incredibil de ambițios”, recunoscând totodată că „Nu este garantat să reușești”. Dar adaugă că este „optimist că un efort concentrat și concertat poate rezolva acest lucru problemă."
Noile instrumente AI, cum ar fi ChatGPT de la OpenAI și Bard de la Google, printre multe altele, sunt atât de revoluționare încât experții sunt siguri că, chiar și la acest nivel pre-superintelligence, locul de muncă și societatea în general se confruntă cu schimbări fundamentale în apropiere termen.
Acesta este motivul pentru care guvernele din întreaga lume se străduiesc să se împotrivească, trecând în grabă să impună reglementări asupra industria AI în dezvoltare rapidă, în încercarea de a se asigura că tehnologia este implementată într-un mod sigur și responsabil manieră. Cu toate acestea, cu excepția cazului în care se formează un singur organism, fiecare țară va avea propriile sale puncte de vedere cu privire la cel mai bun mod de a utiliza tehnologia, ceea ce înseamnă că acele reglementări ar putea varia foarte mult și pot duce la rezultate semnificativ diferite. Și aceste abordări diferite vor face ca obiectivul Superalignment să fie cu atât mai greu de atins.
Recomandările editorilor
- Google Bard poate vorbi acum, dar poate îneca ChatGPT?
- Noua companie de inteligență artificială a lui Elon Musk își propune să „înțeleagă universul”
- OpenAI dezvăluie locația primului său avanpost internațional
- Avocații din New York amendați pentru că au folosit cazuri false ChatGPT în termeni juridici
- Acest browser web integrează ChatGPT într-un mod nou și fascinant
Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.
