Numiți-o ipoteza Skynet, Inteligența generală artificială sau apariția Singularității - de ani de zile, experții AI și neexperții deopotrivă s-au îngrijorat (și, pentru un grup mic, au sărbătorit) ideea că inteligența artificială poate deveni într-o zi mai inteligentă decât oamenii.
Conform teoriei, progresele în inteligența artificială - în special de tipul de învățare automată care este capabil să accepte noi informații și rescrie codul în consecință - va ajunge în cele din urmă cu wetware-ul biologic creier. În această interpretare a evenimentelor, fiecare AI avansează din Primejdie-câștigând mașini IBM la model masiv de limbaj AI GPT-3 duce umanitatea cu un pas mai aproape de o amenințare existențială. Ne construim literalmente succesori care vor fi în curând conștienți.
Videoclipuri recomandate
Doar că nu se va întâmpla niciodată. Cel puțin, conform autorilor noii cărți De ce mașinile nu vor conduce niciodată lumea: Inteligența artificială fără frică.
Co-autori Profesor de filozofie la Universitatea din Buffalo
Barry Smith și Jobst Landgrebe, fondatorul companiei germane de inteligență artificială Cognotekt susține că inteligența umană nu va fi depășită de „un dictator nemuritor” în curând – sau niciodată. Au spus Tendințe digitale motivele lor pentru care.
Digital Trends (DT): Cum a ajuns acest subiect pe radar?
Jobst Landgrebe (JL): Sunt medic și biochimist de pregătire. Când mi-am început cariera, am făcut experimente care au generat multe date. Am început să studiez matematica pentru a putea interpreta aceste date și am văzut cât de greu este să modelez sisteme biologice folosind matematica. A existat întotdeauna această nepotrivire între metodele matematice și datele biologice.
La jumătatea anilor de 30 de ani, am părăsit mediul academic și am devenit consultant de afaceri și antreprenor care lucrează în sisteme software de inteligență artificială. Încercam să construiesc sisteme AI care să imite ceea ce pot face ființele umane. Mi-am dat seama că mă confrunt cu aceeași problemă pe care am avut-o cu ani în urmă în biologie.
Clienții mi-au spus: „De ce nu construiești chatbot-uri?” Am spus, „pentru că nu vor funcționa; nu putem modela în mod corespunzător acest tip de sistem.” Asta m-a determinat în cele din urmă să scriu această carte.
Profesorul Barry Smith (BS): Mi s-a părut o problemă foarte interesantă. Aveam deja bănuieli de probleme similare cu AI, dar nu m-am gândit niciodată la ele. Inițial, am scris o lucrare numită „Refacerea inteligenței artificiale a sensului.’ (Aceasta a fost în epoca Trump.) Era vorba despre motivul pentru care rețelele neuronale eșuează pentru modelarea limbajului. Apoi am decis să extindem lucrarea într-o carte care să exploreze acest subiect mai profund.
DT: Cartea ta exprimă scepticismul cu privire la modul în care rețelele neuronale, care sunt cruciale pentru învățarea profundă modernă, emulează creierul uman. Sunt aproximări, mai degrabă decât modele precise ale modului în care funcționează creierul biologic. Dar acceptați premisa de bază că este posibil ca, dacă am înțelege creierul în granule? suficient detaliu, ar putea fi replicat artificial – și că acest lucru ar da naștere inteligenței sau sensibilitate?
JL: Denumirea „rețea neuronală” este complet greșită. Rețelele neuronale pe care le avem acum, chiar și cele mai sofisticate, nu au nimic de-a face cu modul în care funcționează creierul. Părerea conform căreia creierul este un set de noduri interconectate în modul în care sunt construite rețelele neuronale este complet naivă.
Dacă te uiți la cea mai primitivă celulă bacteriană, încă nu înțelegem nici măcar cum funcționează. Înțelegem unele dintre aspectele sale, dar nu avem un model al modului în care funcționează – cu atât mai puțin un neuron, care este mult mai complicat, sau miliarde de neuroni interconectați. Eu cred că este științific imposibil pentru a înțelege cum funcționează creierul. Nu putem decât să înțelegem anumite aspecte și să ne ocupăm de aceste aspecte. Nu avem și nu vom obține o înțelegere completă a modului în care funcționează creierul.
Dacă am avea o înțelegere perfectă a modului în care funcționează fiecare moleculă a creierului, atunci probabil am putea-o replica. Asta ar însemna să punem totul în ecuații matematice. Apoi ai putea replica acest lucru folosind un computer. Problema este doar că nu putem scrie și crea acele ecuații.
BS: Multe dintre cele mai interesante lucruri din lume se întâmplă la niveluri de granularitate pe care nu le putem aborda. Pur și simplu nu avem echipamentul de imagistică și probabil că nu vom avea niciodată echipamentul de imagistică pentru a surprinde cea mai mare parte a ceea ce se întâmplă la nivelurile foarte fine ale creierului.
Aceasta înseamnă că nu știm, de exemplu, ce este responsabil pentru conștiință. Există, de fapt, o serie de probleme filozofice destul de interesante, care, conform metodei pe care o urmăm, vor fi întotdeauna de nerezolvat - și de aceea ar trebui pur și simplu să le ignorăm.
Un altul este libertatea voinței. Suntem foarte puternic în favoarea ideii că ființele umane au voință; putem avea intenții, scopuri și așa mai departe. Dar nu știm dacă este sau nu un liber arbitru. Aceasta este o problemă care are legătură cu fizica creierului. În ceea ce privește dovezile disponibile pentru noi, computerele nu pot avea testament.
DT: Subtitlul cărții este „inteligență artificială fără frică”. Care este frica specifică la care te referi?
BS: Asta a fost provocat de literatura despre singularitate, cu care știu că ești familiar. Nick Bostrom, David Chalmers, Elon Musk și altele asemenea. Când am vorbit cu colegii noștri din lumea reală, ne-a devenit clar că există într-adevăr un o anumită teamă în rândul populației că AI va prelua în cele din urmă și va schimba lumea în detrimentul acesteia oameni.
Avem destul de multe în carte despre argumentele de tip Bostrum. Argumentul de bază împotriva lor este că, dacă mașina nu poate avea o voință, atunci nu poate avea nici o voință rea. Fără voință rea, nu este nimic de care să te temi. Acum, desigur, încă ne putem teme de mașini, la fel cum ne putem teme de arme.
Dar asta pentru că mașinile sunt conduse de oameni cu scopuri malefice. Dar atunci nu AI este cel rău; oamenii sunt cei care construiesc și programează AI
DT: De ce îi interesează atât de mult pe oameni această noțiune de singularitate sau inteligență generală artificială? Fie că sunt speriați de asta sau fascinați de ea, există ceva în această idee care rezonează cu oamenii la un nivel larg.
JL: Există această idee, începută la începutul secolului al XIX-lea și apoi declarată de Nietzsche la sfârșitul acelui secol, că Dumnezeu este mort. Deoarece elitele societății noastre nu mai sunt creștine, aveau nevoie de un înlocuitor. Max Stirner, care a fost, ca și Karl Marx, un elev al lui Hegel, a scris o carte despre asta, spunând: „Sunt propriul meu zeu”.
Dacă ești Dumnezeu, vrei și tu să fii un creator. Dacă ai putea crea o superinteligență, atunci ești ca Dumnezeu. Cred că are de-a face cu tendințele hiper-narcisiste din cultura noastră. Nu vorbim despre asta în carte, dar asta îmi explică de ce această idee este atât de atractivă în vremurile noastre în care nu mai există o entitate transcendentă la care să apelăm.
DT: Interesant. Deci, pentru a continua asta, este ideea că crearea AI - sau scopul de a crea AI - este un act narcisist. În acest caz, conceptul că aceste creații ar deveni cumva mai puternice decât suntem noi este o întorsătură de coșmar. Este copilul care ucide părintele.
JL: Cam așa, da.
DT: Care ar fi pentru tine rezultatul final al cărții tale dacă toată lumea ar fi convinsă de argumentele tale? Ce ar însemna asta pentru viitorul dezvoltării AI?
JL: Este o întrebare foarte bună. Vă pot spune exact ce cred că s-ar întâmpla – și se va întâmpla. Cred că la mijlocul termenului oamenii vor accepta argumentele noastre, iar acest lucru va crea o matematică mai bine aplicată.
Ceva de care toți marii matematicieni și fizicieni sunt complet conștienți a fost limitările a ceea ce puteau realiza matematic. Pentru că sunt conștienți de acest lucru, se concentrează doar pe anumite probleme. Dacă ești conștient de limitări, atunci mergi prin lume și cauți aceste probleme și le rezolvi. Așa a găsit Einstein ecuațiile pentru mișcarea browniană; cum a venit cu teoriile sale ale relativității; modul în care Planck a rezolvat radiația corpului negru și a inițiat astfel teoria cuantică a materiei. Aveau un bun instinct pentru care problemele sunt susceptibile de soluții cu matematica și care nu.
Dacă oamenii învață mesajul cărții noastre, ei vor putea, credem noi, să creeze sisteme mai bune, deoarece ei se va concentra pe ceea ce este cu adevărat fezabil – și nu mai irosește bani și efort pentru ceva ce nu poate fi realizat.
BS: Cred că o parte din mesaj este deja transmisă, nu din cauza a ceea ce spunem, ci din cauza experiențele pe care le au oamenii atunci când oferă sume mari de bani proiectelor AI, iar apoi proiectele AI eșuează. Presupun că știi despre Centrul Comun de Inteligență Artificială. Nu-mi amintesc suma exactă, dar cred că a fost ceva de genul 10 miliarde de dolari, pe care i-au dat unui antreprenor celebru. Până la urmă, nu au scos nimic din asta. Au anulat contractul.
(Nota editorului: JAIC, o subdiviziune a Forțelor Armate ale Statelor Unite, a fost menită să accelereze „livrarea și adoptarea AI pentru a obține impactul misiunii la scară." A fost integrată într-o organizație unificată mai mare, Chief Digital and Artificial Intelligence Officer, cu alte două birouri în iunie anul acesta. JAIC a încetat să mai existe ca entitate proprie.)
DT: Care crezi că, la nivel înalt, este argumentul cel mai convingător pe care îl faci în carte?
BS: Fiecare sistem AI este de natură matematică. Deoarece nu putem modela matematic conștiința, voința sau inteligența, acestea nu pot fi emulate folosind mașini. Prin urmare, mașinile nu vor deveni inteligente, darămite superinteligente.
JL: Structura creierului nostru permite doar modele limitate ale naturii. În fizică, alegem un subset al realității care se potrivește cu capacitățile noastre de modelare matematică. Așa și-au obținut faimoasele și frumoasele modele Newton, Maxwell, Einstein sau Schrödinger. Dar acestea pot descrie sau prezice doar un set mic de sisteme. Cele mai bune modele ale noastre sunt cele pe care le folosim pentru a proiecta tehnologia. Nu putem crea un model matematic complet al naturii animate.
Acest interviu a fost editat pentru lungime și claritate.
Recomandările editorilor
- Autorii de top cer plăți de la firmele de inteligență artificială pentru utilizarea lucrărilor lor
- Bing Chat luptă împotriva interdicțiilor AI la locul de muncă
- Google Bard poate vorbi acum, dar poate îneca ChatGPT?
- Noua companie de inteligență artificială a lui Elon Musk își propune să „înțeleagă universul”
- Creșterea record a ChatGPT tocmai a fost detronată de o nouă aplicație virală
