Supercomputerul Nvidia poate aduce o nouă eră a ChatGPT

CEO-ul Nvidia arată computerul Grace Hopper al companiei.
Nvidia

Nvidia tocmai a anunțat un nou supercomputer care ar putea schimba viitorul AI. DGX GH200, echipat cu aproape 500 de ori mai multă memorie decât sistemele cu care suntem familiarizați acum, va cădea în curând în mâinile Google, Meta și Microsoft.

Obiectivul? Revoluţionare IA generativă, sisteme de recomandare și procesare a datelor la o scară pe care nu am mai văzut-o până acum. Sunt modele de limbaj ca GPT va beneficia și ce va însemna asta pentru utilizatorii obișnuiți?

Videoclipuri recomandate

Descrierea DGX GH200 de la Nvidia necesită utilizarea unor termeni cu care majoritatea utilizatorilor nu trebuie să se confrunte niciodată. „Exaflop”, de exemplu, deoarece supercomputerul oferă 1 exaflop de performanță și 144 terabytes de memorie partajată. Nvidia observă că aceasta înseamnă de aproape 500 de ori mai multă memorie decât într-un singur sistem Nvidia DGX A100.

Legate de

  • Creatorul de ChatGPT OpenAI se confruntă cu o anchetă FTC cu privire la legile privind protecția consumatorilor
  • Traficul site-ului ChatGPT a scăzut pentru prima dată
  • Rivalul ChatGPT al Apple poate scrie automat cod pentru tine

Să ne întoarcem la cifra 1 exaflop și să o descompunem puțin. Un exaflop este egal cu un quintilion de operații în virgulă mobilă pe secundă (FLOP). Pentru comparație, Nvidia RTX 4090 poate atinge aproximativ 100 de teraflopi (TFLOP) atunci când este overclockat. Un TFLOP este egal cu un trilion de operații în virgulă mobilă pe secundă. Diferența este uluitoare, dar, desigur, RTX 4090 nu este un GPU pentru centru de date. DGX GH200, pe de altă parte, integrează un număr substanțial de aceste GPU-uri de înaltă performanță care nu aparțin nicăieri în apropierea unui PC de consum.

Supercipul Grace Hopper de la Nvidia.
Nvidia

Computerul este alimentat de supercipurile Nvidia GH200 Grace Hopper. Există 256 dintre ele în total, care, datorită tehnologiei de interconectare NVLink de la Nvidia, sunt toate capabile să lucreze împreună ca un sistem unificat, creând în esență un singur GPU masiv.

De asemenea, supercipurile GH200 folosite aici nu au nevoie de o conexiune PCIe tradițională între CPU și GPU. Nvidia spune că sunt deja echipate cu un Nvidia Grace CP, U bazat pe ARM, precum și un GPU H100 Tensor Core. Nvidia are niște interconexiuni de cip de lux și aici, de data aceasta folosind NVLink-C2C. Ca rezultat, lățimea de bandă dintre procesor și placă grafică se spune că este îmbunătățit semnificativ (de până la 7 ori) și mai eficient din punct de vedere energetic (de până la 5 ori).

Împachetarea a peste 200 dintre aceste cipuri într-o singură centrală a unui supercomputer este destul de impresionantă, dar devine și mai bine dacă luați în considerare că, anterior, doar opt GPU-uri puteau fi conectate cu NVLink la un timp. Un salt de la opt la 256 de cipuri oferă cu siguranță Nvidiei niște drepturi de laudă.

Este greu de imaginat că DGX GH200 ar putea îmbunătăți îmbunătățirile în Bard, ChatGPT și Bing Chat.

Acum, unde va ajunge DGX GH200 și ce poate oferi lumii? Nvidia își construiește propriul supercomputer Helios ca mijloc de a-și avansa cercetarea și dezvoltarea AI. Acesta va cuprinde patru sisteme DGX GH200, toate interconectate cu Quantum-2 InfiniBand de la Nvidia. Se așteaptă să vină online până la sfârșitul anului.

Nvidia împărtășește, de asemenea, noua sa dezvoltare cu lumea, începând cu Google Cloud, Meta și Microsoft. Scopul este aproape același – explorarea sarcinilor de lucru AI generative.

Când vine vorba de Google și Microsoft, este greu să nu ne imaginăm că DGX GH200 ar putea îmbunătăți îmbunătățiri în Bard, ChatGPT, și Bing Chat.

CEO-ul Nvidia arată computerul Hopper al companiei.
Nvidia

Puterea de calcul semnificativă oferită de un singur sistem DGX GH200 îl face bine potrivit pentru a avansa în pregătirea modelelor de limbaj sofisticate. Este greu de spus ce ar putea însemna exact asta fără un comentariu din partea uneia dintre părțile interesate, dar putem specula puțin.

Mai multă putere înseamnă modele mai mari, ceea ce înseamnă text mai nuanțat și mai precis și o gamă mai largă de date pentru a fi instruiți. S-ar putea să vedem o mai bună înțelegere culturală, mai multă cunoaștere a contextului și o mai mare coerență. Chatbot-uri specializati AI ar putea începe, de asemenea, să apară, înlocuind în continuare oamenii în domenii precum tehnologia.

Ar trebui să fim îngrijorați de potențiala înlocuire a locurilor de muncă sau ar trebui să fim entuziasmați de progresele pe care le-ar putea aduce aceste supercomputere? Răspunsul nu este simplu. Un lucru este sigur - DGX GH200 de la Nvidia ar putea zgudui lucrurile în lumea AI, iar Nvidia tocmai a și-a promovat din nou avantajul AI față de AMD.

Recomandările editorilor

  • Google Bard poate vorbi acum, dar poate îneca ChatGPT?
  • Creșterea record a ChatGPT tocmai a fost detronată de o nouă aplicație virală
  • 81% cred că ChatGPT este un risc de securitate, arată sondajul
  • Acest browser web integrează ChatGPT într-un mod nou și fascinant
  • GPT-4: cum să folosești chatbot-ul AI care face ChatGPT de rușine

Îmbunătățește-ți stilul de viațăDigital Trends îi ajută pe cititori să țină cont de lumea rapidă a tehnologiei cu toate cele mai recente știri, recenzii distractive despre produse, editoriale perspicace și anticipări unice.