Nvidia har precis annonserat en ny superdator som kan komma att förändra framtiden för AI. DGX GH200, utrustad med nästan 500 gånger mer minne än de system vi är bekanta med nu, kommer snart att falla i händerna på Google, Meta och Microsoft.
Målet? Revolutionerande generativ AI, rekommendatorsystem och databehandling i en skala som vi aldrig sett förut. Är språkmodeller som GPT kommer att gynnas, och vad kommer det att betyda för vanliga användare?
Rekommenderade videor
Att beskriva Nvidias DGX GH200 kräver användning av termer som de flesta användare aldrig behöver hantera. "Exaflop", till exempel, eftersom superdatorn ger 1 exaflop prestanda och 144 terabyte delat minne. Nvidia noterar att detta innebär nästan 500 gånger mer minne än i ett enda Nvidia DGX A100-system.
Relaterad
- ChatGPT-tillverkaren OpenAI står inför FTC-utredning över konsumentskyddslagar
- ChatGPTs webbplatstrafik har minskat för första gången
- Apples ChatGPT-konkurrent kan automatiskt skriva kod åt dig
Låt oss cirkla tillbaka till figuren 1 exaflop och bryta ner den lite. En exaflop är lika med en kvintiljon flyttalsoperationer per sekund (FLOPs). Som jämförelse, Nvidias
Datorn drivs av Nvidias GH200 Grace Hopper superchips. Det finns totalt 256 av dem, som, tack vare Nvidias NVLink-interconnect-teknik, alla kan arbeta tillsammans som ett enhetligt system, vilket i huvudsak skapar en massiv GPU.
GH200-superchippen som används här behöver inte heller en traditionell PCIe-anslutning mellan CPU och GPU. Nvidia säger att de redan är utrustade med en ARM-baserad Nvidia Grace CP, U samt en H100 Tensor Core GPU. Nvidia har några snygga chip-interconnects på gång här också, den här gången med NVLink-C2C. Som ett resultat, bandbredden mellan processorn och grafikkort sägs vara avsevärt förbättrad (upp till 7 gånger) och mer strömsnål (upp till 5 gånger).
Att packa över 200 av dessa chips i ett enda kraftpaket i en superdator är imponerande nog, men det blir ännu bättre när man betänker att tidigare bara åtta GPU: er kunde kopplas ihop med NVLink på en tid. Ett språng från åtta till 256 marker ger säkert Nvidia några skryträtter.
Det är svårt att inte föreställa sig att DGX GH200 kan förbättra förbättringar i Bard, ChatGPT och Bing Chat.
Nu, var kommer DGX GH200 att hamna och vad kan den erbjuda världen? Nvidia bygger sin egen Helios Supercomputer som ett sätt att avancera sin AI-forskning och utveckling. Det kommer att omfatta fyra DGX GH200-system, alla sammankopplade med Nvidias Quantum-2 InfiniBand. Den förväntar sig att den ska komma online i slutet av året.
Nvidia delar också sin nya utveckling med världen, som börjar med Google Cloud, Meta och Microsoft. Syftet är ungefär detsamma – att utforska generativa AI-arbetsbelastningar.
När det gäller Google och Microsoft är det svårt att inte föreställa sig att DGX GH200 skulle kunna förbättra förbättringar i Bard, ChatGPT, och Bing Chat.
Den betydande beräkningskraften som tillhandahålls av ett enda DGX GH200-system gör det väl lämpat för att avancera utbildningen av sofistikerade språkmodeller. Det är svårt att säga exakt vad det skulle kunna innebära utan kommentarer från någon av de intresserade, men vi kan spekulera lite.
Mer kraft innebär större modeller, vilket betyder mer nyanserad och korrekt text och ett bredare utbud av data att träna på. Vi kanske ser bättre kulturell förståelse, mer kunskap om sammanhang och större samstämmighet. Specialiserade AI-chatbotar kan också börja dyka upp och ersätta människor ytterligare inom områden som teknik.
Bör vi vara oroliga för potentiella arbetsförflyttningar, eller ska vi vara glada över de framsteg som dessa superdatorer kan ge? Svaret är inte okomplicerat. En sak är säker - Nvidias DGX GH200 kan skaka om saker i AI-världen, och Nvidia har precis utökade sin AI-ledning över AMD ännu en gång.
Redaktörens rekommendationer
- Google Bard kan nu tala, men kan det överrösta ChatGPT?
- ChatGPTs rekordtillväxt avsattes precis av en ny viral app
- 81 % tycker att ChatGPT är en säkerhetsrisk, visar undersökningen
- Denna webbläsare integrerar ChatGPT på ett fascinerande nytt sätt
- GPT-4: hur man använder AI-chatboten som gör ChatGPT på skam
Uppgradera din livsstilDigitala trender hjälper läsarna att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
