Superpočítač od Nvidie môže priniesť novú éru ChatGPT

Generálny riaditeľ spoločnosti Nvidia predvádza počítač Grace Hopper spoločnosti.
Nvidia

Nvidia práve oznámila nový superpočítač, ktorý môže zmeniť budúcnosť AI. DGX GH200, vybavený takmer 500-krát väčšou pamäťou ako systémy, ktoré poznáme teraz, čoskoro padne do rúk spoločností Google, Meta a Microsoft.

Cieľ? Revolučný generatívna AI, systémy odporúčaní a spracovanie údajov v takom rozsahu, aký sme nikdy predtým nevideli. Sú jazykové modely ako GPT bude mať úžitok a čo to bude znamenať pre bežných používateľov?

Odporúčané videá

Opis DGX GH200 od Nvidie si vyžaduje použitie výrazov, s ktorými sa väčšina používateľov nikdy nemusí vysporiadať. Napríklad „Exaflop“, pretože superpočítač poskytuje výkon 1 exaflop a 144 terabajtov zdieľanej pamäte. Nvidia poznamenáva, že to znamená takmer 500-krát viac pamäte ako v jedinom systéme Nvidia DGX A100.

Súvisiace

  • Výrobca ChatGPT OpenAI čelí vyšetrovaniu FTC v súvislosti so zákonmi na ochranu spotrebiteľa
  • Návštevnosť webu ChatGPT prvýkrát klesla
  • Konkurent spoločnosti Apple ChatGPT môže automaticky napísať kód za vás

Vráťme sa späť k číslu 1 exaflop a trochu ho rozoberme. Jeden exaflop sa rovná kvintiliónu operácií s pohyblivou rádovou čiarkou za sekundu (FLOP). Pre porovnanie od Nvidie

RTX 4090 môže dosiahnuť približne 100 teraflopov (TFLOP) pri pretaktovaní. TFLOP sa rovná jednému biliónu operácií s pohyblivou rádovou čiarkou za sekundu. Rozdiel je ohromujúci, ale samozrejme RTX 4090 nie je GPU dátového centra. Na druhej strane, DGX GH200 integruje značné množstvo týchto vysokovýkonných GPU, ktoré nepatria nikam blízko spotrebiteľského PC.

Superčip Grace Hopper od Nvidie.
Nvidia

Počítač poháňajú superčipy Nvidia GH200 Grace Hopper. Celkovo je ich 256, ktoré sú vďaka prepojovacej technológii Nvidia NVLink všetky schopné spolupracovať ako jednotný systém, ktorý v podstate vytvára jeden masívny GPU.

Tu použité superčipy GH200 tiež nepotrebujú tradičné pripojenie PCIe medzi CPU a GPU. Nvidia hovorí, že sú už vybavené Nvidia Grace CP, U a H100 Tensor Core GPU na báze ARM. Nvidia má aj tu nejaké skvelé prepojenia čipov, tentoraz pomocou NVLink-C2C. Výsledkom je, že šírka pásma medzi procesorom a grafická karta je údajne výrazne vylepšený (až 7-krát) a energeticky efektívnejší (až 5-krát).

Zabaliť viac ako 200 týchto čipov do jedného superpočítača je dostatočne pôsobivé, ale je ešte lepšie, keď si uvedomíte, že predtým bolo možné k NVLink pripojiť iba osem GPU naraz čas. Skok z ôsmich na 256 čipov určite dáva Nvidii nejaké chvályhodné právo.

Je ťažké si predstaviť, že DGX GH200 by mohol priniesť vylepšenia v Bard, ChatGPT a Bing Chat.

Teraz, kde skončí DGX GH200 a čo môže ponúknuť svetu? Nvidia buduje svoj vlastný superpočítač Helios ako prostriedok na napredovanie svojho výskumu a vývoja AI. Bude zahŕňať štyri systémy DGX GH200, všetky prepojené s Quantum-2 InfiniBand od Nvidie. Očakáva sa, že bude online do konca roka.

Nvidia tiež zdieľa svoj nový vývoj so svetom, počnúc službami Google Cloud, Meta a Microsoft. Účel je takmer rovnaký – skúmanie generatívneho pracovného zaťaženia AI.

Keď príde reč na Google a Microsoft, je ťažké si predstaviť, že DGX GH200 by mohol priniesť vylepšenia v Bard, ChatGPT, a Bing Chat.

Generálny riaditeľ spoločnosti Nvidia ukazuje počítač spoločnosti Hopper.
Nvidia

Vďaka významnému výpočtovému výkonu, ktorý poskytuje jediný systém DGX GH200, je veľmi vhodný na pokročilý tréning sofistikovaných jazykových modelov. Je ťažké povedať, čo presne by to mohlo znamenať bez komentára jednej zo zainteresovaných strán, ale môžeme trochu špekulovať.

Viac výkonu znamená väčšie modely, čo znamená jemnejší a presnejší text a širší rozsah údajov, na ktorých sa môžu trénovať. Mohli by sme vidieť lepšie kultúrne porozumenie, viac vedomostí o kontexte a väčšiu koherenciu. Mohli by sa tiež začať objavovať špecializované chatboty AI, ktoré by ďalej nahrádzali ľudí v oblastiach, ako sú technológie.

Mali by sme sa obávať možného presunu pracovných miest alebo by sme sa mali tešiť z pokroku, ktorý by tieto superpočítače mohli priniesť? Odpoveď nie je jednoduchá. Jedna vec je istá – Nvidia DGX GH200 môže otriasť vecami vo svete AI a Nvidia práve opäť posilnil svoj náskok v oblasti AI pred AMD.

Odporúčania redaktorov

  • Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
  • Rekordný rast ChatGPT práve zosadila z trónu nová vírusová aplikácia
  • 81 % si myslí, že ChatGPT je bezpečnostné riziko, zistil prieskum
  • Tento webový prehliadač integruje ChatGPT fascinujúcim novým spôsobom
  • GPT-4: ako používať chatbota AI, ktorý robí ChatGPT hanbou

Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.