Nvidijino polletno Tehnološka konferenca GPU (GTC) se običajno osredotoča na napredek v AI, letos pa se Nvidia odziva na ogromen porast ChatGPT s seznamom novih grafičnih procesorjev. Glavni med njimi je H100 NVL, ki združuje dva Nvidijina grafična procesorja H100 skupaj za uvajanje velikih jezikovnih modelov (LLM), kot je ChatGPT.
H100 ni nov grafični procesor. Nvidia je to objavila pred enim letom na GTC, s svojo arhitekturo Hopper in obljubo, da bo pospešil sklepanje AI pri različnih nalogah. Novi model NVL s svojim ogromnim 94 GB pomnilnika naj bi najbolje deloval pri uvajanju LLM v velikem obsegu in ponuja do 12-krat hitrejše sklepanje v primerjavi z A100 zadnje generacije.
Ti grafični procesorji so v središču modelov, kot je ChatGPT. Nvidia in Microsoft sta nedavno razkrila, da na tisoče GPU A100 so bili uporabljeni za usposabljanje ChatGPT, ki je projekt, ki je nastajal več kot pet let.
Povezano
- ChatGPT: najnovejše novice, polemike in nasveti, ki jih morate vedeti
- Kaj je DAN poziv za ChatGPT?
- Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
H100 NVL deluje tako, da združuje dva grafična procesorja H100 preko Nvidia visokopasovne povezave NVLink. To je že mogoče s trenutnimi grafičnimi procesorji H100 — pravzaprav lahko prek NVLink skupaj povežete do 256 H100 — vendar je ta namenska enota izdelana za manjše uvedbe.
Priporočeni videoposnetki
To je izdelek, ustvarjen bolj kot karkoli drugega, za podjetja, zato ne pričakujte, da se bo H100 NVL pojavil na polici v vašem lokalnem mikro centru. Vendar pa Nvidia pravi, da lahko poslovne stranke pričakujejo, da ga bodo videle okoli druge polovice leta.
Poleg H100 NVL je Nvidia napovedala tudi L4 GPU, ki je posebej izdelan za napajanje videoposnetkov, ustvarjenih z umetno inteligenco. Nvidia pravi, da je 120-krat močnejši za videoposnetke, ustvarjene z umetno inteligenco, kot CPE in ponuja 99 % boljšo energijsko učinkovitost. Poleg generativnega videoposnetka z umetno inteligenco Nvidia pravi, da ima grafični procesor zmožnosti dekodiranja in prekodiranja videa in ga je mogoče uporabiti za razširjeno resničnost.
Nvidia pravi, da je Google Cloud med prvimi, ki je integriral L4. Google načrtuje, da bo pozneje danes ponudil primerke L4 strankam prek svoje platforme Vertex AI. Nvidia je dejala, da bo grafični procesor kasneje na voljo pri partnerjih, vključno z Lenovo, Dell, Asus, HP, Gigabyte in HP, med drugim.
Priporočila urednikov
- Najboljši avtorji zahtevajo plačilo od podjetij AI za uporabo njihovega dela
- GPT-4: kako uporabljati klepetalni robot AI, ki osramoti ChatGPT
- Wix uporablja ChatGPT, da vam pomaga hitro zgraditi celotno spletno mesto
- Izdelovalec ChatGPT OpenAI se sooča s preiskavo FTC zaradi zakonov o varstvu potrošnikov
- Obisk spletnega mesta ChatGPT je prvič upadel
Nadgradite svoj življenjski slogDigitalni trendi bralcem pomagajo slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
