Microsoft objašnjava kako su tisuće Nvidia GPU-a izgradile ChatGPT

ChatGPT postao je viralna slava u proteklih šest mjeseci, ali nije došao niotkuda. Prema a post na blogu koji je objavio Microsoft u ponedjeljak, OpenAI, tvrtka koja stoji iza ChatGPT-a, obratila se Microsoftu za izgradnju AI infrastrukture na tisućama Nvidia GPU-a prije više od pet godina.

Partnerstvo OpenAI-a i Microsofta nedavno je privuklo pozornost, posebno nakon što je Microsoft uložio 10 milijardi dolara u istraživačku grupu koja stoji iza alata kao što su ChatGPT i DALL-E 2. Međutim, prema Microsoftu, partnerstvo je počelo davno. Od tad, Izvještava Bloomberg da je Microsoft potrošio "nekoliko stotina milijuna dolara" u razvoj infrastrukture za podršku ChatGPT-u i sličnim projektima Bing Chat.

Hopper H100 grafička kartica.

Velik dio tog novca otišao je Nvidiji, koja je sada na čelu računalnog hardvera potrebnog za treniranje AI modela. Umjesto grafičkih procesora za igre kakve biste mogli pronaći na popisu najbolje grafičke kartice, Microsoft je krenuo nakon Nvidijinih GPU-ova poslovne razine poput A100 i H100.

Povezano

  • ChatGPT: najnovije vijesti, kontroverze i savjeti koje trebate znati
  • Što je DAN upit za ChatGPT?
  • Google Bard sada može govoriti, ali može li ugušiti ChatGPT?

Nije jednostavno kao dobiti grafičke kartice zajedno i obučavanje jezičnog modela. Kao što Nidhi Chappell, Microsoftov voditelj proizvoda za Azure, objašnjava: “Ovo nije nešto da samo kupite hrpu GPU-ova, spojite ih zajedno i oni će početi raditi zajedno. Postoji mnogo optimizacija na razini sustava kako bi se postigla najbolja izvedba, a to dolazi s mnogo iskustva tijekom mnogih generacija.”

Preporučeni videozapisi

Uz uspostavljenu infrastrukturu, Microsoft sada otvara svoj hardver drugima. Tvrtka je objavila dana Ponedjeljak u zasebnoj objavi na blogu da će nuditi Nvidia H100 sustave "na zahtjev u veličinama u rasponu od osam do tisuća Nvidia H100 GPU-a", isporučenih putem Microsoftove Azure mreže.

Popularnost od ChatGPT je bacio Nvidiju u nebo, koja je nekoliko godina ulagala u AI kroz hardver i softver. AMD, Nvidijin glavni konkurent u grafičkim karticama za igre, pokušava napredovati u svemiru s akceleratorima poput Instinct MI300.

Prema Gregu Brockmanu, predsjedniku i suosnivaču OpenAI-ja, obuka ChatGPT-a ne bi bila moguća bez konjskih snaga koje pruža Microsoft: „Zajednički dizajn superračunala s Azureom bio je ključan za skaliranje naših zahtjevnih potreba za obukom AI-a, zbog čega naše istraživanje i usklađivanje rade na sustavima kao što je ChatGPT moguće.”

Očekuje se da će Nvidia otkriti više o budućim AI proizvodima tijekom GPU tehnološke konferencije (GTC). s glavnom prezentacijom započinje 21. ožujka. Microsoft proširuje svoju mapu puta za AI kasnije ovog tjedna, s prezentacijom usmjerenom na budućnost AI na radnom mjestu koja je zakazana za 16. ožujka.

Preporuke urednika

  • Vrhunski autori traže plaćanje od AI tvrtki za korištenje njihovog rada
  • GPT-4: kako koristiti AI chatbot koji posramljuje ChatGPT
  • Wix koristi ChatGPT kako bi vam pomogao da brzo napravite cijelu web stranicu
  • Proizvođač ChatGPT-a OpenAI suočava se s istragom FTC-a zbog zakona o zaštiti potrošača
  • Promet web stranice ChatGPT pao je po prvi put

Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.