Microsoft förklarar hur tusentals Nvidia GPU: er byggde ChatGPT

ChatGPT ökat till viral berömmelse under de senaste sex månaderna, men det kom inte från ingenstans. Enligt a blogginlägg publicerat av Microsoft i måndags nådde OpenAI, företaget bakom ChatGPT, ut till Microsoft för att bygga AI-infrastruktur på tusentals Nvidia GPU: er för mer än fem år sedan.

OpenAI och Microsofts partnerskap har fångat mycket rampljuset nyligen, särskilt efter att Microsoft gjort en investering på 10 miljarder dollar i forskargruppen som ligger bakom verktyg som ChatGPT och DALL-E 2. Partnerskapet startade dock för länge sedan, enligt Microsoft. Sedan dess, Det rapporterar Bloomberg att Microsoft har spenderat "flera hundra miljoner dollar" på att utveckla infrastrukturen för att stödja ChatGPT och projekt som Bing Chat.

Hopper H100 grafikkort.

Mycket av dessa pengar gick till Nvidia, som nu ligger i framkant av datorhårdvara som krävs för att träna AI-modeller. Istället för spel-GPU: er som du hittar på en lista över bästa grafikkort, Microsoft gick efter Nvidias företagsklassade GPU: er som A100 och H100.

Relaterad

  • ChatGPT: de senaste nyheterna, kontroverserna och tipsen du behöver veta
  • Vad är en DAN-prompt för ChatGPT?
  • Google Bard kan nu tala, men kan det överrösta ChatGPT?

Det är inte bara så enkelt som att få grafikkort tillsammans och träna en språkmodell dock. Som Nidhi Chappell, Microsofts produktchef för Azure, förklarar: "Det här är inte något som du bara köper en hel massa GPU: er, kopplar ihop dem och de kommer att börja arbeta tillsammans. Det finns mycket optimering på systemnivå för att få bästa prestanda, och det kommer med mycket erfarenhet under många generationer.”

Rekommenderade videor

Med infrastrukturen på plats öppnar Microsoft nu upp sin hårdvara för andra. Företaget meddelade den Måndag i ett separat blogginlägg att det skulle erbjuda Nvidia H100-system "on-demand i storlekar från åtta till tusentals Nvidia H100 GPU: er", levererade via Microsofts Azure-nätverk.

Populariteten av ChatGPT har skjutit i höjden Nvidia, som har investerat i AI genom hårdvara och mjukvara i flera år. AMD, Nvidias främsta konkurrent inom spelgrafikkort, har försökt ta sig fram i rymden med acceleratorer som Instinct MI300.

Enligt Greg Brockman, president och medgrundare av OpenAI, hade träning av ChatGPT inte varit möjlig utan hästkrafterna från Microsoft: "Att samdesigna superdatorer med Azure har varit avgörande för att skala våra krävande AI-utbildningsbehov, för att få vår forskning och anpassning att fungera på system som ChatGPT möjlig."

Nvidia förväntas avslöja mer om framtida AI-produkter under GPU Technology Conference (GTC). med keynote-presentationen drar igång saker och ting den 21 mars. Microsoft utökar sin AI-färdkarta senare i veckan, med en presentation fokuserad på framtiden för AI på arbetsplatsen planerad till den 16 mars.

Redaktörens rekommendationer

  • Toppförfattare kräver betalning från AI-företag för att de använder deras arbete
  • GPT-4: hur man använder AI-chatboten som gör ChatGPT på skam
  • Wix använder ChatGPT för att hjälpa dig att snabbt bygga en hel webbplats
  • ChatGPT-tillverkaren OpenAI står inför FTC-utredning över konsumentskyddslagar
  • ChatGPTs webbplatstrafik har minskat för första gången

Uppgradera din livsstilDigitala trender hjälper läsarna att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.