Etter mye spekulasjoner annonserte Nvidia endelig sin kraftige superdatamaskin CPU kalt Nvidia Grace årlig GPU-teknologikonferanse. Oppkalt etter en kjent amerikansk informatiker og pioner innen dataprogrammering Grace Hopper, Nvidias første datasenterprosessor er basert på arkitektur fra ARM. Selskapet hevdet i en pressesesjon i forkant av GTC at Nvidia Grace er i stand til å levere "10x ytelsen til dagens raskeste servere på den mest komplekse A.I. og høyytelses databehandling arbeidsbelastning.»
Dette er Nvidias første partnerskap med ARM siden kunngjorde det 40 milliarder dollar oppkjøp av selskapet i 2020.
Anbefalte videoer
I motsetning til Apples ARM-baserte M1-prosessor, Nvidia Grace vil ikke bli ledet til en datamaskin nær deg. I stedet er den designet for å brukes på forskjellige applikasjoner som naturlig språkbehandling, anbefalingssystemer og A.I. supercomputing, sa Nvidias ledere. Nvidia Grace er adoptert av både Swiss National Supercomputing Center (CSCS) og United States Department of Energy Los Alamos National Laboratory for å hjelpe til med å drive og drive vitenskapelig forskning.
I slekt
- Nvidia vil ikke at du skal vite om den kontroversielle nye GPUen
- Jeg testet Nvidias nye RTX 4060 mot RX 7600 - og den er ikke pen
- Nvidias RTX 4060 er kanskje ikke en slik skuffelse likevel
Selskapet hevdet at volumet av data og størrelsen på modellene som ble brukt til å trene A.I. systemene vokser eksponentielt, og de største modellene dobles hver to og en halv måned. For å bidra til å redusere flaskehalsen i kommunikasjonen mellom prosesserings- og grafikkjernen, bruker Grace Nvidias NVLink interconnect-teknologi, som lar store biter av data flytte mellom systemminnet, CPU'en og GPU.
Ved å koble CPU og GPU tett inne i Graces arkitektur, uttalte Nvidia at denne prosessoren vil være syv ganger så rask på naturlig språkopplæring som Nvidias Selene-superdatamaskin. Selene har en ytelse på 2,8-A.I. exaflops og er uten tvil en av verdens raskeste superdatamaskiner for kunstig intelligens-applikasjoner i dag.
Grace kombinerer energieffektive ARM CPU-kjerner med et innovativt lavstrømsminneundersystem.
Og sammenlignet med tradisjonelle x86-serverprosessorer, som de som er laget av rivalen Intel, hevdet Nvidia at Grace er 10 ganger raskere.
"Et Grace-basert system vil kunne trene en en billion parameter NLP-modell 10 ganger raskere enn dagens toppmoderne NVIDIA DGXTM-baserte systemer, som kjører på x86 CPUer," la selskapet til. Dette betyr at data som ville tatt en måned å analysere, nå vil ta bare tre dager med Grace.
Som driver denne ytelsen er ARMs neste generasjons Neoverse-kjerner sammen med Nvidias fjerde generasjons NVLink-forbindelse, som har en båndbredde på 900 GB/s mellom CPU og GPU. Grace vil også bruke raskere LPDDR5X-minne, som er raskere og mer energieffektivt enn DDR4-minne.
"Den kombinerer energieffektive ARM CPU-kjerner med et innovativt laveffekts minnesubsystem for å levere høy ytelse med en energieffektiv design," sa selskapet.
Nvidia Grace vil bli brukt av Hewlett Package Enterprise i sin superdatamaskin Alps, som vil bli tilgjengelig i 2023.
Og Bluefield 3 for datasentre også
I tillegg til Nvidia Grace, tok selskapet også avslutningen av datasenterets CPU kalt Bluefield 3. Referert til som DPU, eller databehandlingsenhet, er Bluefield 3 bygget for A.I. og akselerert databehandling som er optimalisert for "multi-tenant, skybaserte miljøer, som tilbyr programvaredefinerte, maskinvareakselererte nettverks-, lagrings-, sikkerhet- og administrasjonstjenester i datasenteret skala."
DPU-en leverer tilsvarende 300 kjerner for å drive datasentertjenester, som kan frigjøre CPU til å kjøre andre applikasjoner.
"Moderne hyperskalaskyer driver en grunnleggende ny arkitektur for datasentre," sa Nvidia-sjef Jensen Huang. "En ny type prosessor, designet for å behandle datasenterinfrastrukturprogramvare, er nødvendig for å avlaste og akselerere den enorme databelastningen med virtualisering, nettverk, lagring, sikkerhet og annen skybasert A.I. tjenester. Tiden for BlueField DPU er inne.»
Nvidia hevder at Bluefield 3 leverer 10 ganger ytelsen til forrige generasjon Bluefield 2, og DPU-en drives av 16x Arm X78-kjerner og har fire ganger akselerasjonen for kryptografi. Brikken er den første 400 SeE/NDR DPU, hevdet Nvidia, og den støtter PCIe 5.0.
I tillegg har Nvidia også innebygd nettverkssikkerhet for å tillate DPU å oppdage og svare på cybertrusler.
Bluefield 3 forventes å bli tilgjengelig tidlig i 2022.
Redaktørenes anbefalinger
- Nvidias fredstilbud fungerer ikke
- Har Nvidia nettopp fikset RTX 4090s smeltende strømkontakter?
- Denne mystiske Nvidia GPUen er en absolutt uhyrlighet - og vi har nettopp fått et nytt utseende
- Hvorfor Nvidias splitter nye GPU yter dårligere enn integrert grafikk
- Nvidia RTX 4090-kabler kan smelte på en bekymringsfull ny måte
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.