Pregled Nvidia jesenskog GTC 2020.: A6000 GPU, Omniverse, više

“Doba A.I. je počelo,” izjavio je izvršni direktor Nvidije Jensen Huang na ovogodišnjem GTC-u. Na svojoj ovogodišnjoj GPU tehnološkoj konferenciji, Nvidia je predstavila svoju inovaciju za daljnji razvoj umjetne inteligencije, ističući kako tehnologija može pomoći u rješavanju svjetskih problema 10 puta bolje i brže.

Dok je Nvidia najpoznatija po svojim grafičke kartice — i odnedavno povezan sa stvarnim vremenom praćenje zraka — tvrtka također pokreće inovacije iza kulisa koje unose umjetnu inteligenciju u naše svakodnevne živote, od skladišnih robota koji pakiraju naše narudžbe za dostavu, do samovozećih automobila i robota na prirodnom jeziku koji isporučuju vijesti, pretraživanje i informacije s malim kašnjenjem ili odgoditi.

"Volimo raditi na iznimno teškim računalnim problemima koji imaju veliki utjecaj na svijet", rekao je Huang, napominjući da tvrtka sada ima 110 SDK-ova koji ciljaju na više od 1 milijarde CUDA-kompatibilnih GPU-ova koji su bili isporučeno. Tvrtka kaže da više od 6500 startupa gradi aplikacije na Nvidiji, pridružujući se ukupno 2 milijuna Nvidijinih programera. “Ovo je točno u našoj kormilarnici. Svi smo spremni unaprijediti i demokratizirati ovaj novi oblik računalstva za doba umjetne inteligencije. Nvidia je posvećena unapređenju ubrzanog računalstva.”

Još jedna isprika za lansiranje RTX 3080/3090

Huang je predvodio s još jednom kratkom isprikom o teškom lansiranju Nvidia RTX 3080 i 3090 video kartica. Pročitajte više ovdje.

Nvidia Omniverse je vježbalište za robote

Za igrače, praćenje zraka pomaže prikazati živopisne detalje u scenama u video igrama korištenjem svojstva svjetla. Nvidia koristi iste principe za izgradnju Nvidia Omniverse, za koji tvrtka tvrdi da je "mjesto gdje roboti mogu naučiti kako biti roboti, baš kao što bi to učinili u stvarnom svijetu."

Sada dostupan u otvorenoj beta verziji, Nvidia Omniverse je otvorena platforma za suradnju i simulaciju gdje roboti mogu učiti iz realističnih simulacija stvarnog svijeta. Koristeći Omniverse, autonomna vozila mogu brzo naučiti voziti i komunicirati s realnim scenarijima ljudski vozači mogu naići, bez opasnosti od ugrožavanja prolaznika ako eksperiment uspije postrance. Omniverse također omogućuje testiranje na mnogo široj razini, budući da autonomno vozilo ili robot ne moraju biti fizički raspoređeni da bi se testirali.

Kako bi pokazala kako Nvidia Omniverse može utjecati na sve nas, Nvidia je istaknula kako Omniverse može djelovati u otkrivanju lijekova, što je još vitalnije područje istraživanja s obzirom na globalnu pandemiju. Iako je za otkrivanje lijekova obično potrebno više od desetljeća da se razvije adug i zahtijeva više od pola milijarde dolara u financiranju istraživanja i razvoja, 90% tih napora propadne, rekao je Huang. Da stvar bude gora, svakih devet godina trošak otkrivanja novih lijekova se udvostruči.

Nvidijin Omniverse može pomoći znanstvenicima u identificiranju proteina koji mogu uzrokovati bolesti, kao i ubrzati testiranje potencijalnih lijekova korištenjem A.I. i analitiku podataka. Sve se to primjenjuje na novu Nvidijinu platformu Clara Discovery. A u U.K., Nvidia je predstavila svoj novi podatkovni centar Cambridge One, za koji tvrtka kaže da je najbrži u regiji i jedan od 30 najboljih u svijetu, s 400 petaflopa A.I. izvođenje.

Tvrtka je također predstavila svoju novu DGX Super Pod arhitekturu kako bi omogućila drugim istraživačima da izgrade vlastita skalabilna superračunala koja povezuju između 20 i 140 DGX sustavi.

Nvidia RTX A6000: Praćenje zraka za profesionalce

Proširenje nedavno najavljenih GeForce RTX 3070, RTX 3080 i RTX 3090 grafičke kartice, Nvidia je najavila novu generaciju GPU-a temeljenog na Ampereu za profesionalce. Novi grafičke kartice nisu označeni pod Nvidijin Quadro kišobran, ali RTX A6000 i Nvidia A40 GPU-ovi ciljaju na istu publiku kreativaca i znanstvenika koji kupuju Quadro GPU-ove.

„GPU-ovi pružaju brzinu i performanse kako bi omogućili inženjerima da razviju inovativne proizvode, dizajnerima da stvore vrhunske zgrade, a znanstvenicima da otkriju otkrića iz bilo gdje u svijetu”, navodi tvrtka u postu na blogu, ističući da novi A6000 i A40 imaju nove RT jezgre, Tensor jezgre i CUDA jezgre koje su “znatno brže od prethodnih generacije.”

Tvrtka nije dala konkretne detalje o hardveru. Međutim, Nvidia je tvrdila da RT jezgre druge generacije isporučuju 2x veću propusnost od kartica prethodne generacije, a istovremeno pružaju istovremenu praćenje zraka, mogućnosti sjenčanja i izračunavanja, dok Tensor jezgre treće generacije pružaju do 5 puta veći protok od prethodne generacije.

Kartice se isporučuju s 48 GB GPU memorije koja se može proširiti do 96 GB s NVLinkom kada su spojena dva GPU-a. To je u usporedbi sa samo 24 GB memorije na RTX 3090. Dok se RTX 3090 prodaje kao GPU koji je sposoban renderirati igre u 8K pri 60 sličica u sekundi (fps), proširena memorija na profesionalnim RTX A6000 i A40 pomaže u obradi Blackmagic RAW 8K i 12K snimaka za video uređivanje. Kao i potrošačke Ampere kartice, A6000 i A40 GPU-ovi temelje se na PCIe Gen 4, koji pruža dvostruko veću propusnost od prethodne generacije.

Poslužitelji temeljeni na A40 bit će dostupni u sustavima tvrtki Cisco, Dell, Fujitsu, Hewlett Packard Enterprise i Lenovo. A6000 GPU-ovi će doći do partnera u kanalu, a oba će GPU-a biti dostupna početkom sljedeće godine. Pojedinosti o cijeni nisu bile odmah dostupne i nije jasno hoće li profesionalne kartice vidjeti isto ograničena ponuda i velike nestašice koje je Nvidia doživjela lansiranjem svojih potrošačkih kartica.

Uspon A.I. botovi

Nvidia je također istaknula kako njen rad na GPU-u pomaže ubrzati A.I. razvoj i usvajanje. FacebookA.I. istraživači su razvili chatbot sa znanjem i empatijom koji je zapravo preferirala polovica korisnika društvene mreže. Istraživači Kalifornijskog instituta za tehnologiju uvježbali su bespilotnu letjelicu pomoću učenja za pojačanje da kontrolira sustav letenja kako bi glatko letjela kroz turbulencije i promjene na terenu.

Nvidijin A.I. temelji se na tri stupa: čvorovi od jednog do više GPU-a na bilo kojem okviru ili modelu, upotreba zaključivanja i primjena unaprijed obučenih modela, rekao je Huang.

Nvidia je također objavila da se udružila s Microsoftom kako bi Nvidia A.I. u Azure kako bi Office postao pametniji.

“Danas objavljujemo da Microsoft usvaja Nvidia A.I. na Azureu, za pokretanje pametnih iskustava u Microsoft Officeu,” rekao je Huang tijekom uvodne riječi. “Najpopularnija aplikacija za produktivnost na svijetu koju koriste stotine milijuna sada će biti potpomognuta umjetnom inteligencijom. Prve značajke uključivat će pametno ispravljanje gramatike, pitanja i odgovore, predviđanje teksta. Zbog količine korisnika i trenutnog odgovora potrebnog za dobro iskustvo, Office će biti spojen na Nvidia GPU-ove, a Azure s Nvidia GPU-ovima odgovori traju manje od 200 milisekundi. Naša propusnost omogućuje Microsoftu skaliranje na milijune istodobnih korisnika.”

American Express također koristi A.I. za borbu protiv prijevara, dok Twitter koristi umjetnu inteligenciju kako bi razumio i kontekstualizirao ogromnu količinu videozapisa prenesenih na platformu.

Uz razgovorni AI, rezultati glasovnih upita izvedenih na Nvidijinoj GPU platformi imaju upola manje latencija u usporedbi s upitima koje obrađuje CPU i također realističniji, ljudski zvuk koji zvuči kao tekst u govor motora. Nvidia je također najavila otvorenu beta verziju Jarvisa za programere da isprobaju A.I. s vještinama razgovora.

A.I. za budućnost rada od kuće

A.I. također se može ugraditi u aplikacije kao što su rješenja za videokonferencije i razgovore koja pomažu radnicima da surađuju na daljinu. Uz Nvidijin Video Maxene, Huang je rekao da A.I. može učiniti magiju za video pozive.

Maxene može identificirati važne značajke lica, poslati samo promjene značajki preko interneta, a zatim reanimirati lice na prijemniku. Ovo štedi propusnost, što omogućuje bolje video iskustvo u područjima sa slabom internetskom vezom. Huang je tvrdio da je propusnost smanjena za faktor 10.

A.I. bolje telefonirajte čak iu područjima s velikom propusnošću. U najekstremnijem primjeru, A.I. može se koristiti za preusmjeravanje vašeg lica tako da uspostavljate kontakt očima sa svakom osobom u pozivu, čak i kada vam je lice malo nagnuto od kamere. A.I. također može smanjiti pozadinsku buku, ponovno osvijetliti vaše lice, zamijeniti pozadinu i poboljšati kvalitetu videa pri slabom osvjetljenju. U kombinaciji s Jarvis A.I. govora, Maxene također može isporučiti tekst titlova.

"Imamo priliku revolucionirati današnje videokonferencije i izmisliti virtualnu prisutnost sutrašnjice", rekao je Huang. “I video A.I. aplikacije za zaključivanje dolaze iz svake industrije.”

Dovođenje podatkovnog centra na ARM čip

Naglašavajući svoje ulaganje u ARM čipove, Nvidia je najavila nove BlueField DPU-ove, koji donose snagu infrastrukture podatkovnog centra na čipu i podržava ih DOCA, koja je arhitektura.

Novi BlueField 2 DPU-ovi rasterećuju kritične komponente — poput umrežavanja i pohrane — kao i sigurnosne zadatke s CPU-a kako bi spriječili kibernetičke napade.

"Jedan BlueField-2 DPU može isporučiti iste usluge podatkovnog centra koje bi mogle potrošiti do 125 CPU jezgri", tvrdi Nvidia u pripremljenoj izjavi. "Ovo oslobađa vrijedne CPU jezgre za pokretanje širokog spektra drugih poslovnih aplikacija." Tvrtka je rekla da je najmanje 30% CPU-a prethodno potrošeno pokretanjem infrastrukture podatkovnog centra, a te su jezgre sada oslobođene jer je zadatak sada prebačen na BlueField DPU.

Drugi Bluefield 2X DPU također dolazi s Nvidijinim Amper-temeljena GPU tehnologija. Ampere donosi A.I. na BlueField 2X za pružanje sigurnosne analize u stvarnom vremenu i prepoznavanje zlonamjernih aktivnosti.

Personalizirani motori preporuka

A.I. može se koristiti za isporuku personaliziranih preporuka digitalne i fizičke robe na platformama, posluživanje relevantnih digitalnih oglasa, vijesti i filmova. Nvidia je tvrdila da čak i 1% poboljšanja u točnosti preporuka može dovesti do više milijardi u prodaji i većeg zadržavanja kupaca.

Kako bi pomogla tvrtkama da poboljšaju svoj mehanizam za preporuke, Nvidia je predstavila Merlin, koji pokreće Nvidia Rapids platforma. Dok rješenja temeljena na CPU-u mogu potrajati danima za učenje, za Merlin se kaže da je superbrz i super-skalabilan, s ciklusima koji idu od jednog dana do samo tri sata. Merlin je sada u otvorenoj beta verziji, rekao je Huang.

Rapids koristi Adobe za inteligentni marketing, dok Capital One koristi platformu za analizu prijevara i za pokretanje tvrtke Eno chatbot.

A.I. za sav IoT

Nvidijina EGX platforma koristi se za dovođenje A.I. do rubnih uređaja za izradu A.I. osjetljiviji na aplikacije Interneta stvari ili IoT. EGX je dostupan na Nvidijinom NGC-u, a koriste ga bolnice poput Northwestern Memorial Hospital za prebacivanje nekih zadataka na računala koje rutinski obavljaju medicinske sestre. Pacijenti, na primjer, mogu upotrijebiti upite prirodnog jezika kako bi pitali bota koji postupak imaju.

“EGX A.I. računalo integrira Mellanox Bluefield 2 GPU i Ampere GPU u jednu PCI Express karticu, pretvarajući svaki standardni OEM poslužitelj u siguran ubrzani A.I. podatkovni centar,” rekao je Huang.

Platforma se može koristiti u zdravstvu, proizvodnji, logistici, isporuci, maloprodaji i transportu.

Napredovanje ARM

"Danas. najavljujemo veliku inicijativu za unaprjeđenje ARM platforme,” rekao je Huang o tvrtkinoj najavljenoj akviziciji ARM-a, ništa što ulaže u tri dimenzije.

“Prvo, nadopunjujemo ARM partnere s GPU-om, umrežavanjem, pohranom i sigurnosnim tehnologijama kako bismo stvorili potpune ubrzane platforme. Drugo, radimo s našim partnerima na stvaranju platformi za HPC cloud edge NPC. To zahtijeva sustave čipova i sistemski softver. I treće, prenosimo Nvidia A.I. i Nvidia RTX motora za ARM."

Trenutno je to dostupno samo na x86 platformi. Međutim, Nvidijino ulaganje u ARm će ga transformirati u vodeći rub i ubrzati ga u A.I. računalstvo, rekao je Huang, dok želi pozicionirati ARM kao konkurenta Intelu u serverskom prostoru.

Preporuke urednika

• Nvidijino superračunalo moglo bi donijeti novu eru ChatGPT-a
• Nvidia GPU-i doživljavaju veliko povećanje cijena i veliku potražnju od strane AI
• Zoomov A.I. tehnologija za otkrivanje emocija tijekom poziva uznemirila je kritičare
• Nvidia otkriva prvi CPU i Hopper GPU na GTC 2022
• Kako Nvidia koristi A.I. kako bismo pomogli Dominu da brže dostavi pizze