Breviar Nvidia Fall GTC 2020: GPU A6000, Omniverse, mai multe

„Vârsta lui A.I. a început”, a declarat CEO-ul Nvidia, Jensen Huang, la GTC din acest an. La conferința sa de tehnologie GPU din acest an, Nvidia și-a prezentat inovația pentru a promova I.A., observând modul în care tehnologia ar putea ajuta la rezolvarea problemelor lumii de 10 ori mai bine și mai rapid.

În timp ce Nvidia este cel mai bine cunoscut pentru ea plăci grafice — și mai recent asociat cu timpul real trasarea razelor — compania conduce, de asemenea, inovația din culise care aduce inteligența artificială în viața noastră de zi cu zi, de la roboții de depozit care împachetează comenzile noastre de expediere către mașini autonome și roboți în limbaj natural care oferă știri, căutări și informații cu puțină latență sau întârziere.

„Ne place să lucrăm la probleme de calcul extrem de dificile care au un impact mare asupra lumii”, a spus Huang, remarcând că compania are acum 110 SDK-uri care vizează cele peste 1 miliard de GPU-uri compatibile cu CUDA care au fost expediat. Compania spune că peste 6.500 de startup-uri construiesc aplicații pe Nvidia, alăturându-se celor 2 milioane de dezvoltatori Nvidia. „Acesta este chiar în timoneria noastră. Suntem cu toții pentru a avansa și democratiza această nouă formă de calcul pentru epoca A.I. Nvidia este dedicată dezvoltării procesului de calcul accelerat.”

Alte scuze pentru lansarea RTX 3080/3090

Huang a condus cu alte scuze rapide pentru lansarea dificilă a plăcilor video Nvidia RTX 3080 și 3090. Citiți mai multe aici.

Nvidia Omniverse este un teren de antrenament pentru roboți

Pentru jucători, trasarea razelor ajută la redarea detaliilor vii în scenele din jocurile video folosind proprietatea luminii. Nvidia folosește aceleași principii pentru a construi Nvidia Omniverse, despre care compania a susținut că este „un loc în care roboții pot învăța cum să fie roboți, la fel cum ar face-o în lumea reală”.

Disponibil acum în versiune beta deschisă, Nvidia Omniverse este o platformă deschisă pentru colaborare și simulare în care roboții pot învăța din simulări realiste ale lumii reale. Folosind Omniverse, vehiculele autonome pot învăța rapid să conducă și să interacționeze cu scenarii atât de reale șoferii umani se pot întâlni, fără riscul de a pune în pericol trecătorii dacă experimentul merge lateral. Omniverse permite, de asemenea, testarea la o scară mult mai largă, deoarece un vehicul autonom sau robot nu trebuie să fie instalat fizic pentru a-l testa.

Pentru a arăta modul în care Nvidia Omniverse ne poate afecta pe toți, Nvidia a subliniat modul în care Omniverse poate funcționa în descoperirea medicamentelor, care este un domeniu și mai vital de cercetare, având în vedere pandemia globală. Deși descoperirea medicamentelor durează de obicei mai mult de un deceniu pentru a se dezvolta adug și necesită mai mult de jumătate de miliard de dolari în finanțare pentru cercetare și dezvoltare, 90% dintre aceste eforturi eșuează, a spus Huang. Pentru a înrăutăți lucrurile, la fiecare nouă ani, costul descoperirii de noi medicamente se dublează.

Omniverse de la Nvidia poate ajuta oamenii de știință să identifice proteinele care pot provoca boli, precum și să accelereze testarea potențialelor medicamente prin utilizarea I.A. și analiza datelor. Toate acestea sunt aplicate noii platforme Clara Discovery a Nvidia. Și în Marea Britanie, Nvidia a introdus noul său centru de date Cambridge One, despre care compania spune că este cel mai rapid din regiune și unul dintre primele 30 din lume, cu 400 de petaflopi de A.I. performanţă.

De asemenea, compania a introdus noua sa arhitectură DGX Super Pod, pentru a permite altor cercetători să-și construiască propriile supercomputere scalabile care conectează între 20 și 140 sisteme DGX.

Nvidia RTX A6000: Ray tracing pentru profesioniști

Extinderea GeForce RTX 3070, RTX 3080 și RTX 3090 anunțate recent plăci grafice, Nvidia a anunțat o nouă generație de GPU-uri bazate pe Ampere pentru profesioniști. Noul plăci grafice nu sunt marcate sub Umbrela Quadro de la Nvidia, dar GPU-urile RTX A6000 și Nvidia A40 sunt direcționate către aceleași publicuri creative și de date care achiziționează GPU-urile Quadro.

„GPU-urile oferă viteza și performanța pentru a permite inginerilor să dezvolte produse inovatoare, designerilor să creeze clădiri de ultimă generație și oamenilor de știință să descopere descoperiri din oriunde în lume”, a declarat compania într-o postare pe blog, menționând că noile A6000 și A40 prezintă noi nuclee RT, nuclee Tensor și nuclee CUDA care sunt „semnificativ mai rapide decât precedentele. generații.”

Compania nu a oferit detalii specifice despre hardware. Cu toate acestea, Nvidia a susținut că nucleele RT din a doua generație oferă de două ori mai mult decât plăcile din generația anterioară, oferind, de asemenea, simultan trasarea razelor, umbrire și capabilități de calcul, în timp ce nucleele Tensor de a treia generație oferă de până la 5 ori mai mult decât generația anterioară.

Cardurile sunt livrate cu 48 GB de memorie GPU care poate fi extinsă la 96 GB cu NVLink atunci când sunt conectate două GPU-uri. Aceasta se compară cu doar 24 GB de memorie de pe RTX 3090. În timp ce RTX 3090 este comercializat ca un GPU care este capabil să redă jocuri în 8K la 60 de cadre pe secundă (fps), Memoria extinsă pe RTX A6000 și A40 profesionale ajută la procesarea înregistrărilor Blackmagic RAW 8K și 12K pentru video editare. Asemenea plăcilor Ampere pentru consumatori, GPU-urile A6000 și A40 se bazează pe PCIe Gen 4, care oferă o lățime de bandă de două ori mai mare decât generația anterioară.

Serverele bazate pe A40 vor fi disponibile în sisteme de la Cisco, Dell, Fujitsu, Hewlett Packard Enterprise și Lenovo. GPU-urile A6000 vor veni la partenerii de canal, iar ambele GPU-uri vor fi disponibile la începutul anului viitor. Detaliile de preț nu au fost disponibile imediat și nu este clar dacă cardurile profesionale vor vedea același lucru aprovizionare limitată și lipsuri majore pe care Nvidia a experimentat-o ​​odată cu lansarea cardurilor sale de consum.

Ascensiunea A.I. roboții

Nvidia a subliniat, de asemenea, modul în care activitatea sa pe GPU-uri ajută la accelerarea I.A. dezvoltare si adoptare. Facebookeste A.I. cercetătorii au dezvoltat un chatbot cu cunoștințe și empatie pe care jumătate dintre utilizatorii rețelei sociale le-au preferat de fapt. Cercetătorii Institutului de Tehnologie din California au antrenat o dronă folosind învățare de întărire pentru a controla sistemul de zbor pentru a zbura fără probleme prin turbulențe și modificări ale terenului.

A.I. de la Nvidia. se bazează pe trei piloni: noduri de la un singur GPU la multi-GPU pe orice cadru sau model, utilizarea inferenței și aplicarea modelelor preantrenate, a spus Huang.

Nvidia a anunțat, de asemenea, că a încheiat un parteneriat cu Microsoft pentru a aduce Nvidia A.I. la Azure pentru a face Office mai inteligent.

„Astăzi, anunțăm că Microsoft adoptă Nvidia A.I. pe Azure, pentru a alimenta experiențele inteligente în Microsoft Office”, a spus Huang în timpul discursului principal. „Cea mai populară aplicație de productivitate din lume folosită de sute de milioane va fi acum asistată de IA. Primele caracteristici vor include corectarea gramaticală inteligentă, întrebări și răspunsuri, predicția textului. Din cauza volumului de utilizatori și a răspunsului instantaneu necesar pentru o experiență bună, Office va fi conectat la GPU-uri Nvidia, iar răspunsurile Azure cu GPU-uri Nvidia durează mai puțin de 200 de milisecunde. Debitul nostru îi permite Microsoft să se extindă la milioane de utilizatori simultani.”

American Express folosește și A.I. pentru a combate frauda, ​​în timp ce Twitter folosește inteligența artificială pentru a-l ajuta să înțeleagă și să contextualizeze cantitatea mare de videoclipuri încărcate pe platformă.

Cu IA conversațională, rezultatele din interogările vocale efectuate pe platforma GPU a Nvidia au jumătate din latență în comparație cu interogările procesate de CPU și, de asemenea, mai realiste, cu sunet uman, text-to-speech motoare. Nvidia a anunțat, de asemenea, o versiune beta deschisă a Jarvis pentru ca dezvoltatorii să încerce A.I. cu abilități de conversație.

A.I. pentru viitorul muncii de acasă

A.I. poate fi, de asemenea, integrat în aplicații precum soluțiile de videoconferință și chat, care ajută lucrătorii să colaboreze de la distanță. Cu Video Maxene de la Nvidia, Huang a spus că A.I. poate face magie pentru apelurile video.

Maxene poate identifica trăsăturile importante ale unei fețe, poate trimite doar modificările trăsăturilor prin internet și apoi poate reanima chipul la receptor. Acest lucru economisește lățime de bandă, oferind o experiență video mai bună în zonele cu conexiune slabă la internet. Huang a susținut că lățimea de bandă este redusă cu un factor de 10.

A.I. face apelurile mai bune chiar și în zonele cu lățime de bandă mare. În cel mai extrem exemplu, A.I. poate fi folosit pentru a vă reorienta fața, astfel încât să faceți contact vizual cu fiecare persoană aflată la un apel, chiar și atunci când fața este înclinată ușor departe de cameră. A.I. De asemenea, poate reduce zgomotul de fundal, vă poate reaprinde fața, poate înlocui fundalul și poate îmbunătăți calitatea video în condiții de iluminare slabă. Combinat cu Jarvis A.I. vorbire, Maxene poate oferi și text cu subtitrări.

„Avem oportunitatea de a revoluționa videoconferința de astăzi și de a inventa prezența virtuală de mâine”, a spus Huang. „Și video A.I. aplicațiile de inferență vin din fiecare industrie.”

Aducerea unui centru de date la un cip ARM

Subliniind investiția în cipuri ARM, Nvidia a anunțat noile DPU BlueField, care aduc puterea unui centru de date-infrastructură-pe-un-cip și sunt susținute de DOCA, care este arhitectură.

Noile DPU BlueField 2 descarcă componente critice, cum ar fi rețelele și stocarea, precum și sarcinile de securitate de la CPU pentru a ajuta la prevenirea atacurilor cibernetice.

„Un singur DPU BlueField-2 poate furniza aceleași servicii de centru de date care ar putea consuma până la 125 de nuclee CPU”, a susținut Nvidia într-o declarație pregătită. „Acest lucru eliberează nuclee valoroase ale procesorului pentru a rula o gamă largă de alte aplicații pentru întreprinderi.” Compania a spus că cel puțin 30% din CPU a fost consumate anterior de rularea infrastructurii centrului de date, iar acele nuclee sunt acum eliberate, deoarece sarcina este acum descărcată în BlueField DPU.

Un al doilea Bluefield 2X DPU vine și cu Nvidia Ampertehnologie bazată pe GPU. Ampere aduce A.I. la BlueField 2X pentru a oferi analize de securitate în timp real și pentru a identifica activitățile rău intenționate.

Motoare de recomandare personalizate

A.I. poate fi folosit pentru a oferi recomandări personalizate de bunuri digitale și fizice pe platforme, difuzând reclame digitale relevante, știri și filme. Nvidia a susținut că chiar și o îmbunătățire cu 1% a preciziei recomandărilor poate ajunge la miliarde mai mult în vânzări și reținerea clienților.

Pentru a ajuta companiile să-și îmbunătățească motorul de recomandare, Nvidia a introdus Merlin, care este alimentat de platforma Nvidia Rapids. În timp ce soluțiile bazate pe CPU pot dura zile pentru a învăța, se spune că Merlin este super-rapid și super-scalabil, cu timpi de ciclu care merg de la o zi la doar trei ore. Merlin este acum în versiune beta deschisă, a spus Huang.

Rapids este folosit de Adobe pentru marketing inteligent, în timp ce Capital One folosește platforma pentru analiza fraudelor și pentru a alimenta chatbot-ul Eno al companiei.

A.I. pentru tot IoT

Platforma EGX a Nvidia este folosită pentru a aduce I.A. a dispozitivelor de margine pentru a face A.I. mai receptiv pentru aplicațiile Internet of Things sau IoT. EGX este disponibil pe NGC Nvidia și este folosit de spitale precum Northwestern Memorial Hospital pentru a descărca unele sarcini pe computere care sunt efectuate în mod obișnuit de asistente. Pacienții, de exemplu, pot folosi interogări în limbaj natural pentru a întreba un bot ce procedură au.

„Serviciul EGX A.I. computerul integrează un GPU Mellanox Bluefield 2 și un GPU Ampere într-o singură placă PCI Express, transformând orice server OEM standard într-un A.I. centru de date”, a spus Huang.

Platforma poate fi utilizată în îngrijirea sănătății, producție, logistică, livrare, vânzare cu amănuntul și transport.

Avansarea ARM

"Astăzi. anunțăm o inițiativă majoră pentru a avansa platforma ARM”, a spus Huang despre achiziția anunțată de companie a ARM, nimic despre faptul că face investiții în trei dimensiuni.

„În primul rând, completăm partenerii ARM cu tehnologii GPU, rețele, stocare și securitate pentru a crea platforme complete accelerate. În al doilea rând, lucrăm cu partenerii noștri pentru a crea platforme pentru HPC cloud edge NPC. Acest lucru necesită sisteme de cipuri și software de sistem. Și în al treilea rând, portăm Nvidia A.I. și motoarele Nvidia RTX la ARM.”

În prezent, acesta este disponibil numai pe platforma x86. Cu toate acestea, investiția Nvidia în ARm o va transforma în avangarda și o va accelera în A.I. calculatoare, a spus Huang, în timp ce caută să poziționeze ARM ca un concurent al Intel în spațiul serverului.

Recomandările editorilor

• Supercomputerul Nvidia poate aduce o nouă eră a ChatGPT
• GPU-urile Nvidia înregistrează o creștere masivă a prețurilor și o cerere uriașă din partea AI
• A.I. de la Zoom tehnologia de detectare a emoțiilor în timpul apelurilor îi supără pe critici
• Nvidia dezvăluie primul procesor și GPU Hopper la GTC 2022
• Cum folosește Nvidia A.I. pentru a ajuta Domino’s să livreze pizza mai repede