Riepilogo Nvidia GTC autunno 2020: GPU A6000, Omniverse e altro

“L’era dell’A.I. è iniziato”, ha dichiarato il CEO di Nvidia Jensen Huang al GTC di quest’anno. Alla GPU Technology Conference di quest’anno, Nvidia ha presentato le sue innovazioni per promuovere l’intelligenza artificiale, sottolineando come la tecnologia potrebbe aiutare a risolvere i problemi del mondo 10 volte meglio e più velocemente.

Mentre Nvidia è più conosciuta per il suo schede grafiche - e più recentemente associato al tempo reale tracciamento dei raggi — l’azienda sta anche guidando l’innovazione dietro le quinte che porta l’intelligenza artificiale nella nostra vita quotidiana, dai robot di magazzino che imballano i nostri ordini di spedizione, alle auto a guida autonoma e ai robot con linguaggio naturale che forniscono notizie, ricerche e informazioni con poca latenza o ritardo.

"Amiamo lavorare su problemi informatici estremamente complessi che hanno un grande impatto sul mondo", ha affermato Huang che l'azienda dispone ora di 110 SDK destinati a oltre 1 miliardo di GPU compatibili con CUDA che sono state spedito. La società afferma che più di 6.500 startup stanno creando applicazioni su Nvidia, unendosi ai 2 milioni di sviluppatori Nvidia totali. “Questo è proprio nella nostra timoniera. Siamo tutti impegnati a far avanzare e democratizzare questa nuova forma di elaborazione per l’era dell’intelligenza artificiale. Nvidia è impegnata a far progredire il calcolo accelerato”.

Altre scuse per il lancio dell'RTX 3080/3090

Huang si è scusato brevemente per il difficile lancio delle schede video Nvidia RTX 3080 e 3090. Leggi di più qui.

Nvidia Omniverse è un campo di addestramento per robot

Per i giocatori, tracciamento dei raggi aiuta a rendere i dettagli vividi nelle scene dei videogiochi sfruttando la proprietà della luce. Nvidia sta utilizzando gli stessi principi per costruire Nvidia Omniverse, che secondo la società è "un luogo in cui i robot possono imparare a essere robot, proprio come farebbero nel mondo reale".

Disponibile ora in open beta, Nvidia Omniverse è una piattaforma aperta per la collaborazione e la simulazione in cui i robot possono imparare da simulazioni realistiche del mondo reale. Utilizzando Omniverse, i veicoli autonomi possono imparare rapidamente a guidare e interagire con scenari reali i guidatori umani potrebbero incontrarsi, senza il rischio di mettere in pericolo gli astanti se l'esperimento va a buon fine lateralmente. Omniverse consente anche test su scala molto più ampia, poiché non è necessario che un veicolo o un robot autonomo sia fisicamente schierato per testarlo.

Per mostrare come Nvidia Omniverse può influenzare tutti noi, Nvidia ha evidenziato come Omniverse può funzionare nella scoperta di farmaci, che è un’area di ricerca ancora più vitale data la pandemia globale. Sebbene la scoperta di farmaci richieda in genere più di un decennio per sviluppare l'aug e richieda più di mezzo miliardo di dollari in finanziamenti per la ricerca e lo sviluppo, il 90% di questi sforzi fallisce, ha detto Huang. A peggiorare le cose, ogni nove anni, il costo della scoperta di nuovi farmaci raddoppia.

Omniverse di Nvidia può aiutare gli scienziati a identificare le proteine ​​che possono causare malattie, nonché ad accelerare i test di potenziali farmaci utilizzando l'intelligenza artificiale. e analisi dei dati. Tutto questo viene applicato alla nuova piattaforma Clara Discovery di Nvidia. E nel Regno Unito, Nvidia ha introdotto il suo nuovo data center Cambridge One, che secondo l'azienda è il più veloce della regione e uno dei primi 30 al mondo, con 400 petaflop di intelligenza artificiale. prestazione.

L'azienda ha inoltre introdotto la sua nuova architettura DGX Super Pod, per consentire ad altri ricercatori di costruire i propri supercomputer scalabili che collegano da 20 a 140 computer Sistemi DGX.

Nvidia RTX A6000: Ray Tracing per i professionisti

Espansione delle GeForce RTX 3070, RTX 3080 e RTX 3090 recentemente annunciate schede grafiche, Nvidia ha annunciato una nuova generazione di GPU basate su Ampere per i professionisti. Il nuovo schede grafiche non sono marchiati con L'ombrello Quadro di Nvidia, ma le GPU RTX A6000 e Nvidia A40 sono destinate allo stesso pubblico di creativi e data scientist che acquistano le GPU Quadro.

"Le GPU forniscono la velocità e le prestazioni necessarie per consentire agli ingegneri di sviluppare prodotti innovativi, ai progettisti di creare edifici all'avanguardia e agli scienziati di scoprire scoperte innovative da ovunque nel mondo", ha affermato la società in un post sul blog, sottolineando che i nuovi A6000 e A40 sono dotati di nuovi core RT, Tensor core e CUDA core che sono "significativamente più veloci dei precedenti generazioni”.

L'azienda non ha fornito dettagli specifici sull'hardware. Tuttavia, Nvidia ha affermato che i core RT di seconda generazione forniscono il doppio del throughput delle schede della generazione precedente fornendo allo stesso tempo tracciamento dei raggi, shading e capacità di calcolo, mentre i core Tensor di terza generazione forniscono fino a 5 volte il throughput della generazione precedente.

Le schede vengono fornite con 48 GB di memoria GPU espandibile fino a 96 GB con NVLink quando sono collegate due GPU. Questo rispetto a soli 24 GB di memoria sul RTX3090. Mentre l'RTX 3090 è commercializzata come una GPU in grado di riprodurre giochi in 8K a 60 fotogrammi al secondo (fps), la la memoria estesa sulle RTX professionali A6000 e A40 aiuta a elaborare filmati Blackmagic RAW 8K e 12K per i video la modifica. Come le schede Ampere consumer, le GPU A6000 e A40 si basano su PCIe Gen 4, che offre il doppio della larghezza di banda della generazione precedente.

I server basati su A40 saranno disponibili nei sistemi Cisco, Dell, Fujitsu, Hewlett Packard Enterprise e Lenovo. Le GPU A6000 arriveranno ai partner di canale ed entrambe le GPU saranno disponibili all'inizio del prossimo anno. I dettagli sui prezzi non sono stati immediatamente disponibili e non è chiaro se le carte professionali vedranno lo stesso offerta limitata e gravi carenze che Nvidia ha sperimentato con il lancio delle sue carte consumer.

L’ascesa dell’A.I. robot

Nvidia ha anche sottolineato come il suo lavoro sulle GPU stia aiutando ad accelerare l'A.I. sviluppo e adozione. Facebookl'A.I. i ricercatori hanno sviluppato un chatbot dotato di conoscenza ed empatia che la metà degli utenti del social network ha effettivamente preferito. I ricercatori del California Institute of Technology hanno addestrato un drone utilizzando l’apprendimento per rinforzo per controllare il sistema di volo e farlo volare senza intoppi attraverso turbolenze e cambiamenti del terreno.

L'intelligenza artificiale di Nvidia si basa su tre pilastri: nodi da singoli a multi-GPU su qualsiasi framework o modello, l'uso dell'inferenza e l'applicazione di modelli preaddestrati, ha affermato Huang.

Nvidia ha anche annunciato di aver collaborato con Microsoft per portare Nvidia A.I. ad Azure per contribuire a rendere Office più intelligente.

“Oggi annunciamo che Microsoft sta adottando Nvidia A.I. su Azure, per potenziare le esperienze intelligenti in Microsoft Office", ha affermato Huang durante il keynote. “L’applicazione di produttività più popolare al mondo, utilizzata da centinaia di milioni di persone, sarà ora assistita dall’intelligenza artificiale. Le prime funzionalità includeranno la correzione grammaticale intelligente, domande e risposte e previsione del testo. A causa del volume di utenti e della risposta immediata necessaria per una buona esperienza, Office sarà connesso alle GPU Nvidia e le risposte di Azure con GPU Nvidia richiederanno meno di 200 millisecondi. Il nostro throughput consente a Microsoft di raggiungere milioni di utenti simultanei."

Anche American Express utilizza l’A.I. per combattere le frodi, mentre Twitter sfrutta l’intelligenza artificiale per comprendere e contestualizzare la grande quantità di video caricati sulla piattaforma.

Con l’intelligenza artificiale conversazionale, i risultati delle query vocali eseguite sulla piattaforma GPU di Nvidia hanno la metà latenza rispetto alle query elaborate dalla CPU e anche una sintesi vocale più realistica e dal suono simile a quello umano motori. Nvidia ha anche annunciato una beta aperta di Jarvis per consentire agli sviluppatori di provare l'A.I. con abilità conversazionali.

A.I. per il futuro del lavoro da casa

A.I. può anche essere integrato in applicazioni come soluzioni di videoconferenza e chat che aiutano i lavoratori a collaborare in remoto. Con Video Maxene di Nvidia, Huang ha affermato che A.I. può fare magie per le videochiamate.

Maxene può identificare le caratteristiche importanti di un volto, inviare solo le modifiche delle caratteristiche su Internet e quindi rianimare il volto al destinatario. Ciò consente di risparmiare larghezza di banda, garantendo una migliore esperienza video in aree con scarsa connettività Internet. Huang ha affermato che la larghezza di banda è ridotta di un fattore 10.

A.I. tuttavia, effettua chiamate meglio anche in aree con larghezza di banda elevata. Nell'esempio più estremo, A.I. può essere utilizzato per riorientare il viso in modo da stabilire un contatto visivo con ogni persona impegnata in una chiamata, anche quando il viso è leggermente inclinato rispetto alla fotocamera. A.I. può anche ridurre il rumore di fondo, riaccendere il viso, sostituire lo sfondo e migliorare la qualità del video in condizioni di scarsa illuminazione. Combinato con Jarvis A.I. discorso, Maxene può anche fornire testo di sottotitoli.

"Abbiamo l'opportunità di rivoluzionare la videoconferenza di oggi e inventare la presenza virtuale di domani", ha affermato Huang. “E il video A.I. le applicazioni di inferenza provengono da ogni settore.

Portare un data center su un chip ARM

Evidenziando il suo investimento nei chip ARM, Nvidia ha annunciato le nuove DPU BlueField, che portano il potenza di un data center-infrastructure-on-a-chip e sono supportati da DOCA, che è il architettura.

Le nuove DPU BlueField 2 scaricano componenti critici, come rete e storage, nonché attività di sicurezza dalla CPU per aiutare a prevenire gli attacchi informatici.

"Una singola DPU BlueField-2 può fornire gli stessi servizi di data center che potrebbero consumare fino a 125 core CPU", ha affermato Nvidia in una dichiarazione preparata. "Ciò libera preziosi core della CPU per eseguire un'ampia gamma di altre applicazioni aziendali." L'azienda ha affermato che almeno il 30% della CPU lo era precedentemente consumati dall'esecuzione dell'infrastruttura del data center e tali core vengono ora liberati poiché l'attività viene ora scaricata su BlueField DPU.

Nvidia include anche una seconda DPU Bluefield 2X Amperebasata sulla tecnologia GPU. Ampere porta l'A.I. al BlueField 2X per fornire analisi di sicurezza in tempo reale e identificare attività dannose.

Motori di raccomandazione personalizzati

A.I. può essere utilizzato per fornire consigli personalizzati su beni digitali e fisici sulle piattaforme, pubblicando annunci digitali, notizie e film pertinenti. Nvidia ha affermato che anche un miglioramento dell’1% nell’accuratezza delle raccomandazioni può equivalere a miliardi in più di vendite e ad una maggiore fidelizzazione dei clienti.

Per aiutare le aziende a migliorare il proprio motore di consigli, Nvidia ha introdotto Merlin, basato sulla piattaforma Nvidia Rapids. Mentre le soluzioni basate su CPU possono richiedere giorni per essere apprese, si dice che Merlin sia superveloce e super-scalabile, con tempi di ciclo che vanno da un giorno a sole tre ore. Merlin è ora in open beta, ha detto Huang.

Rapids viene utilizzato da Adobe per il marketing intelligente, mentre Capital One utilizza la piattaforma per l’analisi delle frodi e per alimentare il chatbot Eno dell’azienda.

A.I. per tutto l'IoT

La piattaforma EGX di Nvidia viene utilizzata per portare l'A.I. ai dispositivi edge per rendere l'A.I. più reattivo per le applicazioni Internet of Things o IoT. EGX è disponibile sull'NGC di Nvidia e viene utilizzato da ospedali come il Northwestern Memorial Hospital per scaricare sui computer alcune attività eseguite abitualmente dagli infermieri. I pazienti, ad esempio, possono utilizzare query in linguaggio naturale per chiedere a un bot quale procedura stanno seguendo.

“L’EGX A.I. integra una GPU Mellanox Bluefield 2 e una GPU Ampere in un'unica scheda PCI Express, trasformando qualsiasi server OEM standard in un sistema A.I. data center", ha detto Huang.

La piattaforma può essere sfruttata nei settori dell'assistenza sanitaria, della produzione, della logistica, delle consegne, della vendita al dettaglio e dei trasporti.

BRACCIO in avanzamento

"Oggi. stiamo annunciando un'importante iniziativa per far avanzare la piattaforma ARM", ha detto Huang dell'annunciata acquisizione di ARM da parte della società, niente che stia facendo investimenti in tre dimensioni.

“In primo luogo, stiamo integrando i partner ARM con GPU, reti, storage e tecnologie di sicurezza per creare piattaforme accelerate complete. In secondo luogo, stiamo lavorando con i nostri partner per creare piattaforme per HPC cloud edge NPC. Ciò richiede sistemi di chip e software di sistema. E in terzo luogo, stiamo effettuando il porting dell'Nvidia A.I. e i motori Nvidia RTX su ARM.

Attualmente, questo è disponibile solo sulla piattaforma x86. Tuttavia, l’investimento di Nvidia in ARm lo trasformerà in un prodotto all’avanguardia e lo accelererà nell’A.I. computing, ha detto Huang, mentre cerca di posizionare ARM come concorrente di Intel nello spazio dei server.

Raccomandazioni degli editori

• Il supercomputer di Nvidia potrebbe inaugurare una nuova era di ChatGPT
• Le GPU Nvidia vedono un massiccio aumento dei prezzi e un'enorme domanda da parte dell'intelligenza artificiale
• L'intelligenza artificiale di Zoom La tecnologia per rilevare le emozioni durante le chiamate sconvolge i critici
• Nvidia rivela la prima CPU e GPU Hopper al GTC 2022
• Come Nvidia utilizza l'A.I. per aiutare Domino’s a consegnare le pizze più velocemente