Zusammenfassung der Nvidia Herbst-GTC 2020: A6000-GPU, Omniverse und mehr

„Das Zeitalter der K.I. hat begonnen“, erklärte Nvidia-CEO Jensen Huang auf der diesjährigen GTC. Auf seiner GPU-Technologiekonferenz in diesem Jahr präsentierte Nvidia seine Innovation zur Förderung der KI und wies darauf hin, dass die Technologie dazu beitragen könnte, die Probleme der Welt zehnmal besser und schneller zu lösen.

Während Nvidia vor allem für seine bekannt ist Grafikkarten – und in jüngerer Zeit mit Echtzeit in Verbindung gebracht Raytracing – Das Unternehmen treibt auch die Innovation hinter den Kulissen voran, die künstliche Intelligenz mithilfe von Lagerrobotern in unser tägliches Leben bringt die unsere Versandaufträge verpacken, bis hin zu selbstfahrenden Autos und Bots in natürlicher Sprache, die Nachrichten, Suche und Informationen mit geringer Latenz liefern oder Verzögerung.

„Wir lieben es, an extrem anspruchsvollen Computerproblemen zu arbeiten, die große Auswirkungen auf die Welt haben“, sagte Huang und bemerkte dass das Unternehmen jetzt über 110 SDKs verfügt, die auf die mehr als 1 Milliarde CUDA-kompatiblen GPUs abzielen, die es bisher gab versendet. Das Unternehmen gibt an, dass mehr als 6.500 Startups Anwendungen auf Nvidia entwickeln und damit zu den insgesamt 2 Millionen Nvidia-Entwicklern stoßen. „Das ist direkt in unserem Steuerhaus. Wir sind alle daran interessiert, diese neue Form des Rechnens für das Zeitalter der KI voranzutreiben und zu demokratisieren. Nvidia engagiert sich für die Weiterentwicklung des beschleunigten Computings.“

Noch eine Entschuldigung für den RTX 3080/3090-Start

Huang entschuldigte sich erneut kurz für die schwierige Einführung der Nvidia RTX 3080- und 3090-Grafikkarten. Lesen Sie hier mehr.

Nvidia Omniverse ist ein Trainingsgelände für Roboter

Für Gamer, Raytracing hilft dabei, lebendige Details in Szenen in Videospielen darzustellen, indem die Eigenschaft des Lichts genutzt wird. Nvidia verwendet die gleichen Prinzipien, um Nvidia Omniverse zu bauen, von dem das Unternehmen behauptet, es sei „ein Ort, an dem Roboter lernen können, Roboter zu sein, genau wie sie es in der realen Welt tun würden“.

Nvidia Omniverse ist jetzt in der offenen Beta verfügbar und eine offene Plattform für Zusammenarbeit und Simulation, auf der Roboter aus realistischen Simulationen der realen Welt lernen können. Mit Omniverse können autonome Fahrzeuge schnell das Fahren erlernen und mit realen Szenarien interagieren menschlichen Fahrern begegnen können, ohne dass das Risiko besteht, Umstehende zu gefährden, wenn das Experiment zustande kommt seitwärts. Omniverse ermöglicht auch Tests in einem viel größeren Maßstab, da ein autonomes Fahrzeug oder ein autonomer Roboter nicht physisch eingesetzt werden muss, um es zu testen.

Um zu zeigen, wie sich Nvidia Omniverse auf uns alle auswirken kann, hob Nvidia hervor, wie Omniverse in der Arzneimittelforschung funktionieren kann, die angesichts der globalen Pandemie ein noch wichtigerer Forschungsbereich ist. Obwohl die Entwicklung eines Arzneimittels in der Regel mehr als ein Jahrzehnt in Anspruch nimmt und mehr als eine halbe Milliarde Dollar an Forschungs- und Entwicklungsgeldern erfordert, scheitern 90 % dieser Bemühungen, sagte Huang. Erschwerend kommt hinzu, dass sich die Kosten für die Entdeckung neuer Medikamente alle neun Jahre verdoppeln.

Nvidias Omniverse kann Wissenschaftlern helfen, die Proteine ​​zu identifizieren, die Krankheiten verursachen können, und das Testen potenzieller Medikamente durch den Einsatz von KI beschleunigen. und Datenanalyse. All dies wird auf Nvidias neue Clara Discovery-Plattform angewendet. Und in Großbritannien stellte Nvidia sein neues Rechenzentrum Cambridge One vor, das nach Angaben des Unternehmens das schnellste in der Region und eines der Top 30 der Welt ist, mit 400 Petaflops KI. Leistung.

Das Unternehmen stellte außerdem seine neue DGX-Super-Pod-Architektur vor, die es anderen Forschern ermöglicht, ihre eigenen skalierbaren Supercomputer zu bauen, die zwischen 20 und 140 miteinander verbinden DGX-Systeme.

Nvidia RTX A6000: Raytracing für Profis

Erweiterung der kürzlich angekündigten GeForce RTX 3070, RTX 3080 und RTX 3090 Grafikkarten2019 kündigte Nvidia eine neue Generation Ampere-basierter GPUs für Profis an. Das neue Grafikkarten sind nicht unter der Marke gekennzeichnet Nvidias Quadro-Schirm, aber die RTX A6000- und Nvidia A40-GPUs richten sich an die gleichen Zielgruppen aus Kreativen und Datenwissenschaftlern, die auch die Quadro-GPUs kaufen.

„Die GPUs bieten die Geschwindigkeit und Leistung, die es Ingenieuren ermöglicht, innovative Produkte zu entwickeln, Designern, hochmoderne Gebäude zu schaffen und Wissenschaftlern, daraus Durchbrüche zu erzielen.“ überall auf der Welt“, erklärte das Unternehmen in einem Blogbeitrag und stellte fest, dass die neuen A6000 und A40 über neue RT-Kerne, Tensor-Kerne und CUDA-Kerne verfügen, die „deutlich schneller als die Vorgänger“ sind Generationen.“

Konkrete Angaben zur Hardware machte das Unternehmen nicht. Nvidia behauptete jedoch, dass die RT-Kerne der zweiten Generation den doppelten Durchsatz der Karten der vorherigen Generation liefern und gleichzeitig gleichzeitig arbeiten Raytracing, Shading und Rechenfunktionen, während die Tensor-Kerne der dritten Generation bis zum Fünffachen des Durchsatzes der vorherigen Generation bieten.

Die Karten werden mit 48 GB GPU-Speicher geliefert, der mit NVLink auf 96 GB erweiterbar ist, wenn zwei GPUs angeschlossen sind. Dies steht im Vergleich zu nur 24 GB Speicher auf dem RTX 3090. Während die RTX 3090 als GPU vermarktet wird, die Spiele in 8K mit 60 Bildern pro Sekunde (fps) rendern kann, ist die Der erweiterte Speicher der professionellen RTX A6000 und A40 hilft bei der Verarbeitung von Blackmagic RAW 8K- und 12K-Filmmaterial für Videos Bearbeitung. Wie die Consumer-Ampere-Karten basieren auch die A6000- und A40-GPUs auf PCIe Gen 4, das die doppelte Bandbreite der Vorgängergeneration bietet.

Die A40-basierten Server werden in Systemen von Cisco, Dell, Fujitsu, Hewlett Packard Enterprise und Lenovo verfügbar sein. Die A6000-GPUs werden an Vertriebspartner geliefert, und beide GPUs werden Anfang nächsten Jahres verfügbar sein. Preisdetails waren nicht sofort verfügbar und es ist unklar, ob die professionellen Karten dasselbe sehen werden begrenztes Angebot und große Engpässe das erlebte Nvidia mit der Einführung seiner Consumer-Karten.

Der Aufstieg der K.I. Bots

Nvidia betonte auch, wie seine Arbeit an GPUs dazu beiträgt, die KI zu beschleunigen. Entwicklung und Akzeptanz. Facebook's K.I. Forscher haben einen Chatbot mit Wissen und Einfühlungsvermögen entwickelt, den die Hälfte der Nutzer des sozialen Netzwerks tatsächlich bevorzugte. Forscher des California Institute of Technology trainierten eine Drohne mithilfe von Reinforcement Learning, um das Flugsystem so zu steuern, dass es reibungslos durch Turbulenzen und Geländeänderungen fliegt.

Nvidias A.I. basiert auf drei Säulen: Single- bis Multi-GPU-Knoten auf jedem Framework oder Modell, der Einsatz von Inferenz und der Anwendung vorab trainierter Modelle, sagte Huang.

Nvidia gab außerdem bekannt, dass es eine Partnerschaft mit Microsoft eingegangen ist, um Nvidia A.I. zu Azure, um Office intelligenter zu machen.

„Heute geben wir bekannt, dass Microsoft Nvidia A.I. einführt. auf Azure, um intelligente Erfahrungen in Microsoft Office zu ermöglichen“, sagte Huang während der Keynote. „Die weltweit beliebteste Produktivitätsanwendung, die von Hunderten Millionen Menschen genutzt wird, wird jetzt KI-unterstützt sein. Zu den ersten Funktionen gehören intelligente Grammatikkorrektur, Fragen und Antworten sowie Textvorhersage. Aufgrund der großen Anzahl an Benutzern und der für ein gutes Erlebnis erforderlichen sofortigen Reaktion wird Office mit Nvidia-GPUs verbunden, und Azure mit Nvidia-GPUs-Antworten dauern weniger als 200 Millisekunden. Unser Durchsatz ermöglicht Microsoft die Skalierung auf Millionen gleichzeitiger Benutzer.“

Auch American Express nutzt K.I. zur Betrugsbekämpfung, während Twitter künstliche Intelligenz nutzt, um die große Menge an auf die Plattform hochgeladenen Videos zu verstehen und zu kontextualisieren.

Mit Conversational A.I. sind die Ergebnisse von Sprachabfragen, die auf der GPU-Plattform von Nvidia durchgeführt werden, halb so hoch Latenz im Vergleich zu CPU-verarbeiteten Abfragen und auch realistischere, menschlich klingende Text-zu-Sprache Motoren. Nvidia kündigte außerdem eine offene Beta von Jarvis an, damit Entwickler KI ausprobieren können. mit Gesprächsgeschick.

K.I. für die Work-from-Home-Zukunft

K.I. kann auch in Anwendungen wie Videokonferenz- und Chat-Lösungen integriert werden, die Mitarbeitern die Remote-Zusammenarbeit erleichtern. Mit Nvidias Video Maxene sagte Huang, dass K.I. kann bei Videoanrufen zaubern.

Maxene kann die wichtigen Merkmale eines Gesichts identifizieren, nur die Änderungen der Merkmale über das Internet senden und das Gesicht dann beim Empfänger wiederbeleben. Dies spart Bandbreite und sorgt für ein besseres Videoerlebnis in Gebieten mit schlechter Internetverbindung. Huang behauptete, dass die Bandbreite um den Faktor 10 reduziert werde.

K.I. Sie können jedoch auch in Gebieten mit hoher Bandbreite besser telefonieren. Im extremsten Beispiel: K.I. kann verwendet werden, um Ihr Gesicht neu auszurichten, sodass Sie während eines Anrufs Augenkontakt mit jeder Person haben, auch wenn Ihr Gesicht leicht von der Kamera weg geneigt ist. K.I. Sie können außerdem Hintergrundgeräusche reduzieren, Ihr Gesicht neu beleuchten, den Hintergrund ersetzen und die Videoqualität bei schlechten Lichtverhältnissen verbessern. Kombiniert mit Jarvis A.I. Bei einer Rede kann Maxene auch Untertitel liefern.

„Wir haben die Chance, die Videokonferenzen von heute zu revolutionieren und die virtuelle Präsenz von morgen zu erfinden“, sagte Huang. „Und Video-K.I. Inferenzanwendungen kommen aus allen Branchen.“

Ein Rechenzentrum auf einen ARM-Chip bringen

Um seine Investition in ARM-Chips hervorzuheben, kündigte Nvidia die neuen BlueField-DPUs an, die das bringen Leistung einer Rechenzentrums-Infrastruktur auf einem Chip und werden von DOCA unterstützt die Architektur.

Die neuen BlueField 2 DPUs entlasten kritische Komponenten – wie Netzwerk und Speicher – sowie Sicherheitsaufgaben von der CPU, um Cyberangriffe zu verhindern.

„Eine einzelne BlueField-2-DPU kann die gleichen Rechenzentrumsdienste bereitstellen, die bis zu 125 CPU-Kerne verbrauchen könnten“, behauptete Nvidia in einer vorbereiteten Erklärung. „Dadurch werden wertvolle CPU-Kerne für die Ausführung einer Vielzahl anderer Unternehmensanwendungen frei.“ Das Unternehmen gab an, dass mindestens 30 % der CPU vorhanden seien Diese Kerne wurden zuvor durch den Betrieb der Rechenzentrumsinfrastruktur verbraucht und diese Kerne werden jetzt freigegeben, da die Aufgabe nun auf BlueField verlagert wird DPU.

Eine zweite Bluefield 2X DPU ist ebenfalls bei Nvidia dabei Ampere-basierte GPU-Technologie. Ampere bringt K.I. an BlueField 2X, um Sicherheitsanalysen in Echtzeit bereitzustellen und böswillige Aktivitäten zu identifizieren.

Personalisierte Empfehlungsmaschinen

K.I. kann verwendet werden, um personalisierte Empfehlungen zu digitalen und physischen Gütern auf Plattformen bereitzustellen und relevante digitale Anzeigen, Nachrichten und Filme bereitzustellen. Nvidia behauptete, dass bereits eine Verbesserung der Empfehlungsgenauigkeit um 1 % zu Umsatzsteigerungen in Milliardenhöhe und einer höheren Kundenbindung führen kann.

Um Unternehmen bei der Verbesserung ihrer Empfehlungsmaschine zu unterstützen, hat Nvidia Merlin eingeführt, das auf der Nvidia Rapids-Plattform basiert. Während es Tage dauern kann, bis CPU-basierte Lösungen erlernt sind, gilt Merlin als superschnell und superskalierbar, mit Zykluszeiten von einem Tag auf nur drei Stunden. Merlin befinde sich derzeit in der offenen Betaphase, sagte Huang.

Rapids wird von Adobe für intelligentes Marketing genutzt, während Capital One die Plattform für Betrugsanalysen und als Antrieb für den Eno-Chatbot des Unternehmens nutzt.

K.I. für alles rund um das IoT

Nvidias EGX-Plattform wird verwendet, um K.I. zu Edge-Geräten, um K.I. reaktionsfähiger für Internet-of-Things- oder IoT-Anwendungen. EGX ist auf Nvidias NGC verfügbar und wird von Krankenhäusern wie dem Northwestern Memorial Hospital verwendet, um einige Aufgaben auf Computer zu verlagern, die routinemäßig von Krankenschwestern ausgeführt werden. Patienten können beispielsweise mithilfe von Abfragen in natürlicher Sprache einen Bot fragen, welchen Eingriff sie durchführen.

„Die EGX A.I. Der Computer integriert eine Mellanox Bluefield 2-GPU und eine Ampere-GPU in einer einzigen PCI-Express-Karte und verwandelt so jeden Standard-OEM-Server in einen sicheren, beschleunigten KI-Server. Rechenzentrum“, sagte Huang.

Die Plattform kann in den Bereichen Gesundheitswesen, Fertigung, Logistik, Lieferung, Einzelhandel und Transport genutzt werden.

Vorrückender ARM

"Heute. „Wir kündigen eine große Initiative zur Weiterentwicklung der ARM-Plattform an“, sagte Huang über die angekündigte Übernahme von ARM durch das Unternehmen, ohne dass es Investitionen in drei Dimensionen vorsehe.

„Erstens ergänzen wir ARM-Partner mit GPU-, Netzwerk-, Speicher- und Sicherheitstechnologien, um vollständig beschleunigte Plattformen zu schaffen. Zweitens arbeiten wir mit unseren Partnern zusammen, um Plattformen für HPC Cloud Edge NPC zu schaffen. Dafür sind Chipsysteme und Systemsoftware erforderlich. Und drittens portieren wir die Nvidia A.I. und Nvidia RTX-Engines zu ARM.“

Derzeit ist dies nur auf der x86-Plattform verfügbar. Die Investition von Nvidia in ARm wird das Unternehmen jedoch an die Spitze bringen und seine Entwicklung im Bereich KI beschleunigen. Huang sagte, er versuche, ARM als Konkurrent von Intel im Serverbereich zu positionieren.

Empfehlungen der Redaktion

• Nvidias Supercomputer könnte eine neue Ära von ChatGPT einläuten
• Nvidia-GPUs erleben einen massiven Preisanstieg und eine enorme Nachfrage seitens der KI
• Zooms K.I. Technologie zur Erkennung von Emotionen bei Anrufen verärgert Kritiker
• Nvidia stellt auf der GTC 2022 die allererste CPU und Hopper-GPU vor
• Wie Nvidia KI nutzt um Domino’s dabei zu helfen, Pizzen schneller auszuliefern