Récapitulatif du Nvidia Fall GTC 2020: GPU A6000, Omniverse, plus

« L’ère de l’IA. a commencé », a déclaré le PDG de Nvidia, Jensen Huang, lors du GTC de cette année. Lors de sa conférence sur la technologie GPU cette année, Nvidia a présenté son innovation pour faire progresser l'IA, soulignant comment la technologie pourrait aider à résoudre les problèmes du monde 10 fois mieux et plus rapidement.

Alors que Nvidia est surtout connu pour son cartes graphiques - et plus récemment associé au temps réel tracé laser — l'entreprise est également à l'origine de l'innovation en coulisse qui introduit l'intelligence artificielle dans notre vie quotidienne, depuis les robots d'entrepôt qui emballent nos commandes d'expédition, aux voitures autonomes et aux robots en langage naturel qui fournissent des actualités, des recherches et des informations avec peu de latence ou retard.

"Nous aimons travailler sur des problèmes informatiques extrêmement difficiles qui ont un grand impact sur le monde", a déclaré Huang, soulignant que la société dispose désormais de 110 SDK qui ciblent plus d'un milliard de GPU compatibles CUDA qui ont été expédié. La société affirme que plus de 6 500 startups créent des applications sur Nvidia, rejoignant ainsi les 2 millions de développeurs Nvidia au total. «C'est juste dans notre timonerie. Nous sommes tous partants pour faire progresser et démocratiser cette nouvelle forme d’informatique à l’ère de l’IA. Nvidia se consacre à faire progresser le calcul accéléré.

Encore des excuses pour le lancement du RTX 3080/3090

Huang a présenté de nouvelles excuses rapides concernant le lancement difficile des cartes vidéo Nvidia RTX 3080 et 3090. Lire la suite ici.

Nvidia Omniverse est un terrain d'entraînement pour les robots

Pour les joueurs, tracé laser permet de restituer des détails éclatants dans les scènes de jeux vidéo en utilisant la propriété de la lumière. Nvidia utilise les mêmes principes pour créer Nvidia Omniverse, qui, selon la société, est « un endroit où les robots peuvent apprendre à devenir des robots, comme ils le feraient dans le monde réel ».

Disponible dès maintenant en version bêta ouverte, Nvidia Omniverse est une plateforme ouverte de collaboration et de simulation où les robots peuvent apprendre de simulations réalistes du monde réel. Grâce à Omniverse, les véhicules autonomes peuvent rapidement apprendre à conduire et interagir avec des scénarios réels. les conducteurs humains peuvent rencontrer, sans risquer de mettre en danger les passants si l'expérience se déroule de côté. Omniverse permet également de réaliser des tests à une échelle beaucoup plus large, puisqu’il n’est pas nécessaire de déployer physiquement un véhicule ou un robot autonome pour le tester.

Pour montrer comment Nvidia Omniverse peut nous affecter tous, Nvidia a souligné comment Omniverse peut fonctionner dans la découverte de médicaments, qui est un domaine de recherche encore plus vital compte tenu de la pandémie mondiale. Bien que la découverte d'un médicament prenne généralement plus d'une décennie pour développer un médicament et nécessite plus d'un demi-milliard de dollars en financement de recherche et développement, 90 % de ces efforts échouent, a déclaré Huang. Pire encore, tous les neuf ans, le coût de la découverte de nouveaux médicaments double.

L'Omnverse de Nvidia peut aider les scientifiques à identifier les protéines susceptibles de provoquer des maladies, ainsi qu'à accélérer les tests de médicaments potentiels en utilisant l'IA. et l'analyse des données. Tout cela est appliqué à la nouvelle plateforme Clara Discovery de Nvidia. Et au Royaume-Uni, Nvidia a présenté son nouveau centre de données Cambridge One, qui, selon la société, est le plus rapide de la région et l'un des 30 premiers au monde, avec 400 pétaflops d'IA. performance.

La société a également présenté sa nouvelle architecture DGX Super Pod, pour permettre à d'autres chercheurs de construire leurs propres supercalculateurs évolutifs reliant entre 20 et 140 Systèmes DGX.

Nvidia RTX A6000: Ray tracing pour les professionnels

Extension des GeForce RTX 3070, RTX 3080 et RTX 3090 récemment annoncées cartes graphiques, Nvidia a annoncé une nouvelle génération de GPU basés sur Ampere pour les professionnels. Le nouveau cartes graphiques ne sont pas marqués sous Le parapluie Quadro de Nvidia, mais les GPU RTX A6000 et Nvidia A40 s'adressent aux mêmes publics de créatifs et de data scientists qui achètent les GPU Quadro.

« Les GPU offrent la vitesse et les performances nécessaires pour permettre aux ingénieurs de développer des produits innovants, aux concepteurs de créer des bâtiments de pointe et aux scientifiques de découvrir des avancées technologiques. partout dans le monde », a déclaré la société dans un article de blog, notant que les nouveaux A6000 et A40 sont dotés de nouveaux cœurs RT, cœurs Tensor et cœurs CUDA qui sont « nettement plus rapides que les précédents ». générations. »

La société n'a pas fourni de détails spécifiques sur le matériel. Cependant, Nvidia a affirmé que les cœurs RT de deuxième génération offrent un débit 2 fois supérieur à celui des cartes de génération précédente, tout en fournissant également des performances simultanées. tracé laser, d'ombrage et de calcul, tandis que les cœurs Tensor de troisième génération offrent jusqu'à 5 fois le débit de la génération précédente.

Les cartes sont livrées avec 48 Go de mémoire GPU extensible à 96 Go avec NVLink lorsque deux GPU sont connectés. Cela se compare à seulement 24 Go de mémoire sur le RTX3090. Alors que le RTX 3090 est commercialisé comme un GPU capable de restituer des jeux en 8K à 60 images par seconde (fps), le la mémoire étendue des RTX A6000 et A40 professionnels permet de traiter les séquences Blackmagic RAW 8K et 12K pour la vidéo édition. Comme les cartes Ampere grand public, les GPU A6000 et A40 sont basés sur PCIe Gen 4, qui offre deux fois la bande passante de la génération précédente.

Les serveurs basés sur l'A40 seront disponibles dans les systèmes de Cisco, Dell, Fujitsu, Hewlett Packard Enterprise et Lenovo. Les GPU A6000 arriveront chez les partenaires de distribution, et les deux GPU seront disponibles au début de l'année prochaine. Les détails des prix n'étaient pas immédiatement disponibles et il n'est pas clair si les cartes professionnelles verront la même chose. offre limitée et pénuries importantes que Nvidia a vécu avec le lancement de ses cartes grand public.

L’essor de l’A.I. les robots

Nvidia a également souligné comment ses travaux sur les GPU contribuent à accélérer l'IA. développement et adoption. FacebookL'IA de des chercheurs ont développé un chatbot doté de connaissances et d’empathie que la moitié des utilisateurs du réseau social préféraient en réalité. Des chercheurs du California Institute of Technology ont formé un drone en utilisant l’apprentissage par renforcement pour contrôler le système de vol afin de voler en douceur malgré les turbulences et les changements de terrain.

L’IA de Nvidia est basé sur trois piliers: des nœuds mono-à multi-GPU sur n'importe quel framework ou modèle, l'utilisation de l'inférence et l'application de modèles pré-entraînés, a déclaré Huang.

Nvidia a également annoncé son partenariat avec Microsoft pour amener Nvidia A.I. vers Azure pour rendre Office plus intelligent.

« Aujourd’hui, nous annonçons que Microsoft adopte Nvidia A.I. sur Azure, pour favoriser des expériences intelligentes dans Microsoft Office », a déclaré Huang lors du discours d'ouverture. « L’application de productivité la plus populaire au monde, utilisée par des centaines de millions de personnes, sera désormais assistée par l’IA. Les premières fonctionnalités incluront une correction grammaticale intelligente, des questions-réponses et la prédiction de texte. En raison du volume d'utilisateurs et de la réponse instantanée nécessaire pour une bonne expérience, Office sera connecté aux GPU Nvidia, et Azure avec les GPU Nvidia, les réponses prendront moins de 200 millisecondes. Notre débit permet à Microsoft de s'adapter à des millions d'utilisateurs simultanés.

American Express utilise également l'IA pour pour lutter contre la fraude, tandis que Twitter exploite l'intelligence artificielle pour l'aider à comprendre et à contextualiser la grande quantité de vidéos téléchargées sur la plateforme.

Avec l’IA conversationnelle, les résultats des requêtes vocales effectuées sur la plate-forme GPU de Nvidia sont deux fois moins élevés. latence par rapport aux requêtes traitées par le processeur et également une synthèse vocale plus réaliste et à consonance humaine moteurs. Nvidia a également annoncé une version bêta ouverte de Jarvis permettant aux développeurs d'essayer l'IA. avec des compétences conversationnelles.

I.A. pour l'avenir du travail à domicile

I.A. peuvent également être intégrés à des applications telles que des solutions de vidéoconférence et de chat qui aident les travailleurs à collaborer à distance. Avec Video Maxene de Nvidia, Huang a déclaré que l’A.I. peut faire de la magie pour les appels vidéo.

Maxene peut identifier les caractéristiques importantes d'un visage, envoyer uniquement les modifications des caractéristiques sur Internet, puis réanimer le visage au niveau du récepteur. Cela permet d'économiser de la bande passante, ce qui permet une meilleure expérience vidéo dans les zones où la connectivité Internet est faible. Huang a affirmé que la bande passante est réduite d'un facteur 10.

I.A. rendre les appels plus efficaces, même dans les zones à large bande passante. Dans l’exemple le plus extrême, A.I. peut être utilisé pour réorienter votre visage afin que vous établissiez un contact visuel avec chaque personne lors d'un appel, même lorsque votre visage est légèrement incliné par rapport à la caméra. I.A. peut également réduire le bruit de fond, rééclairer votre visage, remplacer l’arrière-plan et améliorer la qualité vidéo en cas de mauvais éclairage. Combiné avec Jarvis A.I. discours, Maxene peut également fournir du texte sous-titré.

"Nous avons l'opportunité de révolutionner la vidéoconférence d'aujourd'hui et d'inventer la présence virtuelle de demain", a déclaré Huang. « Et l’IA vidéo. les applications d’inférence proviennent de tous les secteurs.

Apporter un centre de données à une puce ARM

Soulignant son investissement dans les puces ARM, Nvidia a annoncé les nouveaux DPU BlueField, qui apportent le puissance d'une infrastructure de centre de données sur puce et sont pris en charge par DOCA, qui est le architecture.

Les nouveaux DPU BlueField 2 déchargent les composants critiques, comme la mise en réseau et le stockage, ainsi que les tâches de sécurité du processeur pour aider à prévenir les cyberattaques.

"Un seul DPU BlueField-2 peut fournir les mêmes services de centre de données pouvant consommer jusqu'à 125 cœurs de processeur", a affirmé Nvidia dans un communiqué préparé. "Cela libère de précieux cœurs de processeur pour exécuter un large éventail d'autres applications d'entreprise." La société a déclaré qu'au moins 30 % du processeur était auparavant consommés par l'exécution de l'infrastructure du centre de données, et ces cœurs sont désormais libérés car la tâche est désormais déchargée sur BlueField DPU.

Un deuxième DPU Bluefield 2X est également livré avec celui de Nvidia. Ampère-technologie GPU basée. Ampère apporte l'IA au BlueField 2X pour fournir des analyses de sécurité en temps réel et identifier les activités malveillantes.

Moteurs de recommandations personnalisés

I.A. peut être utilisé pour fournir des recommandations personnalisées de biens numériques et physiques sur des plateformes, en diffusant des publicités numériques, des actualités et des films pertinents. Nvidia a affirmé que même une amélioration de 1 % de la précision des recommandations peut générer des milliards de ventes supplémentaires et une meilleure fidélisation des clients.

Pour aider les entreprises à améliorer leur moteur de recommandation, Nvidia a présenté Merlin, qui repose sur la plateforme Nvidia Rapids. Alors que l'apprentissage des solutions basées sur CPU peut prendre des jours, Merlin est considéré comme ultra-rapide et ultra-évolutif, avec des temps de cycle allant d'une journée à seulement trois heures. Merlin est désormais en version bêta ouverte, a déclaré Huang.

Rapids est utilisé par Adobe pour le marketing intelligent, tandis que Capital One utilise la plate-forme pour l'analyse des fraudes et pour alimenter le chatbot Eno de l'entreprise.

I.A. pour tout l'IoT

La plate-forme EGX de Nvidia est utilisée pour amener l'IA. aux appareils de pointe pour rendre l'IA plus réactif pour les applications Internet des objets, ou IoT. EGX est disponible sur le NGC de Nvidia et est utilisé par des hôpitaux comme le Northwestern Memorial Hospital pour confier certaines tâches à des ordinateurs qui sont régulièrement effectués par des infirmières. Les patients, par exemple, peuvent utiliser des requêtes en langage naturel pour demander à un robot quelle procédure ils subissent.

«L'EGX A.I. L'ordinateur intègre un GPU Mellanox Bluefield 2 et un GPU Ampere dans une seule carte PCI Express, transformant n'importe quel serveur OEM standard en un système d'IA accéléré et sécurisé. centre de données », a déclaré Huang.

La plateforme peut être exploitée dans les domaines des soins de santé, de la fabrication, de la logistique, de la livraison, de la vente au détail et du transport.

Faire progresser le BRAS

"Aujourd'hui. nous annonçons une initiative majeure pour faire progresser la plate-forme ARM », a déclaré Huang à propos de l’acquisition annoncée d’ARM par la société, sans pour autant qu’elle investisse dans trois dimensions.

« Premièrement, nous complétons les partenaires ARM avec des technologies GPU, de réseau, de stockage et de sécurité pour créer des plates-formes complètes et accélérées. Deuxièmement, nous travaillons avec nos partenaires pour créer des plates-formes pour HPC Cloud Edge NPC. Cela nécessite des systèmes de puces et des logiciels système. Et troisièmement, nous portons le Nvidia A.I. et les moteurs Nvidia RTX vers ARM.

Actuellement, ceci n’est disponible que sur la plate-forme x86. Cependant, l’investissement de Nvidia dans l’ARm le transformera en leader et l’accélérera dans le domaine de l’IA. informatique, a déclaré Huang, alors qu'il cherche à positionner ARM comme un concurrent d'Intel dans le domaine des serveurs.

Recommandations des rédacteurs

• Le supercalculateur de Nvidia pourrait ouvrir la voie à une nouvelle ère de ChatGPT
• Les GPU Nvidia connaissent une hausse massive des prix et une énorme demande de la part de l'IA
• L’IA de Zoom une technologie permettant de détecter les émotions pendant les appels dérange les critiques
• Nvidia dévoile le tout premier CPU et GPU Hopper au GTC 2022
• Comment Nvidia utilise l'IA pour aider Domino's à livrer des pizzas plus rapidement