“Het tijdperk van A.I. is begonnen”, verklaarde Nvidia-CEO Jensen Huang tijdens de GTC van dit jaar. Op de GPU Technology Conference dit jaar demonstreerde Nvidia zijn innovatie om AI te bevorderen, waarbij werd opgemerkt hoe de technologie zou kunnen helpen de wereldproblemen tien keer beter en sneller op te lossen.
Inhoud
- Nog een verontschuldiging voor de lancering van de RTX 3080/3090
- Nvidia Omniverse is een oefenterrein voor robots
- Nvidia RTX A6000: Raytracing voor professionals
- De opkomst van de A.I. Botten
- AI voor de toekomst van thuiswerken
- Een datacenter naar een ARM-chip brengen
- Gepersonaliseerde aanbevelingsmotoren
- AI voor al het IoT
- Vooruitgang ARM
Terwijl Nvidia vooral bekend staat om zijn grafische kaarten - en meer recentelijk geassocieerd met realtime raytracing – het bedrijf stimuleert ook de innovatie achter de schermen die kunstmatige intelligentie in ons dagelijks leven brengt, van magazijnrobots die onze verzendbestellingen inpakken, tot zelfrijdende auto's en natuurlijke taalbots die nieuws, zoekopdrachten en informatie leveren met weinig latentie of vertraging.
“We werken graag aan extreem lastige computerproblemen die een grote impact hebben op de wereld”, zegt Huang dat het bedrijf nu 110 SDK’s heeft die zich richten op de meer dan 1 miljard CUDA-compatibele GPU’s die zijn ontwikkeld verzonden. Het bedrijf zegt dat meer dan 6.500 startups applicaties op Nvidia bouwen, en zich aansluiten bij de 2 miljoen Nvidia-ontwikkelaars in totaal. “Dit is precies in onze stuurhut. We zijn er allemaal voor om deze nieuwe vorm van computergebruik voor het tijdperk van AI te bevorderen en te democratiseren. Nvidia is toegewijd aan het bevorderen van versneld computergebruik.”
Verwant
- Nvidia brengt AI in ChatGPT-stijl naar videogames, en ik maak me nu al zorgen
- Ik pitchte mijn belachelijke startup-idee voor een robot-VC
- Analoge AI? Het klinkt gek, maar het zou de toekomst kunnen zijn
Nog een verontschuldiging voor de lancering van de RTX 3080/3090
Huang leidde met nog een snelle verontschuldiging over de moeilijke lancering van de Nvidia RTX 3080- en 3090-videokaarten. Lees hier meer.
Aanbevolen video's
Nvidia Omniverse is een oefenterrein voor robots
Voor gamers,
Nvidia Omniverse is nu beschikbaar in open bèta en is een open platform voor samenwerking en simulatie waar robots kunnen leren van realistische simulaties van de echte wereld. Met behulp van Omniverse kunnen autonome voertuigen snel leren rijden en omgaan met realistische scenario's menselijke bestuurders kunnen tegenkomen, zonder het risico dat omstanders in gevaar worden gebracht als het experiment slaagt zijwaarts. Omniverse maakt het ook mogelijk om op veel grotere schaal te testen, omdat er geen fysiek autonoom voertuig of robot hoeft te worden ingezet om het te testen.
Om te laten zien hoe Nvidia Omniverse ons allemaal kan beïnvloeden, benadrukte Nvidia hoe Omniverse kan werken bij het ontdekken van medicijnen, wat een nog belangrijker onderzoeksgebied is gezien de wereldwijde pandemie. Hoewel het ontwikkelen van geneesmiddelen doorgaans meer dan tien jaar duurt om geneesmiddelen te ontwikkelen en meer dan een half miljard dollar aan onderzoeks- en ontwikkelingsfinanciering vereist, mislukt 90% van deze inspanningen, aldus Huang. Tot overmaat van ramp verdubbelen de kosten voor het ontdekken van nieuwe medicijnen elke negen jaar.
Nvidia's Omniverse kan wetenschappers helpen de eiwitten te identificeren die ziekten kunnen veroorzaken, en het testen van potentiële medicijnen versnellen door gebruik te maken van A.I. en data-analyse. Dit alles wordt toegepast op Nvidia’s nieuwe Clara Discovery-platform. En in Groot-Brittannië introduceerde Nvidia zijn nieuwe Cambridge One-datacenter, waarvan het bedrijf zegt dat het het snelste in de regio is en een van de top 30 ter wereld, met 400 petaflops aan A.I. prestatie.
Het bedrijf introduceerde ook zijn nieuwe DGX Super Pod-architectuur, zodat andere onderzoekers hun eigen schaalbare supercomputers konden bouwen die tussen de 20 en 140 computers met elkaar konden verbinden. DGX-systemen.
Nvidia RTX A6000: Raytracing voor professionals
Voortbouwend op de onlangs aangekondigde GeForce RTX 3070, RTX 3080 en RTX 3090 grafische kaartenNvidia heeft een nieuwe generatie Ampere-gebaseerde GPU's voor professionals aangekondigd. De nieuwe
“De GPU’s bieden de snelheid en prestaties die ingenieurs in staat stellen innovatieve producten te ontwikkelen, ontwerpers in staat te stellen ultramoderne gebouwen te creëren en wetenschappers in staat te stellen doorbraken te ontdekken op het gebied van technologie. waar ook ter wereld”, aldus het bedrijf in een blogpost en merkte op dat de nieuwe A6000 en A40 nieuwe RT-kernen, Tensor-kernen en CUDA-kernen bevatten die “aanzienlijk sneller zijn dan de vorige”. generaties.”
Het bedrijf heeft geen specifieke details over de hardware verstrekt. Nvidia beweerde echter dat de RT-cores van de tweede generatie twee keer zoveel doorvoer leveren als de kaarten van de vorige generatie, terwijl ze ook gelijktijdige
De kaarten worden geleverd met 48 GB GPU-geheugen dat uitbreidbaar is tot 96 GB met NVLink wanneer twee GPU's zijn aangesloten. Dit vergeleken met slechts 24 GB geheugen op de RTX3090. Terwijl de RTX 3090 op de markt wordt gebracht als een GPU die games in 8K kan weergeven met 60 frames per seconde (fps), uitgebreid geheugen op de professionele RTX A6000 en A40 helpt bij het verwerken van Blackmagic RAW 8K- en 12K-beeldmateriaal voor video bewerken. Net als de Ampere-kaarten voor consumenten zijn de A6000- en A40-GPU's gebaseerd op PCIe Gen 4, die tweemaal de bandbreedte levert van de vorige generatie.
De op A40 gebaseerde servers zullen beschikbaar zijn in systemen van Cisco, Dell, Fujitsu, Hewlett Packard Enterprise en Lenovo. De A6000 GPU’s komen naar channelpartners en beide GPU’s zullen begin volgend jaar beschikbaar zijn. Prijsgegevens waren niet onmiddellijk beschikbaar en het is onduidelijk of de professionele kaarten hetzelfde zullen zien beperkt aanbod en grote tekorten die Nvidia ondervond bij de lancering van zijn consumentenkaarten.
De opkomst van de A.I. Botten
Nvidia benadrukte ook hoe zijn werk op GPU’s de AI helpt versnellen. ontwikkeling en adoptie. Facebook's A.I. Onderzoekers hebben een chatbot ontwikkeld met kennis en empathie waar de helft van de gebruikers van het sociale netwerk eigenlijk de voorkeur aan gaf. Onderzoekers van het California Institute of Technology hebben een drone getraind met behulp van versterkend leren om het vluchtsysteem te besturen om soepel door turbulentie en veranderingen in het terrein te vliegen.
Nvidia's AI is gebaseerd op drie pijlers: single- tot multi-GPU-nodes op elk raamwerk of model, het gebruik van gevolgtrekkingen en het toepassen van vooraf getrainde modellen, zei Huang.
Nvidia heeft ook aangekondigd dat het samenwerkt met Microsoft om Nvidia A.I. naar Azure om Office slimmer te maken.
“Vandaag kondigen we aan dat Microsoft Nvidia A.I. adopteert. op Azure, om slimme ervaringen in Microsoft Office mogelijk te maken”, zei Huang tijdens de keynote. “De populairste productiviteitstoepassing ter wereld, die door honderden miljoenen mensen wordt gebruikt, zal nu door AI worden ondersteund. De eerste functies omvatten slimme grammaticacorrectie, vragen en antwoorden en tekstvoorspelling. Vanwege het grote aantal gebruikers en de onmiddellijke respons die nodig is voor een goede ervaring, zal Office worden verbonden met Nvidia GPU's en duurt de respons van Azure met Nvidia GPU's minder dan 200 milliseconden. Dankzij onze doorvoer kan Microsoft opschalen naar miljoenen gelijktijdige gebruikers.”
American Express maakt ook gebruik van A.I. om fraude te bestrijden, terwijl Twitter gebruik maakt van kunstmatige intelligentie om de enorme hoeveelheid video's die naar het platform zijn geüpload, te helpen begrijpen en contextualiseren.
Met conversationele AI hebben de resultaten van gesproken zoekopdrachten op het GPU-platform van Nvidia de helft minder latentie vergeleken met door de CPU verwerkte zoekopdrachten en ook realistischer, mensachtig klinkende tekst-naar-spraak motoren. Nvidia heeft ook een open bèta van Jarvis aangekondigd, zodat ontwikkelaars A.I. met gespreksvaardigheden.
AI voor de toekomst van thuiswerken
AI kan ook worden ingebouwd in toepassingen zoals videoconferenties en chatoplossingen waarmee werknemers op afstand kunnen samenwerken. Met Nvidia's Video Maxene zei Huang dat A.I. kan magie doen voor videogesprekken.
Maxene kan de belangrijke kenmerken van een gezicht identificeren, alleen de veranderingen van de kenmerken via internet verzenden en vervolgens het gezicht reanimeren bij de ontvanger. Dit bespaart bandbreedte, wat zorgt voor een betere video-ervaring in gebieden met een slechte internetverbinding. Huang beweerde dat de bandbreedte met een factor 10 wordt verminderd.
AI bel echter beter, zelfs in gebieden met een hoge bandbreedte. In het meest extreme voorbeeld is A.I. kan worden gebruikt om uw gezicht te heroriënteren, zodat u oogcontact maakt met iedereen die telefoneert, zelfs als uw gezicht iets van de camera af is gekanteld. AI kan ook achtergrondgeluiden verminderen, uw gezicht opnieuw verlichten, de achtergrond vervangen en de videokwaliteit bij weinig licht verbeteren. Gecombineerd met Jarvis A.I. toespraak, kan Maxene ook ondertitelingstekst leveren.
“We hebben de kans om de videoconferenties van vandaag radicaal te veranderen en de virtuele aanwezigheid van morgen uit te vinden”, aldus Huang. “En video-A.I. inferentietoepassingen komen uit elke branche.”
Een datacenter naar een ARM-chip brengen
Nvidia benadrukte zijn investering in ARM-chips en kondigde de nieuwe BlueField DPU's aan, die de kracht van een datacenter-infrastructuur-op-een-chip en worden ondersteund door DOCA, de architectuur.
De nieuwe BlueField 2 DPU's ontlasten cruciale componenten (zoals netwerken en opslag) en beveiligingstaken van de CPU om cyberaanvallen te helpen voorkomen.
“Eén enkele BlueField-2 DPU kan dezelfde datacenterdiensten leveren die tot 125 CPU-cores kunnen verbruiken”, aldus Nvidia in een voorbereide verklaring. “Hierdoor komen waardevolle CPU-kernen vrij voor het uitvoeren van een breed scala aan andere bedrijfsapplicaties.” Het bedrijf zei dat minstens 30% van de CPU was voorheen verbruikt door het runnen van de datacenterinfrastructuur, en die kernen worden nu vrijgemaakt omdat de taak nu wordt overgebracht naar het BlueField DPU.
Een tweede Bluefield 2X DPU wordt ook geleverd met Nvidia’s Ampère-gebaseerde GPU-technologie. Ampere brengt A.I. naar de BlueField 2X om realtime beveiligingsanalyses te bieden en kwaadaardige activiteiten te identificeren.
Gepersonaliseerde aanbevelingsmotoren
AI kan worden gebruikt om gepersonaliseerde aanbevelingen van digitale en fysieke goederen op platforms te leveren, met relevante digitale advertenties, nieuws en films. Nvidia beweerde dat zelfs een verbetering van 1% in de nauwkeurigheid van aanbevelingen kan leiden tot miljarden meer omzet en een hogere klantenbinding.
Om bedrijven te helpen hun aanbevelingsengine te verbeteren, introduceerde Nvidia Merlin, mogelijk gemaakt door het Nvidia Rapids-platform. Waar CPU-gebaseerde oplossingen dagen nodig hebben om te leren, zou Merlin supersnel en superschaalbaar zijn, met cyclustijden van een dag tot slechts drie uur. Merlin bevindt zich nu in open bèta, zei Huang.
Rapids wordt door Adobe gebruikt voor intelligente marketing, terwijl Capital One het platform gebruikt voor fraudeanalyse en om de Eno-chatbot van het bedrijf aan te drijven.
AI voor al het IoT
Nvidia’s EGX-platform wordt gebruikt om A.I. naar edge-apparaten om A.I. responsiever voor Internet of Things- of IoT-toepassingen. EGX is beschikbaar op Nvidia's NGC en wordt gebruikt door ziekenhuizen zoals het Northwestern Memorial Hospital om bepaalde taken over te dragen naar computers die routinematig door verpleegkundigen worden uitgevoerd. Patiënten kunnen bijvoorbeeld vragen in natuurlijke taal gebruiken om een bot te vragen welke procedure zij ondergaan.
“De EGX A.I. computer integreert een Mellanox Bluefield 2 GPU en een Ampere GPU in één PCI Express-kaart, waardoor elke standaard OEM-server verandert in een veilige, versnelde A.I. datacenter,” zei Huang.
Het platform kan worden ingezet in de gezondheidszorg, productie, logistiek, bezorging, detailhandel en transport.
Vooruitgang ARM
"Vandaag. we kondigen een groot initiatief aan om het ARM-platform vooruit te helpen”, zei Huang over de aangekondigde overname van ARM door het bedrijf, niets dat het in drie dimensies investeert.
“Ten eerste vullen we ARM-partners aan met GPU-, netwerk-, opslag- en beveiligingstechnologieën om volledig versnelde platforms te creëren. Ten tweede werken we samen met onze partners om platforms te creëren voor HPC cloud edge NPC. Hiervoor zijn chipsystemen en systeemsoftware nodig. En ten derde porteren we de Nvidia A.I. en Nvidia RTX-motoren naar ARM.”
Momenteel is dit alleen beschikbaar op het x86-platform. De investering van Nvidia in ARm zal het bedrijf echter transformeren in de leidende positie en versnellen op het gebied van A.I. computing, zei Huang, terwijl hij ARM wil positioneren als een concurrent van Intel op servergebied.
Aanbevelingen van de redactie
- De supercomputer van Nvidia kan een nieuw tijdperk van ChatGPT inluiden
- Nvidia GPU's zien een enorme prijsstijging en een enorme vraag van AI
- Zoom's AI technologie om emoties te detecteren tijdens gesprekken maakt critici van streek
- Nvidia onthult de allereerste CPU en Hopper GPU op GTC 2022
- Hoe Nvidia AI gebruikt om Domino’s te helpen pizza’s sneller te bezorgen
