Nvidia heeft zojuist een nieuwe supercomputer aangekondigd die de toekomst van AI kan veranderen. De DGX GH200, uitgerust met bijna 500 keer meer geheugen dan de systemen die we nu kennen, valt binnenkort in handen van Google, Meta en Microsoft.
Het doel? Revolutionair generatieve AI, aanbevelingssystemen en gegevensverwerking op een schaal die we nog nooit eerder hebben gezien. Zijn taalmodellen zoals GPT gaan profiteren, en wat betekent dat voor reguliere gebruikers?
Aanbevolen video's
Het beschrijven van Nvidia's DGX GH200 vereist het gebruik van termen waar de meeste gebruikers nooit mee te maken hebben. "Exaflop", bijvoorbeeld, omdat de supercomputer 1 exaflop aan prestaties levert en 144 terabyte gedeeld geheugen. Nvidia merkt op dat dit bijna 500 keer meer geheugen betekent dan in een enkel Nvidia DGX A100-systeem.
Verwant
- ChatGPT-maker OpenAI wordt geconfronteerd met FTC-onderzoek over wetten voor consumentenbescherming
- Het verkeer op de ChatGPT-website is voor het eerst gedaald
- Apple's ChatGPT-rivaal schrijft mogelijk automatisch code voor u
Laten we teruggaan naar het cijfer van 1 exaflop en het een beetje opsplitsen. Eén exaflop is gelijk aan een triljoen drijvende-kommabewerkingen per seconde (FLOP's). Ter vergelijking, die van Nvidia RTX 4090 kan bij overklokken ongeveer 100 teraflops (TFLOP's) halen. Een TFLOP staat gelijk aan één biljoen drijvende-kommabewerkingen per seconde. Het verschil is verbluffend, maar natuurlijk, de RTX 4090 is geen datacenter-GPU. De DGX GH200 integreert daarentegen een aanzienlijk aantal van deze krachtige GPU's die nergens in de buurt van een consumenten-pc thuishoren.
De computer wordt aangedreven door Nvidia's GH200 Grace Hopper-superchips. Er zijn er in totaal 256, die dankzij Nvidia's NVLink-interconnecttechnologie allemaal kunnen samenwerken als een verenigd systeem, waardoor in wezen één enorme GPU ontstaat.
De hier gebruikte GH200-superchips hebben ook geen traditionele PCIe-verbinding tussen de CPU en de GPU nodig. Nvidia zegt dat ze al zijn uitgerust met een ARM-gebaseerde Nvidia Grace CP, U en een H100 Tensor Core GPU. Nvidia heeft hier ook een aantal mooie chipverbindingen, dit keer met behulp van de NVLink-C2C. Hierdoor wordt de bandbreedte tussen de processor en de grafische kaart zou aanzienlijk verbeterd zijn (tot 7 keer) en energiezuiniger (tot 5 keer).
Het is indrukwekkend genoeg om meer dan 200 van deze chips in een enkele krachtpatser van een supercomputer te stoppen, maar dat is het niet wordt nog beter als je bedenkt dat voorheen slechts acht GPU's konden worden samengevoegd met NVLink op een tijd. Een sprong van acht naar 256 chips geeft Nvidia zeker wat opscheppen.
Het is moeilijk voor te stellen dat de DGX GH200 verbeteringen in Bard, ChatGPT en Bing Chat zou kunnen aandrijven.
Waar komt de DGX GH200 terecht en wat heeft hij de wereld te bieden? Nvidia bouwt zijn eigen Helios Supercomputer om zijn AI-onderzoek en -ontwikkeling te bevorderen. Het zal vier DGX GH200-systemen omvatten, allemaal onderling verbonden met Nvidia's Quantum-2 InfiniBand. Het verwacht dat het tegen het einde van het jaar online komt.
Nvidia deelt zijn nieuwe ontwikkeling ook met de wereld, te beginnen met Google Cloud, Meta en Microsoft. Het doel is vrijwel hetzelfde: het verkennen van generatieve AI-workloads.
Als het om Google en Microsoft gaat, is het moeilijk voor te stellen dat de DGX GH200 verbeteringen zou kunnen aandrijven in Bard, ChatGPT, En Bing Chat.
De aanzienlijke rekenkracht die door een enkel DGX GH200-systeem wordt geleverd, maakt het zeer geschikt om de training van geavanceerde taalmodellen te bevorderen. Het is moeilijk te zeggen wat dat precies zou kunnen betekenen zonder commentaar van een van de geïnteresseerde partijen, maar we kunnen wel een beetje speculeren.
Meer kracht betekent grotere modellen, wat betekent meer genuanceerde en nauwkeurigere tekst en een breder scala aan gegevens waarop ze kunnen trainen. We zouden een beter cultureel begrip, meer kennis van de context en meer samenhang kunnen zien. Gespecialiseerde AI-chatbots zouden ook kunnen opduiken, waardoor mensen verder kunnen worden vervangen op gebieden zoals technologie.
Moeten we ons zorgen maken over mogelijke banenverplaatsing, of moeten we enthousiast zijn over de vooruitgang die deze supercomputers kunnen brengen? Het antwoord is niet eenvoudig. Eén ding is zeker: Nvidia's DGX GH200 zou de wereld van AI op zijn kop kunnen zetten, en Nvidia heeft zojuist versterkte opnieuw zijn AI-voorsprong op AMD.
Aanbevelingen van de redactie
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- De recordgroei van ChatGPT is zojuist onttroond door een nieuwe virale app
- 81% denkt dat ChatGPT een beveiligingsrisico vormt, zo blijkt uit onderzoek
- Deze webbrowser integreert ChatGPT op een fascinerende nieuwe manier
- GPT-4: hoe de AI-chatbot te gebruiken die ChatGPT te schande maakt
Upgrade je levensstijlDigital Trends helpt lezers de snelle wereld van technologie in de gaten te houden met het laatste nieuws, leuke productrecensies, verhelderende hoofdartikelen en unieke sneak peeks.
