Η Nvidia κατασκεύασε μια τεράστια διπλή GPU για να τροφοδοτεί μοντέλα όπως το ChatGPT

εξαμηνιαία της Nvidia Διάσκεψη τεχνολογίας GPU (GTC) συνήθως εστιάζει στις εξελίξεις στην τεχνητή νοημοσύνη, αλλά φέτος, η Nvidia ανταποκρίνεται στη μαζική άνοδο του ChatGPT με μια σειρά νέων GPU. Το κυριότερο μεταξύ αυτών είναι το H100 NVL, το οποίο συρράπτει δύο από τις GPU H100 της Nvidia για να αναπτύξει μοντέλα μεγάλων γλωσσών (LLM) όπως το ChatGPT.

Το H100 δεν είναι μια νέα GPU. Το ανακοίνωσε η Nvidia πριν από ένα χρόνο στο GTC, αθλώντας την αρχιτεκτονική του Hopper και υπόσχεται να επιταχύνει την εξαγωγή συμπερασμάτων AI σε μια ποικιλία εργασιών. Το νέο μοντέλο NVL με την τεράστια μνήμη 94 GB λέγεται ότι λειτουργεί καλύτερα κατά την ανάπτυξη LLM σε κλίμακα, προσφέροντας έως και 12 φορές ταχύτερη εξαγωγή συμπερασμάτων σε σύγκριση με το A100 της τελευταίας γενιάς.

Το H100 NVL της Nvidia εγκαθίσταται σε διακομιστή.
Nvidia

Αυτές οι GPU βρίσκονται στην καρδιά μοντέλων όπως το ChatGPT. Η Nvidia και η Microsoft αποκάλυψαν πρόσφατα ότι χιλιάδες Οι GPU A100 χρησιμοποιήθηκαν για την εκπαίδευση του ChatGPT, το οποίο είναι ένα έργο που έχει δημιουργηθεί περισσότερα από πέντε χρόνια.

Σχετίζεται με

  • ChatGPT: τα τελευταία νέα, οι διαμάχες και οι συμβουλές που πρέπει να γνωρίζετε
  • Τι είναι μια προτροπή DAN για το ChatGPT;
  • Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;

Το H100 NVL λειτουργεί συνδυάζοντας δύο H100 GPU μέσω διασύνδεσης Nvidia υψηλού εύρους ζώνης NVLink. Αυτό είναι ήδη δυνατό με τις τρέχουσες μονάδες GPU H100 — στην πραγματικότητα, μπορείτε να συνδέσετε έως και 256 H100 μαζί μέσω του NVLink — αλλά αυτή η αποκλειστική μονάδα έχει κατασκευαστεί για μικρότερες αναπτύξεις.

Προτεινόμενα βίντεο

Αυτό είναι ένα προϊόν που δημιουργήθηκε για επιχειρήσεις περισσότερο από οτιδήποτε άλλο, επομένως μην περιμένετε να δείτε το H100 NVL να εμφανίζεται στο ράφι στο τοπικό σας Micro Center. Ωστόσο, η Nvidia λέει ότι οι εταιρικοί πελάτες μπορούν να περιμένουν να το δουν γύρω στο δεύτερο εξάμηνο του έτους.

Εκτός από το H100 NVL, η Nvidia ανακοίνωσε επίσης την GPU L4, η οποία είναι ειδικά κατασκευασμένη για να τροφοδοτεί βίντεο που δημιουργούνται από AI. Η Nvidia λέει ότι είναι 120 φορές πιο ισχυρή για βίντεο που δημιουργούνται με AI από μια CPU και προσφέρει 99% καλύτερη ενεργειακή απόδοση. Εκτός από το γενετικό βίντεο AI, η Nvidia λέει ότι η GPU διαθέτει δυνατότητες αποκωδικοποίησης και διακωδικοποίησης βίντεο και μπορεί να αξιοποιηθεί για επαυξημένη πραγματικότητα.

Η Nvidia λέει ότι το Google Cloud είναι από τα πρώτα που ενσωματώνουν το L4. Η Google σχεδιάζει να προσφέρει παρουσίες L4 στους πελάτες μέσω της πλατφόρμας Vertex AI αργότερα σήμερα. Η Nvidia είπε ότι η GPU θα είναι διαθέσιμη από συνεργάτες αργότερα, συμπεριλαμβανομένων των Lenovo, Dell, Asus, HP, Gigabyte και HP, μεταξύ άλλων.

Συστάσεις των συντακτών

  • Οι κορυφαίοι συγγραφείς απαιτούν πληρωμή από εταιρείες τεχνητής νοημοσύνης για τη χρήση του έργου τους
  • GPT-4: πώς να χρησιμοποιήσετε το chatbot AI που κάνει το ChatGPT σε ντροπή
  • Το Wix χρησιμοποιεί το ChatGPT για να σας βοηθήσει να δημιουργήσετε γρήγορα έναν ολόκληρο ιστότοπο
  • Ο κατασκευαστής ChatGPT OpenAI αντιμετωπίζει έρευνα της FTC σχετικά με τους νόμους περί προστασίας των καταναλωτών
  • Η επισκεψιμότητα του ιστότοπου ChatGPT μειώθηκε για πρώτη φορά

Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.