Полугодишното на Nvidia Технологична конференция за GPU (GTC) обикновено се фокусира върху напредъка в AI, но тази година Nvidia реагира на огромното нарастване на ChatGPT с набор от нови графични процесори. Главен сред тях е H100 NVL, който обединява два от графичните процесори H100 на Nvidia заедно, за да внедри големи езикови модели (LLM) като ChatGPT.
H100 не е нов GPU. Nvidia го обяви преди една година в GTC, със своята Hopper архитектура и обещавайки да ускори AI изводите в различни задачи. Твърди се, че новият модел NVL със своите масивни 94 GB памет работи най-добре при внедряване на LLM в мащаб, предлагайки до 12 пъти по-бързи изводи в сравнение с A100 от последното поколение.
Тези графични процесори са в основата на модели като ChatGPT. Nvidia и Microsoft наскоро разкриха, че хиляди A100 GPU бяха използвани за обучение на ChatGPT, който е проект, който се разработва повече от пет години.
Свързани
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Какво е DAN подкана за ChatGPT?
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
H100 NVL работи чрез комбиниране на два H100 графични процесора през NVIDIA NVLink връзка с висока честотна лента. Това вече е възможно с настоящите графични процесори H100 — всъщност можете да свържете до 256 H100 заедно чрез NVLink — но това специално устройство е създадено за по-малки внедрявания.
Препоръчани видеоклипове
Това е продукт, създаден повече от всичко за бизнеса, така че не очаквайте да видите H100 NVL да изскочи на рафта в местния Micro Center. Въпреки това Nvidia казва, че корпоративните клиенти могат да очакват да го видят около втората половина на годината.
В допълнение към H100 NVL, Nvidia също обяви L4 GPU, който е специално създаден за захранване на генерирани от AI видео. Nvidia казва, че е 120 пъти по-мощен за видеоклипове, генерирани от AI, отколкото CPU, и предлага 99% по-добра енергийна ефективност. В допълнение към генериращото AI видео, Nvidia казва, че графичният процесор има възможности за декодиране и транскодиране на видео и може да се използва за добавена реалност.
Nvidia казва, че Google Cloud е сред първите, които интегрират L4. Google планира да предложи L4 инстанции на клиенти чрез своята платформа Vertex AI по-късно днес. Nvidia каза, че графичният процесор ще бъде достъпен от партньори по-късно, включително Lenovo, Dell, Asus, HP, Gigabyte и HP, наред с други.
Препоръки на редакторите
- Топ автори изискват заплащане от фирми за изкуствен интелект за използване на работата им
- GPT-4: как да използвате AI chatbot, който засрамва ChatGPT
- Wix използва ChatGPT, за да ви помогне бързо да създадете цял уебсайт
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
