Rangkuman Nvidia Fall GTC 2020: GPU A6000, Omniverse, Lainnya

“Usia A.I. telah dimulai,” kata CEO Nvidia Jensen Huang di GTC tahun ini. Pada Konferensi Teknologi GPU tahun ini, Nvidia memamerkan inovasinya untuk mengembangkan AI, dan menekankan bagaimana teknologi tersebut dapat membantu menyelesaikan permasalahan dunia 10 kali lebih baik dan lebih cepat.

Sedangkan Nvidia paling terkenal dengan itu kartu grafis — dan baru-baru ini dikaitkan dengan waktu nyata penelusuran sinar — perusahaan ini juga mendorong inovasi di balik layar yang menghadirkan kecerdasan buatan ke dalam kehidupan kita sehari-hari, dari robot gudang yang mengemas pesanan pengiriman kami, hingga mobil tanpa pengemudi dan bot bahasa alami yang menyampaikan berita, pencarian, dan informasi dengan sedikit latensi atau menunda.

“Kami senang mengerjakan masalah komputasi yang sangat sulit yang berdampak besar pada dunia,” kata Huang bahwa perusahaan kini memiliki 110 SDK yang menargetkan lebih dari 1 miliar GPU kompatibel CUDA yang telah dikirim. Perusahaan tersebut mengatakan lebih dari 6.500 startup sedang membangun aplikasi di Nvidia, bergabung dengan total 2 juta pengembang Nvidia. “Ini tepat di ruang kemudi kami. Kita semua mendukung dan mendemokratisasi bentuk komputasi baru ini di era AI. Nvidia berdedikasi untuk memajukan komputasi yang dipercepat.”

Permintaan maaf lainnya atas peluncuran RTX 3080/3090

Huang memimpin dengan permintaan maaf singkat lainnya tentang sulitnya peluncuran kartu video Nvidia RTX 3080 dan 3090. Baca lebih lanjut di sini.

Nvidia Omniverse adalah tempat pelatihan robot

Bagi para gamer, penelusuran sinar membantu menampilkan detail yang jelas dalam adegan di video game dengan menggunakan properti cahaya. Nvidia menggunakan prinsip yang sama untuk membangun Nvidia Omniverse, yang diklaim perusahaan sebagai “tempat di mana robot dapat belajar menjadi robot, seperti di dunia nyata.”

Kini tersedia dalam versi beta terbuka, Nvidia Omniverse adalah platform terbuka untuk kolaborasi dan simulasi di mana robot dapat belajar dari simulasi realistis di dunia nyata. Dengan menggunakan Omniverse, kendaraan otonom dapat dengan cepat belajar mengemudi dan berinteraksi dengan skenario yang nyata yang mungkin ditemui oleh pengemudi manusia, tanpa risiko membahayakan orang di sekitar jika eksperimen tersebut dilakukan ke samping. Omniverse juga memungkinkan pengujian dalam skala yang lebih luas, karena kendaraan otonom atau robot tidak harus dikerahkan secara fisik untuk mengujinya.

Untuk menunjukkan bagaimana Nvidia Omniverse dapat mempengaruhi kita semua, Nvidia menyoroti bagaimana Omniverse dapat bekerja dalam penemuan obat, yang merupakan bidang penelitian yang lebih penting mengingat adanya pandemi global. Meskipun penemuan obat biasanya membutuhkan waktu lebih dari satu dekade untuk mengembangkan obat dan membutuhkan lebih dari setengah miliar dolar dana penelitian dan pengembangan, 90% dari upaya tersebut gagal, kata Huang. Lebih buruk lagi, setiap sembilan tahun, biaya untuk menemukan obat baru meningkat dua kali lipat.

Omniverse Nvidia dapat membantu para ilmuwan mengidentifikasi protein yang dapat menyebabkan penyakit, serta mempercepat pengujian obat potensial dengan menggunakan AI. dan analisis data. Semua ini diterapkan pada platform Clara Discovery baru Nvidia. Dan di Inggris, Nvidia memperkenalkan pusat data Cambridge One yang baru, yang menurut perusahaan merupakan yang tercepat di kawasan ini dan salah satu dari 30 besar di dunia, dengan 400 petaflops AI. pertunjukan.

Perusahaan ini juga memperkenalkan arsitektur DGX Super Pod yang baru, untuk memungkinkan peneliti lain membangun superkomputer mereka yang dapat diskalakan dan menghubungkan antara 20 hingga 140 sistem DGX.

Nvidia RTX A6000: Ray tracing untuk para profesional

Memperluas GeForce RTX 3070, RTX 3080, dan RTX 3090 yang baru saja diumumkan kartu grafis, Nvidia mengumumkan generasi baru GPU berbasis Ampere untuk para profesional. Yang baru kartu grafis tidak diberi merek di bawah Payung Quadro Nvidia, tetapi GPU RTX A6000 dan Nvidia A40 ditargetkan untuk audiens kreatif dan ilmuwan data yang sama yang membeli GPU Quadro.

“GPU memberikan kecepatan dan kinerja yang memungkinkan para insinyur mengembangkan produk inovatif, desainer untuk menciptakan bangunan canggih, dan ilmuwan untuk menemukan terobosan dari di mana pun di dunia,” perusahaan tersebut menyatakan dalam postingan blognya, mencatat bahwa A6000 dan A40 baru menampilkan inti RT, inti Tensor, dan inti CUDA baru yang “jauh lebih cepat dibandingkan pendahulunya. generasi.”

Perusahaan tidak memberikan rincian spesifik tentang perangkat kerasnya. Namun, Nvidia mengklaim bahwa inti RT generasi kedua memberikan 2x throughput dari kartu generasi sebelumnya sekaligus menyediakan secara bersamaan penelusuran sinar, kemampuan shading, dan komputasi, sedangkan inti Tensor generasi ketiga memberikan throughput hingga 5x lebih besar dari generasi sebelumnya.

Kartu ini dikirimkan dengan memori GPU 48GB yang dapat diperluas hingga 96GB dengan NVLink ketika dua GPU terhubung. Bandingkan dengan memori yang hanya 24 GB RTX3090. Sedangkan RTX 3090 dipasarkan sebagai GPU yang mampu merender game dalam resolusi 8K dengan kecepatan 60 frame per detik (fps), namun memori yang diperluas pada RTX A6000 dan A40 profesional membantu memproses rekaman Blackmagic RAW 8K dan 12K untuk video pengeditan. Seperti kartu Ampere konsumen, GPU A6000 dan A40 didasarkan pada PCIe Gen 4, yang menghasilkan bandwidth dua kali lipat dibandingkan generasi sebelumnya.

Server berbasis A40 akan tersedia dalam sistem dari Cisco, Dell, Fujitsu, Hewlett Packard Enterprise, dan Lenovo. GPU A6000 akan hadir di mitra saluran, dan kedua GPU tersebut akan tersedia awal tahun depan. Detail harga tidak segera tersedia, dan tidak jelas apakah kartu profesional akan melihat hal yang sama pasokan terbatas dan kekurangan besar yang dialami Nvidia dengan peluncuran kartu konsumennya.

Kebangkitan A.I. bot

Nvidia juga menyoroti bagaimana kerjanya pada GPU membantu mempercepat AI. pengembangan dan adopsi. FacebookA.I. para peneliti telah mengembangkan chatbot dengan pengetahuan dan empati yang sebenarnya disukai oleh separuh pengguna jejaring sosial. Peneliti Institut Teknologi California melatih drone menggunakan pembelajaran penguatan untuk mengontrol sistem penerbangan agar terbang dengan lancar melalui turbulensi dan perubahan medan.

AI Nvidia. didasarkan pada tiga pilar: Node GPU tunggal hingga multi pada kerangka atau model apa pun, penggunaan inferensi, dan penerapan model yang telah dilatih sebelumnya, kata Huang.

Nvidia juga mengumumkan telah bermitra dengan Microsoft untuk menghadirkan Nvidia A.I. ke Azure untuk membantu menjadikan Office lebih cerdas.

“Hari ini, kami mengumumkan bahwa Microsoft mengadopsi Nvidia A.I. di Azure, untuk mendukung pengalaman cerdas di Microsoft Office,” kata Huang saat menjadi pembicara utama. “Aplikasi produktivitas terpopuler di dunia yang digunakan oleh ratusan juta orang kini akan dibantu oleh AI. Fitur pertama akan mencakup koreksi tata bahasa cerdas, tanya jawab, prediksi teks. Karena volume pengguna dan respons instan yang diperlukan untuk mendapatkan pengalaman yang baik, Office akan tersambung ke GPU Nvidia, dan respons Azure dengan GPU Nvidia memerlukan waktu kurang dari 200 milidetik. Throughput kami memungkinkan Microsoft menjangkau jutaan pengguna secara bersamaan.”

American Express juga menggunakan A.I. untuk memerangi penipuan, sementara Twitter memanfaatkan kecerdasan buatan untuk membantunya memahami dan mengontekstualisasikan sejumlah besar video yang diunggah ke platform tersebut.

Dengan AI percakapan, hasil kueri suara yang dilakukan pada platform GPU Nvidia memiliki separuhnya latensi dibandingkan dengan kueri yang diproses CPU dan juga text-to-speech yang terdengar lebih realistis dan terdengar seperti manusia mesin. Nvidia juga mengumumkan versi beta terbuka Jarvis bagi pengembang untuk mencoba A.I. dengan keterampilan percakapan.

A.I. untuk masa depan bekerja dari rumah

A.I. juga dapat diintegrasikan ke dalam aplikasi seperti solusi konferensi video dan chatting yang membantu pekerja berkolaborasi dari jarak jauh. Dengan Video Maxene dari Nvidia, Huang mengatakan bahwa A.I. dapat melakukan keajaiban untuk panggilan video.

Maxene dapat mengidentifikasi fitur-fitur penting dari sebuah wajah, hanya mengirimkan perubahan fitur tersebut melalui internet, dan kemudian menghidupkan kembali wajah tersebut di penerima. Hal ini menghemat bandwidth, sehingga menghasilkan pengalaman video yang lebih baik di area dengan konektivitas Internet yang buruk. Huang mengklaim bahwa bandwidth berkurang 10 kali lipat.

A.I. melakukan panggilan lebih baik bahkan di area dengan bandwidth tinggi. Dalam contoh paling ekstrim, A.I. dapat digunakan untuk mengubah orientasi wajah Anda sehingga Anda dapat melakukan kontak mata dengan setiap orang yang sedang bertelepon, bahkan saat wajah Anda sedikit dimiringkan menjauhi kamera. A.I. juga dapat mengurangi kebisingan latar belakang, mencerahkan kembali wajah Anda, mengganti latar belakang, dan meningkatkan kualitas video dalam pencahayaan buruk. Dikombinasikan dengan Jarvis A.I. pidato, Maxene juga dapat menyampaikan teks teks tertutup.

“Kita mempunyai kesempatan untuk merevolusi konferensi video saat ini, dan menciptakan kehadiran virtual masa depan,” kata Huang. “Dan video A.I. aplikasi inferensi datang dari setiap industri.”

Membawa pusat data ke chip ARM

Menyoroti investasinya pada chip ARM, Nvidia mengumumkan DPU BlueField baru, yang menghadirkan kekuatan infrastruktur pusat data pada sebuah chip dan didukung oleh DOCA, yang merupakan Arsitektur.

DPU BlueField 2 yang baru memindahkan komponen penting — seperti jaringan dan penyimpanan — serta tugas keamanan dari CPU untuk membantu mencegah serangan siber.

“Satu DPU BlueField-2 dapat memberikan layanan pusat data yang sama yang dapat menggunakan hingga 125 inti CPU,” klaim Nvidia dalam pernyataan yang telah disiapkan. “Ini membebaskan inti CPU yang berharga untuk menjalankan berbagai aplikasi perusahaan lainnya.” Perusahaan mengatakan bahwa setidaknya 30% dari CPU adalah sebelumnya digunakan dengan menjalankan infrastruktur pusat data, dan inti tersebut kini dibebaskan karena tugas kini dipindahkan ke BlueField DPU.

DPU Bluefield 2X kedua juga disertakan dengan Nvidia Amperberbasis teknologi GPU. Ampere membawa A.I. ke BlueField 2X untuk menyediakan analisis keamanan real-time dan mengidentifikasi aktivitas berbahaya.

Mesin rekomendasi yang dipersonalisasi

A.I. dapat digunakan untuk menyampaikan rekomendasi barang digital dan fisik yang dipersonalisasi pada platform, menayangkan iklan digital, berita, dan film yang relevan. Nvidia mengklaim bahwa peningkatan akurasi rekomendasi sebesar 1% saja dapat menghasilkan penjualan miliaran lebih banyak dan retensi pelanggan yang lebih tinggi.

Untuk membantu perusahaan meningkatkan mesin rekomendasi mereka, Nvidia memperkenalkan Merlin, yang didukung oleh platform Nvidia Rapids. Meskipun solusi berbasis CPU membutuhkan waktu berhari-hari untuk dipelajari, Merlin dikatakan supercepat dan sangat skalabel, dengan waktu siklus yang berubah dari satu hari menjadi hanya tiga jam. Merlin sekarang dalam versi beta terbuka, kata Huang.

Rapids digunakan oleh Adobe untuk pemasaran cerdas, sementara Capital One menggunakan platform tersebut untuk analisis penipuan dan untuk mendukung chatbot Eno perusahaan.

A.I. untuk semua IoT

Platform EGX Nvidia digunakan untuk menghadirkan A.I. ke perangkat edge untuk membuat A.I. lebih responsif untuk aplikasi Internet of Things, atau IoT. EGX tersedia di NGC Nvidia, dan digunakan oleh rumah sakit seperti Northwestern Memorial Hospital untuk memindahkan beberapa tugas ke komputer yang secara rutin dilakukan oleh perawat. Pasien, misalnya, dapat menggunakan pertanyaan bahasa alami untuk menanyakan bot prosedur apa yang mereka jalani.

“EGX A.I. komputer mengintegrasikan GPU Mellanox Bluefield 2 dan GPU Ampere ke dalam satu kartu PCI Express, mengubah server OEM standar apa pun menjadi A.I. pusat data,” kata Huang.

Platform ini dapat dimanfaatkan dalam layanan kesehatan, manufaktur, logistik, pengiriman, ritel, dan transportasi.

Memajukan ARM

"Hari ini. kami mengumumkan inisiatif besar untuk memajukan platform ARM,” kata Huang tentang pengumuman akuisisi ARM oleh perusahaan, tidak ada investasi dalam tiga dimensi.

“Pertama, kami melengkapi mitra ARM dengan teknologi GPU, jaringan, penyimpanan, dan keamanan untuk menciptakan platform akselerasi yang lengkap. Kedua, kami bekerja sama dengan mitra kami untuk menciptakan platform untuk NPC cloud edge HPC. Ini memerlukan sistem chip dan perangkat lunak sistem. Dan ketiga, kami mem-porting Nvidia A.I. dan mesin Nvidia RTX ke ARM.”

Saat ini, ini hanya tersedia pada platform x86. Namun, investasi Nvidia pada ARm akan mengubahnya menjadi yang terdepan dan mempercepatnya dalam bidang AI. komputasi, kata Huang, sambil berupaya memposisikan ARM sebagai pesaing Intel di bidang server.

Rekomendasi Editor

• Superkomputer Nvidia mungkin menghadirkan era baru ChatGPT
• GPU Nvidia mengalami kenaikan harga yang besar dan permintaan yang besar dari AI
• AI Zoom teknologi untuk mendeteksi emosi selama panggilan membuat para kritikus kesal
• Nvidia mengungkapkan CPU dan GPU Hopper pertama di GTC 2022
• Bagaimana Nvidia menggunakan A.I. untuk membantu Domino mengantarkan pizza lebih cepat