Nvidia Fall GTC 2020 요약: A6000 GPU, Omniverse 등

“A.I 시대. 시작되었습니다.”라고 Nvidia CEO Jensen Huang은 올해 GTC에서 선언했습니다. 올해 GPU 기술 컨퍼런스에서 엔비디아는 AI 기술이 세계의 문제를 10배 더 빠르고 효과적으로 해결하는 데 어떻게 도움이 될 수 있는지 언급하면서 AI에 대한 혁신을 선보였습니다.

Nvidia는 다음과 같은 기능으로 가장 잘 알려져 있습니다. 그래픽 카드 — 그리고 최근에는 실시간과 관련이 있습니다. 광선 추적 — 회사는 창고 로봇부터 인공지능을 우리 일상에 접목시키는 이면의 혁신도 주도하고 있습니다. 배송 주문을 포장하는 자율 주행 자동차와 뉴스, 검색 및 정보를 짧은 지연 시간으로 전달하는 자연어 봇까지 지연.

“우리는 세상에 큰 영향을 미치는 매우 어려운 컴퓨팅 문제를 연구하는 것을 좋아합니다.”라고 Huang은 말했습니다. 회사는 현재 10억 개가 넘는 CUDA 호환 GPU를 대상으로 하는 110개의 SDK를 보유하고 있습니다. 배송되었습니다. 회사는 6,500개 이상의 스타트업이 Nvidia에서 애플리케이션을 구축하고 있으며 총 200만 명의 Nvidia 개발자에 합류했다고 밝혔습니다. “이것은 바로 우리 조타실에 있습니다. 우리는 AI 시대에 맞춰 이 새로운 형태의 컴퓨팅을 발전시키고 민주화하는 데 모두 힘을 쏟고 있습니다. Nvidia는 가속화된 컴퓨팅을 발전시키는 데 전념하고 있습니다.”

RTX 3080/3090 출시에 대한 또 다른 사과

Huang은 Nvidia RTX 3080 및 3090 비디오 카드의 어려운 출시에 대해 또 다른 빠른 사과를 했습니다. 여기서 더 읽어보세요.

엔비디아 옴니버스(Nvidia Omniverse)는 로봇 훈련장이다.

게이머의 경우, 광선 추적 빛의 속성을 이용하여 비디오 게임 장면의 생생한 디테일을 렌더링하는 데 도움이 됩니다. 엔비디아는 동일한 원칙을 사용하여 엔비디아 옴니버스(Nvidia Omniverse)를 구축하고 있는데, 이 회사는 "로봇이 현실 세계에서와 마찬가지로 로봇이 되는 방법을 배울 수 있는 곳"이라고 주장했습니다.

현재 오픈 베타 버전으로 제공되는 Nvidia Omniverse는 로봇이 현실 세계의 현실적인 시뮬레이션을 통해 학습할 수 있는 협업 및 시뮬레이션을 위한 개방형 플랫폼입니다. Omniverse를 사용하면 자율주행차는 운전 방법을 빠르게 학습하고 실제 시나리오와 상호작용할 수 있습니다. 실험이 진행될 경우 인간 운전자는 구경꾼을 위험에 빠뜨릴 위험 없이 마주칠 수 있습니다. 샛길. 또한 Omniverse를 사용하면 훨씬 더 넓은 규모의 테스트가 가능합니다. 자율주행차나 로봇을 테스트하기 위해 물리적으로 배치할 필요가 없기 때문입니다.

Nvidia Omniverse가 우리 모두에게 어떤 영향을 미칠 수 있는지 보여주기 위해 Nvidia는 Omniverse가 전 세계적인 유행병을 고려할 때 훨씬 더 중요한 연구 영역인 약물 발견에서 어떻게 작동할 수 있는지 강조했습니다. 신약 발견은 일반적으로 adug를 개발하는 데 10년 이상이 걸리고 연구 개발 자금에 5억 달러 이상이 필요하지만 이러한 노력의 90%는 실패한다고 Huang은 말했습니다. 설상가상으로, 신약 개발 비용은 9년마다 두 배로 늘어납니다.

Nvidia의 Omniverse는 과학자들이 질병을 유발할 수 있는 단백질을 식별하는 데 도움을 줄 뿐만 아니라 AI를 사용하여 잠재적인 약물 테스트 속도를 높일 수 있습니다. 그리고 데이터 분석. 이 모든 것이 Nvidia의 새로운 Clara Discovery 플랫폼에 적용됩니다. 그리고 영국에서는 Nvidia가 새로운 Cambridge One 데이터 센터를 도입했습니다. 이 데이터 센터는 400페타플롭의 AI 성능을 갖춘 이 지역에서 가장 빠르고 세계 상위 30대 중 하나입니다. 성능.

또한 회사는 새로운 DGX Super Pod 아키텍처를 도입하여 다른 연구원들이 20~140대를 연결하는 확장 가능한 슈퍼컴퓨터를 자체적으로 구축할 수 있도록 했습니다. DGX 시스템.

Nvidia RTX A6000: 전문가를 위한 레이 트레이싱

최근 발표된 GeForce RTX 3070, RTX 3080 및 RTX 3090 확장 그래픽 카드, Nvidia는 전문가를 위한 차세대 Ampere 기반 GPU를 발표했습니다. 새로운 그래픽 카드 아래 브랜드가 없습니다 Nvidia의 Quadro 우산그러나 RTX A6000 및 Nvidia A40 GPU는 Quadro GPU를 구매하는 동일한 창의적이고 데이터 과학자 청중을 대상으로 합니다.

“GPU는 엔지니어가 혁신적인 제품을 개발하고, 디자이너가 최첨단 건물을 만들며, 과학자가 혁신을 발견할 수 있도록 속도와 성능을 제공합니다. 회사는 블로그 게시물을 통해 "새로운 A6000과 A40은 이전 제품보다 훨씬 빠른 새로운 RT 코어, Tensor 코어 및 CUDA 코어를 갖추고 있다"고 밝혔습니다. 세대.”

회사는 하드웨어에 대한 구체적인 세부 정보를 제공하지 않았습니다. 그러나 Nvidia는 2세대 RT 코어가 이전 세대 카드보다 2배의 처리량을 제공하는 동시에 동시에 광선 추적, 셰이딩 및 컴퓨팅 기능을 제공하며 3세대 Tensor 코어는 이전 세대에 비해 최대 5배의 처리량을 제공합니다.

이 카드에는 2개의 GPU가 연결되면 NVLink를 통해 96GB까지 확장할 수 있는 48GB GPU 메모리가 함께 제공됩니다. 이는 메모리가 24GB에 불과한 것과 비교됩니다. RTX 3090. RTX 3090은 초당 60프레임(fps)으로 8K 게임을 렌더링할 수 있는 GPU로 판매되는 반면, 전문가용 RTX A6000 및 A40의 확장된 메모리로 동영상용 Blackmagic RAW 8K 및 12K 영상 처리 지원 편집. 소비자 Ampere 카드와 마찬가지로 A6000 및 A40 GPU는 이전 세대보다 두 배의 대역폭을 제공하는 PCIe Gen 4를 기반으로 합니다.

A40 기반 서버는 Cisco, Dell, Fujitsu, Hewlett Packard Enterprise 및 Lenovo의 시스템에서 사용할 수 있습니다. A6000 GPU는 채널 파트너에게 출시될 예정이며, 두 GPU 모두 내년 초에 출시될 예정입니다. 가격 세부정보는 즉시 제공되지 않았으며 전문 카드에서도 동일하게 표시될지는 확실하지 않습니다. 제한된 공급 및 심각한 부족 Nvidia가 소비자 카드를 출시하면서 경험한 것입니다.

A.I의 등장 봇

Nvidia는 또한 GPU 작업이 AI 속도를 높이는 데 어떻게 도움이 되는지 강조했습니다. 개발 및 채택. 페이스북의 A.I. 연구자들은 소셜 네트워크 사용자의 절반이 실제로 선호하는 지식과 공감을 갖춘 챗봇을 개발했습니다. 캘리포니아 공과대학(California Institute of Technology) 연구원들은 강화 학습을 사용하여 드론이 난기류와 지형 변화를 통해 원활하게 비행할 수 있도록 비행 시스템을 제어하도록 훈련했습니다.

엔비디아의 A.I. Huang은 "모든 프레임워크 또는 모델의 단일-다중 GPU 노드, 추론 사용, 사전 훈련된 모델 적용이라는 세 가지 원칙을 기반으로 합니다"라고 말했습니다.

Nvidia는 또한 Nvidia AI를 도입하기 위해 Microsoft와 파트너십을 맺었다고 발표했습니다. Office를 더욱 스마트하게 만드는 데 도움이 되도록 Azure로 전환하세요.

“오늘 우리는 Microsoft가 Nvidia AI를 채택했음을 발표합니다. Azure에서 Microsoft Office의 스마트 경험을 강화할 수 있습니다”라고 Huang은 기조연설에서 말했습니다. “수억 명이 사용하는 세계에서 가장 인기 있는 생산성 애플리케이션이 이제 AI의 지원을 받게 될 것입니다. 첫 번째 기능에는 스마트 문법 교정, Q&A, 텍스트 예측이 포함됩니다. 좋은 경험을 위해 필요한 사용자 수와 즉각적인 응답으로 인해 Office는 Nvidia GPU에 연결되며 Nvidia GPU가 포함된 Azure 응답은 200밀리초 미만이 소요됩니다. 우리의 처리량을 통해 Microsoft는 수백만 명의 동시 사용자로 확장할 수 있습니다.”

American Express도 AI를 사용하고 있습니다. 트위터는 인공 지능을 활용하여 플랫폼에 업로드된 방대한 양의 동영상을 이해하고 맥락화하는 데 도움을 주고 있습니다.

대화형 AI를 사용하면 Nvidia의 GPU 플랫폼에서 수행된 음성 쿼리 결과의 절반이 CPU 처리 쿼리와 비교하여 지연 시간이 더 길며 더욱 현실적이고 인간과 유사한 텍스트 음성 변환 기능을 제공합니다. 엔진. Nvidia는 또한 개발자가 AI를 시험해 볼 수 있는 Jarvis의 오픈 베타를 발표했습니다. 대화 능력으로.

일체 포함. 재택근무의 미래를 위해

일체 포함. 작업자가 원격으로 협업하는 데 도움이 되는 화상 회의 및 채팅 솔루션과 같은 애플리케이션에 내장될 수도 있습니다. Nvidia의 Video Maxene을 통해 Huang은 A.I. 화상 통화에 마법을 걸 수 있습니다.

Maxene은 얼굴의 중요한 특징을 식별하고 특징의 변경 사항만 인터넷을 통해 보낸 다음 수신기에서 얼굴을 다시 애니메이션화할 수 있습니다. 이렇게 하면 대역폭이 절약되어 인터넷 연결이 좋지 않은 지역에서 더 나은 비디오 경험을 제공할 수 있습니다. Huang은 대역폭이 10배 감소했다고 주장했습니다.

일체 포함. 그러나 대역폭이 높은 지역에서도 통화 성능이 향상됩니다. 가장 극단적인 예로 A.I. 얼굴이 카메라에서 약간 멀어지더라도 통화 중인 모든 사람과 눈을 마주칠 수 있도록 얼굴 방향을 바꾸는 데 사용할 수 있습니다. 일체 포함. 또한 배경 소음을 줄이고, 얼굴 조명을 다시 밝히고, 배경을 교체하고, 조명이 좋지 않을 때 비디오 품질을 향상시킬 수도 있습니다. Jarvis A.I.와 결합 음성을 사용하면 Maxene은 폐쇄 캡션 텍스트도 전달할 수 있습니다.

Huang은 “우리는 오늘날의 화상 회의에 혁명을 일으키고 내일의 가상 현실을 창조할 수 있는 기회를 얻었습니다.”라고 말했습니다. “그리고 비디오 AI. 추론 애플리케이션은 모든 산업 분야에서 나오고 있습니다.”

데이터 센터를 ARM 칩으로 가져오기

ARM 칩에 대한 투자를 강조하면서 Nvidia는 새로운 BlueField DPU를 발표했습니다. 데이터 센터 인프라 온 칩의 성능은 DOCA에서 지원됩니다. 건축학.

새로운 BlueField 2 DPU는 네트워킹 및 스토리지와 같은 중요한 구성 요소는 물론 보안 작업도 CPU에서 오프로드하여 사이버 공격을 방지하는 데 도움을 줍니다.

Nvidia는 준비된 성명에서 “단일 BlueField-2 DPU는 최대 125개의 CPU 코어를 소비할 수 있는 동일한 데이터 센터 서비스를 제공할 수 있습니다.”라고 주장했습니다. "이렇게 하면 귀중한 CPU 코어를 확보하여 다양한 다른 엔터프라이즈 애플리케이션을 실행할 수 있습니다." 회사에서는 CPU의 최소 30%가 이전에는 데이터 센터 인프라를 실행하는 데 사용되었으며 이제 작업이 BlueField로 오프로드됨에 따라 해당 코어가 해제됩니다. DPU.

두 번째 Bluefield 2X DPU도 Nvidia의 암페어기반 GPU 기술. Ampere는 AI를 제공합니다. BlueField 2X에 실시간 보안 분석을 제공하고 악의적인 활동을 식별합니다.

개인화된 추천 엔진

일체 포함. 플랫폼에서 디지털 및 실제 상품에 대한 개인화된 추천을 제공하고 관련 디지털 광고, 뉴스 및 영화를 제공하는 데 사용될 수 있습니다. Nvidia는 추천 정확도가 1%만 향상되면 매출이 수십억 달러 증가하고 고객 유지율이 높아질 수 있다고 주장했습니다.

기업의 추천 엔진 개선을 돕기 위해 Nvidia는 Nvidia Rapids 플랫폼을 기반으로 하는 Merlin을 도입했습니다. CPU 기반 솔루션을 익히는 데 며칠이 걸릴 수 있는 반면, Merlin은 사이클 시간이 하루에서 단 3시간으로 단축되어 매우 빠르고 확장성이 뛰어난 것으로 알려져 있습니다. 멀린은 현재 오픈베타 단계에 있다고 황은 말했다.

Rapids는 Adobe에서 지능형 마케팅을 위해 사용하는 반면 Capital One은 사기 분석 및 회사의 Eno 챗봇을 지원하기 위해 플랫폼을 사용합니다.

일체 포함. 모든 IoT에 대해

Nvidia의 EGX 플랫폼은 AI를 구현하는 데 사용됩니다. AI를 만들기 위해 엣지 디바이스에 사물 인터넷(IoT) 애플리케이션에 대한 반응성이 향상되었습니다. EGX는 Nvidia의 NGC에서 사용할 수 있으며 Northwestern Memorial Hospital과 같은 병원에서 간호사가 일상적으로 수행하는 일부 작업을 컴퓨터에 오프로드하는 데 사용됩니다. 예를 들어, 환자는 자연어 쿼리를 사용하여 봇에게 어떤 시술을 받고 있는지 물어볼 수 있습니다.

“EGX A.I. 컴퓨터는 Mellanox Bluefield 2 GPU와 Ampere GPU를 단일 PCI Express 카드에 통합하여 모든 표준 OEM 서버를 안전한 가속 A.I.로 전환합니다. 데이터 센터”라고 Huang은 말했습니다.

이 플랫폼은 의료, 제조, 물류, 배달, 소매 및 운송 분야에서 활용될 수 있습니다.

ARM 발전

"오늘. 우리는 ARM 플랫폼을 발전시키기 위한 주요 이니셔티브를 발표합니다.”라고 황은 회사가 발표한 ARM 인수에 대해 말했지만 3차원에 투자하는 것은 아닙니다.

“먼저 우리는 ARM 파트너를 GPU, 네트워킹, 스토리지 및 보안 기술로 보완하여 완전한 가속 플랫폼을 만들고 있습니다. 둘째, 파트너와 협력하여 HPC 클라우드 엣지 NPC용 플랫폼을 만들고 있습니다. 이를 위해서는 칩 시스템과 시스템 소프트웨어가 필요합니다. 셋째, Nvidia A.I를 포팅하고 있습니다. 그리고 Nvidia RTX 엔진을 ARM에 적용했습니다.”

현재 이 기능은 x86 플랫폼에서만 사용할 수 있습니다. 그러나 ARM에 대한 Nvidia의 투자는 이를 최첨단으로 변화시키고 AI 분야에서 가속화할 것입니다. 황은 컴퓨팅 분야에서 ARM을 서버 분야에서 인텔의 경쟁자로 자리매김하려고 한다고 말했다.

편집자의 추천

• Nvidia의 슈퍼컴퓨터가 ChatGPT의 새로운 시대를 열 것입니다.
• Nvidia GPU는 엄청난 가격 인상과 AI의 엄청난 수요를 보고 있습니다.
• Zoom의 A.I. 통화 중 감정을 감지하는 기술로 인해 비평가들이 당황함
• Nvidia는 GTC 2022에서 최초의 CPU 및 Hopper GPU를 공개합니다.
• Nvidia가 AI를 사용하는 방법 도미노 피자가 더 빨리 피자를 배달할 수 있도록 돕기 위해