NVIDIA GB200 NVL72 특징
실시간 1조 매개 변수 추론 및 훈련을 위한 Blackwell 랙 스케일 아키텍처
NVIDIA GB200 NVL72는 랙 규모 디자인으로 36개의 GB200 슈퍼칩을 연결합니다. GB200 NVL72는 단일 대규모 GPU 역할을 하는 72GPU NVLink 도메인을 자랑하는 수랭식 랙 규모의 솔루션입니다.
GB200 NVL72¹ 사양
-
GB200 NVL72
GB200 Grace Blackwell Superchip
컨피규레이션
36 Grace CPU : 72 Blackwell GPUs
1 Grace CPU : 2 Blackwell GPU
FP4 코어²
1,440 PFLOPS
40 PFLOPS
FP8/FP6 코어²
720 PFLOPS
20 PFLOPS
INT8 Tensor 코어²
720 POPS
20 POPS
FP16/BF16 Tensor 코어²
360 PFLOPS
10 PFLOPS
TF32 Tensor 코어
180 PFLOPS
5 PFLOPS
FP32
6,480 TFLOPS
180 TFLOPS
FP64
3,240 TFLOPS
90 TFLOPS
FP64 Tensor 코어
3,240 TFLOPS
90 TFLOPS
GPU 메모리 대역폭
최대 13.5TB HBM3e | 576TB/s
최대 384GB HBM3e | 16TB/s
NVLink 메모리 대역폭
130TB/s
3.6TB/s
CPU 코어 수
2592 Arm® Neoverse V2 코어
72 Arm Neoverse V2 코어
CPU 메모리 대역폭
최대 17TB LPDDR5X | 최대 18.4TB/s
최대 480GB LPDDR5X | 최대 512GB/s
- ¹예상 성능은 변경될 수 있습니다.
- ²희소성 포함.