NVIDIA GB300｜iCRAFT Do it AI

NVIDIA GB300 NVL72는 전면 액체 냉각 방식의 랙 스케일 디자인을 기반으로,

72개의 NVIDIA Blackwell Ultra GPU와 36개의 Arm® 기반 NVIDIA Grace™ CPU를 단일 플랫폼에 통합한 시스템입니다.

테스트 시점에서의 대규모 추론 확장을 위해 최적화된 구조를 갖추고 있습니다.

NVIDIA Quantum-X800 InfiniBand 또는 Spectrum™-X Ethernet를 ConnectX®-8 SuperNIC과 함께 사용하는

GB300 NVL72 기반 AI 팩토리는, 기존 NVIDIA Hopper™ 플랫폼 대비 최대 50배 높은 AI 추론 처리 성능을 제공합니다.

NVIDIA GB300 NVL72는 전면 액체 냉각 방식의 랙 스케일 디자인을 기반으로, 72개의 NVIDIA Blackwell Ultra GPU와 36개의 Arm® 기반 NVIDIA Grace™ CPU를 단일 플랫폼에 통합한 시스템입니다. 테스트 시점에서의 대규모 추론 확장을 위해 최적화된 구조를 갖추고 있습니다.

NVIDIA Quantum-X800 InfiniBand 또는 Spectrum™-X Ethernet를 ConnectX®-8 SuperNIC과 함께 사용하는 GB300 NVL72 기반 AI 팩토리는, 기존 NVIDIA Hopper™ 플랫폼 대비 최대 50배 높은 AI 추론 처리 성능을 제공합니다.

Configuration	72 NVIDIA Blackwell Ultra GPUs, 36 NVIDIA Grace CPUs
NVLink Bandwidth	130 TB/s
Fast Memory	Up to 40 TB
GPU Memory \| Bandwidth	Up to 21 TB \| Up to 576 TB/s
CPU Memory \| Bandwidth	Up to 18 TB SOCAMM with LPDDR5X \| Up to 14.3 TB/s
CPU Core Count	2,592 Arm Neoverse V2 cores
FP4 Tensor Core	1,400 \| 1,100² PFLOPS
FP8/FP6 Tensor Core	720 PFLOPS
INT8 Tensor Core	23 PFLOPS
FP16/BF16 Tensor Core	360 PFLOPS
TF32 Tensor Core	180 PFLOPS
FP32	6 PFLOPS
FP64 / FP64 Tensor Core	100 TFLOPS