NVIDIA H200 Tensor 코어 GPU 특징
NVIDIA H200 Tensor 코어 GPU는 게임의 판도를 바꾸는 성능 및 메모리 기능으로 생성형 AI 및 HPC 워크로드를 강화합니다.
HBM3e를 탑재한 최초의 GPU인 H200의 더 크고 빠른 메모리는 HPC 워크로드를 위한 과학 컴퓨팅을 발전시키는 동시에 생성형 AI 및 대규모 언어 모델(LLM)의 가속화를 촉진합니다.
NVIDIA H200 Tensor 코어 GPU 제품 사양
-
H200 SXM¹
H200 NVL¹
FP64
34 TFLOPS
34 TFLOPS
FP64 Tensor Core
67 TFLOPS
67 TFLOPS
FP32
67 TFLOPS
67 TFLOPS
TF32 Tensor Core²
989 TFLOPS
989 TFLOPS
BFLOAT16 Tensor Core²
1,979 TFLOPS
1,979 TFLOPS
FP16 Tensor Core²
1,979 TFLOPS
1,979 TFLOPS
FP8 Tensor Core²
3,958 TFLOPS
3,958 TFLOPS
INT8 Tensor Core²
3,958 TFLOPS
3,958 TFLOPS
GPU Memory
141GB
141GB
GPU Memory Bandwidth
4.8TB/s
4.8TB/s
Decoders
7 NVDEC / 7 JPEG
7 NVDEC / 7 JPEG
Confidential Computing
Supported
Supported
Max Thermal Design Power (TDP)
Up to 700W (configurable)
Up to 600W (configurable)
Multi-Instance GPUs
Up to 7 MIGs @18GB each
Up to 7 MIGs @18GB each
Form Factor
SXM
PCIe
Interconnect
NVIDIA NVLink™: 900GB/s
PCIe Gen5: 128GB/s
2- or 4-way NVIDIA NVLink
bridge: 900GB/s
PCIe Gen5: 128GB/s
Server Options
NVIDIA HGX™ H200 partner and NVIDIA-Certified Systems™ with 4 or 8 GPUs
NVIDIA MGX™ H200 NVL partner and NVIDIA-Certified Systems with up to 8 GPUs
NVIDIA AI Enterprise
Add-on
Included