NVIDIA L40S 특징
NVIDIA L40S GPU로 획기적인 멀티 워크로드 성능을 경험하세요. 강력한 AI 컴퓨팅과 동급 최고의 그래픽스 및 미디어 가속화를 결합한 L40S GPU는 생성형 AI와 대형 언어 모델(LLM) 추론 및 훈련에서부터 3D 그래픽, 렌더링, 영상에 이르는 차세대 데이터센터 워크로드를 지원하도록 제작되었습니다.
NVIDIA L40S 특징
NVIDIA L40S GPU로 획기적인 멀티 워크로드 성능을 경험하세요. 강력한 AI 컴퓨팅과 동급 최고의 그래픽스 및 미디어 가속화를 결합한 L40S GPU는 생성형 AI와 대형 언어 모델(LLM) 추론 및 훈련에서부터 3D 그래픽, 렌더링, 영상에 이르는 차세대 데이터센터 워크로드를 지원하도록 제작되었습니다.
NVIDIA L40S GPU 제품 사양
GPU 아키텍처
NVIDIA Ada Lovelace 아키텍처
GPU 메모리
48GB GDDR6(ECC 포함)
메모리 대역폭
864GB/s
인터커넥트 인터페이스
PCIe Gen4 x16: 양방향 64GB/s
NVIDIA Ada Lovelace 아키텍처 기반의 CUDA® 코어
18,176
NVIDIA 3세대 RT 코어
142
NVIDIA 4세대 Tensor 코어
568
RT 코어 성능 TFLOPS
212
FP32 TFLOPS
91.6
TF32 Tensor 코어 TFLOPS
183 I 366*
BFLOAT16 Tensor 코어 TFLOPS
362.05 I 733*
FP16 Tensor 코어
362.05 I 733*
FP8 Tensor 코어
733 I 1,466*
최대 INT8 Tensor TOPS
733 I 1,466*
최대 INT4 Tensor TOPS
733 I 1,466*
폼 팩터
4.4″(H) x 10.5″(L), 듀얼 슬롯
디스플레이 포트
DisplayPort 1.4a 4개
최대 소비 전력
350W
전원 커넥터
16핀
열처리
수동
버츄얼 GPU(vGPU) 소프트웨어 지원
예
NVENC I NVDEC
3x | 3x (AV1 인코딩 및 디코딩 포함)
RoT(Root of Trust)를 통한 안전한 부팅
예
NEBS 지원
레벨3
MIG(Multi-Instance GPU) 지원
아니요
NVIDIA® NVLink® 지원
아니요
* 희소성 포함
NVIDIA L40S GPU 제품 사양
GPU 아키텍처
NVIDIA Ada Lovelace 아키텍처
GPU 메모리
48GB GDDR6(ECC 포함)
메모리 대역폭
864GB/s
인터커넥트 인터페이스
PCIe Gen4 x16: 양방향 64GB/s
NVIDIA Ada Lovelace 아키텍처 기반의 CUDA® 코어
18,176
NVIDIA 3세대 RT 코어
142
NVIDIA 4세대 Tensor 코어
568
RT 코어 성능 TFLOPS
212
FP32 TFLOPS
91.6
TF32 Tensor 코어 TFLOPS
183 I 366*
BFLOAT16 Tensor 코어 TFLOPS
362.05 I 733*
FP16 Tensor 코어
362.05 I 733*
FP8 Tensor 코어
733 I 1,466*
최대 INT8 Tensor TOPS
733 I 1,466*
최대 INT4 Tensor TOPS
733 I 1,466*
폼 팩터
4.4″(H) x 10.5″(L), 듀얼 슬롯
디스플레이 포트
DisplayPort 1.4a 4개
최대 소비 전력
350W
전원 커넥터
16핀
열처리
수동
버츄얼 GPU(vGPU) 소프트웨어 지원
예
NVENC I NVDEC
3x | 3x (AV1 인코딩 및 디코딩 포함)
RoT(Root of Trust)를 통한 안전한 부팅
예
NEBS 지원
레벨3
MIG(Multi-Instance GPU) 지원
아니요
NVIDIA® NVLink® 지원
아니요
* 희소성 포함