NVIDIA L40S

AI 중심의 디지털 전환을 가속하는 범용성이 뛰어난 차세대 데이터센터 솔루션

Chip

Where We Can Help

뛰어난 범용성을 자랑하는 다재다능한 엔터프라이즈 GPU

생성형 AI 파인튜닝
대규모 언어 모델(LLM) 훈련 및 추론
직접 구현한 AI/ML 모델 훈련 및 추론
NVIDIA Omniverse Enterprise
렌더링 및 3D 그래픽
스트리밍 및 비디오 콘텐츠

Workload Acceration

기업들이 AI 중심의 디지털 전환을 추진함에 있어, L40S GPU는 높은 컴퓨팅 자원, 대규모 처리 능력, 그리고 다양한 복잡한 워크로드를 지원하는 탁월한 GPU 솔루션입니다. 생성형 AI, AI/ML 모델 트레이닝 및 추론, NVIDIA Omniverse Enterprise, 3D 그래픽 및 렌더링 가속 등 다양한 분야에 걸쳐 우수한 범용성을 제공합니다.

Data Center Ready

L40S GPU는 24/7 엔터프라이즈 데이터센터 운영에 최적화되어 있으며, 최고의 성능과 내구성, 안정적인 가동 시간을 보장합니다. NVIDIA의 엄격한 설계, 제작, 테스트, 지원 과정을 거쳐, 최신 데이터센터 표준에 부합하며, NEBS 레벨 3 규격을 준수합니다. 또한, 시큐어 부팅 및 다른 트러스트 컴퓨팅 기술을 통해 추가적인 보안 계층을 제공합니다.

Performance

L40S GPU는 NVIDIA Ada Lovelace 아키텍처를 기반으로 하며, 4세대 텐서 코어와 3세대 RT 코어를 탑재하여 AI 및 데이터 과학 모델 훈련, 레이 트레이싱 성능, 실시간 애니메이션 등에서 혁신적인 성능 향상을 제공합니다. 트랜스포머 엔진은 AI 성능을 극대화하고 메모리 활용을 개선하여 더 빠른 AI 트레이닝과 추론을 가능하게 합니다.

AI/ML 성능

LoRA (GPT-40B) 미세조정: 글로벌 트레인 배치 사이즈: 128 (시퀀스), 시퀀스 길이: 256(토큰). NVIDIA HGX A100 8-GPU 대비 4개의 L40S GPU를 탑재한 두 시스템. 성능은 사전 릴리스 빌드를 기반으로 하며 변경될 수 있음.

생성형 AI 성능

Stable Diffusion v2.1. 512 x 512 해상도 이미지 생성을 위한 상대적 속도 향상. NVIDIA HGX A100 8-GPU 대비 4개의 L40S GPU를 탑재한 두 시스템. 성능은 사전 릴리스 빌드를 기반으로 하며 변경될 수 있음.