NVIDIA가 그리는 미래 데이터센터는 CPU, GPU, DPU 실리콘을 기반으로 한 소프트웨어 정의 환경입니다. 이번 포스팅에서는 이 중 CPU 이야기를 해볼까 합니다.
Edge to Datacenter
NVIDIA는 Arm CPU에서 미래를 찾고 있습니다. Arm 기반 시스템은 엣지 환경부터 데이터센터까지 그 쓰임이 매우 넓습니다. 최근에는 HPC 분야에서도 두각을 나타내고 있죠. 가트너에 따르면 2025년까지 HPC 신규 서버의 12%가 Arm 기반이 될 전망입니다.
'전성비'의 대명사
Arm 아키텍처 하면 무엇이 떠오르나요. 아마 높은 에너지 효율이 생각날 것입니다. ‘전성비’라고 하죠. Arm은 전성비 좋은 CPU의 대명사입니다. 최근 MLPerf 벤치마크 결과를 보면 Arm 기반 시스템은 x86 기반 시스템과 거의 동일한 추론 성능을 냅니다. 전력은 더 적게 먹는데 성능은 비등하게 나오는 것이죠.
Arm 기반 서버에 관심이 좀 가나요. 그렇다면 어떤 서버를 도입해야 할까요? Arm CPU를 장착했다고 다 같은 서버가 아닙니다. NVIDIA는 엔터프라이즈의 서버 선택을 돕기 위해 NVIDIA 인증 프로그램을 운영 중입니다. Arm 기반 시스템 인증의 시작은 2019년 CUDA-X 라이브러리 지원부터입니다. 이후 2021년 NVIDIA는 2021년 Arm 시스템 인증 프로그램을 발표하였습니다. 그리고 같은 해 GIGABYTE와 손을 잡고 Arm HPC 개발자 키트를 만들어 공개했습니다.
최초의 NVIDIA 인증 Arm 시스템은 GIGABYTE G242-P33으로, Neoverse 기반 Ampere Altra 프로세서와 최대 4개의 NVIDIA A100 Tensor Core GPU를 탑재하고 있습니다. GIGABYTE는 처음부터 NVIDIA 인증 시스템 프로그램의 일부였으며 현재 15개 이상의 NVIDIA 인증 시스템을 제공합니다.
GIGABYTE를 시작으로 주요 하드웨어 기업이 파트너로 참여하였습니다. 그리고 이들 기업이 선보인 NVIDIA 인증 시스템은 AI 및 데이터 과학, 3D 컴퓨팅 및 시각화, HPC를 포함한 다양한 최신 가속 컴퓨팅 워크로드에서 탁월한 성능을 제공한다는 것을 시장에서 검증받았습니다. 2022년 현재 30개 이상의 파트너로부터 데이터 센터, 데스크탑 및 에지를 포함하는 200개 이상의 인증 시스템을 사용할 수 있습니다.
NVIDIA가 인증한 Arm 시스템은 하드웨어 외에 소프트웨어 통합도 사전 검증을 받은 것입니다. 인증 시스템을 사용하면 다음과 같은 NVIDIA 소프트웨어도 최적화된 상태에서 활용할 수 있습니다.
NVIDIA AI Enterprise
NVIDIA Fleet Command
NVIDIA Omniverse Enterprise
NVIDIA 인증 시스템에 관심이 있다면 유클릭에 연락 바랍니다.