VMware
AI-Ready Enterprise Plaform

NVIDIA와 VMware 양사는 기술 협력을 통해 VMware vSphere, Tanzu, Cloud Foundation과 NVIDIA GPU/DPU 및 AI 관련 소프트웨어 스택을 긴밀하게 통합하였습니다. 양사의 협력에 따라 VM, 컨테이너, 쿠버네티스, AI 등을 단일 플랫폼 관점에서 바라보고 접근할 수 있게 되었습니다. 더불어 NVIDIA GPU, DPU 기반 가속 효과를 VMware AI-Ready Enterprise Plaform에서 누릴 수 있습니다. 

VMware용 NVIDIA AI Enterprise 
accelerated-computing-egx-campaign-update-nvaie-vmware-2445800-2.jpg

NVIDIA AI Enterpise는 하이브리드 멀티 클라우드와 엣지 컴퓨팅 환경을 위한 AI 개발 및 운영 플랫폼입니다. NVIDIA는 VMware와 협력하여 VMware vSphere with Tanzu, VMware Cloud Foundation with Tanzu와 사전 최적화와 통합을 한 버전의 NVIDIA AI Enterpise를 제공합니다. 이에 따라 VMware 기술과 솔루션을 이용하는 조직은 VM, 컨테이너에 AI/ML 모델과 AI 워크로드를 유연하게 배포할 수 있습니다. 또한, VMware용 NVIDIA AI Enterprise는 GPU 가속 클라우드 서비스를 운영하고 관리하기 위해 VMware Cloud Director도 지원합니다. 

VMware용 NVIDIA AI Enterprise를 활용하면 베어메탈 수준의 성능으로 AI/ML 모델 훈련과 추론 그리고 AI 워크로드를 실행할 수 있습니다. DPU를 통한 인프라 전반의 성능 향상도 기대할 수 있습니다. VMware는 BlueField DPU 지원을 위해 vSphere를 재설계하였습니다. CPU 자원에 부담을 주는 작업을 DPU가 전담할 수 있도록 아키텍처를 손보았습니다. 이를 통해 vSphere 기반 소프트웨어 정의 환경에서 하이퍼바이저, 보안, 네트워크, 스토리지 관련 부하를 적절하게 분산합니다. 예를 들어 성능 병목을 일으키는 네트워크 트래픽, 스토리지 I/O 처리를 BlueField DPU에 맡길 수 있어 소프트웨어 정의 기반 데이터센터 전반의 성능과 자원 효율을 크게 높일 수 있습니다. BlueField DPU는 보안 강화에도 큰 도움을 줍니다. BlueField DPU에서 실행되는 NSX 분산 방화벽은 모든 접점의 보안을 강화하고, 이를 통해 제로트러스트 보안 모델을 실현합니다. 

nvidia-vmware-vsphere-bare-metal-performance-chart.png

서버 구성: Intel Xeon Gold(6240R @ 2.4GHz), Ubuntu 18.04, VMware vSphere 7.0u2, NVIDIA vGPU 12.0(40C 프로필), 노드당 1xNVIDIA A100, 드라이버 460.32.04, NVIDIA Mellanox ConnectX6 Dx, RoCE 활성화, ATS 활성화 Horovod, FP16, BS를 사용한 TensorFlow Resnet-50 V1.5 훈련: 512

스크린샷 2022-10-31 오후 6.38.17.png

VMware용 NVIDIA AI Enterprise는 NVIDIA LaunchPad를 통해 손쉽게 테스트 및 도입을 위한 개념 검증을 수행할 수 있습니다. NVIDIA LaunchPad를 신청하면 VMware용 NVIDIA AI Enterprise를 체험할 수 있는 실습 랩에 신속히 접근할 수 있습니다.