GPU 가상화 방법 중 하나로 NVIDIA가 제공하는 GRID를 이용하는 것을 간략히 알아보겠습니다. NVDIA는 VM웨어 환경에서 GPU를 가상화된 자원으로 접근할 수 있도록 가상 GPU(vGPU) 기능을 제공합니다. NVIDIA는 vGPU 패밀리를 두 가지로 구분합니다. 하나는 NVIDIA VCS(Virtual ComputeServer)이고, 다른 하나는 vDWS(Virtual Datacenter Workstation)입니다. 이중 머신 러닝, 딥러닝 워크로드를 위한 GPU 가상화를 원할 경우 NVIDIA가 추천하는 것은 VCS 소프트웨어를 이용하는 것입니다.
참고로 VM웨어 환경에서 NVIDIA vGPU를 이용하려면 소프트웨어 라이선스를 확보해야 합니다. 이 소프트웨어 패키지는 NVIDIA Virtual GPU Manager for the VMWare vSphere, NVIDIA Windows Driver, NVIDIA Linux Driver로 구성됩니다.
NVIDIA Virtual GPU Manager는 VIB(VMware Installation Bundle) 형태로 vSphere 하이퍼바이저 상에서 운영됩니다. 그리고 게스트 운영체제에 NVDIA의 vGPU 드라이버가 설치됩니다.
NVIDIA vGPU를 이용하면 하나의 VM에 GPU 자원을 단독으로 할당하거나, 하나 이상의 VM에 GPU 자원을 쪼개어 줄 수 있습니다. 이를 정하는 기준은 간단합니다. AI 워크로드가 GPU 하나를 다 써야 할 정도로 성능 요구 사항이 높은지 아닌지를 기준으로 정하면 됩니다.
그렇다면 어떤 GPU 모델을 vGPU로 사용할 수 있을까요? 이는 다음 표를 참조 바랍니다. NVIDIA vGPU 세팅은 크게 어려운 과정이 없습니다. 해당 내용은 VM웨어 블로그 또는 NVIDIA의 백서를 참조 바랍니다.
NVIDIA Maxwell 아키텍처
‣ Tesla M6 (vComputeServer is not supported.)
‣ Tesla M10 (vComputeServer is not supported.)
‣ Tesla M60 (vComputeServer is not supported.)
NVIDIA Pascal 아키텍처
‣ Tesla P4
‣ Tesla P6
‣ Tesla P40
‣ Tesla P100 PCIe 16 GB (vSGA, vMotion with vGPU, and suspend-resume with
vGPU are not supported.)
‣ Tesla P100 SXM2 16 GB (vSGA, vMotion with vGPU, and suspend-resume with
vGPU are not supported.)
‣ Tesla P100 PCIe 12GB (vSGA, vMotion with vGPU, and suspend-resume with
vGPU are not supported.)
NVIDIA Volta 아키텍처
‣ Tesla V100 SXM2 (vSGA is not supported.)
‣ Tesla V100 SXM2 32GB (vSGA is not supported.)
‣ Tesla V100 PCIe (vSGA is not supported.)
‣ Tesla V100 PCIe 32GB (vSGA is not supported.)
‣ Tesla V100 FHHL (vSGA is not supported.)
NVIDIA Turing 아키텍처
‣ Tesla T4
‣ Quadro RTX 6000 in displayless mode (GRID Virtual PC and GRID Virtual
Applications are not supported. vComputeServer is supported only since
release 9.1.)
‣ Quadro RTX 8000 in displayless mode (GRID Virtual PC and GRID Virtual
Applications are not supported. vComputeServer is supported only since release 9.1.)