NVIDIA Enterprise의 최신 버전이 발표되었습니다. 이번 2.1 버전 출시 관련해 어떤 개선 사항들이 있는지 알아보겠습니다. 먼저 NVIDIA Enterprise가 무엇인지 알아야겠죠. NVIDIA Enterprise는 개발 도구, 프레임워크, 인프라 관리 및 오케스트레이션 도구의 집합체라 이해하면 됩니다. 다음 개념도를 보면 이해가 빠를 것입니다. NVIDIA Enterprise가 제공하는 다양한 기술과 도구를 잘 활용하면 AI 워크플로우를 간소화할 수 있습니다. AI 및 대규모 분석을 위한 인프라 유형과 위치에 관계없이 신속한 배포와 확장이 가능합니다.
일례로 NVIDIA Enterprise를 활용하면 조직 내에 있는 베어메탈 장비부터 시작해 VM웨어 기반 가상화 인프라, OpenShift 기반 컨테이너 환경, 퍼블릭 클라우드 등 AI 모델과 애플리케이션을 경계 구분 없이 자유롭게 신속하게 배포하고 확장할 수 있습니다. 본론으로 돌아와 2.1 릴리즈의 주요 특징을 하나하나 짚어 보겠습니다.
하이라이트 #1: 컨테이너 및 퍼블릭 클라우드 지원: 2.1 릴리즈는 하이브리드, 멀티 클라우드 환경 지원이 강화되었습니다. 관련해 NVIDIA는 Microsoft Azure NVads A10 v5 시리즈에서 실행되는 RedHat OpenShift 지원을 추가하였습니다.
Microsoft Azure NVads A10 v5 시리즈는 NVIDIA A10 Tensor Core GPU를 기반으로 하는 서비스입니다. 이를 이용하면 A10 GPU를 1/6 단위로 쪼개 이용하는 것부터 A10 GPU 2개를 모두 이용하는 것까지 유연하게 자원을 할당할 수 있습니다. 또한, GPU 공유 옵션도 지원하여 GPU 파워를 높이는 것부터 경제성을 확보하는 것까지 가능합니다. 이에 따라 기업은 비용 부담이 적은 GPU 인스턴스를 퍼블릭 클라우드에서 활용할 수 있게 되었습니다. 참고로 Microsoft Azure NVads A10 v5 시리즈는 NVIDIA AI Enterprise 인증을 받은 서비스로 딥러닝 추론에 최적화된 성능을 제공합니다.
한편, 엔터프라이즈 컨테이너 플랫폼인 Red Hat OpenShift 지원 폭이 확대되었습니다. NVIDIA Enterprise 2.1은 베어메탈 및 VM웨어 vSphere 환경에 배포하는 것 외에도 퍼블릭 클라우드에서 운영하는 Red Hat OpenShift까지 지원합니다. 이에 따라 AI 워크플로우를 온프레미스와 퍼블릭 클라우드에 유연하게 배포할 수 있게 되었습니다.
하이라이트 #2: 최신 AI 프레임워크 지원: NVIDIA Enterprise를 사용하는 조직이 꼽는 주요 장점 중 하나는 NVIDIA의 지원과 정기 업데이트를 통해 도구를 최신 상태로 간편하게 유지할 수 있는 것입니다. 2.1 릴리즈 역시 이 전통을 이어받아 최신 AI 프레임워크를 지원합니다.
하이라이트 #3: NVIDIA TAO 툴킷 22.05: NVIDIA TAO 툴킷은 개발자가 음성 및 비전 AI 애플리케이션을 구동하기 위한 맞춤형 모델을 생성할 수 있도록 돕는 프레임워크입니다. 2.1 릴리즈에는 최신 버전의 TAO 툴킷인 22.05 버전이 포함되어 있습니다. 따라서 NVIDIA Enterprise를 통해 REST API 통합, 사전 훈련된 가중치 가져오기, TensorBoard 통합, 새로 추가된 사전 훈련된 모델 등 TAO 22.05 버전의 새로운 기능을 이용할 수 있습니다.
하이라이트 #4: NVIDIA RAPIDS 22.04: GPU 기반 인프라에서 데이터 과학 파이프라인을 최적화하는 오픈 소스 기반 소프트웨어 라이브러리 및 API 제품군인 NVIDIA RAPIDS 최신 버전도 NVIDIA Enterprise로 이용할 수 있습니다. RAPIDS의 인기는 높은데요, 다운로드 수가 2백만이 넘는다고 합니다. 22.04 릴리즈의 주요 업데이트는 cuML에 두 개의 새로운 커널 메소드 추가, 새로운 cuGraph 알고리즘 지원, ucDF DataFrames에 대한 모든 NumPy 함수 지원 등이 주요 개선 사항입니다.
하이라이트 #5: MLOps 플랫폼: NVIDIA Enterprise 2.1 출시와 관련해 NVIDIA는 새로운 MLOps 플랫폼을 인증해 추가했습니다. 새로 추가된 인증 솔루션은 NVIDIA 파트너인 Domino Data Lab의 엔터프라이즈 MLOps 플랫폼입니다.
이상으로 NVIDIA Enterprise 2.1의 주요 개선 사항을 알아보았습니다. 사전 평가를 원한다면 NVIDIA LaunchPad Lab을 통해 NVIDIA Enterprise 2.1이 제공하는 도구와 프레임워크를 체험할 수 있습니다.