베일에 가려져 있던 NVIDIA Base Command 플랫폼의 실제 모습을 이제 직접 확인할 수 있게 되었습니다. 개념만 소개했을 뿐인데 많은 이들이 언제 이용 가능한지 궁금해했던 바로 그 플랫폼을 NVIDIA가 공식 런칭했습니다. 일단 북미 지역에서 서비스가 개시됩니다.
NVIDIA Base Command 플랫폼은 관리형 서비스 방식으로 제공됩니다. AI 인프라와 플랫폼을 서비스 형태로 이용할 수 있는 것으로 관리 주체가 NVIDIA입니다. 여기서 궁금증이 들 것입니다. AWS, GCP, Azure 같은 클라우드에서 GPU 인스턴스와 MLOps 플랫폼을 이용하는 것과 뭐가 다를까? 자세히 보면 차이점이 확 와닿습니다.
토털 서비스: NVIDIA Base Command 플랫폼은 AI 인프라와 MLOps 플랫폼을 토털 서비스로 이용할 수 있습니다. 일반적인 관리형 서비스가 제공하는 범위를 넘어섭니다.
NVIDIA가 직접 관리하는 서비스: 관리 주체가 누구냐에 따라 서비스의 안정성과 신뢰성이 달라지죠. NVIDIA Base Command 플랫폼은 NVIDIA가 운영하는 관리형 서비스입니다.
최고의 성능을 보장하는 서비스: 초거대 모델 훈련까지 거뜬한 관리형 서비스가 있다? 없다? NVIDIA Base Command 플랫폼이 등장하면서 이제는 초거대 모델 훈련까지 클라우드로 이용할 수 있게 되었습니다. NVIDIA Base Command 플랫폼의 인프라는 DGX SuperPOD입니다. 아 너무 거대하고요. 최소 구성은 NVIDIA DGX A100 서버 3대부터 시작합니다. 최대로 구성할 때 DGX SuperPOD까지 올라갈 수 있습니다. 현존 최강 성능을 자랑하는 AI 인프라가 적용되는 것이죠. 여기에 NetApp이 AI 워크로드의 성능 요구를 충족하는 구독형 스토리지 서비스를 결합하였습니다. 참고로 이 서비스는 통합 데이터 관리 기능까지 제공합니다.
NVIDIA Base Command 플랫폼은 코로케이션 서비스 시장 1등 기업인 에퀴닉스 데이터센터를 통해 호스팅 됩니다. 에퀴닉스 미국 캘리포니아에 본사를 두고 있는 데이터센터 및 인터넷 연결 전문 기업입니다. 전 세계 25개 국에 220개 이상의 데이터센터를 보유하고 있습니다.
에퀴닉스의 코로케이션 서비스를 이용한다는 것은 NVIDIA가 점진적으로 NVIDIA Base Command 플랫폼 서비스를 전 세계 고객에게 제공할 수 있다는 것을 뜻합니다. 에퀴닉스에 대한 위키의 기업 설명 페이지를 보면 한국에도 데이터센터가 있는 것으로 나오네요. 한국에서도 NVIDIA Base Command 플랫폼 같은 서비스를 빨리 만나 볼 수 있으면 좋겠습니다.