NVIDIA가 제공하는 NGC 카탈로그는 AI, ML 프로젝트에 참여하는 데이터 과학자와 개발자에게 매우 큰 편의를 제공합니다. 네, 작업에 필요한 환경을 마치 쇼핑을 하듯이 편히 골라 마련할 수 있으니 편의성이 높을 수밖에 없죠.
NGC 카탈로그의 훌륭한 점은 지속해서 업데이트된다는 것입니다. GPU 컴퓨팅 환경에 최적화된 딥러닝, 머신 러닝, HPC 애플리케이션을 담은 컨테이너, 사전 훈련된 모델, 산업별 SDK 등에 대한 현장의 수요를 반영해 계속 업데이트가 이루어지고 있는 것이죠. 여러 이용자가 유용하다고 평가하는 것 몇 가지를 좀 볼까요.
사전 훈련된 모델
NGC 카탈로그가 제공하는 다양한 사전 훈련 모델을 제공합니다. 따라서 프로젝트 목표에 맞는 모델이 있다면 NGC에서 해당 모델을 다운로드해 구현과 훈련 시간을 아낄 수 있습니다. 그렇다면 목표에 맞는 모델인지 아닌지는 어떻게 판단할까요? NGC에서 제공하는 모든 사전 훈련된 모델은 이력서(resumes)를 제공합니다. 여기에는 모델 아키텍처, 훈련 매개변수, 훈련에 사용한 데이터 센트, 성능, 모델 사용 가이드 등에 대한 정보가 담겨 있습니다. 소매, 의료, 제조, 스마트 도시 등 큰 분류로 나뉜 것 중 필요 모델을 찾고 다음으로 이력서를 통해 우리에게 맞는 것인지 확인한 다음 다운로드하면 됩니다.
안전한 컨테이너
다음으로 사용자들이 빈번히 사용하는 것은 컨테이너입니다. 딥러닝, 머신 러닝, HPC 관련 소프트웨어 환경을 사전에 잘 마련해 놓은 컨테이너 이미지를 NGC에서 편히 받아 볼 수 있습니다. 개발 단계라 해도 외부에 있는 이미지를 가져다 쓰는 것은 보안 측면에서 부담이 있을 수 있습니다. NGC는 이런 부담이 없습니다. NGC 카탈로그에 올라온 모든 컨테이너 이미지는 알려진 취약점(CVE), 맬웨어, 암호화 키, 열리 포트 등에 대한 보안 검사를 마친 것들입니다. 이것만으로는 안전에 대한 신뢰를 주기 조금 부족해 보이죠? NVIDIA는 각 이미지에 대한 보안 스캔 보고서도 함께 제공합니다. 여기에는 해당 이미지의 보안 등급, 이미지에 포함된 패키지별 CVE 심각도 분석, CVE 관련 상세 안내 링크 등이 담깁니다.
소프트웨어 및 툴킷
각종 소프트웨어와 툴킷도 많이 찾는 단골 메뉴죠. NGC 카탈로그에서 제공하는 PyTorch, TensorFlow, NVIDIA Triton Inference Server, TensorRT 등의 딥러닝 소프트웨어는 매월 최신 버전으로 업데이트가 됩니다. Gromacs, Relion, Quantum Espresso 같은 인기 HPC 애플리케이션도 늘 최신을 유지합니다. 툴킷의 경우 최신 버전의 TAO를 이제 이용할 수 있는데요, CLI 기반 TAO 툴킷과 Jupyter 노트북 기반 TAO 버전 모두를 쓸 수 있습니다.
NGC 카탈로그를 혹시 예전에 한 번 들러보고 잊고 있었다면? 지금 바로 다시 방문해 보세요.