MLOps 도입을 위한 의사결정 기준

이번 포스팅에서는 MLOps 도입할 때 중요 의사결정 포인트를 어떻게 잡아야 할지 알아보겠습니다. 참고로 이 내용은 NVIDIA가 북미에서 정식 서비스를 출시한 Base Command 플랫폼에 적용한 MLOps 도구를 제공하는 기업인 Weights & Biases의 백서 내용 중 일부를 정리한 것입니다. 전체 내용은 ‘Building a tech stack for ML expertise’ 백서를 참조 바랍니다.



이 백서는 한 파트를 MLOps 의사결정 프레임워크에 할애하고 있습니다. 표현이 좀 기술적이긴 한데, MLOps 도입을 위한 중요 검토 사항 정도로 풀어 쓸 수 있을 듯싶네요. Weights & Biases는 6가지 고려 사항을 꼽았습니다. 백서는 좀 미국스럽게 내용을 전개해서요, 한국 독자의 눈높이에 맞게 6가지 도입 기준을 재해석해 보았습니다.


  • 벤더 종속

  • 인재 확보

  • TCO

  • 소프트웨어 가시성

  • 가시성

  • 거버넌스, 프라이버시

하나하나 알아보겠습니다. 벤더 종속은 누구나 피하고 싶은 것입니다. 그런데도 가끔 편의성 뒤에 숨은 종속성을 알면서도 피하지 않는 경우도 적지 않습니다. 대표적인 예가 클라우드 사업자들이 제공하는 쓰기 편한 도구입니다. 구글 클라우드의 AutoML이나 AWS의 SageMaker 같은 하이레벨 도구는 구미가 당기죠. 이런 도구조차 특정 인프라 종속 이슈에서 벗어나지 못합니다. 100% 클라우드만 활용해 AI 프로젝트를 추진하겠다면? 문제 될 것 없겠지만, 조직 내부에 있는 GPU 기