대다수 AI/ML 프로젝트가 파일럿 단계에서 프로덕션까지 살아남지 못하는 이유!

인공 지능이 중요한 것은 다 압니다. 그래서 기업들은 경쟁하듯이 관련 조직에 힘을 실어 주고 있습니다. 여러 아이디어가 나오고, 이들은 곧 파일럿 프로젝트로 이어집니다. 그런데 대부분은 아이디어가 파일럿 단계에서 사라지고 있습니다. Dimensional Research에서 227명의 데이터 과학자를 대상으로 설문 조사를 해보니, 응답자의 78%가 AI 프로젝트 중 78%가 프로덕션까지 이어지지 않는다고 답했습니다. 왜일까요? 프로덕션 환경까지 무사히 살아서 배포되는 모델이 생각보다 많지 않은 이유는 무엇일까요?


AI/ML 프로젝트가 유산균처럼 프로덕션까지 살아남지 못하는 6가지 이유


현실 세계의 AI/ML 프로젝트는 유산균과 닮았습니다. 우리는 더 건강한 삶을 위해 요구르트, 영양제 등 다양한 형태로 유산균을 먹습니다. 그런데 이들 중 장까지 살아가는 유산균은 극소수라고 하죠. AI/ML 프로젝트도 마찬가지입니다. 기업은 건실한 성장을 지속하기 위해 AI/ML 관련 서비스를 고객에게 제공하려고 합니다. 그런데 대다수 AI/ML 프로젝트가 프로덕션 환경까지 살아서 가는 경우가 많지 않습니다. 유산균과 다를 바 없어 보이죠. 그 이유는 크게 6가지로 정리해 볼 수 있습니다.


1. 배포의 어려움

AI/ML 프로젝트를 테스트와 최적화를 거쳐 프로덕션 환경에 배포하는 것은 어려운 일입니다. 관련해 자원과 플랫폼 측면에서 확장성, 재연성, 보안성 등 따져봐야 할 것이 많습니다.

2. 따라가기 벅찬 새로운 툴의 등장

데이터 과학자에게 AI/ML 프로젝트는 과거 빅 데이터에 대한 아픈 추억을 떠올리게 합니다. 새로운 도구와 기술이 쏟아져 나오고, 뭔가 익숙해 질만하면 또 배워야 할 것이 등장하는 등 뭔가 쳇바퀴 속에 있는 듯한 그 느낌을 말이죠. AI/ML 분야의 경우 엄청난 속도로 도구와 플랫폼의 진화가 이루어지고 있습니다. 불과 얼마 전에 Wow ~ 소리를 듣던 도구도 어느 순간 옛것이 됩니다. 어렵게 내재화하여 손에 익혀 둔 기술과 도구가 막상 실제 서비스 오픈 시점에서 보면 시대에 뒤처진 것이 되어 있곤 합니다.

3. 데이터 처리의 어려움

AI/ML 관련 데이터 준비 작업은 매끄럽게 이어지지 않습니다. 계단 올라가듯이 뭔가 하나 해놓고 나서 다음 단계에 뭔가를 하는 식으로 데이터를 준비하는 단절된 과정으로 이어집니다. 데이터를 모이고, 정제하여 트레이닝과 인퍼런싱 과정에 전달하는 과정은 자동이 아니라 수작업으로 이루어집니다. 이는 작업 효율에만 영향을 끼치는 것이 아니라 AI/ML 프로젝트의 결과까지 영향을 끼칩니다. 최근 MLOps 관련해 모델 개발과 데이터 파이프라인 자동화를 하나의 흐름에서 보려고 노력하는 이유도 같은 배경에서 이해할 수 있습니다.

4. 모니터링의 부재

AI/ML 모델 배포는 일회성 작업으로 끝나는 일이 아니죠. AI/ML 모델은 끊임없는 반복 속에서 나은 결과를 제공하는 방향으로 진화합니다. 이런 이유로 재현성을 매우 중요하게 보는데요, AI/ML 모델 배포와 관리 자동화 기반이 없는 경우 모델 관련 모니터링이 원활하게 이루어지지 않는 문제가 있습니다.

5. 전문 인력의 부재

어떤 분야건 시쳇말로 '뜨는 테마'가 되면 관련 전문 인력이 시장에서 씨가 마릅니다. AI/ML 역시 시장에서 실력자를 찾기 참 어렵죠. AI/ML 프로젝트의 성공률을 높이려면 데이터 과학자, 데이터 엔지니어, DevOps & MLOps 엔지니어 등 여러 분야 전문가가 필요합니다. 문제를 각 분야별 전문가로 팀을 짜는 것이 어벤저스 팀원 모으는 것만큼 어렵다는 것입니다.

6. 늘 모자라는 컴퓨트 자원

AI/ML 프로젝트는 고성능 컴퓨팅 자원을 필요로 합니다. AI/ML 프로젝트가 일정에 맞게 제 속도로 순조롭게 진행되려면 팀이 요구하는 성능이 충분히 뒷받침되어야 합니다. CPU 자원과 GPU 자원 모두 넉넉하게 준비하는 것은 어느 기업이나 부담스럽긴 마찬가지입니다.

그렇다면 이 문제에 대한 답은 어디서 찾아야 할까요? AI/ML 프로젝트의 성공 확률을 높이는 구체적인 방안을 정리한 KInetica의 백서 또는 유클릭 전문가의 무료 컨설팅을 통해 그 답을 찾아보세요.



#유클릭 #Kinetica #AI_프로젝트 #ML_프로젝트 #인공지능 #머신러닝 #데이터_과학자 #키네티카 #데이터_엔지니어 #데이터_파이프라인


조회 74회

Contact Us

주소: 서울특별시 중구 퇴계로 286 쌍림빌딩 8/9층 (주)유클릭 AI 사업본부

전화: 02-6320-0121

© 2030 by uDNA & Uclick

  • 블랙 블로거 아이콘