AI 우선 전략은 업종을 가리지 않습니다. 테크 기업뿐 아니라 소매, 유통, 서비스, 제조, 공공 등 모두의 목표가 된 지 오래입니다. 4차 산업 혁명이란 주제어가 더 이상 추상적으로 울리지 않는 이유도 여기에 있습니다. 데이터 주도적인 조직과 전략을 세우고 양질의 데이터를 토대로 AI 기술을 활용해 전에 없던 디지털 역량을 확보한다는 구체적인 실행 전략을 민간과 공공 모든 부분에서 취하고 있기 때문입니다.
GTC 2020 기조 연설에서 젠슨 황 NVIDIA CEO는 ‘AI for Every Company’란 주제를 소개하면서 ‘NVIDIA MERIN 오픈 베타’를 매우 상세히 설명했습니다. NVIDIA MERIN은 엔드투엔드 가속 기반 추천 시스템입니다. 이 시스템이 시장에 끼치는 영향은? 네, 모든 업종의 보편적인 서비스가 된 추천 시스템 개발과 운영 문턱이 낮아졌다는 것입니다.
추천 서비스 전성시대
추천 서비스하면 아마존, 넷플릭스 등을 떠올리는 분들이 많을 것입니다. 이들 기업은 남들이 신경 쓰지 않을 때부터 막대한 비용과 기술을 투입해 추천 시스템 개발에 사활을 걸었습니다. 추천 시스템은 양질의 빅 데이터와 AI 기술이 조화를 이룰 때 그 효과를 냅니다. 비용도 많이 들고, 기술력도 필요하고, 좋은 데이터도 확보해야 하는 그런 어려운 일이었습니다. 하지만 추천 서비스 없이는 소비자의 눈높이를 맞추기 어려운 시대가 되었습니다. 사용자의 기대는 이미 분야별 선도 기업이 제공하는 AI 기반 추천 수준에 맞추어져 있습니다. 전자 상거래, 온라인 광고, 소셜 미디어, 엔터테인먼트 등 분야를 가리지 않고 추천 서비스를 지속해 개선할 수밖에 없는 시대가 된 것입니다. 문제는 추천 시스템이 개발만 어려운 것이 아니란 것입니다. 데이터는 점점 더 많아지고, 데이터 과학자와 AI 전문가는 모델 트레이닝과 인퍼런싱을 통해 지속해서 서비스를 개선해야 합니다. 이러다 보면 어느 순간 추천 서비스가 데이터센터 자원을 통째로 쓰는 것 아닌가 싶을 때가 올 수도 있습니다.
텐센트가 NVIDIA MERIN 베타 프로그램에 참여한 이유
NVIDIA MERIN은 점점 무거워지고 부담이 커지는 추천 서비스를 지속해서 혁신하는 데 있어 지금껏 없던 효과를 제공합니다. NVIDIA MERIN은 추천 서비스 개발, 운영, 최적화를 가속하는 시스템입니다. 이런 유형의 시스템은 지금까지 없었습니다. NVIDIA MERIN은 모델 개발, 트레이닝, 인퍼런싱까지 엔드투엔드를 가속합니다. 데이터 적재는 AWS, GCP, Azure, 사내 또는 클라우드에 있는 하둡을 이용해 처리합니다. 현재 오픈 베타 버전을 공개한 상태이며 여러 업체를 통해 사전 평가가 이루어지고 있습니다. 관련해 젠슨황 CEO는 텐센트의 사례를 GTC 2020 키노트에서 소개했습니다.
텐센트는 NVIDIA MERIN을 이용해 비디오 플랫폼을 위한 추천 모델 트레이닝을 가속했습니다. 그 결과 평균 1일 걸리던 트레이닝 시간을 3시간으로 단축했습니다. 트레이닝 주기를 촘촘히 한 결과 텐센트는 모델 정확도를 빠르게 높일 수 있었습니다.
NVIDIA MERIN이 제공하는 가속력은 어디서 나올까요? 바로 NVIDIA RAPIDS입니다. 젠슨황 CEO의 말을 빌리자면 RAPIDS는 멀티 GPU와 멀티 노드를 지원하는 지구상에서 가장 빠른 ETL 엔진입니다. NVIDIA RAPIDS는 실제 기업의 AI 프로젝트 현장에서 그 가치를 인정받고 있습니다. 일례로 캐피탈원은 NVIDIA RAPIDS를 활용해 부정 거래 탐지, 챗봇 등의 모델 트레이닝과 인퍼런싱을 가속해 AI 서비스를 날로 정교하게 만들고 있습니다. NVIDIA RAPIDS는 엔터프라이즈뿐만 아니라 클라우드, AI, 빅 데이터 관련 기술과 업계 생태계도 이를 빠르게 수용하고 있습니다. 기술 생태계에서 NVIDIA RAPIDS를 수용 예를 들어 볼까요. 최근 클라우드데라가 자사 데이터 플랫폼 가속을 위해 NVIDIA RAPIDS를 적용했습니다.
이상으로 ‘AI for Every Company’ 키워드에 담긴 중요 메시지를 정리해 보았습니다. 더 자세한 내용은 키노드 영상을 참조 바랍니다.