5G 시대의 상징은 '초연결'입니다. 패킷 손실이나 지연 그리고 속도 저하 걱정 없이 모든 것이 연결되는 시대, 우리는 스마트 시티를 말하고, 스마트 공장을 말하고, IoT와 엣지 컴퓨팅을 말합니다. 소매, 제조, 통신, 공공 등 영역을 가리지 않고 초연결이 바꿀 미래 모습에 기대를 하고 있습니다. 5G 환경에서 데이터센터와 엣지 장치, IoT 기기, 각종 센서를 서비스 지향적으로 연결하려면? 여기서 말하는 서비스 지향이란 것은 끝단에 위치한 장치와 센서는 단순히 기계적 역할을 하는 것이 아니라 인공 지능(AI), 가상 현실(VR), 증강 현실(AR), 게임 스트리밍 등 서비스를 제공하는 눈앞의 기기로 역할을 하기 때문입니다. 단순히 네트워크를 연결해 데이터 수집이나 전송을 하는 것이 아니라 '서비스'를 제공하는 초연결 환경은 전통적인 컴퓨팅의 개념을 넘어서는 새로운 접근이 필요합니다.
데이터센터와 엣지를 잇는 가교 'NVIDIA EGX PLATFORM'
초연결 시대 엣지 컴퓨팅을 위해 NVIDIA는 새로운 접근법을 제시하고 있습니다. NVIDIA가 고안한 방식은 데이터센터 또는 클라우드와 엣지 장치와 센서 환경을 잇는 서비스 흐름 중간에 NVIDIA EGX PLATFORM을 엣지 서버에 신속하고 유연하게 배포하는 것입니다. 가령 스마트 시티를 구축하기 위해 빌딩, 가로등, 도로, 매장 등에 AI, VR, AR 등의 서비스를 최고의 고객 경험(CX)을 보장할 수 있는 수준으로 제공하려면? 5G 통신만으로는 안됩니다. 빌딩과 거리 곳곳에 초고속 통신과 초고속 서비스 워크로드 처리를 위한 원격 서버가 필요합니다. NVIDIA EGX PLATFORM은 엣지 서버에 서비스를 신속하게 배포할 수 있도록 돕는 소프트웨어 스택입니다. 쿠버네티스를 기반으로 특정 도메인에 특화된 사전에 트레이닝된 모델, 서드파티 솔루션, Helm 차트 등을 컨테이너에 담아 신속하게 원격지 하드웨어에 배포하여 운영할 수 있습니다.
앞서 잠시 언급한 바와 같이 NVIDIA EGX PLATFORM은 소프트웨어 스택뿐 아니라 NGC Reany 서버 하드웨어도 포괄하는 개념입니다. 예를 들어 자동차와 운전자를 인식하는 스마트 시티용 교통 카메라에는 NVIDIA Jetson Nano를 기반으로 실시간 스마트 교통 제어와 통제를 수행합니다. 그리고 지방 경찰청 영상 모니터링 및 단속실에는 NVIDIA GPU가 장착된 엣지 서버가 배치됩니다. 이 서버에 올라가는 각종 서비스와 AI 워크로드는 컨테이너 기반으로 빠르게 배포되어 운영됩니다.
DevOps & MLOps 실현을 위한 강력한 솔루션
NVIDIA EGX PLATFORM의 가치는 AI, VR, AR, 게임 스트리밍 등 강력한 네트워킹, 컴퓨팅 파워를 필요로 하는 5G 시대 서비스 워크로드 처리에 있어 DevOps, MLOps 실현을 돕는다는 것입니다. 서비스 중단 없이 실시간으로 서비스를 제공하는 가운데 빌드, 테스트, 배포 또는 모델 트레이닝과 추론 등이 흘러갈 수 있게 하는 실질적인 길을 열어 주고 있는 것입니다.
NVIDIA EGX PLATFORM을 운영할 수 있는 엣지 서버는 주요 하드웨어 제조사에 의해 공급됩니다. 뿐만 아니라 하이브리드 클라우드 구축과 운영을 위한 파트너 생태계도 탄탄하게 구축되어 있습니다.
한편 NVIDIA EGX PLATFORM에 지난 포스팅에 소개한 Aerial SDK를 사용하면 통신사는 소프트웨어 정의 기반으로 5G 관련 AI, VR, AR 등의 첨단 서비스 운영에 필요한 성능과 유연성을 확보할 수 있습니다.
NVIDIA EGX PLATFORM에 대한 더 자세한 내용은 유클릭으로 문의 바랍니다.