흔히 5G 시대를 초연결 사회라고 합니다. 초연결은 산업계의 비즈니스 방식도 바꾸고 있습니다. 관련해 IoT 장치, 로봇 등 수많은 기기가 연결되고 이들이 집, 사무실, 창고, 상점, 공장, 농장, 병원에서 이루어지고 있는 각종 작업을 지능적으로 혁신할 것이란 기대가 큽니다. 이것은 먼 미래의 이야기일까요? GTC 2020 젠슨황 NVIDIA CEO이 기조 연설을 통해 소개한 NVIDIA EGX Edge AI 플랫폼을 보면 ‘지금 당장 실현 가능한 일’이란 것을 직감할 수 있습니다.
현장에서 추론하고 행동하는 장치들!
초연결 시대의 IoT 기기와 로봇은 과거 자동화 장치처럼 사전에 프로그래밍 된 내용에 맞춰 정해진 동작만 하지 않습니다. 이들은 연결을 유지하면서 데이터를 수집하고, 처리할 뿐 아니라 인퍼런싱을 통해 스스로 학습하고, 예측하고, 이를 기반으로 행동합니다. 곧 다가올 미래에는 스스로 상황을 판단하고 결정하는 수준까지 이를 것입니다.
이런 지능이 어떻게 장치에 부여될 수 있을까요? 연결에 답이 있습니다. 장치는 작고 단순해 보이지만 이들과 연결된 것은 AI 데이터센터입니다. 물론 모든 기기가 AI 데이터센터와 직접 연결되는 것에는 무리가 있습니다. 중간에 뭔가 다리 역할을 할 것이 필요합니다. 장치가 쓰이는 곳은 지리적, 물리적으로 매우 방대할 수 있기 때문입니다. NVIDIA는 생각을 바꾸어 접근합니다. 장치들이 쓰이는 현장에 작은 AI 데이터센터를 배치하면 어떨까? 장치와 직접 연결은 이 데이터센터를 이용하고 더 큰 계산과 분석, 트레이닝은 멀리 떨어진 주 센터와 연결을 하면 되지 않을까? 이런 생각으로 만든 것이 바로 NVIDIA EGX Edge AI 플랫폼입니다.
작은 서버 하나가 산업 현장용 AI 데이터센터 역할을 하는 시대
NVIDIA EGX Edge AI 플랫폼은 각종 IoT 장치와 로봇을 운용하는 현장에 바로 배치할 수 있는 작은 AI 데이터센터입니다. 크기는 작은 서버 하나 정도에 불과하지만, 성능과 기능은 데이터센터 부럽지 않습니다. NVIDIA EGX Edge AI 플랫폼 아키텍처를 따르는 서버는 제조, 의료, 소매, 물류 등 다양한 산업 현장에서 쉽고 빠르게 최신 엣지 AI 서버를 구축할 수 있는 길을 열었습니다. 제조 현장에서 로봇을 제어하고, 무인 상점에서 고객을 응대하고 결재를 처리하는 등의 일을 하고, 물류 창고에서 재고를 관리하고, 의료 현장에서 환자를 관리하는 일을 하는 기기들을 똑똑한 AI 엣지 장치로 만드는 데 있어 빠르고 효과적인 방법이 바로 현장에 NVIDIA EGX Edge AI 플랫폼 기반 서버를 배치하는 것입니다.
NVIDIA EGX Edge AI 플랫폼은 AI 서버, 시스템 소프트웨어, AI 프레임워크, 장치 관리 클라우드 서비스로 이루어진 풀스택 솔루션입니다. 참고로 AI 서버에는 Mellanox BlueField 2 DPU, Ampere 아키텍처 기반 GPU가 장착됩니다. 이 서버는 원터치 인증으로 새로운 노드를 현장에 간편히 생성할 수 있습니다. 이 서버에 연결된 IoT, 로봇 등은 NVIDIA Fleet Command라는 클라우드 기반 서비스로 중앙집중적으로 관리할 수 있습니다.
이 엣지 플랫폼에 대한 시장의 기대는 매우 큽니다. 서버 OEM 파트너, 분야별 솔루션 개발사 등이 이 플랫폼 기반 생태계를 구성해 시장 확대에 나서고 있습니다. 사례가 하나를 소개하겠습니다. 세계적인 자동화 및 공급망 솔루션 제공 기업인 KION은 NVIDIA EGX Edge AI 플랫폼을 이용해 자사의 스마트 캐비닛, 속도 적용형 시스템, 자동 지게차 등의 솔루션에 AI 기능을 강화하는 것을 고려 중입니다. 관련해 현재 NVIDIA Fleet Command를 이용해 엣지 AI 배포와 관리를 단순화하는 작업을 하였습니다. KION은 자사의 솔루션이 적용된 전 세계 모든 창고에 있는 IoT 장치에 AI 애플리케이션을 배포, 관리, 확장하는 것이 매우 큰 도전 과제였습니다. 비용도 많이 들고 관리 부담도 컸기 때문입니다. KION은 이 과제의 해결책을 NVIDIA Fleet Command에서 찾았습니다.
이상으로 NVIDIA EGX Edge AI 플랫폼이 예고하는 미래 산업 현장의 AI 혁신에 대해 알아보았습니다. 더 자세한 내용은 기조연설 영상을 참조 바랍니다.
# NVIDIA #NVIDIA_Fleet_Command # NVIDIA_EGX_Edge_AI #IoT #로봇 #DPU #GPU #Ampere_GPU