‘AI 시대가 다가오고 있다’ GTC 2020 젠슨 황 NVIDIA CEO 기조 연설의 핵심 메시지를 한마디로 정리한 것입니다. NVIDIA는 이번 GTC 행사를 통해 여러 측면에서 AI 시대를 조명하고 있습니다. 이 중 엔터프라이즈 디지털 전환의 중추인 데이터센터의 미래 모습을 알아봅니다.
데이터센터가 직면한 도전
현재 데이터센터 환경은 AI, 클라우드, 빅 데이터 등 새로이 부상하는 기술의 부상으로 급격한 변화를 겪고 있습니다. 전통적인 인프라와 플랫폼 구조로는 변화에 유연하게 대응하지 못할 뿐 아니라 상면 부족, 전력 사용 증가, 운영 복잡성 확대 등의 문제에서 벗어나지 못하게 하고 있습니다. 실제로 데이터센터 운영 기업은 서버, 스토리지 등 장비 증가 외에 내부 트래픽 급증(East-West Traffic)에 따른 애로사항을 호소하고 있습니다. 데이터센터 내 CPU 자원 중 상당수가 이 트래픽 처리에 사용되다 보니 인프라 규모가 커지는 것에 비교해 볼 때 자원 운영 효율성이 그리 좋지 않은 것입니다.
참고로 모던 데이터센터는 높은 수준의 인프라 가상화를 바탕으로 마이크로서비스 아키텍처 기반 환경으로 빠르게 전환하고 있습니다. 높은 수준의 안정적인 성능을 요구하는 워크로드는 베어메탈, 데이터베이스같이 독립적인 운영이 요구되는 시스템은 가상 머신, 민첩하게 개발하고 운영이 필요한 서비스가 기능은 컨테이너 단위로 배포하는 구조로 발전하고 있습니다. 그리고 이들 워크로드와 기능은 이동성(Mobility)를 바탕으로 데이터센터와 공용 클라우드를 자유로이 오가는 방식이 일반화되고 있습니다.
소프트웨어 정의 데이터센터
NVIDIA는 이번 GTC 2020에서 소프트웨어 정의 데이터센터를 새로운 시각에서 바라보고 개념을 정립했습니다. 지금까지 소프트웨어 정의는 네트워크, 보안, 스토리지 등 각 분야별로 접근을 해왔습니다. 접근법은 다르지만 지향점은 동일합니다. 소프트웨어로 유연하게 네트워크나 스토리지 스위치의 기능을 구현할 수 있게 하자는 것입니다. 하지만 실제 내용을 들여다보면 소프트웨어 정의 데이터센터는 아직도 구체적인 전략으로 자리 잡지 못하고 있습니다. 경험 부족, 전문 인력 부족 등의 이유로 데이터센터 사업자조차 소프트웨어 정의 기반 장비 자체 개발에 어려움을 호소하고 있습니다.
네트워크, 보안 장비 기업의 경우 과거 FPGA 기반 독자 아키텍처를 따랐고, 지금은 인텔과 브로드컴 같은 범용 칩을 이용해 장비를 만듭니다. 앞으로는 NVIDIA가 이번에 공개한 DPU를 이용해 소프트웨어 정의 기반 플랫폼 전략을 취할 가능성도 생각해 볼 수 있을 듯합니다. DPU의 목표는 명확합니다. 급증하는 내부 트래픽 처리에 허덕이는 CPU 자원의 부하를 덜어 주겠다는 것입니다. 단순히 부하만 더는 것이 아닙니다. 더 높은 수준의 보안, 더 빠른 패킷 처리 성능 그리고 프로그래밍 가능한 칩을 통해 새로운 데이터센터 인프라 컨셉(Programmable Datacenter on the chip)을 제시하였습니다. 소프트웨어 정의 데이터센터를 실제로 구체화하고 구현할 수 있는 길을 제시한 것이라 평가할 수 있습니다.
DPU는 소프트웨어 정의 네트워크, 소프트웨어 정의 보안, 소프트웨어 정의 스토리지 부문에 적용할 수 있습니다. 더불어 인프라 관리 기능까지 제공하여 오픈스택과 쿠버네티스와 연계한 셀프서비스 기반의 자원 관리까지 지원합니다. 따라서 DPI/IPS, 스토리지 스위치, 로드밸런서, 네트워크 스위치 등 전통적인 독립 장비의 소프트웨어 정의 기반 솔루션 전환이 한결 손쉬워질 전망입니다.
기술적으로 볼 때 DPU는 ARM, 맬라녹스 인수의 결과물입니다. 하드웨어적으로는 단순한 조합이라 볼 수 있지만, 여기에 NVIDIA의 기술이 더해지면 ‘데이터센터 인프라스트럭처 프로세서’라는 완성형 솔루션이 됩니다. NVIDIA는 GTC 2020에서 DPU 발표와 함께 DOCA(Data Center Infrastrutre-on-a Chip)을 공개했습니다. 이 아키텍처는 프로그래밍 가능한 인프라를 실현하는 핵심입니다. DPU를 장착한 네트워크, 보안, 스토리지 장비는 DOCA를 통해 원하는 기능을 필요에 따라 구현해 배포하고 적용할 수 있는 소프트웨어 정의 기반 유연성을 갖추게 됩니다.
한편, 이번 행사에서 NVIDIA는 BlueField 2 DPU를 공개했습니다. 이 솔루션은 In Network Computing이라는 새로운 혁신을 제시합니다. GPU, DPU, 인피니밴드의 조합으로 한 장의 카드로 컴퓨팅 플랫폼의 새로운 유형을 만들었습니다. 이는 소프트웨어 정의 네트워크, 스토리지, 보안 플랫폼처럼 활용될 수 있습니다.
NVIDIA는 DPU 로드맵을 공개하며 프로그래밍 가능한 데이터센터 부문에서 확실한 리더십을 확보할 것임을 내 비추었습니다. 이에 따르면 2022년경이 되면 400Gbps라는 경이로운 속도의 네트워킹이 실현될 것으로 보입니다. 그리고 2023년 공개될 예정인 BlueField 4부터는 CUDA까지 통합되어 더욱 용도가 다양한 인프라 프로세서로 자리매김할 전망입니다.
VMWare와의 파트너십
키노트에서 젠슨 황 CEO는 VMWare와의 파트너십을 강조했습니다. 미래 데이터센터 시장에서 VMWare는 데이터센터 운영체제의 자리를 노리고 있습니다. 최근 Tanzu를 적극적으로 밀면서 인프라 가상화 외에 컨테이너 기반 마이크로서비스 아키텍처 부문까지 영향력을 확대하고 있는 VMWare의 행보를 볼 때 가능성이 높아 보이는 비전입니다. NVIDIA와 VMWare 파트너십의 핵심은 소프트웨어 정의 데이터센터(또는 프로그래밍 가능한 데이터센터) 비전에 대한 공감입니다. NVIDIA의 데이터센터 인프라스트럭처 프로세서인 DPU를 기반으로 VMWare가 그리는 데이터센터 운영체제가 돌아가는 그림이 양사가 추구하는 방향입니다.