주소: 서울특별시 중구 퇴계로 286 쌍림빌딩 8/9층 (주)유클릭 디지털 트랜스포메이션 사업본부

전화: 02-6320-0121

© 2030 by uDNA & Uclick

Bitfusion 사의 FlexDirect는 고가의 GPU 자원을 가상화 기술을 통해 경제성과 효율성 높게 사용할 수 있도록 돕는 솔루션입니다. 일반 서버 가상화와 비슷하게 물리적으로 흩어져 있는 GPU 서버 자원을 하나의 GPU 풀(Pool)로 구성해 데이터 과학자나 개발자의 필요에 맞게 자원을 할당합니다. 이에 따라 기업은 여러 사업부에서 추진 중인 AI와 첨단 분석 프로젝트를 더 빠르고 효율적으로 지원할 수 있습니다. 

대부분의 조직에서 GPU 자원 활용률을 보면 평균 15%에 못미친다고 합니다. 피크 때를 제외하면 GPU 활용률이 낮은 반면, 자원 요구가 빗발치는 시간대에는 컴퓨팅 리소스가 부족합니다. 독립적인 워크스테이션이나 서버 단위로 GPU 자원을 쓰면 보통 다음과 같은 패턴을 보입니다. 

GPU 가상화 솔루션인 Bifusion의 FlexDirect를 적용하면 다음과 같이 자원 활용률이 극적으로 변합니다.

 FlexDirect는 GPU 자원을 가상화합니다. 필요한 성능에 맞춰 잘게 쪼갠 형태로 vGPU 자원을 AI 워크로드에 할당합니다. 가상화 전과 비교해 최대 4배까지 활용률을 높일 수 있습니다. 

FlexDirect를 이용하면 한 개의 GPU를 15%, 20%, 30% 등 다양한 크기로 유연하게 나눠 사용할 수 있어 GPU 잡 스케줄링을 더 정교한 단위로 할 수 있습니다. 따라서 자원의 낭비 없이 전사 측면에서 GPU 풀의 경제성을 크게 높일 수 있습니다. 또한, 대규모 연산이 필요한 프로젝트의 경우 여러 GPU를 동시 할당할 수 있어 다양한 AI 워크로드에 유연하게 대응할 수 있습니다. 

FlexDirect는 모든 GPU 서버의 컴퓨트 자원을 이더넷, 인피니밴드, RoCE 등 다양한 방식으로 연결해 하나의 거대한 GPU 풀을 조성합니다. 이 풀은 마치 한 대의 서버처럼 관리를 할 수 있어 운영 효율이 높습니다. 

FlexDirect는 GPU 연산을 해야 하는 워크로드에 실시간으로 자원을 배분할 수 있습니다. 이에 따라 작업 대기 시간을 최소화하여 AI 프로젝트 추진 속도를 높입니다. 또한FlexDirect는 가상 GPU 기술로 하나의 GPU 자원을 여러 크기로 작게 분할할 수 있습니다. 이를 통해 여러 워크로드를 동시에 병렬로 운영할 수 있는 환경을 제공합니다. 

FlexDirect는 OpneCL 호환 하드웨어에 장착된 FPGA와 ASIC 자원도 확장 모듈을 통해 지원합니다. 따라서 자원 통합의 범위를 필요에 따라 늘리기 편합니다. 

도입 효과

FlexDirect는 공용 클라우드, 사설 클라우드, 온프레미스 하드웨어, 하이퍼바이저, 컨테이너 등 다양한 환경에서 사용할 수 있습니다. 이에 따라 어떤 AI 프로젝트나 빅 데이터 기반 첨단 분석을 수행해도 GPU 자원 풀을 유연하게 활용할 수 있습니다. 이를 통해 기업은 AI와 빅 데이터 워크로드 처리에 대한 데이터 과학자, 분석가, 개발자의 업무 생산성을 극대화할 수 있다. 더불어 유효한 자원이 있음에도 불필요하게 GPU 서버 인프라를 증설할 필요가 없어 AI와 첨단 분석 관련 인프라 비용을 절감할 수 있습니다. 

​활용 예

오늘날 많은 조직은 AI 애플리케이션을 독립적인 GPU 인프라 상에서 운영합니다. 이런 경우 흔히 우려되는 것이 자원의 사일로화입니다. 이를 해결하는 방법은 GPU 가상화 솔루션을 VMWare 환경에 적용하는 것입니다. 

FlexDirect는 가상 머신(VM) 인스턴스의 유저스페이스 애플리케이션으로 실행됩니다. 따라서 ESXi 하이퍼바이저와 AI 애플리케이션 어느 쪽도 수정할 필요가 없습니다. VMWare 환경에 FlexDirect를 적용하면 AI 애플리케이션은 온프레미스, 공용 클라우드 어디건 배포해 실시간으로 자원을 배치하고 회수할 수 있습니다. 이에 따라 IT 부서는 GPU 자원을 비즈니스 우선순위에 따라 배포하고 회수하는 식으로 유연하게 관리할 수 있습니다. 

  • 블랙 블로거 아이콘