DGX A100은 AI 전략 추진의 가장 큰 걸림돌인 유연하고 역동적인 인프라 구축과 운영에 대한 오랜 고민을 해결합니다. 더 이상 용도 별로 클러스터를 구축해 운영할 이유가 없습니다. DGX A100으로 구성한 인프라는 마치 거대한 데이터센터가 하나의 시스템처럼 유기적으로 동작합니다. 한 대의 DGX A100을 이용해도 이런 유기적이고 역동적인 AI 데이터센터의 이점을 고스란히 누릴 수 있습니다. DGX A100의 성능은 슈퍼컴퓨터 급입니다. 단일 시스템으로 5 petaFLOPS 성능을 냅니다. 

DGX A100을 상징하는 개념은 'Universal System'입니다. 총 8개의 A100 GPU가 장착되는 이 시스템은 MIG(Multi-Instance GPU) 기능을 통해 총 56명의 사용자 각각에게 인스턴스를 할당할 수 있습니다. 트레이닝, 인퍼런싱, 분석 등 어떤 워크로드를 운영하건 사용자는 각자에게 할당된 인스턴스를 마치 전용 시스템에서 올린 것처럼 운영할 수 있습니다. 

단독으로 사용하면 슈퍼컴퓨터, 클러스터로 구성하면 AI 데이터센터

DGX A100의 성능은 슈퍼컴퓨터 급입니다. 단일 시스템으로 5 petaFLOPS 성능을 냅니다. 이 시스템에는 총 8개의 A100 Tensor Core GPU와 320GB의 GPU 메모리가 장착됩니다. GPU 간 연결은 6세대 NVSwitch 인터페이스가 적용되어 쌍방향 대역폭이 4.8TB에 이릅니다. 이는 426시간 분량의 HD 화질 비디오를 1초에 전송할 수 있는 대역폭입니다. 이전 세대인 V100 GPU와 비교할 때 쓰루풋이 20배가 더 높다 보니 GPU 성능도 비교 불가 수준입니다. 

​비즈니스 요구에 맞춰 확장

DGX A100의 성능 개선은 트레이닝, 인퍼런싱, 분석 등 모든 워크로드에서 두드러지게 나타납니다. 인프라가 갖추어야 할 보안 역시 DGX A100는 충실히 갖추고 있어 엔터프라이즈가 요구하는 보안성 요구 조건도 완벽하게 충족합니다. 

DGX A100으로 클러스터를 구성하면 AI 데이터센터가 구축됩니다. DGX A100은 클러스터 네트워킹을 위해 8개의 맬라녹스 싱글 포트 ConnectX-6 카드를 장착하고 있고, 스토리지 네트워킹을 위해 1개의 더블 포트 ConnectX-6 카드를 내장하고 있습니다. 강력한 네트워킹을 지원하므로 DGX A100을 이용하면 랙 단위로 AI 슈퍼컴퓨터 인프라를 구성할 수 있습니다. 2개 랙으로 구성할 경우 최대 40 petaFLOPS 규모의 데이터센터가 구축됩니다. 

주소: 서울특별시 중구 퇴계로 286 쌍림빌딩 8/9층 (주)유클릭 AI 사업본부

전화: 02-6320-0121

© 2030 by uDNA & Uclick

  • 블랙 블로거 아이콘