NVIDIA는 생성형 AI 기술의 발전을 앞당기고, 이기술을 더 많은 기업과 개발자가 사용할 수 있도록 하기 위한 생태계 육성 전략을 추진하고 있습니다.
NVIDIA는 하드웨어, 소프트웨어, 서비스, 커뮤니티를 아우르는 포괄적인 생태계를 구축하고 있습니다. NVIDIA는 하드웨어, 소프트웨어, 서비스를 아우르는 포괄적인 생태계를 구축하여 기업과 개발자가 생성형 AI를 보다 쉽고 효율적으로 사용할 수 있도록 지원하고 있습니다.
NVIDIA의 생태계 전략은 크게 하드웨어와 가상화 및 컨테이너 기반 컴퓨팅 환경, 개발 및 관리 도구, 사전 훈련된 모델 제공 측면으로 나누어 볼 수 있습니다.
생성형 AI 비즈니스를 촉진하는 컴퓨팅 환경
NVIDIA의 제품, 기술, 세대를 관통하는 하드웨어의 핵심 가치는 ‘가속’입니다. 가속은 파운데이션 모델 훈련부터 사전 훈련을 마친 거대 모델의 최적화 및 추론까지 모든 영역에서 이루어집니다. 기업은 생성형 AI 전략에 따라 필요한 성능의 NVIDIA 하드웨어를 선택할 수 있습니다. 가령 파운데이션 모델 수준에서 비즈니스를 수행하는 빅테크나 통신사 같은 경우 거대 모델 훈련 시간을 획기적으로 단축할 수 있는 GH200 그레이스 호퍼 슈퍼칩 기반 시스템으로 인프라를 꾸리면 됩니다.
사전 훈련된 도메인 특화 모델 훈련과 추론에 집중하고 싶다면 NVIDIA L40S GPU를 탑재한 OVC 서버를 투입하면 됩니다. 현재 조직이 추진 중인 클라우드 전환 로드맵에 맞춰 생성형 AI 훈련과 추론 기반을 갖추고 싶다면? 이 역시 곧 선택지가 제공될 예정입니다. NVIDIA는 최근 VM웨어와 기술 협력을 발표하였습니다. 이에 따라 곧 엔비디아 AI 엔터프라이즈의 도구와 서비스를 VM웨어 프라이빗 AI 파운데이션과 통합해 활용할 수 있게 될 전망입니다.
AI 프로젝트를 간소화는 개발 및 관리 환경
NVIDIA는 최근 AI Workbench를 선보였습니다. 이 솔루션은 NVIDIA AI 플랫폼에서 모델 튜닝과 배포를 간소화하는 통합 툴킷입니다. NVIDIA AI Workbench는 개발자가 빠르고 쉽게 생성형 AI 모델을 개발하고 배포할 수 있도록 지원합니다. AI 인프라와 플랫폼 관리의 경우 NVIDIA AI Enterprise를 활용하면 됩니다. 기업용 AI 플랫폼인 NVIDIA AI Enterprise는 최근 4.0 버전이 공개되었습니다. 4.0 버전은 다양한 산업 분야의 기업이 생성형 AI를 사용하여 비즈니스 혁신을 가속화할 수 있도록 지원합니다.
그리고 앞서 언급한 바와 같이 NVIDIA AI Enterprise는 VM웨어의 프라이빗 AI 파운데이션과 통합될 예정이어서 그 활용 폭이 더욱 넓어질 예정입니다. 예를 들어 기업은 VM웨어 프라이빗 AI 파운데이션을 사용하여 NVIDIA A100 Tensor Core GPU를 기반으로 구축된 AI 인프라를 구축할 수 있습니다. 그런 다음, 엔비디아 AI 엔터프라이즈의 도구와 서비스를 사용하여 AI 모델을 개발하고 배포할 수 있습니다.
sLLM 활용 수요 충족
기업 중 상당 수는 파운데이션 모델이 아니라 사전 훈련을 마친 도메인 특화 sLLM(Small Large Language Model)을 활용해 디지털 비즈니스에 생성형 AI를 접목하고 있습니다. 우리 회사의 비즈니스 전력과 목표에 맞는 사전 훈련된 sLLM을 손쉽게 찾아 미세 조정을 하고 싶은 수많은 기업의 잠재 수요를 충족하기 위해 NVIDIA는 NGC 제공 외에도 허깅페이스, 깃허브와 긴밀히 협력하고 있습니다. NVIDIA는 이러한 리포지토리와의 협력을 통해 개발자가 기업의 필요에 맞는 sLLM을 보다 쉽게 찾고 사용할 수 있도록 지원합니다.
소개한 내용과 함께 주목할 NVIDIA의 행보로 NeMo Guardrails 오픈 소스 툴킷을 공개를 뺴놓을 수 없습니다. 생성형 AI는 아직 초기 단계에 있고, 특히 안전성과 윤리성, 그리고 비용 측면에서의 고려사항이 남아 있습니다. NVIDIA는 이러한 문제들을 충분히 고려하여, 안전하고 효과적인 생성형 AI의 발전을 지원하기 위해 NeMo Guardrails를 만들어 공개하였습니다.
이상으로 NVIDIA가 추진하는 생성형 AI 전략의 큰 맥락을 짚어 보았습니다. 정리하자면 NVIDIA의 생성형 AI 전략은 AI의 발전과 확산을 촉진하는 데 중요한 역할을 할 것으로 기대됩니다. NVIDIA의 전략은 하드웨어, 소프트웨어, 서비스, 그리고 윤리적 사용을 포함하는 통합적인 접근 방식을 기반으로 하고 있습니다. 이러한 접근 방식을 통해 NVIDIA는 생성형 AI가 사회, 경제, 문화 전반에 긍정적인 영향을 미치도록 하는 데 기여할 것으로 기대됩니다.