Chang Sun Park2023년 8월 1일3분ChatGPT 서비스 운영 인프라의 비밀100백만명 이상의 사용자를 호스팅하는 ChatGPT를 구동하는 데 필요한 인프라는 무엇인지 그리고 이 인프라가 Azure에서 어떻게 운영되는지 궁금하지 않으세요? 이를 소개하는 마이크로소프트 유튜브 영상이 있어 간단히 핵심만 추려 보았습니다....
Chang Sun Park2022년 3월 31일2분H100 GPU에 적용한 4세대 NVLink & NVLink 네트워크 '더 넓은 대역폭, 더 빠른 속도’ 기업의 AI 투자는 점점 더 늘고 있습니다. AI 기술 활용도 초거대 모델 시대를 향해 가고 있고요. NVIDIA는 이런 변화에 발맞춰 기술 혁신을 이어가고 있죠. A100 발표 때도 입이 떡 벌어질 정도였는데, H100 역시 기대를 저버리지...