#CUDA

Jetpack 6 등장으로 생성형 AI 모델과 LLM을 엣지(edge)로 배포가 더욱 손쉬워진다!?

Jetpack 6의 출시로 엣지 컴퓨팅 분야에서 생성형 AI 모델과 LLM(대규모 언어 모델)을 사용하는 것이 훨씬 쉬워질 전망입니다. 2020년에 트랜스포머와 암페어 A100 GPU가 소개된 이후, AI 모델의 크기와 지능성이 급격하게...

조회수 231회댓글 0개

CUDA 11.6 툴킷에서 주목할 새로운 것들…

CUDA 최신 릴리즈인 11.6이 얼마 전 공개되었습니다. 이번 릴리즈는 CUDA 애플리케이션의 프로그래밍 모델 및 성능 향상에 초점을 맞추었다고 합니다. 11.6 릴리즈의 몇 가지 중요한 개선 사항을 알아보겠습니다. GSP 드라이버 아키텍처...

조회수 364회댓글 0개

NVIDIA가 꿈꾸는 미래 데이터센터

‘AI 시대가 다가오고 있다’ GTC 2020 젠슨 황 NVIDIA CEO 기조 연설의 핵심 메시지를 한마디로 정리한 것입니다. NVIDIA는 이번 GTC 행사를 통해 여러 측면에서 AI 시대를 조명하고 있습니다. 이 중 엔터프라이즈 디지털...

조회수 127회댓글 0개

HPC 애플리케이셔 개발과 운영을 더 쉽게 해주는 CUDA-X HPC

NVIDIA는 AI, HPC 애플리케이션을 더 쉽고 편하게 개발하고 운영할 수 있도록 돕기 위한 혁신에 박차를 가하고 있습니다. 관련해 여러 가지 새로운 플랫폼을 공개하고 있는데요, 올 상반기 NVIDIA는 CUDA-X를 공개했죠. CUDA-X는...

조회수 143회댓글 0개

엣지 장치와 로봇을 AI 머신으로 바꾸는 강력한 미니 컴퓨터 Jetson NANO ~

최근 AI 시장의 움직임 중 주목할 것 중 하나는 엣지 컴퓨팅입니다. AI를 위한 모델 적용과 트레이닝은 데이터센터에서만 일어나는 것이 아닙니다. 5G 시대를 눈 앞에 둔 현재 IoT 장치 하나하나가 AI 머신이 될 수 있습니다. 그리고 이런...

조회수 145회댓글 0개

NVIDIA AI 소프트웨어, 이제 AWS 마켓플레이스에서도 받을 수 있다! 새로운 GPU 인스턴스도 등장..

최근 AWS re:invent 행사가 열리고 있는데요, 관련해 소식들이 쏟아지고 있습니다. AI 쪽 소식 중 주목할 만한 것 몇 가지 추려 봅니다. 첫 번째 소식은 NVIDIA AI 소프트웨어를 AWS 마켓플레이스에서 선택해 쓸 수 있게 된...

조회수 27회댓글 0개