Chang Sun Park2023년 11월 30일2분Chat GPT나 Bard 부럽지 않은 생성형 AI + 검색’을 조합한 챗봇 구현하기 - NVIDIA의 RAG 챗봇 구현을 위한 참조 - Generative AI 워크플로우오픈AI의 Chat GPT나 구글 Bard 같은 서비스를 이용하는 이들이 선호하는 조합은? 아마 생성 모델에 검색을 더하는 조합으로 답을 받는 것입니다. 거대 언어 모델(LLM)만 이용할 때보다 답변에 대한 신뢰감(?)이 더 들기 때문이...
Chang Sun Park2023년 11월 29일2분Jetpack 6 등장으로 생성형 AI 모델과 LLM을 엣지(edge)로 배포가 더욱 손쉬워진다!?Jetpack 6의 출시로 엣지 컴퓨팅 분야에서 생성형 AI 모델과 LLM(대규모 언어 모델)을 사용하는 것이 훨씬 쉬워질 전망입니다. 2020년에 트랜스포머와 암페어 A100 GPU가 소개된 이후, AI 모델의 크기와 지능성이 급격하게...
Chang Sun Park2023년 10월 25일2분기업의 LLM 전략을 가속하는! NVIDIA AI Enterprise와 Anyscale의 통합NVIDIA와 Anyscale는 거대 언어 모델(LLM)의 생산 배포를 가속화하기 위한 파트너십을 공고히하고 있습니다. 관련해 지난 번에 포스팅을 통해 그 의미를 좀 다루어 봤는데요. 이번 포스팅에서는 조금 더 구체적으로 기술 협력 내용을...
Chang Sun Park2021년 6월 28일2분보안 솔루션 개발의 새로운 길 ‘Morpheus’사이버 보안 솔루션 개발은 매우 깊은 전문성을 요구합니다. 보안에 대한 이해는 기본입니다. 여기에 하드웨어 측면의 최적화 역량이 필요합니다. 보안 솔루션은 매우 큰 부하를 감당합니다. 특히 실시간으로 오가는 모든 트래픽을 살펴야 하는 경우...