용량 3.6배 향상… 병목 현상 개선
급증하는 고성능 컴퓨팅 수요 대응

삼성SDS가 엔비디아의 최신 그래픽처리장치(GPU)인 ‘B300’을 기반으로 한 클라우드 서비스를 국내 처음 선보였다.

삼성SDS는 자사 클라우드 플랫폼 ‘삼성 클라우드 플랫폼(SCP)’을 통해 B300 기반 GPU 구독형 서비스 GPUaaS를 출시했다고 23일 밝혔다. 기업들이 인공지능(AI) 모델 개발을 넘어 실제 서비스에 적용하는 ‘AI 추론’ 단계로 진입하면서, 급증하는 고성능 컴퓨팅 수요에 대응하려는 것이다.

B300 GPU는 12단 고대역폭메모리 HBM3E를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공한다. 복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상됐다. 이에 따라 대규모 언어 모델(LLM) 실행 시 GPU의 빠른 연산 속도 대비 느린 메모리의 데이터 전송 속도로 인해 전반적인 성능이 저하되는 데이터 병목 현상이 획기적으로 개선됐다. SCP B300 GPUaaS를 도입하면 고용량 메모리를 통해 거대 AI 모델을 효율적으로 처리할 수 있어 AI 에이전트, 이미지·영상·코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화할 수 있다.