국산 NPU 기반 NPUaaS 탑재

삼성SDS가 퓨리오사AI의 2세대 신경망처리장치(NPU·딥러닝 계산을 빠르고 효율적으로 처리하도록 특화된 반도체 칩)인 ‘레니게이드’를 기반으로 한 NPUaaS(서비스로서 NPU)를 삼성클라우드 플랫폼(SCP)에 탑재했다고 20일 밝혔다.

레니게이드는 AI 추론에 특화된 국산 NPU로, 이미 학습된 AI 모델을 실제 서비스에 적용해 답변을 생성하고 문서를 분석할 때 그래픽처리장치(GPU) 대비 효율이 좋다. AI 산업이 기존의 거대언어모델(LLM)에 적합한 ‘학습’에서 ‘추론·실행’ 중심으로 이동하면서 비용 효율성이 좋은 NPU의 인기도 증가하고 있다. 이전에는 LLM 모델 자체를 제작하는 게 중요했지만, 현재는 수억 명이 LLM을 함께 사용할 수 있어야 해서다.

NPU는 전력 소모가 적어 기업 입장에서 GPU 대비 전력과 운영 비용을 절감할 수 있다. 또 AI 추론을 전용 하드웨어에서 수행해 연산 시간을 단축할 수 있다.

삼성SDS의 NPUaaS 고객은 NPU 서버를 직접 구매하거나 자체 데이터센터에 구축하지 않아도 SCP를 통해 구독형으로 사용할 수 있다. 기업의 수요 및 데이터 규모에 따라 NPU를 1장, 2장, 4장, 8장 등 원하는 단위로 자유롭게 선택해 활용할 수 있어 스타트업부터 대기업까지 AI 서비스 규모에 맞춰 활용이 가능하다.