삼성SDS는 자사 클라우드 '삼성 클라우드 플랫폼(SCP)'을 통해 엔비디아의 최신 GPU 'B300(블랙웰 울트라)' 기반 GPU 구독형 서비스(GPUaaS)를 국내 최초로 출시했다고 23일 밝혔다.

이번 서비스는 기업들이 AI 모델 개발 단계를 넘어 실제 서비스 적용 단계인 'AI 추론'으로 이동하면서 증가하는 고성능 컴퓨팅 수요에 대응하기 위한 것이다.

B300 GPU는 고대역폭 메모리(HBM3E)를 탑재해 GPU당 288GB 메모리와 초당 8TB 수준의 대역폭을 제공한다. 이는 기존 H100 대비 메모리 용량과 대역폭이 각각 3배 이상, 2배 이상 향상된 수준으로, 대규모 AI 모델 운용 시 발생하는 데이터 병목 문제를 완화하는 데 초점이 맞춰졌다.

삼성SDS는 A100, H100에 이어 최신 GPU 기반 서비스까지 확장하며 클라우드 기반 AI 인프라 제공 범위를 넓히고 있다.

이번 GPUaaS를 도입하면 기업은 초기 인프라 투자 없이 필요한 만큼 자원을 사용하는 방식으로 비용을 관리할 수 있으며, 대용량 AI 모델 처리나 AI 에이전트, 영상·이미지 생성 등 고성능 서비스의 응답 지연을 줄일 수 있다.

또한 삼성SDS는 올해 3분기 중 사용량 기반 과금 방식의 서버리스 AI 추론 서비스와 자동 분산학습 기능을 제공하는 AI 학습 서비스를 추가로 선보일 계획이다.

삼성SDS는 GPUaaS를 통해 기업과 공공기관의 AI 전환 수요에 대응하고, 클라우드 기반 AI 인프라 사업을 확대해 나간다는 방침이다.