티스토리 뷰
목차
클라우드는 그냥 서버 빌려주는 서비스 아닌가요? 저도 처음엔 그렇게 생각했습니다. 그런데 삼성SDS가 앤트로픽, 오픈AI, 구글 클라우드와 잇따라 전략적 파트너십을 맺고 2031년까지 10조 원 AI 투자 계획을 공개하는 걸 보면서 생각이 달라졌습니다. 이건 단순 인프라 임대 사업이 아니었습니다. GPU·NPU 기반 연산 자원을 서비스 형태로 제공하고, 보안과 복원력까지 묶어서 파는 AI 풀스택 전쟁이었습니다.
GPU클라우드와 소버린클라우드, 직접 따져봤습니다
일반적으로 GPU 서버는 직접 구축해야 제대로 쓸 수 있다고 알려져 있는데, 제가 살펴본 삼성 클라우드 플랫폼(SCP) 구조는 꽤 달랐습니다. 올해 3월에 국내 리전 최초로 엔비디아 블랙웰 울트라 B300을 GPUaaS(GPU as a Service) 형태로 출시했고, 여기서 GPUaaS란 GPU 서버를 직접 사지 않고 필요한 장수만큼 구독해서 쓰는 방식을 말합니다. 엔비디아 H100, A100까지 포함하면 세 가지 GPU 모델을 가상 클라우드로 선택할 수 있는 구조입니다.
B300의 스펙을 직접 비교해 보니 예상보다 격차가 컸습니다. H100 대비 VRAM이 80GB에서 288GB로 3.6배 늘었고, 연산 성능을 나타내는 페타플롭스(PFLOPS)는 7.5배 증가했습니다. 여기서 페타플롭스란 초당 처리할 수 있는 부동소수점 연산 횟수로, 쉽게 말해 AI 모델이 얼마나 빠르게 계산을 처리하느냐를 나타내는 단위입니다. 학습 시간은 약 3분의 1로 줄고, 추론 성능은 최대 15배까지 올랐습니다. 비용은 H100 대비 약 2배 수준이라고 하는데, 성능이 3배 이상 나오니 단가 대비 효율은 오히려 올라가는 셈입니다.
7월부터는 NPUaaS도 추가됩니다. NPUaaS(NPU as a Service)란 GPU 대신 국산 NPU를 클라우드 형태로 빌려 쓰는 서비스를 말합니다. 삼성 SDS는 퓨리오사 AI의 2세대 NPU인 레니게이드(RNGD)를 SCP에 구축해 가상화로 쪼개 제공할 예정입니다. 제 경험상 NPU 기반 추론 비용은 GPU 대비 낮은 편인데, 공공기관이나 금융처럼 보안 규제가 엄격한 곳에서 소버린 클라우드 환경 안에서 쓸 수 있다는 점이 실질적인 차별점으로 보입니다.
소버린 클라우드(Sovereign Cloud)라는 개념도 처음 들으면 낯설 수 있는데, 여기서 소버린 클라우드란 데이터와 AI 모델이 국가 또는 고객이 지정한 물리적 범위 밖으로 벗어나지 않도록 설계된 클라우드 환경을 말합니다. SCP는 이를 네 가지 형태로 구현합니다.
- 프라이빗 존: SDS 데이터센터에 Control Plane, 고객 사업장에 Data Plane을 두는 분리 구성
- 데디케이티드 클라우드: Control Plane까지 고객 데이터센터 안으로 이전, SDS는 연계 시스템만 유지
- 에어갭 옵션(7월 출시 예정): 연계 시스템마저 고객 사이트 내부에 배치, 외부 네트워크 완전 차단
- 엣지 클라우드: 서버 2~3대 수준 소규모 사업장에 클라우드 일부 서비스만 제공
에어갭 옵션은 국방·방산·국가 핵심 기술 시설처럼 외부 연결 자체를 허용하지 않는 환경을 겨냥한 것입니다. 솔직히 이건 예상 밖이었습니다. 클라우드라면 어딘가와는 연결되어 있어야 한다는 고정관념을 완전히 뒤집는 구성이었습니다. 제로 트러스트(Zero Trust) 보안 아키텍처도 함께 적용되는데, 이는 내부 사용자와 트래픽까지 모든 접근을 구간별로 인증·통제하는 방식으로, 한국인터넷진흥원(KISA)이 2024년 12월에 배포한 제로 트러스트 가이드라인 2.0을 기준으로 설계됩니다(출처: 한국인터넷진흥원).
DRaaS와 FinOps 2.0, 숫자로 검증해 봤습니다
DR(재해복구)은 구축만 해두면 된다고 생각하는 분들도 있는데, 제가 경험상 실제로 장애가 터졌을 때 복구 시나리오가 작동하지 않는 경우를 꽤 봤습니다. SCP가 DRaaS(Disaster Recovery as a Service)로 제공하는 서비스가 흥미로운 이유가 여기 있습니다. DRaaS란 재해복구 환경을 직접 구축하지 않고 클라우드에서 구독형으로 이용하는 방식을 말합니다. 단순 백업이 아니라 RTO와 RPO 설정, 복구 훈련 자동화까지 서비스 안에 포함됩니다.
여기서 RTO(Recovery Time Objective)란 장애 발생 후 서비스를 얼마 안에 복구해야 하는지의 목표 시간을, RPO(Recovery Point Objective)란 데이터를 어느 시점까지 복원할 수 있어야 하는지의 목표 기준을 의미합니다. 이 두 수치를 얼마나 빡빡하게 잡느냐에 따라 필요한 인프라 규모와 비용이 크게 달라집니다. SCP는 이를 네 가지 등급으로 나눠 제공합니다. Active-Active는 멀티 에이지로 양쪽이 항상 살아있는 최고 등급이고, HOT은 DB만 Active-Standby로 운영하는 방식, WARM은 메인 에이지에만 시스템을 두고 백업은 대기 상태로 유지하는 방식, COLD는 DB 백업만 해두다가 필요 시 전체를 생성하는 방식입니다.
얼마 전 국내에서 발생한 데이터센터 화재 사고 이후 DR 수요가 급증했는데, 당시 피해 기업들의 복구 시간이 며칠 단위였다는 점을 고려하면 RTO를 시간 단위 이하로 설정할 수 있는 HOT 이상 등급의 실효성이 재조명되고 있습니다. 제가 직접 시뮬레이션 수치를 비교해 봤을 때 WARM 등급만 해도 기존 온프레미스 DR 대비 초기 구축 비용 절감 효과가 상당했습니다.
FinOps 2.0이라는 개념도 짚고 넘어갈 필요가 있습니다. 기존 FinOps 1.0이 "내가 클라우드를 낭비하고 있지 않은가"를 모니터링하는 비용 최적화 중심이었다면, FinOps 2.0은 "내가 쓴 클라우드 자원이 실제 비즈니스 가치를 얼마나 만들어냈는가"를 측정하는 방향으로 진화한 개념입니다. 국내 클라우드 시장이 17조 원을 돌파하고 CAGR 25% 이상을 유지하는 상황에서(출처: 한국지능정보사회진흥원), 비용만 줄이는 게 아니라 투자 효율을 측정하는 프레임이 필요해진 건 자연스러운 흐름입니다.
삼성 SDS는 정보보호 투자도 꾸준히 늘리고 있습니다. 2024년 651억 원에서 2025년 667억 원으로 늘었고, 전담 인력도 380명에서 391명으로 확대됐습니다. 숫자 자체보다 이 투자가 공공·금융 등 규제 산업 고객을 잡기 위한 전제 조건이라는 점이 중요합니다. 제 경우엔 이런 보안 투자 공시 수치를 보고 나서야 소버린 클라우드 전략의 퍼즐이 맞춰졌습니다.
자주 묻는 질문
Q. 삼성SDS GPU클라우드는 AWS나 Azure랑 뭐가 다른가요?
A. 글로벌 클라우드는 해외 리전 기반이라 데이터 주권 이슈가 생기는데, SCP는 국내 리전에서 B300을 GPUaaS로 제공하고 소버린 클라우드 옵션까지 붙일 수 있다는 점이 다릅니다. 일반적으로 퍼블릭 클라우드가 유연성에서 앞선다고 알려져 있지만, 규제 산업 고객 입장에서는 데이터 위치 통제 가능 여부가 더 중요한 변수입니다.
Q. NPUaaS는 GPUaaS랑 어떻게 다르게 쓰나요?
A. GPU는 학습과 추론 모두 커버하지만 전력 소모와 비용이 높고, NPU는 추론 특화라 반복적 AI 서비스 운영에 유리합니다. 퓨리오사AI 레니게이드 기반 NPUaaS는 구독형으로 필요한 만큼만 쓸 수 있어, 이미 학습된 모델을 서비스에 올릴 때 비용 효율을 높이는 방향으로 쓰기 좋습니다.
Q. DRaaS에서 RTO, RPO를 어떻게 설정해야 하나요?
A. RTO는 서비스 중단을 얼마나 버틸 수 있는지, RPO는 데이터 손실을 어느 시점까지 허용할 수 있는지를 기준으로 정합니다. 금융이나 공공처럼 실시간 거래가 중요한 곳은 RTO 수십 분 이하 Active-Active 또는 HOT 등급이 필요하고, 내부 업무 시스템은 WARM으로도 충분한 경우가 많습니다. 비용과 복구 목표를 함께 놓고 등급을 결정하는 게 현실적입니다.
Q. 에어갭 클라우드는 어떤 기업이 써야 하나요?
A. 국방, 방산, 국가 핵심 기술 보유 기관처럼 외부 네트워크 연결 자체가 규제나 보안 정책상 불가능한 환경을 위한 옵션입니다. 일반 기업에는 과잉 투자가 될 수 있습니다. 다만 에어갭 환경에서도 클라우드 방식의 유연한 자원 관리가 가능해진다는 점은 기존 온프레미스 전용 구축 방식과 비교했을 때 의미 있는 차이입니다.
결론
삼성 SDS가 AI 인프라 기업으로 전환한다는 말이 처음엔 선언처럼 들렸는데, B300 GPUaaS 출시, 레니게이드 NPUaaS 준비, 에어갭 소버린 클라우드, DRaaS 자동화까지 구체적인 제품과 서비스로 채워지는 걸 보면 방향은 맞다고 봅니다. 2031년까지 10조 원 투자 계획 중 인프라에만 5조 원을 배정한 것도 그 의지를 숫자로 보여줍니다.
다만 제가 보기에 진짜 승부처는 이 인프라를 얼마나 많은 기업 고객이 실제로 쓰게 만드느냐입니다. 현재 20개 삼성 관계사 약 7만 명 임직원에게 클로드 엔터프라이즈를 먼저 적용해 운영 경험을 쌓는 클라이언트 제로 전략이 그 답의 일부가 될 가능성이 있습니다. AI 인프라 시장이 설비 경쟁에서 서비스 경쟁으로 빠르게 이동하고 있는 만큼, 삼성 SDS의 풀스택 전략이 실제 고객 사례와 수익으로 이어지는지를 지켜보는 게 맞을 것 같습니다.