투데이e코노믹 = 유서진 기자 | SK텔레콤이 Arm, 리벨리온과 손잡고 AI 데이터센터(AIDC) 인프라 혁신에 나선다. 학습 중심에서 추론 중심으로 이동하는 AI 시장 흐름에 맞춰, 전력 효율과 비용 경쟁력을 동시에 확보하는 ‘차세대 서버 아키텍처’를 구축하겠다는 전략이다.
SK텔레콤은 Arm, 리벨리온과 차세대 AI 인프라 공동 개발을 위한 전략적 업무협약(MOU)을 체결했다고 9일 밝혔다. 3사는 Arm의 데이터센터용 프로세서 ‘Arm AGI CPU’와 리벨리온의 AI 추론 특화 NPU ‘리벨카드(RebelCard)’를 결합한 서버 구조를 공동 개발하고, 이를 SKT AI 데이터센터에서 실증할 계획이다.
이번 협력의 핵심은 CPU와 NPU를 역할별로 최적화한 ‘이종(heterogeneous) 컴퓨팅 아키텍처’다. CPU는 데이터 처리와 시스템 운영 등 범용 연산을 담당하고, NPU는 AI 추론 연산을 전담함으로써 불필요한 전력 소모를 줄이고 처리 효율을 극대화하는 구조다. 대규모 AI 서비스를 운영하는 데이터센터 환경에서 비용 절감 효과가 클 것으로 기대된다.
특히 Arm이 이번에 공개한 ‘Arm AGI CPU’는 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 칩으로, AI 추론 워크로드에 최적화된 설계가 특징이다. 여기에 리벨리온의 리벨카드는 대규모 언어모델(LLM) 추론에 특화된 NPU로, 고성능 대비 전력 효율을 극대화하는 데 강점을 갖고 있다. 두 칩을 결합하면 GPU 중심 인프라 대비 에너지 효율을 높이면서도 안정적인 서비스 운영이 가능하다는 게 회사 측 설명이다.
이번 협력은 AI 산업의 패러다임 변화와 맞물린다. 그동안 AI 경쟁력의 핵심이 ‘모델 학습’이었다면, 최근에는 실제 서비스 제공 단계인 ‘추론(Inference)’으로 중심축이 이동하고 있다. 이에 따라 인프라 경쟁력 역시 단순 연산 성능이 아니라, 얼마나 빠르고 안정적으로, 그리고 적은 전력으로 서비스를 제공할 수 있는지가 핵심 지표로 떠오르고 있다.
SK텔레콤은 해당 아키텍처를 자사 AI 데이터센터에 적용해 성능과 안정성을 검증하고, 상용 서비스 적용 가능성을 타진할 계획이다. 특히 자체 개발한 AI 파운데이션 모델 ‘A.X K1’을 이 인프라 위에서 구동하는 방안도 검토 중이다. 인프라와 모델을 통합한 ‘풀스택 AI 전략’을 통해 데이터센터 사업 경쟁력을 강화하겠다는 구상이다.
업계에서는 이번 협력을 글로벌 AI 반도체 경쟁 구도 속 ‘대안 아키텍처’ 실험으로 보고 있다. 엔비디아 GPU 중심 구조에서 벗어나 CPU+NPU 조합 기반의 효율 중심 인프라가 새로운 표준으로 자리 잡을 수 있을지 주목된다. 특히 통신사가 데이터센터 사업자로 역할을 확장하는 흐름 속에서, SKT의 이번 행보는 AIDC 사업 경쟁력을 좌우할 중요한 변곡점이 될 수 있다는 분석이다.
SK텔레콤 관계자는 “추론에 최적화된 인프라와 자체 파운데이션 모델을 결합한 패키지를 통해 AI 데이터센터 경쟁력을 한층 강화할 것”이라며 “저전력·고효율 구조를 기반으로 글로벌 시장에서도 경쟁력 있는 AIDC 모델을 구축해 나가겠다”고 밝혔다.
