CXL 메모리 (HBM한계, 삼성SK하이닉스, 빅테크전략)

AI 모델 하나를 돌리는 데 필요한 메모리 용량이 수십 테라바이트에 달하는 시대가 왔습니다. 저도 처음 이 수치를 접했을 때 솔직히 실감이 잘 안 됐는데, HBM만으로는 그 수요를 도저히 감당할 수 없다는 게 업계의 공통된 결론으로 모이고 있습니다. 그 대안으로 CXL이 빠르게 부상하고 있습니다.

HBM이 막힌 벽, 용량과 비용의 딜레마

HBM(High Bandwidth Memory)은 D램 칩을 수직으로 여러 층 쌓아 데이터 통로를 극적으로 넓힌 메모리입니다. 여기서 HBM의 핵심 원리란 단순히 빠른 속도가 아니라, GPU 패키지 안에 메모리를 물리적으로 밀착시켜 데이터 이동 거리 자체를 최소화하는 구조입니다. 덕분에 AI 연산에서는 지금도 대체 불가 수준의 처리 속도를 보여줍니다.

문제는 바로 그 '밀착 구조'에서 생깁니다. GPU 하나에 붙일 수 있는 HBM의 개수는 물리적 공간에 의해 엄격하게 제한됩니다. 아무리 적층 기술을 높여도, 칩 하나가 품을 수 있는 메모리 총량에는 명백한 한계가 있습니다. 제가 직접 데이터센터 관련 자료들을 찾아보면서 느낀 건, 결국 HBM은 '빠름'을 위해 '넓음'을 포기한 구조라는 점이었습니다.

거기에 가격 문제가 겹칩니다. HBM의 제조 공정은 일반 D램과 비교가 안 될 만큼 복잡하고 까다롭습니다. 단가가 일반 D램 대비 수 배에서 수십 배까지 올라가는 건 당연한 결과입니다. 구글, 메타, 마이크로소프트 같은 빅테크 기업들이 AI 인프라에 천문학적인 비용을 쏟아붓고 있는 배경에는 이 HBM 단가 문제가 상당 부분 자리하고 있습니다.

HBM의 한계를 정리하면 다음과 같습니다.

• GPU 패키지 내 물리적 공간 제한으로 탑재 용량에 상한선 존재
• 초고난도 적층 공정으로 인한 단가 급등
• 대규모 LLM(대형 언어 모델) 추론 시 요구되는 수십 TB급 메모리 수요를 단독으로 소화 불가

CXL이란 무엇인가, 고속도로가 새로 깔린다

CXL(Compute Express Link)은 CPU, GPU, 메모리, 가속기 등 서로 다른 반도체 장치들이 단일 통신 규격으로 고속 통신할 수 있게 해주는 인터페이스 표준입니다. 여기서 인터페이스 표준이란 서로 다른 제조사, 서로 다른 장치들이 '같은 언어'로 데이터를 주고받을 수 있게 정해놓은 약속 체계라고 보면 됩니다.

CXL이 가져오는 가장 큰 변화는 메모리 풀링(Memory Pooling) 개념입니다. 메모리 풀링이란 여러 서버나 장치에 분산된 메모리 자원을 하나로 묶어 필요에 따라 유연하게 배분하는 방식으로, 마치 공유 창고처럼 메모리를 동적으로 운용하는 기술입니다. 이렇게 되면 기존에는 서버 한 대에 장착 가능한 D램 용량이 메인보드 슬롯 수로 고정되어 있었던 구조에서 벗어나, 외부에 CXL 메모리 모듈을 연결하는 것만으로 전체 가용 메모리를 수십 배까지 확장할 수 있습니다.

저는 이 부분이 실제로 꽤 인상적이었습니다. 기존 PCIe 슬롯을 그대로 활용하기 때문에 서버 시스템 전체를 교체하지 않아도 된다는 점이 빅테크 입장에서는 단순한 기술 업그레이드가 아니라 비용 구조 자체를 바꾸는 선택지가 됩니다. CXL 컨소시엄에 따르면 CXL 3.0 규격은 최대 4096개의 디바이스를 단일 패브릭으로 연결하는 것을 지원하며, 이는 데이터센터 수준의 메모리 가상화를 현실로 만들고 있습니다(출처: CXL Consortium).

인텔이 최신 서버용 프로세서에 CXL 2.0 규격을 본격 탑재하기 시작한 것도 이 흐름을 가속하는 핵심 요인입니다. CPU 시장의 절대강자가 CXL을 공식 지원하기 시작한 순간, 전 세계 데이터센터는 선택이 아닌 방향 전환의 국면에 접어들었다고 봐도 무방합니다.

삼성전자 vs SK하이닉스, 두 전략의 차이

CXL 시장에서 삼성전자와 SK하이닉스는 출발점도 전략도 다릅니다. 제 경험상 이런 기술 경쟁에서 선두와 추격자의 전략이 맞물릴 때가 가장 흥미로운 국면인데, 지금이 딱 그 시점입니다.

삼성전자는 CXL을 정면 돌파 카드로 쓰고 있습니다. HBM 시장에서 SK하이닉스에 주도권을 내준 만큼, CXL에서 표준 선점을 통해 판을 뒤집겠다는 구상입니다. 세계 최초로 CXL 2.0을 지원하는 D램 제품 개발을 완료했고, CMM 등 CXL 관련 상표권도 선제적으로 확보했습니다. 대량 생산 체제와 고용량 D램 제조 경쟁력을 무기로, 시장이 본격 개화하는 시점에 글로벌 공급망의 중심에 서겠다는 전략입니다.

SK하이닉스는 다른 방향에서 접근합니다. HBM 시장에서 쌓아온 엔비디아 등 빅테크와의 파트너십을 CXL 설루션으로 자연스럽게 연장하는 방식입니다. HMS(HBM Memory Solution)라는 개념 아래 초고속 HBM과 초고용량 CXL을 하나의 패키지로 제안하는 전략인데, 이는 고객사 입장에서 단일 공급사로부터 AI 메모리 전체 스택을 해결할 수 있다는 점에서 상당한 설득력을 갖습니다.

일각에서는 두 기업 중 어느 쪽이 승기를 잡을 것인가에만 주목하곤 합니다. 하지만 저는 이 두 전략이 서로 경쟁이라기보다는 각자 다른 시장 진입 경로를 선택한 것에 가깝다고 봅니다. 삼성은 표준 주도권, SK하이닉스는 고객 락인(Lock-in) 전략이라는 축으로 나뉜 셈입니다.

빅테크가 CXL에 손을 내미는 진짜 이유

CXL 도입을 가장 적극적으로 검토하는 쪽은 결국 돈을 가장 많이 쓰는 쪽, 즉 구글, 메타, 마이크로소프트 같은 하이퍼스케일러(Hyperscaler)입니다. 여기서 하이퍼스케일러란 수십만 대 이상의 서버를 운영하는 초대형 클라우드 및 IT 기업을 지칭하는 업계 용어입니다.

이들이 CXL에 눈독을 들이는 이유는 단순합니다. 기존 AI 인프라는 GPU 한 대에 HBM을 붙이고, 그 조합을 수천 개 늘리는 방식으로 확장해 왔습니다. 그런데 이 방식은 비용이 선형적으로 증가하지 않고 기하급수적으로 늘어납니다. 메모리 자원을 유연하게 공유할 수 없어서, 어떤 서버는 메모리가 남아도는데 다른 서버는 부족한 상황이 반복됩니다.

솔직히 이건 예상 밖이었습니다. 처음에는 CXL이 단순히 용량을 늘리는 기술 정도로 생각했는데, 실제로 파고들어 보니 메모리 자원 배분 방식 자체를 소프트웨어적으로 제어할 수 있다는 점이 핵심이었습니다. AI 워크로드는 모델마다, 추론과 학습 단계마다 필요한 메모리 패턴이 완전히 다릅니다. CXL 기반의 메모리 풀링 구조에서는 이 수요를 동적으로 할당할 수 있습니다.

시장조사기관 IDC의 전망에 따르면 글로벌 CXL 메모리 시장은 2027년까지 연평균 70% 이상 성장할 것으로 예측되며, 데이터센터 메모리 아키텍처의 패러다임 전환을 이끄는 핵심 기술로 평가받고 있습니다(출처: IDC).

HBM과 CXL은 경쟁 관계가 아니라 역할 분담 관계입니다. HBM은 GPU 내부에서 초고속 연산을 담당하고, CXL은 그 바깥에서 무한에 가까운 메모리 용량을 유연하게 공급하는 역할입니다. 두 기술이 함께 작동할 때 비로소 수천억 파라미터짜리 모델을 현실적인 비용으로 운영하는 인프라가 완성됩니다.

결국 이 싸움의 승자는 기술력만으로 결정되지 않을 것 같습니다. CXL 생태계 안에서 얼마나 빠르게 글로벌 서버 제조사, 클라우드 기업들과의 검증을 완료하고 표준을 자기편으로 끌어당기느냐가 실질적인 승부처입니다. 삼성전자와 SK하이닉스 모두 그 게임을 잘 알고 있고, 각자의 방식으로 포지션을 잡고 있습니다. 앞으로 2~3년 안에 이 판의 윤곽이 상당 부분 드러날 텐데, 저는 개인적으로 이 레이스가 HBM 경쟁보다 훨씬 더 흥미롭게 전개될 것 같다는 생각입니다.

---

※본 정보는 참고용이며, 투자 권유가 아닙니다. 투자에 대한 최종 결정은 투자자 본인의 책임하에 신중하게 내려야 합니다.