AI 모델 하나를 돌리는 데 필요한 메모리 용량이 수십 테라바이트에 달하는 시대가 왔습니다. 저도 처음 이 수치를 접했을 때 솔직히 실감이 잘 안 됐는데, HBM만으로는 그 수요를 도저히 감당할 수 없다는 게 업계의 공통된 결론으로 모이고 있습니다. 그 대안으로 CXL이 빠르게 부상하고 있습니다.HBM이 막힌 벽, 용량과 비용의 딜레마HBM(High Bandwidth Memory)은 D램 칩을 수직으로 여러 층 쌓아 데이터 통로를 극적으로 넓힌 메모리입니다. 여기서 HBM의 핵심 원리란 단순히 빠른 속도가 아니라, GPU 패키지 안에 메모리를 물리적으로 밀착시켜 데이터 이동 거리 자체를 최소화하는 구조입니다. 덕분에 AI 연산에서는 지금도 대체 불가 수준의 처리 속도를 보여줍니다.문제는 바로 그 '밀착 ..