반도체 칩을 더 작게 만드는 것이 곧 더 좋은 칩을 만드는 길이라고 믿었던 시절이 있었습니다. 그런데 지금 이 믿음이 완전히 뒤집히고 있습니다. 최첨단 공정으로 찍어낸 거대한 단일 칩보다, 작게 쪼개서 조립한 칩렛 구조가 더 빠르고 저렴하고 안정적이라는 결과가 현장에서 속속 증명되고 있기 때문입니다. 제가 이 기술을 처음 접했을 때만 해도 "그게 말이 되나?" 싶었는데, 알면 알수록 이건 꽤 깊이 있는 공학적 선택이었습니다.수율 혁신 — 쪼갤수록 살아남는 칩이 많아진다반도체를 공부하다 보면 가장 먼저 마주치는 개념 중 하나가 수율(Yield)입니다. 수율이란 웨이퍼 한 장에서 실제로 정상 작동하는 칩이 나오는 비율을 의미합니다. 쉽게 말해 100개를 찍었을 때 쓸 수 있는 게 몇 개냐는 이야기입니다. 이..

챗GPT 한 번 쓸 때마다 500ml 생수 한 병이 증발한다는 얘기, 들어보셨습니까. 처음 접했을 때 솔직히 믿기지 않았습니다. 그런데 AI 데이터센터의 전력 밀도 구조를 들여다보고 나서는 오히려 과소평가된 수치 아닐까 싶었습니다. 지금부터 그 이야기를 해보겠습니다.AI 데이터센터가 전기를 집어삼키는 방식기존 데이터센터와 AI 데이터센터는 근본적으로 하는 일이 다릅니다. 일반 서버가 데이터를 저장하고 주고받는 데 집중했다면, AI 데이터센터는 매 순간 복잡한 추론과 학습 연산을 수행합니다. 이를 위해 엔비디아 H100, B200 같은 고성능 GPU 수만 개가 한 공간 안에서 동시에 돌아갑니다.여기서 문제가 생깁니다. AI 데이터센터의 전력 밀도는 기존 데이터센터보다 최소 2~3배 이상 높습니다. 전력 밀..

메모리가 '생각'을 하기 시작했다면 믿으시겠습니까. HBM4 관련 자료를 처음 파고들었을 때 제가 느낀 감각이 정확히 그랬습니다. 단순히 빠른 메모리가 나왔다는 이야기가 아니라, 메모리와 로직 반도체의 경계 자체가 허물어지는 지각변동이 지금 이 순간 일어나고 있습니다. SK하이닉스와 삼성전자가 어떤 전략으로 이 전쟁에 뛰어들었는지 직접 살펴봤습니다.메모리가 '로직'이 된 이유, 베이스 다이의 진화HBM(고대역폭 메모리)의 구조를 처음 공부할 때, 저는 솔직히 그냥 D램을 높이 쌓아 올린 제품이라고만 생각했습니다. 그런데 직접 겪어보니 이 단순한 이해가 HBM4 앞에서는 완전히 틀린 이야기가 되어 버렸습니다.HBM은 구조적으로 D램 칩들을 수직으로 적층 하고, 그 가장 아래에 베이스 다이(Base Die)..

AI 모델 하나를 돌리는 데 필요한 메모리 용량이 수십 테라바이트에 달하는 시대가 왔습니다. 저도 처음 이 수치를 접했을 때 솔직히 실감이 잘 안 됐는데, HBM만으로는 그 수요를 도저히 감당할 수 없다는 게 업계의 공통된 결론으로 모이고 있습니다. 그 대안으로 CXL이 빠르게 부상하고 있습니다.HBM이 막힌 벽, 용량과 비용의 딜레마HBM(High Bandwidth Memory)은 D램 칩을 수직으로 여러 층 쌓아 데이터 통로를 극적으로 넓힌 메모리입니다. 여기서 HBM의 핵심 원리란 단순히 빠른 속도가 아니라, GPU 패키지 안에 메모리를 물리적으로 밀착시켜 데이터 이동 거리 자체를 최소화하는 구조입니다. 덕분에 AI 연산에서는 지금도 대체 불가 수준의 처리 속도를 보여줍니다.문제는 바로 그 '밀착 ..

처음 RISC-V라는 단어를 들었을 때 그냥 또 다른 칩 규격 이름이겠거니 했습니다. 그런데 파고들수록 이게 단순한 기술 트렌드가 아니라, 수십 년간 굳어온 반도체 설계 판 자체를 뒤집는 이야기라는 걸 알게 됐습니다. ARM 로열티 없이 칩을 직접 설계한다는 게 현실이 되는 시대, 그 한가운데 RISC-V가 있습니다.오픈 아키텍처가 뭔지, 처음엔 저도 몰랐습니다제가 처음 RISC-V를 찾아보기 시작한 건 국내 팹리스 스타트업 뉴스를 보고 나서였습니다. 창업 건수가 1년 만에 40% 늘었다는 수치를 보고, 도대체 무슨 바람이 불었길래 이렇게들 뛰어드나 싶었거든요. 그때 처음 제대로 들여다본 단어가 바로 '오픈 아키텍처'였습니다.여기서 아키텍처(Architecture)란, 프로세서가 소프트웨어의 명령을 받아..

반도체 기판 소재로 플라스틱 말고 유리를 쓴다고 했을 때, 처음엔 "유리가 왜?"라는 반응이 먼저 나왔습니다. 그런데 공부할수록 이건 단순한 소재 교체가 아니라는 걸 알게 됐습니다. AI 시대가 만들어낸 연산 수요가 플라스틱 기판의 물리적 한계를 이미 넘어버렸고, 지금 글로벌 반도체 공급망은 그 해답을 유리(Glass)에서 찾고 있습니다.플라스틱 기판의 한계, 숫자로 확인했습니다"반도체 기판이 휜다"는 말이 처음엔 추상적으로 들렸습니다. 그런데 실제 관련 자료를 찾아보고 나서야 이게 얼마나 심각한 문제인지 실감했습니다. 현재 고성능 반도체 패키징에 주로 사용되는 FC-BGA(Flip Chip Ball Grid Array) 기판, 즉 플라스틱 계열의 기판은 반도체 공정 중 발생하는 고온 환경에서 미세하게 ..