Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124

HBM(고대역폭메모리, High Bandwidth Memory)은 D램 여러 개를 수직으로 쌓아 올려, 좁은 면적에서도 어마어마한 데이터를 빠르게 주고받을 수 있게 만든 메모리입니다. 챗GPT 같은 AI 모델이 학습하고 답을 내놓는 순간마다, 이 HBM이 GPU 옆에서 데이터를 쉴 새 없이 실어 나르고 있다고 보시면 됩니다.
HBM4는 이 기술의 6세대입니다. HBM → HBM2 → HBM2E → HBM3 → HBM3E를 거쳐 온 계보의 최신작이죠. 지금까지 HBM 시장을 실제로 먹여 살린 건 5세대인 HBM3E였습니다. 2025년 기준 HBM 수요의 80% 이상을 HBM3E가 차지했을 정도로 절대적이었습니다. 그런데 2026년을 기점으로 무게중심이 HBM4로 급격히 넘어가고 있습니다. 엔비디아의 차세대 AI 가속기 ‘베라 루빈(Vera Rubin)’부터가 HBM4를 기본 사양으로 채택했기 때문입니다.

숫자로 보면 체감이 확 옵니다.
차선이 넓어진 데다 신호 속도까지 빨라졌으니, 곱연산으로 대역폭이 뛰는 구조입니다. 삼성전자가 2026년 2월 세계 최초로 양산 출하한 HBM4는 HBM3E 대비 최대 2.7배 높은 총 메모리 대역폭을 실현하며, 3.3TB/s의 대역폭과 11.7Gbps의 동작 속도를 기록했습니다. 이후 공개된 HBM4E 단계에서는 핀당 최대 16Gbps 데이터 처리 속도와 단일 스택 기준 초당 3.6TB의 대역폭까지 끌어올렸죠.

사실 업계 사람들이 HBM4를 진짜 ‘세대교체’라고 부르는 이유는 대역폭 숫자가 아닙니다. 로직다이(logic die)를 만드는 방식 자체가 바뀌었기 때문입니다.
로직다이는 HBM 맨 아래에 깔려서, 위에 쌓인 D램들과 GPU 사이의 데이터 통신을 지휘하는 ‘두뇌’ 역할을 합니다. 지금까지는 이 로직다이도 D램과 똑같은 메모리 공정으로 만들었습니다. 그런데 HBM4부터는 이걸 파운드리(비메모리 반도체 위탁생산) 공정으로 넘겼습니다. 삼성전자는 자사 파운드리의 4나노 공정을, SK하이닉스는 TSMC의 3나노 공정을 로직다이 제조에 활용하기 시작했죠.
이게 왜 중요하냐면, 굳이 비유하자면 이런 겁니다. 예전 HBM은 ‘모든 층을 같은 재료, 같은 방식으로 지은 아파트’였다면, HBM4는 1층 로비(로직다이)만 완전히 다른 첨단 설계사가 따로 지어주는 구조로 바뀐 겁니다. 로비를 최신 기술로 지으니 엘리베이터(데이터 통로)도 더 빠르고 정교해질 수 있는 거죠.
이 변화가 만든 가장 큰 파급 효과는 ‘커스텀 HBM’ 시대의 개막입니다. 로직다이를 파운드리 공정으로 만들면, 고객사(엔비디아, AMD, 구글 등)가 원하는 대로 로직다이 설계를 맞춤 제작할 수 있게 됩니다. 예전처럼 표준 규격 메모리를 사다 쓰는 게 아니라, 고객사 전용 AI 칩에 딱 맞는 ‘반주문 제작’ 메모리가 가능해진 겁니다. 삼성전자는 여기서 한발 더 나아가 로직 다이를 4나노에서 최대 2나노로 설계하는 후속 세대(HBM4E)까지 준비 중입니다

숫자보다 더 중요한 변화가 하나 있습니다. HBM은 D램을 쌓은 스택 맨 아래에 ‘베이스 다이(로직 다이)’라는 제어용 칩이 하나 깔립니다. 예전에는 SK하이닉스든 삼성전자든 이 로직 다이를 자사 D램 공정으로 직접 만들었습니다.
그런데 HBM4부터는 SK하이닉스가 이 로직 다이 제작을 TSMC의 첨단 파운드리 공정에 위탁하기 시작했습니다. 이유는 두 가지입니다.
쉽게 비유하면, 예전에는 “메모리 회사가 자기 집 부엌에서 밑반찬(로직 다이)까지 직접 만들었다”면, 이제는 “밑반찬은 최고의 전문 셰프(TSMC)에게 맡기고, 메모리 회사는 본업인 D램 적층에만 집중”하는 구조로 바뀐 겁니다. 이 협업 방식 자체가 HBM3E까지는 없던, HBM4에서 새로 생긴 산업 구조입니다.

| 항목 | HBM3E | HBM4 | HBM4E (2027 예정) |
|---|---|---|---|
| 인터페이스 폭 | 1,024bit | 2,048bit | 2,048bit |
| 핀당 데이터 속도 | 9.2~9.8Gbps | 8~10Gbps(표준), 고속형 최대 13Gbps | 최대 16Gbps |
| 스택당 대역폭 | 최대 1.2TB/s | 2.0~3.3TB/s | 최대 4.0TB/s |
| 최대 적층 단수 | 12단(16단 개발) | 16단 | 12~16단 |
| 스택당 최대 용량 | 36~48GB | 최대 64GB | 최대 48~64GB |
| 로직 다이 | 자체 공정 | 파운드리 위탁(TSMC 등) | 파운드리 첨단 공정 |
| 주요 탑재 제품 | 엔비디아 H200, B200 / AMD MI325 | 엔비디아 Rubin / AMD MI400 | 엔비디아 Vera Rubin Ultra |
| 개당 가격(추정) | 약 300~440달러 | 약 500~600달러 | 미정(프리미엄 예상) |

2025~2026년 HBM 시장은 SK하이닉스가 앞서고, 삼성전자가 빠르게 추격하는 구도입니다. SK하이닉스는 세계 최초로 HBM4 12단 샘플을 주요 고객사에 제공했고, TSMC 3나노 공정을 활용한 커스텀 HBM4E 전략으로 앞서 나가고 있습니다. 삼성전자는 IDM(설계부터 생산까지 한 회사가 담당) 구조의 유연성을 앞세워 2026년 2월부터 HBM4 상용 출하를 시작했고, HBM4 생산능력을 50% 늘리는 증설 계획까지 내놨습니다.
수요처도 명확합니다. 엔비디아의 차세대 AI 가속기 ‘루빈(Rubin)’은 HBM4 8개를, 상위 모델 ‘루빈 울트라’는 16개를 탑재할 예정이며, AMD 역시 인스팅트 MI400 시리즈에 HBM4를 확정해 최대 432GB 용량, 19.6TB/s 대역폭을 목표로 하고 있습니다. 한마디로 HBM4는 이미 다음 세대 AI 서버의 기본 사양으로 확정된 상태입니다.
HBM4 가격이 HBM3E보다 개당 200달러가량 비싼 데는 세 가지 이유가 있습니다.
Q1. HBM4는 언제부터 실제로 쓰이나요?
2026년부터 SK하이닉스·삼성전자 모두 양산·공급을 시작했고, 엔비디아 루빈, AMD MI400 등 2026~2027년 출시되는 AI 가속기에 본격 탑재됩니다.
Q2. HBM4가 HBM3E보다 무조건 좋은가요, 당장 교체해야 하나요?
성능은 우위지만 당장 모든 제품이 교체되는 건 아닙니다. HBM3E는 이미 검증된 생태계와 상대적으로 낮은 비용 덕분에 중형 AI 모델이나 그래픽 워크로드에서는 당분간 함께 쓰일 전망입니다.
Q3. 핀 속도가 더 느린데 왜 HBM4가 더 빠른가요?
대역폭은 핀 속도뿐 아니라 버스 폭에도 좌우됩니다. HBM4는 버스 폭이 2배라서, 핀 속도가 낮아도 전체 대역폭은 더 큽니다.
Q4. HBM4E는 HBM4와 뭐가 다른가요?
‘E’는 같은 세대 규격 안에서 속도·용량을 더 끌어올린 확장판입니다. HBM4E는 핀 속도를 최대 16Gbps까지 높여 대역폭을 4.0TB/s까지 끌어올린, 2027년 상용화 예정 버전입니다.
Q5. HBM4는 왜 EUV 노광장비가 필수인가요?
HBM4부터는 D램 자체 미세공정 난이도가 크게 높아지면서 EUV 노광장비 없이는 요구 사양을 맞추기 어려워졌습니다. 이 때문에 EUV를 독점 공급하는 ASML의 영향력도 함께 커지고 있습니다.
Q6. 삼성전자와 SK하이닉스 중 누가 앞서 있나요?
2025~2026년 기준 SK하이닉스가 HBM 시장 점유율 1위(50%대 이상)를 유지하고 있고, 삼성전자는 HBM4 상용 출하를 시작하며 빠르게 격차를 좁히는 중입니다.
Q7. 일반 소비자용 제품에도 HBM4가 들어가나요?
아니요. HBM은 가격과 발열 특성상 데이터센터용 AI 가속기, 슈퍼컴퓨터 등 고성능 컴퓨팅 제품에만 탑재됩니다. 일반 PC·스마트폰에는 쓰이지 않습니다.
HBM4는 단순히 “HBM3E보다 빠른 다음 버전”이 아닙니다. 인터페이스 폭을 2배로 넓혀 전력 효율을 지키면서 대역폭을 끌어올렸고, 로직 다이를 파운드리에 맡기는 새로운 산업 구조까지 만들어냈습니다. 2026년은 이 HBM4가 실제 AI 가속기에 탑재되며 시장에 본격 안착하는 원년이고, 이 경쟁의 승패가 곧 삼성전자·SK하이닉스의 향후 실적과 직결되는 만큼 앞으로도 계속 주목해야 할 영역입니다.
