최근 HBM 수급을 다시 살펴보면서 내년 HBM 가격의 상단을 역산해봤다.
결론부터 말하면, DRAM Wafer와 첨단 패키징 공급이 동시에 부족한 상황에서 HBM4·NVHBM의 고객별 Customizing까지 시작되면, 일부 고부가 HBM 가격은 기존 대비 3배에 근접할 수 있다고 생각한다.
이것은 모든 HBM의 평균가격이 일률적으로 3배가 된다는 의미는 아니다. NVIDIA가 GPU의 높은 ASP와 이익을 지키기 위해 감당할 수 있는 HBM 가격의 상단이 어디까지 올라갈 수 있는지, 그 과정에서 메모리 3사의 가격결정권이 어떻게 강화되는지를 역산한 결과에 가깝다.
핵심 결론
- Agent 확산은 GPU 연산량뿐 아니라 HBM 용량과 대역폭 수요를 동시에 증가시킨다.
- DRAM Wafer·HBM 적층·CoWoS·Package Substrate의 병목이 중첩되면서 공급 부족이 장기화되고 있다.
- NVIDIA는 HBM 용량을 낮추더라도 판매 가능한 GPU 수를 늘리는 편이 절대이익 극대화에 유리할 수 있다.
- HBM4·NVHBM의 고객별 설계가 확대될수록 메모리 3사의 가격결정권은 더욱 강해진다.
산식의 출발점
HBM 가격 상단을 계산한 출발점은 Morgan Stanley의 **「NVDA: Reinstating Top Pick as NDR Supports Our Positive Views」**에 제시된 NVIDIA의 GPU ASP와 매출총이익률 전망이다.
이를 단순화해 다음과 같이 가정했다.
기존 GPU에 탑재되는 HBM을 288GB, HBM 가격을 GB당 $15로 가정하면 HBM 원가는 $4,320이다.
288GB × $15/GB = $4,320
GPU당 총원가가 $13,750이므로 HBM을 제외한 GPU, 기판, 패키징 등의 원가는 약 $9,430으로 역산된다.
$13,750 − $4,320 = $9,430
차세대 GPU의 ASP가 15% 상승하면 판매가격은 $63,250이 된다.
$55,000 × 1.15 = $63,250
매출총이익률이 **72%**라면 NVIDIA가 부담할 수 있는 GPU당 총원가는 판매가격의 28%, 약 $17,710이다.
$63,250 × 28% = $17,710
비HBM 원가가 $9,430으로 유지된다고 가정하면, NVIDIA가 HBM에 지불할 수 있는 금액은 약 $8,280까지 늘어난다.
$17,710 − $9,430 = $8,280
GPU 가격이 오르는 동시에 NVIDIA가 매출총이익률 하락을 일부 감수하면, GPU당 HBM 예산은 기존 $4,320에서 $8,280으로 약 92% 증가할 수 있다는 의미다.
$8,280 ÷ $4,320 = 1.92배
$15는 다이 가격이 아니라 GB당 가격이다
위 산식에서 사용한 $15는 다이당 가격이 아니라 GB당 가격이다.
16Gb 다이는 2GB, 24Gb 다이는 3GB이므로 동일한 $15/GB를 적용해도 다이당 가격은 서로 다르다.
16Gb 다이 가격: 2GB × $15/GB = $30
24Gb 다이 가격: 3GB × $15/GB = $45
따라서 동일한 GB당 가격을 적용한다고 16Gb와 24Gb 다이의 가격이 같아지는 것은 아니다. 다이당 가격으로 환산하면 용량이 큰 24Gb 다이가 이미 50% 높은 가격을 받게 된다.
하지만 실제 HBM 가격은 용량에만 비례하지 않는다. 고밀도 24Gb 다이는 공정 난이도와 초기 수율, 고객 인증비용, 적층 및 패키징 수율에 따라 16Gb 제품보다 더 높은 GB당 가격 프리미엄을 받을 수 있다.
이 차이를 반영하면 192GB 제품에서 HBM 가격이 3배에 가까워질 수 있다는 논리는 오히려 더 강해진다.
16Gb와 24Gb의 차이는 다이의 면적과 셀 집적도
웨이퍼 위에 설계된 다이의 면적과 셀 집적도에서 발생한다.
다이 크기는 웨이퍼를 자르는 단계에서 결정되지 않는다.
노광과 회로설계 단계에서 다이 면적과 용량이 이미 정해진다.
동일한 공정과 셀 밀도를 사용한다면 16Gb 다이는 24Gb 다이보다 작게 설계될 가능성이 높다. 이 경우 웨이퍼 한 장에서 만들 수 있는 다이 수가 많고, 개별 다이가 결함을 포함할 확률도 낮아져 양품 수가 증가할 수 있다.
다만 24Gb 제품이 더 미세한 공정이나 높은 셀 집적도를 사용한다면 다이 면적 차이가 크지 않을 수도 있다. 일부 저용량 제품은 고용량 다이의 일부 셀을 비활성화해 출하할 수도 있어, 용량 차이가 그대로 웨이퍼 절감으로 연결된다고 단정할 수 없다.
결국 확인해야 할 숫자는 표시 용량이 아니라 다음 두 가지다.
- 웨이퍼 한 장에서 생산되는 Gross Die 수
- 그중 테스트를 통과한 Known Good Die 수
192GB로 낮추면 GPU 생산량이 50% 늘어날까
12단 HBM을 8개 탑재한다고 가정하면 192GB와 288GB 구성은 다음과 같다.
두 제품 모두 GPU 한 개당 사용하는 DRAM 다이는 96개다. 따라서 288GB를 192GB로 낮춘다고 GPU 생산량이 자동으로 50% 늘어나는 것은 아니다.
GPU 생산량이 실제로 증가하려면 16Gb 다이가 24Gb보다 작아 웨이퍼당 다이 수가 많거나, 양품 수율이 높거나, 이미 인증된 16Gb 공급량이 상대적으로 풍부해야 한다.
예를 들어 16Gb 다이의 웨이퍼당 양품 수가 24Gb보다 20% 많다면, 동일한 DRAM Wafer 투입으로 이론적으로 생산할 수 있는 HBM Stack과 GPU 수도 약 20% 증가할 수 있다. 다만 최종 출하량은 TSV, 본딩, HBM 적층, Base Die, CoWoS와 Package Substrate 수율에도 영향을 받는다.
따라서 192GB 제품의 공급경제성은 단순한 용량비 192GB 대 288GB가 아니라, 실제 웨이퍼당 양품 수와 후공정 수율을 기준으로 판단해야 한다.
Agent 시대에는 HBM의 가치가 더 높아진다
Agent는 GPU 연산량뿐 아니라 HBM 용량과 대역폭을 동시에 소모한다.
기존 Chatbot은 질문 한 번에 답변 한 번을 생성했다. 반면 Agent는 계획을 세우고, 외부 도구를 호출하고, 결과를 읽고, 오류를 확인한 뒤 다시 추론한다. 하나의 작업을 완료할 때까지 이러한 과정이 여러 차례 반복된다.
Agent가 왜 더 많은 Token과 Memory를 요구하는지는 생각정리 378 (* The Memory Behind Every Agent)에서 정리했다. HBM 부족으로 GPU의 연산능력이 실제 처리량으로 전환되지 못하는 문제는 생각정리 361 (* The Price of Idle FLOPS, Astra & HBM)에서 다뤘다.
Agent 사용자가 늘어날수록 동시에 유지해야 하는 KV Cache와 Context가 커진다. 하나의 Agent가 더 오래 작업하고 여러 Agent가 병렬로 실행될수록 GPU는 더 많은 상태정보를 HBM에 보관해야 한다.
특히 추론의 Decode 단계에서는 모델 Weight와 KV Cache를 반복해서 읽어야 한다. 연산장치가 아무리 빨라도 HBM이 데이터를 충분히 공급하지 못하면 GPU의 FLOPS는 실제 Token 처리량으로 전환되지 못한다.
따라서 Agent 시대의 HBM은 단순한 메모리 부품이 아니다. GPU의 이론적 연산능력을 실제 Token 처리량과 성공적인 작업완료량으로 전환하는 핵심 자원이다.
HBM 공급 부족은 단일 공정의 문제가 아니다
현재 AI GPU 공급은 DRAM Wafer, HBM 적층, CoWoS와 Package Substrate의 병목이 서로 연결된 구조다.
HBM은 일반 DRAM보다 훨씬 많은 Wafer를 사용한다. 적층단수가 8단에서 12단으로 높아질수록 같은 수의 HBM Stack을 생산하기 위해 필요한 DRAM 다이와 Wafer 투입량도 증가한다.
여기에 TSV, 본딩, Base Die, 테스트와 패키징 수율이 순차적으로 적용된다. 앞단에서 충분한 DRAM 다이를 생산하더라도 최종 단계까지 모두 통과한 양품 HBM Stack의 수는 크게 줄어들 수 있다.
HBM 적층단수와 제품믹스 변화가 DRAM Wafer 수요에 미치는 영향은 생각정리 391 (* The HBM Wafer Reset)에서 따로 계산했다.
TSMC 역시 첨단 패키징 생산능력 부족이 고객사의 성장을 제한하고 있다고 설명했다. TSMC 2Q26 Earnings Call Transcript
NVIDIA는 메모리 가격 환경이 예상보다 심각하고 내년에는 가격이 더 높아질 수 있으며, 공급 제약이 적어도 FY2028까지 이어질 수 있다고 언급했다. NVIDIA Q2 FY2027 Earnings Call Transcript
Micron도 2027년과 2028년의 메모리 수급이 2026년보다 더 타이트할 것으로 전망했다. 이미 2027년 HBM Bit 공급량 대부분에 대해 고객사와 계약을 체결했으며, 전년 대비 상당한 가격 상승이 반영됐다고 밝혔다. Micron FY2026 Q4 Prepared Remarks
결국 공급망 전체의 목표는 HBM 한 개의 용량을 최대화하는 데 있지 않다. 제한된 Wafer와 첨단 패키징 생산능력으로 판매 가능한 AI Accelerator의 수와 전체 이익을 극대화하는 것이 더 중요하다.
NVIDIA가 288GB를 고집하지 않을 수 있는 이유
NVIDIA Rubin GPU는 288GB HBM4와 22TB/s의 메모리 대역폭을 탑재하도록 설계됐다. NVIDIA는 Rubin을 Agentic AI와 Memory-bound 추론에 최적화된 GPU로 설명한다. NVIDIA Rubin GPU Architecture
그러나 모든 고객과 워크로드가 반드시 288GB를 요구하는 것은 아니다. 모델 Weight와 KV Cache가 192GB 안에서 작동하거나 여러 GPU로 분산될 수 있다면 일부 제품은 용량을 낮춰도 충분한 성능을 제공할 수 있다.
이 경우 NVIDIA는 12단 구조와 8개 HBM Interface를 유지하면서 24Gb 다이 대신 16Gb 다이를 사용해 192GB 제품을 구성할 수 있다. 메모리 대역폭은 Interface 수와 전송속도의 영향을 받기 때문에, 용량을 줄인다고 대역폭까지 동일한 비율로 감소하는 것은 아니다.
NVIDIA 입장에서 중요한 것은 GPU 한 개에 들어가는 HBM 원가를 최소화하는 일이 아니다. HBM 부족 때문에 판매하지 못하는 고가 GPU를 한 개라도 더 출하하는 것이 더 중요하다.
192GB 제품의 HBM 원가율이 높아지더라도 16Gb 다이의 웨이퍼당 양품 수가 많아 GPU 출하량이 증가한다면 NVIDIA의 절대 매출과 영업이익은 커질 수 있다. GPU ASP 인상을 통해 메모리 원가 상승분을 고객에게 전가할 수 있다면 이러한 선택은 더욱 합리적이다.
따라서 192GB 제품은 288GB 제품을 단순히 대체하는 저가형 제품이라기보다, HBM 공급 제약 아래에서 GPU 판매량을 극대화하기 위한 공급망 최적화 제품이 될 수 있다.
192GB에서 HBM 가격 상단이 높아지는 이유
앞서 계산한 NVIDIA의 GPU당 HBM 지불 가능 금액은 $8,280이다.
이를 288GB 제품에 적용하면 HBM 가격 상단은 GB당 $28.75다.
$8,280 ÷ 288GB = $28.75/GB
이는 기존에 가정한 $15/GB의 약 1.92배다.
$28.75 ÷ $15 = 1.92배
반면 GPU의 HBM 용량을 192GB로 낮추면서 동일한 HBM 예산을 유지하면 가격 상단은 GB당 $43.13까지 올라간다.
$8,280 ÷ 192GB = $43.13/GB
이는 기존 $15/GB의 약 2.88배다.
$43.13 ÷ $15 = 2.88배
GPU당 HBM 예산이 동일하다면 탑재용량이 줄어들수록 NVIDIA가 감당할 수 있는 GB당 HBM 가격은 높아진다. 이것이 288GB보다 192GB 제품에서 HBM 가격 상단이 3배에 가까워지는 이유다.
24Gb의 가격 프리미엄을 반영하면 3배를 넘어선다
앞의 계산은 16Gb와 24Gb HBM의 기존 GB당 가격이 같다는 단순한 가정에 기초한다. 24Gb 고밀도 다이가 16Gb보다 높은 가격을 받았다면 두 제품의 기준가격을 분리해야 한다.
차세대 GPU의 ASP 상승과 매출총이익률 하락으로 증가한 총원가 허용분은 $3,960이다.
$17,710 − $13,750 = $3,960
비HBM 원가가 동일하다면, 새로운 HBM에 투입할 수 있는 예산은 기존 HBM 원가에 이 $3,960을 더한 금액이 된다.
새로운 HBM 예산 = 기존 288GB HBM 원가 + $3,960
따라서 192GB 제품의 GB당 가격 상단은 다음과 같이 계산할 수 있다.
192GB 가격 상단 = {(288GB × 기존 24Gb 제품의 GB당 가격) + $3,960} ÷ 192GB
16Gb 제품의 기존 가격을 $15/GB로 놓고, 24Gb 제품에 별도의 가격 프리미엄을 적용하면 다음과 같다.
예를 들어 24Gb 제품이 16Gb 제품보다 10% 높은 가격을 받았다고 가정하면 기존 24Gb 가격은 $16.50/GB다.
$15/GB × 1.10 = $16.50/GB
이 경우 기존 288GB HBM 원가는 $4,752가 된다.
288GB × $16.50/GB = $4,752
여기에 추가 원가 허용분 $3,960을 더하면 NVIDIA가 192GB HBM에 지불할 수 있는 금액은 $8,712다.
$4,752 + $3,960 = $8,712
이를 192GB로 나누면 GB당 가격 상단은 $45.38이다.
$8,712 ÷ 192GB = $45.38/GB
기존 16Gb 제품 가격인 $15/GB와 비교하면 약 3.03배다.
$45.38 ÷ $15 = 3.03배
고밀도 24Gb 다이가 16Gb 제품보다 10% 정도의 GB당 가격 프리미엄만 받아도, 192GB 제품에 적용할 수 있는 HBM 가격은 기존 16Gb 제품 대비 3배를 넘어선다.
따라서 16Gb와 24Gb 제품의 가격 차이를 반영하면 HBM 가격 3배 시나리오는 약해지는 것이 아니라 오히려 강화된다.
HBM4부터 가격협상의 단위가 달라진다
HBM3E까지의 가격협상이 용량과 속도를 중심으로 이뤄졌다면, HBM4와 HBM4E부터는 고객별 설계의 가치가 가격에 포함된다.
HBM4에는 Logic Base Die가 본격적으로 도입된다. 메모리 업체는 DRAM 다이뿐 아니라 I/O, PHY, 전력관리와 고객사 XPU의 연결 구조까지 함께 최적화해야 한다.
NVHBM은 이러한 변화를 더 밀어붙인다. NVIDIA는 자체 Memory Controller를 HBM Base Die에 통합해 표준 HBM4E 대비 대역폭을 최대 30% 높이고, HBM 전력소비를 15% 줄이며, XPU Compute Die 면적을 최대 25% 절감할 수 있다고 설명했다. NVIDIA NVHBM
관련 기술구조와 공급망 변화는 생각정리 355 (* HBM Hegemony, NVHBM)에서 자세히 정리했다.
이 구조에서는 HBM을 다른 공급사의 표준제품으로 즉시 교체하기 어렵다. 고객별 설계, 검증, 수율 안정화와 장기 공급계약이 필요하기 때문이다.
HBM 가격에는 다음과 같은 가치가 함께 반영되기 시작한다.
- GPU Compute Die 면적을 절감하는 가치
- 전력소비와 냉각비용을 낮추는 가치
- 대역폭을 높여 GPU 활용률을 개선하는 가치
- 고객별 설계와 장기 공급 안정성을 제공하는 가치
NVIDIA와 ASIC 업체마다 Base Die와 Memory Controller 구성이 달라질수록 삼성전자, SK하이닉스와 Micron은 고객별로 가격을 협상할 수 있다. 표준품 중심의 범용 DRAM보다 직접적인 가격 비교가 어려워지고, 인증된 공급사를 교체하는 비용도 커진다.
HBM 3사의 가격결정권은 공급 부족과 고객별 Customizing이 결합될 때 가장 강해진다.
HBM 가격 3배의 의미
내년 HBM 가격이 기존 대비 3배에 근접할 수 있다는 판단은 단순히 메모리가 부족하다는 주장만으로는 설명되지 않는다.
Agent 확산으로 HBM의 용량과 대역폭 가치가 높아지는 동시에, 12단 적층 전환으로 DRAM Wafer 소모량은 증가한다. CoWoS와 Package Substrate의 부족은 생산된 HBM을 최종 GPU 출하량으로 전환하는 과정까지 제한한다.
이 상황에서 NVIDIA는 최고용량 제품만 고집하기보다 일부 GPU의 HBM 용량을 낮춰 판매 가능한 GPU 수를 늘릴 수 있다. GPU ASP를 올리고 매출총이익률 하락을 일부 감수한다면 HBM 업체에 지불할 수 있는 단위당 가격은 더 높아진다.
여기에 HBM4·HBM4E·NVHBM의 고객별 Customizing이 시작되면 HBM은 범용 메모리에서 XPU 설계의 일부로 바뀐다. 메모리 업체는 단순한 부품 공급사를 넘어 GPU와 ASIC의 성능, 전력과 면적을 결정하는 공동 설계자로 이동한다.
따라서 3배는 모든 HBM 제품에 일률적으로 적용될 평균가격 전망이 아니라, NVIDIA가 감당할 수 있고 HBM 3사가 협상할 수 있는 고부가 제품의 가격 상단으로 보는 것이 적절하다.
그리고 현재처럼 DRAM Wafer, HBM 적층, 첨단 패키징과 기판의 공급 부족이 동시에 지속된다면, 그 가격 상단은 생각보다 빠르게 실제 계약가격에 가까워질 수 있다.
=끝
