2026년 10월 13일 화요일

생각정리 397(* The RSI Memory Stack, Context SSD)

RSI 성능개선이 빠르게 이뤄지는듯 싶어 관련 리서치 자료를 기록 남겨본다.

재귀개선은 모델보다 먼저 메모리 계층을 바꾼다

AI가 스스로 연구하고, 코드를 작성하고, 실험 결과를 평가한 뒤 다시 코드를 고치는 재귀개선이 본격화되면 가장 먼저 부족해지는 것은 GPU 연산량만이 아니다.

재귀개선 시스템은 한 번 계산하고 끝나는 프로그램이 아니다. 수많은 AI Agent가 동시에 다음 과정을 반복한다.

가설 생성 → 코드 작성 → 저장 → 실행 → 결과 기록 → 비교 → 롤백 → 수정 → 재실행

이 순환이 빨라질수록 AI가 만들어내는 KV Cache, 코드, 샌드박스, 체크포인트, 실행 로그, 중간 결과도 함께 증가한다.

따라서 RSI 시대의 메모리 문제는 단순히 “HBM을 얼마나 많이 공급할 수 있는가”에서 끝나지 않는다.

급격히 늘어나는 AI의 작업 기억을 어느 계층에, 얼마나 오래, 어떤 비용으로 보관할 것인가.

이 변화는 HBM 아래에 새로운 랙 단위 메모리 풀을 만들고, 기존 eSSD를 AI 전용 Context SSD로 변화시키며, 종국에는 NAND Controller와 스토리지 소프트웨어의 중요성을 다시 높이는 방향으로 전개될 가능성이 크다.

이 글은 앞서 작성한 다음 글들의 연장선에 있다.

1. RSI는 아직 완성되지 않았지만 작업량은 이미 사람의 속도를 넘어가기 시작했다

DeepRSI는 AI가 정답이 정해진 단기 문제만 푸는 것이 아니라, 장시간에 걸쳐 연구 과제를 얼마나 개선할 수 있는지를 측정하는 벤치마크다.

현재 DeepRSI가 측정하는 것은 완성된 의미의 재귀적 자기개선이라기보다는 제한된 연구 환경 안에서 수행하는 반복적인 성능 개선에 가깝다.

그러나 중요한 부분은 최종 점수만이 아니다. AI Agent가 오랜 시간 다음 작업을 반복하기 시작했다는 점이 중요하다.

기존 코드와 논문 읽기
개선 가설 생성
코드 수정
실험 실행
결과 평가
실패 원인 분석
새로운 버전 생성

연구의 단위가 사람의 질문에 한 번 답하는 방식에서, AI가 지속적으로 상태를 바꾸며 작업하는 방식으로 이동하고 있다.

OpenAI 역시 AI 연구 Agent의 성능을 사람의 연구 업무량과 비교하는 지표를 제시하고 있다. 자동화된 연구 Agent가 하루 동안 사용하는 추론량과 작업 시간이 증가하면서, 사람 한 명이 하루 동안 감독할 수 있는 AI 작업량도 복수의 Agent 작업일로 확장되고 있다. openai.com

2. AI가 만드는 코드보다 이를 불러오고 검사하는 횟수가 더 빠르게 늘어난다

Anthropic에 따르면 코드 저장소에 반영되는 변경은 2026년 5월 하루 약 2,500건에서 같은 해 9월 하루 30,000건 이상으로 증가했다.

메인 저장소의 전체 이력은 100GB, 작업 복사본도 25GB 이상으로 커졌으며 하루 체크아웃 요청은 약 2,500만 회에 도달했다.

이를 매번 원본 저장소에서 처리한다면 이론적으로 하루 약 600PB의 데이터 이동이 필요할 수 있다. www.anthropic.com

AI가 코드를 더 많이 생산하면 저장해야 할 코드만 늘어나는 것이 아니다.

코드를 검사하기 위해 불러오는 횟수
서로 다른 버전을 비교하는 횟수
새로운 테스트 환경을 만드는 횟수
실패한 상태로 돌아가는 횟수
동일한 코드를 여러 Agent가 반복해서 읽는 횟수

이 모든 입출력이 함께 증가한다.

RSI가 만들어내는 데이터는 거대한 파일 하나가 아니다. 짧은 시간 동안 생성되고, 수정되고, 폐기되는 수많은 작은 상태의 집합에 가깝다.

3. Anthropic의 Scion은 RSI 시대 메모리 시스템의 축소판이다

Anthropic은 기존 Git 방식만으로 급격히 증가한 코드 체크아웃을 처리하기 어려워지자 Scion이라는 새로운 소스 관리 인프라를 설계했다.

Scion의 핵심은 모든 요청을 원본 저장소에서 다시 읽어오지 않는 것이다.

자주 사용되는 코드 상태를 여러 단계의 Cache에 배치하고, 사용자와 가까운 계층에서 먼저 제공한다.

Anthropic은 각 Cache 계층에서 99% 이상의 적중률을 확보했으며, 인프라의 CPU·메모리 요구량을 약 200분의 1로 줄이고 체크아웃 속도를 약 100배 높였다고 설명한다. 전체 CI CPU 처리능력도 약 25% 증가했다. www.anthropic.com

이 사례는 앞으로 AI 메모리 시스템이 어떤 형태가 될지를 보여준다.

현재 계산 중인 데이터는 가장 빠른 메모리에 둔다.
곧 다시 사용할 데이터는 가까운 공유 메모리에 둔다.
자주 쓰지 않지만 빠르게 복구해야 하는 상태는 SSD에 둔다.
장기적으로 보존할 데이터는 저비용 스토리지로 이동한다.

모든 데이터를 가장 빠르고 비싼 메모리에 저장하는 것이 아니라, 사용 빈도와 중요도에 따라 서로 다른 계층에 나누어 저장하는 것이다.

4. RSI 시대의 메모리 계층

업계 전체가 G1.5·G3.5와 같은 계층 명칭을 동일하게 사용하는 것은 아니다.

본 글에서는 구조를 쉽게 이해하기 위해 HBM과 로컬 SSD 사이에 새로 만들어지는 랙 단위 공유 메모리를 G1.5, 로컬 SSD와 장기 스토리지 사이의 AI Context SSD를 G3.5로 표현한다.

NVIDIA가 제시한 CMX 분류에서는 G1이 HBM, G2가 System Memory, G3가 Local SSD, G4가 Shared Storage이며, CMX는 그 사이의 G3.5 계층으로 정의된다. developer.nvidia.com

여기서 중요한 것은 명칭 자체가 아니다.

HBM과 SSD 사이, 로컬 SSD와 장기 스토리지 사이에 새로운 중간 메모리 계층이 만들어지고 있다는 점이 중요하다.

5. RSI 비중이 높아질수록 G1.5 랙 메모리 풀이 필요해지는 이유

현재 AI Server는 각 GPU와 CPU가 자신에게 직접 연결된 메모리를 사용한다.

이 구조는 하나의 모델을 오랫동안 실행할 때는 효율적이다. 그러나 여러 Agent가 동시에 생성되고, 중단되고, 다른 GPU로 이동하는 환경에서는 메모리 사용량의 차이가 커진다.

어떤 GPU는 메모리가 부족한데 같은 랙의 다른 GPU에는 사용하지 않는 메모리가 남아 있을 수 있다. 메모리가 장치별로 고정돼 있으면 남는 용량을 다른 GPU가 바로 사용하기 어렵다.

RSI 환경에서는 다음 작업이 자주 발생한다.

Agent마다 서로 다른 크기의 KV Cache를 보유한다.
실험이 실패하면 이전 Checkpoint로 돌아간다.
중단됐던 작업이 다시 시작된다.
동일한 코드와 문서를 여러 Agent가 읽는다.
긴 Context를 다른 GPU로 이전한다.
우수한 실험 상태를 복제해 새로운 실험을 시작한다.

메모리를 서버마다 고정하지 않고 랙 단위로 묶으면 남는 용량을 다른 GPU가 사용할 수 있다. 공통 Prompt와 KV Cache도 매번 복사하지 않고 여러 서버가 공유할 수 있다.

SK하이닉스가 제시한 CXL 기반 메모리 풀과 CMM-Hybrid도 이 방향을 보여준다.

CMM-Hybrid는 DRAM과 NAND를 결합하고, 앞으로 필요할 가능성이 높은 KV Cache를 예측해 DRAM으로 미리 가져오는 구조다. 전체 KV Cache는 SSD에 저장하고, 현재 필요한 부분만 빠른 메모리로 옮기는 계층화도 가능하다. news.skhynix.com

따라서 G1.5의 역할은 HBM을 대체하는 것이 아니다.

HBM을 현재 연산에 필요한 데이터에 집중시키고, 곧 다시 사용할 가능성이 있는 데이터를 랙 전체가 공유하도록 만드는 것이다.

6. HBM만으로는 모든 AI 기억을 보관할 수 없다

HBM은 AI 연산에 필요한 대역폭을 제공하는 가장 중요한 메모리다.

하지만 RSI가 만들어내는 모든 상태를 HBM에 저장하는 것은 비용과 용량 측면에서 어렵다.

Agent의 기억 가운데 현재 GPU가 계산에 사용하는 부분은 일부에 불과하다. 나머지는 다음 작업을 위해 대기하거나, 다른 Agent와 공유되거나, 실패에 대비해 저장된다.

이 데이터를 모두 HBM에 보관하면 비싼 HBM 공간을 사용 빈도가 낮은 데이터가 차지한다. 반대로 HBM에서 완전히 제거하면 필요할 때 다시 계산하거나 느린 스토리지에서 불러와야 한다.

HBF는 이 간격을 줄이기 위한 기술이다. 공식 사양은 패키지당 최대 512GB, 약 0.4~3.0TB/s의 대역폭을 목표로 하며 UCIe 연결을 활용한다. HBM보다 대용량이고 일반 SSD보다 GPU에 가까운 Flash 계층이다. news.skhynix.com

RSI 시대의 메모리는 다음과 같이 역할이 나뉠 가능성이 크다.

HBM에는 현재 계산할 데이터,
G1.5에는 곧 사용할 데이터,
Context SSD에는 다시 사용할 가능성이 있는 데이터,
장기 스토리지에는 오래 보존할 데이터를 저장한다.

7. NAND 셀에 저장된 전자가 GPU로 이동하는 것은 아니다

SSD에서 데이터를 읽어 GPU로 가져오더라도 NAND 셀 안의 전자가 GPU까지 이동하는 것은 아니다.

NAND 셀은 전자가 얼마나 저장돼 있는지에 따라 서로 다른 전압 상태를 가진다. SSD는 이 전압 상태를 측정해 데이터가 0인지 1인지 판별한다.

판별된 결과는 SSD Controller에서 디지털 신호로 바뀐다. 이후 PCIe를 통해 서버 DRAM이나 GPU 메모리로 전달된다.

이 과정에서 NAND 셀에 저장된 전자는 대부분 원래 위치에 남아 있다. GPU로 전달되는 것은 전자 자체가 아니라 NAND가 저장하고 있던 데이터의 복사본이다.

따라서 SSD에서 Context를 많이 읽는다고 해서 저장 전자가 매번 셀 밖으로 빠져나가 NAND가 바로 마모되는 것은 아니다.

NAND의 주된 물리적 마모는 데이터를 반복해서 기록하고 지우는 Program/Erase Cycle에서 발생한다. 다만 동일한 NAND 블록을 매우 많이 읽으면 Read Disturb라는 추가 문제가 생길 수 있다.

저장 전자는 셀에 남고, 측정된 데이터의 복사본만 SSD Controller와 PCIe를 거쳐 GPU HBM으로 이동

8. NAND 셀은 전자의 양을 이용해 데이터를 저장한다

NAND 셀은 전기를 켜고 끌 수 있는 매우 작은 트랜지스터다.

셀은 대체로 다음 부분으로 구성된다.

전류가 흐르는 Channel
전자를 저장하는 Floating Gate 또는 Charge Trap Layer
전자가 이동할 때 통과하는 얇은 Tunnel Oxide
외부에서 전압을 가하는 Control Gate와 Wordline

NAND는 Charge Trap Layer에 저장된 전자의 양에 따라 셀의 Threshold Voltage를 변화시킨다.

Threshold Voltage는 해당 셀에 전류를 흐르게 하기 위해 필요한 최소 전압이다. 저장된 전자가 많아질수록 셀을 켜기 위해 더 높은 전압이 필요하다.

SSD는 이 차이를 읽어 데이터를 구분한다.

SLC는 한 셀을 2개 상태로 구분한다.
MLC는 한 셀을 4개 상태로 구분한다.
TLC는 한 셀을 8개 상태로 구분한다.
QLC는 한 셀을 16개 상태로 구분한다.

한 셀에 더 많은 데이터를 저장할수록 각 전압 상태 사이의 간격은 좁아진다.

따라서 TLC와 QLC는 SLC보다 같은 용량의 NAND에서 더 많은 데이터를 저장할 수 있지만, 전압이 조금만 변해도 데이터 판독 오류가 발생하기 쉽다.

Charge Trap·Tunnel Oxide·Channel의 구조와 SLC→TLC→QLC로 갈수록 좁아지는 전압 간격

9. Program 과정에서는 높은 전압으로 전자를 저장층에 넣는다

NAND에 데이터를 기록하는 과정을 Program이라고 한다.

Controller는 데이터를 기록할 셀에 높은 전압을 가한다. 강한 전기장이 만들어지면 전자는 Tunnel Oxide를 통과해 Floating Gate 또는 Charge Trap Layer로 이동한다.

전자가 저장층에 들어가면 셀의 Threshold Voltage가 높아진다. SSD는 전자의 양을 조절해 해당 셀을 TLC의 8개 상태나 QLC의 16개 상태 가운데 하나로 만든다.

특히 TLC와 QLC는 한 번에 정확한 전압 상태를 만들기 어렵기 때문에 작은 전압을 여러 번 나누어 가한다. 매 단계마다 셀의 상태를 확인하면서 목표한 전압에 도달할 때까지 Program을 반복한다.

이 과정에서는 얇은 Tunnel Oxide에 강한 전기장이 걸린다.

한두 번의 Program으로는 큰 문제가 없지만, 동일한 셀에 수천 번에 걸쳐 전자를 넣고 빼면 Tunnel Oxide 내부에 작은 결함이 쌓이기 시작한다.

고전압 인가 → 전자의 Tunnel Oxide 통과 → Charge Trap 저장 → Threshold Voltage 상승

10. Erase 과정에서는 블록 전체의 전하를 제거한다

NAND는 기존 데이터 위에 새로운 데이터를 바로 덮어쓸 수 없다.

새 데이터를 쓰려면 먼저 기존 데이터를 지워야 한다. 이때 기록은 Page 단위로 가능하지만, 삭제는 여러 Page가 묶인 Block 단위로만 가능하다.

예를 들어 하나의 Block 안에 수백 개의 Page가 있다면 그중 한 Page만 따로 지울 수 없다. Block에 포함된 모든 Page를 한꺼번에 Erase해야 한다.

Erase 과정에서는 Program과 반대 방향의 강한 전기장을 가한다. 이를 통해 Charge Trap Layer에 저장돼 있던 전하를 제거하고 셀의 Threshold Voltage를 초기 상태로 되돌린다.

3D Charge Trap NAND에서는 이 과정에서 발생하는 강한 전기장과 Hole Tunneling이 Tunnel Oxide와 주변 절연층을 점차 손상시킬 수 있다. www.jstage.jst.go.jp

Program과 Erase가 반복되면 다음과 같은 변화가 나타난다.

절연층 내부에 전하가 걸리는 결함이 증가한다.
저장된 전하가 유지되는 시간이 짧아진다.
셀의 Threshold Voltage가 조금씩 흔들린다.
서로 다른 데이터 상태의 경계가 불분명해진다.
데이터를 기록하고 읽는 시간이 길어진다.
오류가 증가해 해당 Block을 더 이상 사용하지 못하게 된다.

NAND의 마모란 부품이 물리적으로 깎이는 현상이 아니다.

전자를 저장하고 차단해야 하는 절연층이 반복되는 높은 전압에 노출되면서 전기적 성능이 약해지는 현상이다. download.semiconductor.samsung.com

Page가 아닌 Block 단위 삭제 → 전하 제거·중화 → 반복된 P/E Cycle로 절연막 결함과 누설 증가

11. Read 과정은 Program·Erase보다 부담이 작지만 완전히 영향이 없는 것은 아니다

NAND를 읽을 때는 셀 안의 전자를 꺼내지 않는다.

SSD는 선택한 셀에 기준 전압을 가한 뒤 전류가 흐르는지를 확인한다. 어느 전압에서 셀이 켜지는지를 측정하면 해당 셀에 저장된 데이터 상태를 알 수 있다.

그러나 NAND 셀은 여러 개가 하나의 NAND String으로 연결돼 있다.

특정 셀 하나를 읽으려면 같은 String에 있는 나머지 셀에도 전류가 통과할 수 있도록 Vpass라는 전압을 가해야 한다.

이 읽기 동작이 매우 많이 반복되면 선택되지 않은 셀의 전자 상태도 조금씩 변할 수 있다. 셀의 Threshold Voltage가 이동하면서 원래 저장된 데이터 상태와 다른 상태로 판독될 위험이 생긴다.

이를 Read Disturb라고 한다.

Read Disturb는 다음 조건에서 더 문제가 될 수 있다.

동일한 Block을 매우 많이 읽을 때
이미 Program/Erase Cycle이 많이 누적된 NAND일 때
전압 상태 사이의 간격이 좁은 TLC·QLC일 때
높은 온도에서 장시간 작동할 때

연구 결과에서도 읽기 횟수와 NAND 마모도가 증가할수록 같은 Block 안에 있는 셀의 Threshold Voltage 변화와 오류 가능성이 커지는 것으로 나타난다. arxiv.org

Controller는 Read Disturb 위험이 높아진 데이터를 새로운 Block으로 옮긴다. 이 과정을 Read Reclaim 또는 Refresh라고 한다.

따라서 읽기 자체의 직접적인 마모는 Program·Erase보다 작지만, 반복 읽기로 데이터를 다른 Block에 옮기면 추가적인 Program과 Erase가 발생한다.

결국 Context SSD의 수명을 결정하는 더 큰 요인은 단순한 읽기 횟수가 아니다.

데이터를 얼마나 자주 새로 쓰는지, 기존 Context가 얼마나 빨리 폐기되는지, 그 과정에서 내부 데이터 복사가 얼마나 발생하는지가 더 중요하다.

정상 읽기 → 반복적인 Vpass 인가 → 주변 셀 전압 변화 → Read Reclaim과 추가 Program·Erase 발생

12. Context SSD에서 마모가 증가하는 진짜 이유

Context SSD의 마모를 “AI가 데이터를 자주 읽기 때문”으로만 설명할 수는 없다.

더 큰 원인은 Context의 짧은 수명과 잦은 교체다.

AI Agent는 다음과 같은 데이터를 지속적으로 만든다.

새로운 Token에 따라 증가하는 KV Cache
실행할 때마다 달라지는 Sandbox 상태
짧은 간격으로 만들어지는 Checkpoint
수정될 때마다 달라지는 코드 Snapshot
도구 호출 기록과 중간 결과
분기·병합되는 실험 상태
종료된 Agent가 남긴 임시 데이터

이 데이터 중 일부는 오랫동안 유지되지만 상당수는 짧은 시간 안에 필요가 없어져 무효화된다.

문제는 NAND가 무효화된 Page만 골라 바로 지울 수 없다는 것이다.

Controller는 새로운 데이터를 빈 Page에 기록하고, 기존 Page는 무효 상태로 표시한다. 빈 Page가 부족해지면 아직 필요한 데이터를 다른 Block으로 옮긴 뒤 기존 Block 전체를 Erase한다.

이 과정이 Garbage Collection이다.

13. 10개 Page를 바꾸기 위해 100개 Page를 다시 쓸 수도 있다

하나의 NAND Block에 100개 Page가 있다고 가정해 보자.

이 가운데 90개 Page에는 아직 필요한 데이터가 있고, 나머지 10개 Page의 데이터는 더 이상 필요하지 않다고 가정한다.

NAND는 필요 없는 10개 Page만 골라 지울 수 없다.

Controller는 다음 작업을 수행한다.

필요한 90개 Page를 읽는다.
90개 Page를 다른 빈 Block에 다시 기록한다.
기존 Block 전체를 Erase한다.
새로운 데이터 10개 Page를 기록한다.

Host는 새로운 데이터 10개 Page만 썼지만, NAND 내부에서는 유효 데이터 복사를 포함해 총 100개 Page의 Program이 발생할 수 있다.

이 경우 단순화한 Write Amplification Factor는 약 10배가 된다.

NAND는 Page 단위로 기록하고 Block 단위로 삭제하기 때문에 Garbage Collection 과정에서 아직 필요한 데이터까지 반복해서 이동해야 한다. 높은 WAF는 성능을 낮추고 NAND 수명을 단축한다. download.semiconductor.samsung.com

Context SSD에서는 수명이 서로 다른 데이터가 같은 Block에 섞이기 쉽다.

몇 초 만에 폐기되는 실행 로그와 며칠 동안 유지되는 공통 Prompt가 같은 Block에 저장되면, 실행 로그를 정리할 때 공통 Prompt까지 다른 Block으로 옮겨야 할 수 있다.

14. RSI는 Context Turnover를 높인다

RSI가 진행될수록 SSD 마모 압력을 높이는 변수는 전체 Context 용량만이 아니다.

더 중요한 것은 Context Turnover, 즉 일정 시간 동안 Context가 얼마나 많이 생성되고 교체되는가다.

같은 1PB의 Context SSD라도 데이터를 한 번 기록한 뒤 여러 번 읽는 시스템은 마모가 크지 않을 수 있다.

반대로 전체 저장 용량은 작더라도 짧은 수명의 Context가 계속 생성되고 폐기되면 NAND 쓰기량과 Garbage Collection이 크게 증가한다.

개념적으로 NAND 수명 압력은 다음과 같이 표현할 수 있다.

Context SSD에서 마모를 증가시키는 조건은 다음과 같다.

1. 서로 다른 데이터 수명

KV Cache, 실행 로그, Checkpoint, 공통 Prompt의 수명이 서로 다르면 Hot Data와 Cold Data가 같은 Block에 섞인다. 이 경우 Garbage Collection 과정에서 유효 데이터 복사가 늘어난다.

2. 작은 Random Write

여러 Agent가 작은 상태 데이터를 서로 다른 위치에 계속 기록하면 큰 Sequential Write보다 NAND Block 관리가 어려워진다. Kioxia 역시 Small Random Write가 Large Sequential Write보다 높은 WAF를 만들 수 있다고 설명한다. americas.kioxia.com

3. 반복되는 Checkpoint와 Rollback

지속학습과 재귀개선은 최종 결과만 저장하지 않는다. 실패에 대비해 이전 상태도 보관하고, 분기된 실험마다 별도의 Checkpoint를 만든다.

4. 복제와 장애 복구

여러 랙이 Context를 공유하려면 데이터 복제와 이동이 필요하다. 장애가 발생하면 데이터를 다시 구성하는 과정에서도 추가 쓰기가 발생한다.

5. Read Disturb 대응

특정 Context가 지나치게 많이 읽히면 Controller가 오류를 방지하기 위해 데이터를 새로운 Block으로 이동시킨다. 읽기에서 시작했지만 결과적으로 추가적인 Program과 Erase가 발생한다.

따라서 Context SSD의 물리적 마모는 다음 세 요소의 결합으로 이해할 수 있다.

높은 Context Turnover × 불규칙한 쓰기 패턴 × 높은 Write Amplification

Context SSD라고 해서 모든 제품의 마모가 반드시 빠른 것은 아니다.

공통 Prefix를 한 번 기록하고 여러 Agent가 반복해서 읽는 구조라면 Host Write는 크지 않을 수 있다. 반대로 각 Agent가 독립적인 Context와 Checkpoint를 계속 만들면 같은 용량의 SSD에서도 물리적인 NAND 쓰기량이 크게 증가할 수 있다.

15. 그래서 NAND Controller가 다시 중요해진다

NAND Cell Array가 실제 데이터를 저장하지만 SSD의 수명과 성능은 NAND만으로 결정되지 않는다.

같은 NAND를 사용해도 Controller와 Firmware가 데이터를 어떻게 배치하고 정리하느냐에 따라 실제 물리 쓰기량과 제품 수명이 달라질 수 있다.

앞서 생각정리 196 (* NAND Controller)에서 다뤘듯 Controller는 NAND 내부의 데이터 위치와 상태를 관리한다.

Context SSD 시대에는 이 역할이 데이터의 사용 빈도와 예상 수명까지 판단하는 방향으로 확장된다.

FTL Mapping

Host가 보는 논리 주소와 실제 NAND Page 위치를 연결한다. Context의 생성과 삭제가 빈번할수록 Mapping Table과 Metadata 관리가 복잡해진다.

Hot·Cold Data 분리

수명이 짧은 KV Cache와 수명이 긴 공통 Prefix를 서로 다른 Block에 배치한다. 이를 잘 수행하면 Garbage Collection 과정에서 장기 데이터가 반복 복사되는 것을 줄일 수 있다.

Samsung이 소개한 FDP도 Host가 데이터의 용도와 수명 정보를 SSD에 전달하고, SSD가 이를 서로 다른 Reclaim Unit에 배치해 WAF를 줄이는 접근이다. download.semiconductor.samsung.com

Garbage Collection 최적화

어느 Block을 언제 정리할지 결정한다. 무효 Page의 비중뿐 아니라 SSD의 입출력 부하와 데이터의 예상 수명까지 고려해야 한다.

Wear Leveling

일부 Block에 Program/Erase Cycle이 집중되지 않도록 쓰기를 분산한다. 자주 갱신되는 Context가 특정 NAND 영역만 빠르게 마모시키는 것을 막는다.

ECC·LDPC·Read Retry

NAND가 마모돼 셀의 전압 상태가 흔들리더라도 데이터를 복구한다. 한 셀에 더 많은 Bit를 저장할수록 Controller의 오류 보정 능력이 중요해진다.

Read Reclaim

Read Disturb와 Retention 열화가 감지된 데이터를 새로운 Block으로 옮긴다. 너무 자주 옮기면 쓰기량이 증가하고, 너무 늦게 옮기면 복구할 수 없는 오류가 발생할 수 있다.

Over-Provisioning

사용자에게 보이지 않는 예비 NAND 공간을 확보한다. 여유 공간이 많을수록 Controller가 Garbage Collection을 효율적으로 수행하고 WAF를 낮추기 쉽다.

압축·중복제거·Prefix Sharing

동일한 System Prompt와 공통 Context를 Agent마다 별도로 저장하지 않고 공유한다. 논리적인 저장 용량뿐 아니라 실제 NAND 쓰기량도 줄일 수 있다.

결국 Context SSD의 경쟁력은 NAND 적층 수와 저장 용량만으로 결정되지 않는다.

어떤 데이터를 어느 Block에 기록하고, 언제 이동시키며, 언제 삭제할 것인지 결정하는 Controller와 Firmware가 제품의 수명과 성능을 좌우한다.

16. Controller의 역할은 SSD 내부에서 랙 전체로 확장된다

G3.5 Context SSD에서는 데이터 관리 주체가 두 계층으로 나뉜다.

첫 번째는 SSD 내부의 NAND Controller다.

NAND Controller는 FTL, Garbage Collection, ECC, Wear Leveling, Read Reclaim, Bad Block 관리 등 물리적 NAND 상태를 담당한다.

두 번째는 랙 또는 POD 단위의 Context Orchestrator다.

DPU·NIC·CXL Switch와 Memory Software가 다음을 결정한다.

어떤 KV Cache를 HBM에서 내릴 것인가
어떤 Context를 G1.5에 보관할 것인가
어떤 데이터를 Context SSD에 기록할 것인가
여러 GPU가 어떤 Context를 공유할 것인가
어떤 데이터를 삭제하거나 장기 스토리지로 보낼 것인가

RSI 시대에는 메모리의 부가가치가 Cell 제조에서 끝나지 않는다.

Cell Array → SSD Controller → DPU·NIC → Memory Orchestration Software

이 전체 제어 계층이 하나의 AI Memory System으로 결합될 가능성이 크다.

17. 반도체 시장에 주는 구조적 시사점

첫째, HBM의 중요성은 유지되지만 메모리 투자 범위가 넓어진다

GPU가 실제 연산을 수행하는 동안 HBM 대역폭은 계속 중요하다.

그러나 Agent 수와 Context 길이가 증가할수록 전체 기억을 HBM에만 보관할 수 없다. HBM의 성장은 HBF, CXL Memory, SOCAMM, eSSD 수요를 밀어내기보다 하위 메모리 계층의 동반 성장을 유도할 가능성이 크다.

둘째, G1.5 랙 메모리 풀은 HBM 사용률을 높인다

G1.5의 투자 논리는 HBM 대체가 아니다.

사용 빈도가 낮아진 Context를 HBM에서 빠르게 내리고, 다시 필요할 때 신속하게 불러와 비싼 HBM을 실제 연산에 집중시키는 것이다.

이에 따라 CXL Controller, Memory Expander, Retimer, Switch, HBF, DRAM Module과 메모리 관리 소프트웨어의 중요성이 커질 수 있다.

셋째, eSSD는 AI Context Storage라는 새로운 제품군으로 분화된다

기존 eSSD에서는 용량, Sequential Throughput, IOPS, DWPD가 주요 사양이었다.

Context SSD에서는 다음 항목의 중요성이 더 높아질 가능성이 있다.

Small Random Write 환경의 WAF
KV Cache 입출력 지연시간
Tail Latency
데이터 수명별 배치 능력
Read Disturb 관리
Prefix 공유와 중복제거
FDP·ZNS 지원
DPU 및 GPU Memory Software와의 연동
실시간 NAND 상태와 잔여 수명 Telemetry

이는 범용 eSSD와 AI Context SSD의 제품 차별화를 확대한다.

넷째, NAND 수요는 설치 용량과 교체 수요가 함께 결정한다

Context SSD가 높은 DWPD와 WAF로 운용된다면 같은 설치 용량에서도 물리적인 NAND 소비량과 SSD 교체 빈도가 증가할 수 있다.

다만 AI용 SSD의 교체 수요가 일률적으로 급증한다고 단정하기는 어렵다.

Over-Provisioning, TLC 적용, FDP, 압축, Hot·Cold Data 분리, Prefix Sharing이 마모를 상당 부분 줄일 수 있기 때문이다.

실제 NAND 수요와 교체 주기를 판단하려면 다음 지표를 확인해야 한다.

Context Turnover
일일 Host Write
DWPD
WAF
TLC·QLC 구성
Over-Provisioning 비율
Read Reclaim 발생량
Spare Block 감소 속도

다섯째, Controller와 Firmware의 부가가치가 상승한다

범용 저장장치에서는 NAND 가격과 공급 사이클이 실적을 크게 좌우했다.

AI Context SSD에서는 동일한 NAND를 사용하더라도 Controller와 Firmware에 따라 수명, 지연시간, GPU 활용률이 달라질 수 있다.

따라서 SSD Controller, Enterprise Firmware, DPU, SmartNIC, CXL Switch, Memory Orchestration Software의 전략적 가치가 함께 상승할 가능성이 크다.

이는 생각정리 319 (* NAND, eSSD)와 생각정리 386 (* Toshiba HDD, Storage Hierarchy)에서 다뤘던 스토리지 계층 변화와도 연결된다.

결론

RSI는 AI가 더 높은 성능을 갖추는 변화인 동시에 AI가 훨씬 더 많은 상태를 만들고, 읽고, 수정하고, 폐기하는 변화다.

이 과정에서 메모리 계층은 다음과 같이 재편될 가능성이 크다.

HBM은 현재 연산에 필요한 데이터에 집중한다.
G1.5 랙 메모리 풀은 여러 GPU가 활성 Context를 공유하게 한다.
Context SSD는 Agent의 외부 작업 기억을 담당한다.
장기 스토리지는 학습 데이터와 결과물을 보존한다.
Controller와 Memory Software는 데이터의 사용 빈도와 수명을 관리한다.

Context SSD의 마모는 NAND 안의 저장 전자가 GPU로 빠져나가기 때문에 발생하는 것이 아니다.

읽기 과정에서는 NAND 셀에 저장된 전하 상태를 측정하고, 그 결과를 디지털 신호로 복사한다. 주요 물리적 마모는 데이터를 기록하고 지우는 Program/Erase 과정에서 발생한다.

Context가 자주 생성되고 폐기되면 Controller는 유효한 데이터를 다른 Block으로 반복해서 옮겨야 한다. 이 과정에서 Host가 요청한 양보다 더 많은 물리적 쓰기가 발생하고, Tunnel Oxide가 반복해서 높은 전압에 노출된다.

RSI 시대의 메모리 경쟁은 단순히 더 많은 NAND를 생산하는 경쟁에 머무르지 않는다.

HBM에서 밀려난 Context를 어느 계층에 저장하고,
필요한 순간에 얼마나 빠르게 다시 공급하며,
최소한의 물리적 쓰기로 NAND 수명을 유지할 것인가.

이 관점에서 보면 HBM 이후의 다음 병목은 NAND 공급량 하나로 설명되지 않는다.

랙 전체의 메모리를 연결하는 CXL과 DPU, AI 작업 기억을 보관하는 Context SSD, 그리고 NAND의 물리적 마모를 통제하는 Controller와 Firmware가 함께 새로운 AI 메모리 시스템을 구성하게 될 가능성이 크다.

AI 기술이 발전할수록 NAND와 SSD에 요구되는 성능과 제어 기술의 난이도 역시 함께 높아지고 있다. 이제 NAND와 SSD를 과거처럼 단순한 저부가가치·소품종 대량생산 제품으로만 바라보는 시각은 기술 변화와 산업의 부가가치 이동을 제대로 반영하지 못한 고정관념일 수 있다.

=끝

생각정리 396 (* Context Is the Edge, HBM4E)

이전 운용사에서 잠깐 함께 일했던 형님이 한 분 계셨다. 이후 업계를 떠나 전업투자의 길로 들어섰다고 전해 들었는데, 당시 상당한 수익률을 기록해 큰 성과급을 받은 뒤 회사를 나간 것으로 알고 있다.

그때의 나는 가치투자와 장기투자에 깊이 빠져 있었다. 기업의 본질가치가 중요할 뿐 일일 시장 변동에는 크게 동요하지 않겠다며, 나름의 단도투자를 이어가고 있었다.

반면 그 형님은 매일 신고가를 경신하는 종목들을 Sorting하고, 시장에서 새롭게 형성되는 Trend를 빠르게 따라가며 매매했다. 당시에는 단순히 나와 투자 스타일이 다른 사람이라고만 생각했다.

하지만 하루와 이틀, 한 주와 한 달, 그리고 일 년이 쌓이자 두 사람의 수익률 차이는 점점 벌어졌다. 종국에는 내가 쉽게 범접하기 어려운 수준의 격차가 만들어졌다.

돌이켜보면 그 차이는 단순히 가치투자와 Momentum 투자라는 스타일의 차이에서 발생한 것이 아니었다.

그 형님은 나보다 훨씬 많은 정보를 실시간으로 수집하고 정리했다. 새롭게 들어온 정보를 기존의 판단체계에 연결하면서도 자신의 투자방향을 유연하게 조정했다. 무엇보다 자신이 처음에 잘못 판단했을 가능성을 인정하고, 그 오류를 빠르게 수정하는 능력이 나보다 훨씬 뛰어났다.

반면 당시의 나는 업계에 발을 들인 지 얼마 되지도 않았으면서, 내가 공부하고 이해한 지식이 옳다는 자만에 빠져 있었다.

사실 그때는 내가 자만에 빠져 있다는 사실을 인지할 능력조차 충분하지 않았던 것 같다. 시장과 현실은 계속 변하고 있었지만, 나는 기존에 세워놓은 투자관을 지키는 것을 원칙이라고 생각했다. 결국 원칙을 지킨 것이 아니라 시장과 점점 동떨어져 가는 오류를 고집했던 셈이다.

가치투자와 장기투자가 잘못됐다는 이야기가 아니다. 오히려 장기투자일수록 기업과 산업을 둘러싼 인과관계가 유지되고 있는지를 계속 확인해야 한다.

장기투자는 생각을 바꾸지 않는 투자가 아니라, 장기적인 인과관계가 훼손되지 않았는지를 끊임없이 검증하는 투자에 가깝다.

AI 시대에는 정보의 생산량이 이전과 비교하기 어려울 정도로 많아졌다. 문제는 정보가 많아진 만큼, 하나의 기술 변화나 단편적인 숫자만으로 전체 산업의 우열을 단정하는 해석도 함께 늘어났다는 것이다.

전후맥락을 모두 끊어낸 채 특정 기업이 기술적 우위를 확보했다거나, 하나의 수주와 인증만으로 산업의 주도권이 완전히 바뀌었다고 주장하는 말들이 판친다. 정보의 전달속도는 빨라졌지만, 그 정보를 기존의 흐름과 연결해 해석하는 능력은 오히려 더 중요해졌다.

이런 환경일수록 누구의 말을 듣느냐도 중요하다.

산업의 전후맥락을 오랫동안 추적해온 사람이 하는 말과, 방금 접한 하나의 정보만으로 전체를 단정하는 사람이 하는 말을 구분해서 들어야 한다. 그러기 위해서는 신뢰할 수 있는 사람을 알아보는 나만의 판단기준이 필요하다.

(*마라바들에 대한 반감이 상당히 강해지는 중..)

무엇보다 그들의 판단에 전적으로 의존하지 않고, 최종적으로는 스스로 인과관계를 연결할 수 있는 독립적인 해석능력을 계속 갈고닦아야 한다.

최근 삼성전자와 SK하이닉스의 HBM4 경쟁을 바라보는 시각도 이와 크게 다르지 않다.

삼성전자는 HBM4에서 SK하이닉스를 따라잡았는가

최근 삼성전자(SEC)가 HBM4 시장에서 빠르게 점유율을 회복하며 SK하이닉스(SKH)를 따라잡았다는 기사가 많아졌다.

Counterpoint 기준 삼성전자의 HBM 매출 점유율은 2026년 1분기 **21%**에서 2분기 **33%**로 상승했다. 같은 기간 SK하이닉스는 **58%에서 50%**로 낮아졌다.

삼성전자가 HBM 시장에서 빠르게 격차를 좁히고 있다는 사실은 분명하다.

다만 2분기까지의 점유율 회복에는 HBM3E 출하 확대가 먼저 반영됐다. 당시 HBM 매출의 대부분은 여전히 HBM3E에서 발생하고 있었고, HBM4 출하는 하반기부터 본격적으로 확대되는 구조였다. 여기에 AMD향 HBM4 공급효과가 추가되면서 삼성전자의 점유율 상승세가 이어지는 흐름으로 볼 수 있다. www.counterpointresearch.com

시장점유율은 어떤 기준을 사용하느냐에 따라서도 의미가 달라진다.

매출액 기준인지, 출하 Bit 기준인지, Stack 수량 기준인지, 특정 고객사 내부의 공급점유율인지에 따라 같은 숫자도 전혀 다른 산업적 의미를 갖는다.

삼성전자의 HBM4 물량 확대는 현재 세대의 양산 경쟁력 회복을 보여준다. 반면 장기적인 기술지위는 고객별 공급관계와 차세대 공동설계 역량, Packaging 신뢰성, 수율과 생산능력까지 함께 봐야 한다.

삼성전자의 HBM 회복에는 AMD의 구조가 있다

삼성전자의 HBM4 물량 확대에서 가장 중요하게 봐야 할 고객은 AMD다.

AMD의 MI455X에는 432GB의 HBM4가 12개 Stack으로 탑재된다. 반면 NVIDIA Rubin에는 288GB의 HBM4가 8개 Stack으로 탑재된다.

가속기 한 대당 HBM 탑재량만 비교하면 AMD MI455X가 NVIDIA Rubin보다 정확히 50% 더 많은 HBM Bit를 사용한다. www.amd.com

삼성전자와 AMD는 MI455X용 HBM4에서 삼성을 주력 공급 파트너로 두기로 공식 합의했다. 삼성전자는 이전 세대인 MI350X와 MI355X에서도 AMD의 주력 HBM3E 공급사였다. news.samsung.com

SK하이닉스는 이미 NVIDIA향 HBM에서 가장 깊은 공급관계를 구축하고 있다. NVIDIA 중심으로 선단 HBM Capacity가 배분된 상황에서는 AMD가 SK하이닉스로부터 원하는 만큼의 물량을 확보하기 쉽지 않았을 가능성이 높다.

반면 삼성전자는 HBM 생산능력을 추가로 확대할 여지가 있었고, NVIDIA에 이어 대규모 물량을 필요로 하는 AMD의 수요를 받아낼 수 있었다.

향후 삼성전자의 HBM4 Bit 점유율 상승은 다음과 같은 인과관계로 연결된다.

삼성전자의 점유율 회복은 NVIDIA 내부에서 SK하이닉스의 물량을 빼앗아오는 경로만으로 이뤄진 것이 아니다.

SK하이닉스가 NVIDIA 중심의 공급구조를 구축한 사이, 삼성전자가 HBM 탑재량이 훨씬 큰 AMD의 물량을 확보하면서 전체 Bit 점유율을 빠르게 회복하는 구조가 함께 작용하고 있다.

다만 AMD 가속기 한 대에 HBM이 50% 더 들어가더라도 NVIDIA의 전체 가속기 출하량이 AMD보다 크기 때문에 시장점유율은 두 변수를 함께 봐야 한다.

삼성전자는 GPU당 HBM 탑재량에서 유리하고, SK하이닉스는 가속기 출하량이 압도적으로 큰 NVIDIA에서 우위를 가지고 있다.

결국 삼성전자의 HBM4 점유율 상승은 기술적 회복과 고객 Mix 변화, 생산능력 확대, AMD의 높은 HBM 탑재량이 함께 만들어낸 결과에 가깝다.

NVIDIA와 SK하이닉스의 관계는 단순한 공급계약이 아니다

NVIDIA는 SK하이닉스뿐 아니라 삼성전자와 마이크론까지 포함한 다원화된 HBM 공급체계를 구축하고 있다.

HBM 수요가 폭발적으로 증가하고 제품 출시주기가 짧아지는 상황에서 단일 공급사에 모든 물량을 의존하는 것은 NVIDIA에도 위험하다. 복수 공급사 체제는 가격보다 공급 안정성과 제품 출시일정을 지키기 위한 전략에 가깝다.

그럼에도 SK하이닉스가 NVIDIA 생태계에서 차지하는 지위는 일반적인 복수 공급사 중 하나와는 차이가 있다.

SK하이닉스는 NVIDIA HBM4의 최대 공급사 지위를 유지하고 있다. 2026년 7월에는 NVIDIA와 차세대 HBM을 공동 개발하고, 장기적으로 안정적인 물량을 확보하기 위한 협력까지 체결했다.

2026년 9월 TSMC OIP 행사에서는 SK하이닉스의 12단 36GB HBM4가 NVIDIA Vera Rubin에 직접 탑재된 형태로 전시됐다. 이는 단순한 Sample 공급을 넘어 NVIDIA의 차세대 플랫폼 개발과 SK하이닉스의 HBM 로드맵이 상당히 깊게 맞물려 있다는 것을 보여준다. news.skhynix.com

결국 NVIDIA향 공급구조는 다음과 같이 해석할 수 있다.

NVIDIA는 복수의 HBM 공급사를 활용하고 있지만, 핵심 물량과 차세대 제품의 공동설계 로드맵에서는 SK하이닉스가 가장 깊은 위치를 차지하고 있다.

삼성전자가 특정 시점의 HBM4 인증과 양산에서 앞서 나갔다는 사실도 중요하다. 이는 삼성전자가 HBM3E에서 겪었던 부진을 상당 부분 극복하고 기술과 양산능력을 회복했다는 증거다.

그러나 장기적인 HBM 경쟁력은 한 세대의 인증시점만으로 결정되지 않는다.

고객사의 차세대 GPU 설계에 얼마나 일찍 참여했는지
Base Die와 PHY를 어느 수준까지 공동설계하는지
양산수율과 Packaging 신뢰성을 얼마나 안정적으로 유지하는지
고객이 필요로 하는 물량을 일정에 맞춰 공급할 수 있는지
다음 세대까지 장기 공급계약이 이어지는지

이러한 요소들이 누적돼 다음 세대의 공급지위를 만든다.

플랫폼 출시주기는 1년, 공급망의 전환기간은 6개월

NVIDIA는 GPU 신제품 주기를 과거보다 빠르게 단축하고 있다.

Blackwell Ultra 기반 제품은 2025년 하반기부터 공급됐고, Rubin 기반 제품은 2026년 하반기부터 파트너사를 통해 공급되기 시작했다. 공식적인 플랫폼 출시 주기는 대략 1년이지만, 공급망이 체감하는 실질적인 세대 전환기간은 이보다 훨씬 짧다. nvidianews.nvidia.com

현재 세대 제품을 본격적으로 양산하는 동안 다음 세대의 Sample 공급과 고객 인증, Base Die 설계, Packaging 최적화가 동시에 진행되기 때문이다.

제품은 1년 단위로 출시되더라도 메모리 업체가 현재 세대에만 집중할 수 있는 실질적인 기간은 6개월 남짓에 불과할 수 있다.

HBM3E에서 HBM4로의 전환도 마찬가지다. HBM4 양산이 본격화되는 시점에는 이미 고객사와 메모리 업체가 HBM4E와 그 이후의 Custom HBM을 설계하고 있다.

따라서 특정 시점의 HBM4 물량과 점유율은 현재의 양산 경쟁력을 보여주는 지표인 동시에, 이미 진행 중인 다음 세대 경쟁의 후행지표에 가깝다.

시장이 현재 세대의 승자를 확인할 무렵에는 공급망이 차세대 제품의 설계와 물량 배분으로 넘어가 있을 가능성이 높다.

HBM4에서 누가 몇 개월 먼저 인증받았는지만큼이나, HBM4E와 Custom HBM의 설계단계에서 누가 고객과 더 깊게 협력하고 있는지를 함께 봐야 하는 이유다.

HBM4에서 HBM4E·NVHBM으로

HBM4는 HBM3E 대비 Interface 폭을 1,024bit에서 2,048bit로 두 배 확대한 중요한 세대다.

NVIDIA Rubin은 HBM4를 통해 GPU당 최대 288GB의 용량과 22TB/s의 메모리 대역폭을 제공한다. 메모리 대역폭은 Blackwell과 Blackwell Ultra 대비 약 2.8배 높아진다. developer.nvidia.com

HBM4부터 Interface 확대와 Logic Base Die 적용이 본격화되면서 HBM은 범용 DRAM에서 Logic과 결합된 제품으로 진화하기 시작했다.

그리고 HBM이 GPU 아키텍처의 일부로 더욱 깊게 편입되는 구조적 변곡점은 HBM4E와 NVHBM에서 더욱 분명해진다.

기존 HBM 구조에서는 Memory Controller가 GPU나 XPU의 연산 Die에 위치했다. HBM과 데이터를 주고받는 PHY와 지원회로 역시 GPU Die의 귀중한 면적과 전력을 사용했다.

NVIDIA가 공개한 NVHBM은 이러한 구조를 바꾼다.

Memory Controller의 일부를 HBM Base Die로 이동시키고, NVIDIA가 직접 설계한 Custom PHY를 적용한다. 메모리와 GPU가 각각 독립된 부품으로 연결되는 구조에서 벗어나 처음부터 하나의 System Architecture로 공동설계되는 것이다.

NVIDIA가 제시한 NVHBM의 효과는 다음과 같다.

HBM4E 대비 Stack당 대역폭: 최대 30% 증가
HBM 전력소비: 최대 15% 감소
XPU Compute Die 가용면적: 최대 25% 확대
PHY 및 지원회로 면적: 최대 67% 감소 blogs.nvidia.com

HBM의 진화경로는 다음과 같이 정리할 수 있다.

HBM4E가 HBM4를 계승하는 차세대 표준 제품군이라면, NVHBM은 HBM4E급 기술에 NVIDIA의 Memory Controller와 Custom PHY를 결합한 맞춤형 아키텍처다.

NVIDIA는 NVHBM을 향후 GPU와 NVLink Fusion 생태계에 적용할 기술로 설명하고 있다. NVHBM이 본격적으로 적용되면 HBM은 더 이상 GPU 옆에 배치되는 고성능 메모리에 머물지 않는다.

GPU 설계사와 메모리 업체가 Controller, PHY, Base Die, DRAM Die, Interposer와 Packaging을 함께 최적화해야 하는 Semi-custom Compute Component가 된다.

이 단계부터 HBM의 경쟁력도 DRAM Die의 성능과 수율만으로 결정되지 않는다. GPU 설계사와의 공동개발, Logic Base Die, Advanced Packaging, Thermal Management, Controller와 PHY 설계까지 모두 결합된 System Co-design 경쟁으로 바뀐다.

SK하이닉스가 바라본 다음 세대

SK하이닉스 역시 기존 DRAM Wafer Capacity를 HBM으로 전환하는 데 물리적인 시간이 필요했다.

HBM은 단순히 DRAM Wafer 투입량만 늘린다고 생산할 수 있는 제품이 아니다. DRAM Die 수율과 TSV, 적층, MR-MUF, Base Die, Advanced Packaging Capacity, 고객 인증이 동시에 따라와야 한다.

SK하이닉스의 HBM4 초기 물량 조절에는 생산능력과 수율 제약이 함께 작용했을 가능성이 있다. 다만 결과적으로는 단기적인 Bit 점유율보다 NVIDIA와의 장기 공급관계와 차세대 Custom HBM 공동개발에 자원을 배분한 선택으로 이어졌다.

SK하이닉스는 2026년 6월 이미 12단 HBM4E Sample을 주요 고객에게 공급했다.

해당 제품은 HBM4 대비 최대 16Gbps의 전송속도, 20% 이상 개선된 전력효율, 17% 낮아진 열저항을 제시했다. news.skhynix.com

HBM4의 경쟁이 Interface 확대와 Logic Base Die 양산에 있었다면, HBM4E 이후의 경쟁은 전력효율과 발열, Custom Controller, PHY, GPU와의 통합설계로 이동한다.

SK하이닉스가 HBM4에서 확보하는 단기 물량도 중요하지만, NVIDIA와 함께 다음 구조를 설계하는 능력이 장기적인 기술지위를 결정할 가능성이 높다.

현재 양사의 경쟁구도는 다음과 같이 정리할 수 있다.

삼성전자는 HBM4라는 현재 세대에서 기술 격차를 상당 부분 좁혔다.

1c DRAM과 자체 4nm Logic Base Die를 결합해 HBM4를 조기에 양산했고, AMD의 주력 HBM4 공급사 지위까지 확보했다. 이는 삼성전자의 기술과 양산 경쟁력이 분명히 회복되고 있다는 증거다. news.samsung.com

반면 SK하이닉스는 NVIDIA의 최대 HBM 공급사 지위와 차세대 제품의 공동설계 관계에서 우위를 유지하고 있다.

시장 경쟁축도 범용 HBM4 생산량에서 HBM4E·NVHBM의 Custom Base Die와 System Co-design으로 이동하고 있다.

따라서 현재 상황에 대한 해석은 다음과 같이 정리할 수 있다.

삼성전자는 HBM4라는 현재 세대에서 기술 격차를 상당 부분 좁히고, AMD를 기반으로 물량과 점유율을 빠르게 회복했다. 반면 SK하이닉스는 NVIDIA 생태계 내 공급지위와 차세대 Custom HBM 공동설계에서 여전히 구조적 우위를 유지하고 있다.

현재의 점유율과 미래의 기술지위

삼성전자의 HBM4 점유율 상승과 SK하이닉스의 차세대 기술 리더십은 동시에 성립할 수 있다.

삼성전자가 HBM4에서 성과를 냈다고 해서 SK하이닉스의 기존 경쟁력이 곧바로 사라지는 것은 아니다. 반대로 SK하이닉스가 NVIDIA와 깊은 관계를 맺고 있다고 해서 삼성전자의 기술 회복을 가볍게 볼 수도 없다.

두 회사는 서로 다른 고객과 공급능력, 기술통합 방식을 기반으로 HBM 시장을 확대하고 있다.

삼성전자는 HBM4 양산과 AMD의 높은 HBM 탑재량을 바탕으로 Bit 점유율을 빠르게 높일 수 있다. 자체 Foundry를 활용해 DRAM과 Logic Base Die를 내부에서 통합할 수 있다는 점도 강점이다.

SK하이닉스는 NVIDIA와의 장기 공급관계, MR-MUF 기반 Packaging 경험, TSMC와의 Logic Base Die 협력, 차세대 제품 공동개발을 통해 고부가가치 HBM에서 우위를 유지할 수 있다.

앞으로 중요한 것은 전체 HBM Bit 점유율 하나가 아니다.

NVIDIA 내부 공급점유율
AMD 가속기 출하량
GPU당 HBM 탑재용량
HBM4E 가격 Premium
Custom Base Die 부가가치
12단·16단 수율
Advanced Packaging Capacity
고객별 장기 공급계약

이 변수들을 함께 봐야 양사의 실질적인 경쟁력과 수익성 차이를 이해할 수 있다.

특히 NVHBM에서 Memory Controller와 PHY가 Base Die로 이동하면 HBM의 부가가치는 DRAM Bit 가격만으로 설명하기 어려워진다.

고객 맞춤형 Logic과 설계 IP, 인증비용, Packaging 복잡도가 ASP와 Margin을 함께 끌어올릴 가능성이 있다. 이때부터 HBM 점유율은 Bit보다 어떤 고객의 어떤 아키텍처에 얼마만큼 깊게 들어가 있는지가 더 중요해질 수 있다.

결국 중요한 것은 맥락을 이어가는 능력이다

기술 변화와 투자 국면은 어느 날 갑자기 단절적으로 나타나지 않는다.

현재 세대의 고객관계는 다음 세대의 공동설계로 이어진다.
이전 제품의 생산수율과 Packaging 경험은 차세대 제품의 인증기간을 단축한다.
특정 고객에게 공급한 물량은 후속 제품의 공급계약과 System Architecture 참여로 연결된다.

지금 눈앞에 나타난 하나의 숫자만 보고 이 연결고리를 끊어버리면 현재의 현상뿐 아니라 다음 변화의 방향까지 잘못 읽게 된다.

삼성전자의 HBM4 점유율 상승만 보면 SK하이닉스의 기술적 우위가 끝났다고 생각하기 쉽다. 그러나 그 배경에는 AMD의 높은 HBM 탑재량과 삼성전자의 생산 확대 여력, SK하이닉스의 NVIDIA 중심 공급구조, HBM4E 이후의 Custom Base Die 전환이 함께 놓여 있다.

반대로 SK하이닉스가 기존 HBM 시장을 주도해왔다는 이유만으로 삼성전자의 HBM4 기술 회복과 AMD에서의 물량 확대를 가볍게 봐서도 안 된다.

맥락을 유지한다는 것은 과거의 판단을 고집한다는 의미가 아니다. 새로운 정보를 기존의 인과관계 위에 연결하고, 그 정보가 기존 가정을 훼손한다면 즉시 자신의 해석을 수정하는 것이다.

사람은 한번 받아들인 해석을 쉽게 포기하지 않는다.

처음 전후맥락을 잘못 이해하면 이후에 들어오는 정보까지 기존 판단에 맞춰 해석하기 쉽다. 작은 오류가 한두 번 반복되면 사고의 출발점 자체가 틀어지고, 시간이 지날수록 원래의 인과관계로 되돌아가는 일은 더욱 어려워진다.

시장에서는 이 작은 차이가 하루아침에 큰 손실로 나타나지 않을 수도 있다.

그러나 하루와 이틀, 한 주와 한 달, 그리고 일 년이 쌓이면 처음에는 작아 보였던 해석능력과 오류수정 능력의 차이가 종국에는 범접하기 어려운 수익률 차이로 이어진다.

과거 함께 일했던 그 형님과 나의 수익률 차이도 결국 여기에서 시작됐던 것 같다.

더 많은 정보를 수집했다는 사실보다, 새로운 정보를 자신의 기존 판단과 계속 연결했다는 점이 중요했다. 그리고 자신이 틀렸다고 판단하면 투자방향을 빠르게 수정했다는 점이 더 중요했다.

AI로 인해 누구나 수많은 정보와 그럴듯한 해석을 만들어낼 수 있는 시대에는 이러한 능력의 가치가 더욱 높아질 수밖에 없다.

앞으로 투자에서 더 큰 차이를 만드는 것은 새로운 사실을 남보다 몇 분 먼저 접하는 능력만은 아닐 것이다.

그 사실이 어디에서 시작됐고,
어떤 제약과 이해관계를 거쳐 지금의 결과로 나타났으며,
다음에는 어떤 변화로 이어질지를 끊임없이 연결하는 능력일 것이다.

그리고 그 과정에서 가장 필요한 것은 남의 확신에 쉽게 휩쓸리지 않는 독립심과, 자신의 확신 역시 언제든 잘못됐을 수 있다고 인정할 수 있는 유연함이 아닐까 한다.

가장 위험한 것은 첫 단추부터 잘못 끼워진 편견을 인지하지 못한 채, 이후에 나타나는 현상까지 기존 판단에 맞춰 왜곡하고 그 위에 또 다른 해석을 누더기처럼 덧붙이는 일이다.

시간이 지날수록 오류는 수정되는 것이 아니라 하나의 견고한 확신으로 굳어지고, 결국 현실과 판단 사이의 간극은 되돌리기 어려울 만큼 벌어지게 되지 않나 싶다.

(*메모리 폭락논자들의 수익률)

https://www.ark-funds.com/funds/arkk#performance

(*그냥 해석하는 사람에 따라 다른 관점의 문제라 정답이 없음...)

특정 누군가를 비꼬는게 아니라.. 그냥 그렇다고..

=끝

2026년 10월 12일 월요일

생각정리 395 (* Semiconductor Dutch Disease)

내 나름 최근 주가급락 현상에 대한 원인을 짚어 기록해본다.

최근 10월 들어 국내 증시에서 조금 이상한 흐름이 나타나고 있다.

그동안 반도체와 함께 견조한 수익률을 기록했던 방산·원전·전력기기·조선·화장품 업종의 주가가 별다른 산업별 악재 없이 동시에 큰 폭으로 하락했다.

개별 기업의 수주가 취소되거나 실적 전망이 일제히 낮아진 것도 아니다. 그런데 외국인 매도가 집중되면서 그동안의 상승분을 빠르게 반납했다.

10월 12일 코스피는 3.65%, 코스닥은 4.83% 하락했고 외국인은 코스피에서 약 2조원을 순매도했다. 다음 날에도 장중 급락세가 이어졌다.

물론 이를 단순한 차익실현이나 글로벌 위험회피로 설명할 수도 있다. 실제로 방산·원전·조선·화장품·전력기기는 그동안 주가가 많이 상승했고, 미국 AI 투자심리 약화와 지정학적 불안도 함께 나타났다.

그러나 서로 다른 산업이 특별한 공통 악재 없이 동시에 흔들렸다면 개별 산업보다 그 위에 있는 자금 배분 구조·환율·정책·국가 할인율의 변화를 함께 살펴봐야 한다.

나는 최근의 흐름을 한국 경제와 자본시장에 나타나기 시작한 일종의 **‘반도체 네덜란드병’**과 정치·정책 리스크가 겹친 결과로 보고 있다.

https://t.me/mk81_koreainvestment
AI 반도체 이익 집중화는 전 세계 공통 현상

1. 개별 산업의 문제가 아니라 공통 할인율의 문제

방산·원전·조선·자동차·화장품은 수요처와 산업구조가 서로 다르다.

방산은 각국의 국방비와 지정학적 긴장
원전은 전력수요와 에너지 안보
조선은 LNG·해양플랜트·선박 교체주기
자동차는 글로벌 소비와 관세·현지생산
화장품은 글로벌 소비재 수요와 브랜드 경쟁력

이처럼 실적을 결정하는 변수가 서로 다른 산업이 같은 시기에 급락했다면, 공통분모는 산업 펀더멘털보다 유동성·포지셔닝·외국인의 국가 위험한도에 있을 가능성이 높다.

이들 업종은 최근 수년간 한국 증시에서 반도체 외에 외국인이 선택할 수 있었던 대표적인 글로벌 성장 산업이었다. 그만큼 외국인과 기관의 보유비중이 높았고 유동성도 풍부했다.

시장이 흔들릴 때 투자자는 반드시 전망이 가장 나빠진 자산부터 매도하지 않는다.

때로는 가장 쉽게 팔 수 있고, 그동안 수익이 많이 발생했으며, 현금화하기 좋은 자산부터 매도한다.

최근 비반도체 주도주의 급락은 기업가치의 붕괴라기보다, 외국인이 한국 전체의 위험노출을 줄이는 과정에서 이들 종목이 현금화 창구가 된 결과일 수 있다.

2. 한국형 반도체 네덜란드병

전통적인 네덜란드병은 천연가스·원유와 같은 특정 자원산업의 호황이 대규모 외화 유입과 자국 통화 강세를 만들고, 그 결과 다른 수출 제조업의 가격경쟁력을 약화시키는 현상을 뜻한다.

호황 산업은 높은 가격과 마진을 바탕으로 통화 강세를 견딜 수 있다. 그러나 가격결정력이 약하고 마진이 낮은 제조업은 같은 환율에서 수익성이 빠르게 악화된다.

현재 한국에서 발생하는 현상은 천연자원이 아니라 AI 메모리와 HBM이 외화를 벌어들이는 핵심 자원 역할을 한다는 점에서 전통적인 네덜란드병과 닮아 있다.

2026년 9월 한국의 반도체 수출은 603억달러, 전체 수출은 1,209억달러로 보도됐다. 단일 산업이 월간 수출의 절반을 차지할 정도로 한국의 수출과 기업이익이 AI 메모리 사이클에 집중되기 시작한 것이다.

HBM 가격 상승과 AI 데이터센터 투자 확대는 삼성전자와 SK하이닉스의 이익뿐 아니라 달러 현금흐름을 빠르게 늘린다.

이렇게 벌어들인 달러가 계속 해외에만 머무는 것은 아니다. 기업이 국내에서 비용을 집행하려면 달러 수출대금 가운데 일부를 원화로 환전해야 한다.

구체적인 원화 수요처는 다음과 같다.

임직원 성과급과 임금
국내 협력업체 대금
법인세와 각종 부담금
국내 설비투자와 건설비
배당금 지급
자사주 매입 후 소각을 위한 재원

주주환원도 마찬가지다.

삼성전자와 SK하이닉스가 배당을 확대하거나 자사주를 매입해 소각하려면 주식시장에서 실제로 사용할 수 있는 원화 유동성이 필요하다. 수출로 축적한 현금의 상당 부분이 달러라면, 주주환원 규모가 커질수록 달러를 매도하고 원화를 확보해야 할 필요성도 커진다.

물론 모든 성과급·배당·자사주 매입이 즉시 동일한 규모의 달러 매도로 연결되는 것은 아니다. 기업이 이미 보유한 원화예금으로 지급할 수도 있고, 외국인에게 지급된 배당금은 다시 달러로 환전돼 해외로 유출될 수 있다.

그러나 메모리 초과이익과 주주환원 규모가 수십조원 단위로 커지면 방향성은 분명하다.

달러로 벌어들인 수출대금 가운데 국내에서 사용할 몫이 커지고,
수출기업의 달러 매도와 원화 매수 수요가 구조적으로 증가한다.

한국은행도 수출업자가 수출대금으로 받은 외화를 국내통화로 환전하면 외환시장에 외화 공급이 늘어난다고 설명한다. 국제수지 흑자로 외화 공급이 증가하면 원·달러 환율은 하락하고 원화는 절상되는 방향으로 움직인다.

3. 메모리 초과이익이 원화 수요로 전환되는 과정

반도체 초과이익이 환율로 전달되는 경로를 정리하면 다음과 같다.

HBM 가격 상승
→ 메모리 수출액과 달러 현금흐름 증가
→ 성과급·세금·설비투자·배당·자사주 매입 확대
→ 국내 원화 지급수요 증가
→ 수출대금 달러 매도·원화 매수 증가
→ 원·달러 환율 하락
→ 원화의 상대적 강세
→ 비반도체 수출기업의 가격경쟁력 및 환산이익 약화

실제로 2026년 3분기 들어 원·달러 환율은 7월 1일 1,551.2원에서 9월 11일 1,344.1원으로 약 207원 하락했다.

https://tradingeconomics.com/south-korea/currency
빠르게 절상화되고 있는 KRW

같은 기간 원화 절상률은 **15.41%**로 G20 통화 가운데 가장 높았고, 2위였던 엔화의 절상률 **5.84%**보다 약 세 배 높았다.

ING 역시 당시 아시아 통화 가운데 원화가 강세를 주도했으며, 불과 수개월 동안 원·달러 환율이 약 13% 하락한 것은 이례적인 움직임이라고 평가했다.

기업들의 달러 매도도 환율 하락의 주요 원인으로 지목됐다. 수출로 유입되는 달러가 증가한 가운데 기업들이 보유하고 있던 달러까지 매도하면서 외환시장 내 달러 공급이 빠르게 늘어났기 때문이다.

반도체 수출의 증가는 단순히 삼성전자와 SK하이닉스의 실적을 개선하는 데서 끝나지 않는다.

그 과정에서 발생하는 대규모 달러 공급과 원화 수요가 한국의 환율 수준까지 변화시키고 있다.

4. 원화 강세는 모든 수출기업에 동일한 부담이 아니다

원화 강세가 모든 수출기업에 나쁜 것은 아니다.

수입 원재료와 에너지, 장비 가격을 낮추고 외화부채 상환 부담을 줄여주는 긍정적 효과도 있다. 그러나 해외 매출 비중이 높고 국내 원가 비중이 큰 기업에는 매출 환산과 가격경쟁력 측면에서 부담이 된다.

문제는 메모리 반도체와 다른 수출산업의 환율 대응 능력이 다르다는 점이다.

HBM은 공급자가 제한돼 있고, 고객이 요구하는 성능과 품질의 진입장벽이 높다. 공급 부족이 지속되는 동안에는 원화가 강해지더라도 달러 기준 판매가격을 올리거나 높은 마진으로 환율 부담을 흡수할 수 있다.

반면 자동차·조선·기계·화장품·범용 제조업은 경쟁자의 가격과 환율을 함께 고려해야 한다.

자동차는 일본·중국·유럽 업체와 경쟁한다.
조선은 중국 조선사와 경쟁한다.
화장품은 일본·중국·유럽 브랜드와 경쟁한다.
기계·부품은 일본·중국·대만 업체와 경쟁한다.
범용 소재는 중국의 공급과 가격에 직접 노출된다.

한국 기업의 생산성이 변하지 않았더라도 원화가 경쟁국 통화보다 더 빠르게 절상되면 달러로 환산한 한국 제품의 원가는 상승한다.

해외 판매가격을 그대로 유지하면 원화 환산 매출과 영업이익이 줄어든다. 반대로 원화 기준 수익성을 방어하기 위해 달러 판매가격을 올리면 시장점유율을 잃을 수 있다.

특히 일본과의 경쟁에서는 이미 이러한 변화가 나타나고 있다.

2026년 10월 원·엔 환율은 장중 100엔당 844.16원까지 하락해 원화 가치가 엔화 대비 약 18년 9개월 만에 가장 높은 수준을 기록했다. 반도체 수출 호조가 원화 강세의 주요 배경으로 지목됐다.

이는 자동차·기계·소재처럼 일본 기업과 직접 경쟁하는 한국 수출기업에는 부담이다.

같은 달러 가격으로 제품을 판매하더라도 일본 기업은 약한 엔화 덕분에 더 많은 자국통화 매출을 얻을 수 있지만, 한국 기업은 강한 원화 때문에 원화 환산 매출과 이익이 줄어든다.

결국 메모리 반도체가 벌어들이는 막대한 달러가 원화를 강하게 만들고, 그 원화 강세가 다른 수출산업의 가격경쟁력과 이익률을 압박하는 구조가 형성될 수 있다.

이는 사실상 가장 경쟁력이 높은 산업이 만들어낸 외화흑자가 다른 수출기업에 부과하는 일종의 **‘환율세’**와 같다.

5. 반도체는 원화 강세를 견디지만 다른 산업은 그렇지 못하다

이 구조가 네덜란드병에 가까운 이유는 승자 산업과 나머지 산업의 환율 감내 능력이 다르기 때문이다.

원화 강세로 삼성전자와 SK하이닉스도 환산이익 감소를 경험한다.

그러나 HBM 가격과 이익 증가 속도가 환율 하락 속도보다 훨씬 빠르다면, 원화 강세는 메모리 기업의 이익 증가율을 다소 낮출 뿐 방향을 바꾸지는 못한다.

반면 이익률이 낮거나 가격경쟁이 치열한 수출기업은 몇 퍼센트의 환율 변화만으로도 영업이익 추정치가 크게 달라질 수 있다.

메모리 기업은 환율 충격을 초과이익으로 흡수하지만, 다른 산업은 환율 충격을 가격경쟁력과 마진 훼손으로 직접 부담한다.

이 과정에서 메모리와 비메모리 산업의 이익성장률 격차는 더 확대된다.

메모리 초과이익
→ 원화 강세
→ 다른 수출기업의 이익 둔화
→ 메모리의 상대 EPS Growth 확대
→ 투자자금의 반도체 집중 심화

반도체 호황이 원화를 강화하고, 강한 원화가 다른 산업의 이익을 약화시키며, 그 결과 자금이 다시 반도체로 몰리는 자기강화 구조다.

6. 코스피의 이익성장률은 사실상 메모리 IDM 2사의 이익성장률이다

이와 관련해서는 이전 생각정리 304 (* 지수레벨, 정상 밸류에이션)에서 코스피 전체와 삼성전자·SK하이닉스의 시가총액 및 이익 비중을 비교한 적이 있다.

당시 2026년 7월 8일 기준으로 환산한 코스피 전체 시가총액은 약 5,176조원이었다.

삼성전자 보통주와 우선주, SK하이닉스의 시가총액을 합산하면 코스피 전체의 약 **63.0%**를 차지했다.

그런데 이익 집중도는 시가총액 집중도보다 더 높았다.

2026년 코스피 전체 예상 순이익 가운데 약 4분의 3이, 2027년에는 약 5분의 4가 삼성전자와 SK하이닉스 두 기업에서 발생하는 구조였다.

밸류에이션도 마찬가지였다.

코스피 전체가 극단적으로 싼 것이 아니었다.

삼성전자와 SK하이닉스의 이익추정치가 폭발적으로 올라가면서 두 기업의 PER이 낮아졌고, 이 두 기업이 코스피 전체 PER을 강제로 끌어내린 구조였다.

당시에도 내 결론은 다음과 같았다.

코스피의 저PER은 삼성전자와 SK하이닉스의 저PER이다.
두 기업을 제외한 나머지 코스피는 정상적인 밸류에이션 구간에 가깝다.

메모리 IDM 2사의 이익추정치는 계속 가파르게 올라가고 있지만, 방산·원전·자동차·조선·화장품의 이익추정치가 동일한 속도로 올라가는 것은 아니다.

여기에 원화 강세까지 더해지면 비반도체 수출기업의 이익 증가율은 반도체보다 더 빠르게 뒤처질 수 있다.

결국 주가가 비슷하게 올랐더라도 이익 증가 속도는 완전히 다르다.

이 경우 시장 전체가 조정받기 시작하면 이익 증가가 주가 상승을 따라가지 못한 산업부터 밸류에이션이 정상화될 수밖에 없다.

Citi

7. 글로벌 자금에는 ‘한국 전체’의 할당 한도가 있다

국내 투자자의 자금 이동만 봐서는 충분하지 않다.

해외 기관투자자들은 한국 주식만을 별도의 무제한 자산군으로 보지 않는다. 대체로 다음과 같은 단계로 투자비중을 배분한다.

Global Equity → Emerging Markets → EM Asia → Korea → Sector → Stock

글로벌 자산배분위원회가 먼저 선진국과 신흥국 비중을 정하고, 신흥국 펀드에서는 중국·대만·인도·한국 등 국가별 비중을 결정한다. 이후 한국에 할당된 자금 안에서 반도체·자동차·산업재·금융·소비재 비중을 다시 정한다.

MSCI Emerging Markets Index도 각 국가의 유동주식 시가총액을 기반으로 대형주와 중형주를 편입하고, 각국 유동주식 시가총액의 약 **85%**를 포괄하도록 설계돼 있다.

해외 투자자에게는 대체로 EM 전체 비중, Asia 비중, Korea 비중이 먼저 존재한다.

한국 반도체의 EPS가 급격히 증가한다고 해서 한국에 대한 전체 할당비중까지 동일한 속도로 늘어나는 것은 아니다.

한국 전체 비중이 고정돼 있는데 삼성전자와 SK하이닉스의 이익과 시가총액이 급증하면, 한국 안에서 두 기업이 차지하는 비중만 커진다. 결국 다른 한국 산업에 배분할 수 있는 몫은 자연스럽게 줄어든다.

2026년 10월 MSCI Korea Index에서 삼성전자와 SK하이닉스의 비중은 각각 약 35.3%, **27.6%**로, 두 기업의 합산 비중이 이미 **62.9%**에 달한다.

해외 투자자가 MSCI Korea Index에 가깝게 한국 비중을 운용한다면, 한국에 배분된 자금 100 가운데 약 63을 삼성전자와 SK하이닉스에 투자해야 중립적인 포지션이 된다.

나머지 한국 상장기업 전체가 나눠 가질 수 있는 몫은 37에 불과하다.

생각정리 302 (* AI H/W 주가하락, 수급우려)

8. 반도체 비중이 높아질수록 다른 산업의 비중은 기계적으로 낮아진다

이를 단순한 숫자로 표현하면 더 직관적이다.

비반도체 한국 주식 할당액
= 전체 한국 할당액 × (1 − 메모리 IDM 2사 비중)

한국에 대한 전체 투자비중이 100으로 고정돼 있다고 가정해보자.

한국 전체 할당비중에는 변화가 없다.

그런데 삼성전자와 SK하이닉스의 비중이 63에서 70으로 상승하면, 다른 모든 한국 산업에 배분할 수 있는 자금은 37에서 30으로 줄어든다.

이는 약 18.9%의 비반도체 자금 축소에 해당한다.

방산·원전·자동차·조선·화장품의 실적이 악화되지 않더라도 발생할 수 있는 일이다.

반도체의 주가와 이익이 다른 산업보다 빠르게 증가하면 패시브 자금은 시가총액 비중에 따라 반도체를 더 매수해야 한다. 액티브 펀드 역시 반도체를 지나치게 적게 보유하면 벤치마크 대비 추적오차와 상대수익률 위험이 커진다.

MSCI도 시가총액이 일부 기업에 집중된 벤치마크에서는 액티브 운용자가 종목과 업종에 대한 의견을 자유롭게 표현하기 어려워진다고 지적한다. 벤치마크 집중도가 높아질수록 특정 대형주를 적게 보유하는 것 자체가 큰 액티브 베팅이 되기 때문이다.

결국 해외 투자자의 선택은 점점 좁아진다.

한국 반도체를 비중대로 보유하거나
반도체를 줄이고 한국 전체를 언더웨이트하거나
반도체를 충분히 보유하기 위해 다른 한국 산업을 매도해야 한다

삼성전자와 SK하이닉스의 EPS Growth가 코스피 다른 기업과 비교하기 어려울 정도로 가파르게 올라가면, 외국인 입장에서는 반도체를 외면하기가 점점 어려워진다.

그렇다고 EM이나 Asia 포트폴리오에서 한국 전체 비중을 무한정 늘릴 수도 없다.

따라서 한국 내에서 반도체 비중을 높이고, 나머지 산업의 비중을 낮추는 방식으로 대응할 가능성이 가장 높다.

9. 반도체의 EPS Growth가 다른 산업의 할인율을 높인다

이 과정에서 중요한 것은 절대적인 이익 증가율보다 상대적인 이익 증가율이다.

방산기업의 영업이익이 15% 증가하고 조선기업의 영업이익이 20% 증가하더라도, 메모리 반도체 기업의 이익이 100~200% 증가한다면 글로벌 투자자의 선택은 달라진다.

투자자는 단순히 성장하는 기업을 사는 것이 아니다.

동일한 국가 위험과 동일한 통화 위험을 부담하면서 어느 기업에서 가장 큰 이익성장률을 얻을 수 있는가를 비교한다.

삼성전자와 SK하이닉스는 방산·조선·원전과 같은 한국 기업이다. 외국인 입장에서는 모두 원화자산이고 한국의 정치·정책·지정학적 위험에 노출된다.

그렇다면 같은 Korea Risk를 부담하면서 이익성장률은 훨씬 높고, 유동성은 더 풍부하며, 글로벌 AI 투자와 직접 연결된 반도체를 선택하는 것이 합리적이다.

이 때문에 반도체의 이익추정치가 올라갈수록 다른 산업의 이익이 감소하지 않더라도 상대적인 밸류에이션은 낮아질 수 있다.

HBM 가격 상승
→ 삼성전자·SK하이닉스 EPS 상향
→ 두 기업의 적정 시가총액 상승
→ MSCI Korea 내 반도체 비중 확대
→ 패시브 자금의 반도체 매수
→ 액티브 펀드의 반도체 언더웨이트 부담 확대
→ 한국 내 비반도체 비중 축소
→ 방산·원전·자동차·조선·화장품 상대 디레이팅

이것이 최근 한국 증시에서 나타나는 투자자산 쏠림의 핵심이다.

10. 왜 하필 기존 주도주가 더 크게 하락했을까

방산·원전·조선·전력기기·화장품에는 한 가지 공통점이 있다.

모두 최근 수년간 높은 수익률을 기록했고, 한국 내수보다 글로벌 시장에서 성장 논리를 인정받았으며, 외국인이 비교적 큰 규모로 투자할 수 있는 산업이었다.

그러나 주가가 많이 상승했다는 것은 앞으로 발생할 성장의 상당 부분이 이미 가격에 반영돼 있었다는 의미이기도 하다.

반도체 EPS가 재차 상향되면 기존 비반도체 주도주는 세 가지 압력을 동시에 받는다.

첫째, 반도체 대비 상대적인 이익성장률이 낮아진다.

둘째, 반도체 비중을 확대하기 위한 자금조달 대상으로 활용된다.

셋째, 반도체 수출이 만든 원화 강세로 환산이익과 가격경쟁력이 약화될 수 있다.

시장이 흔들릴 때 외국인은 한국의 중소형 내수주를 대량으로 매도하기 어렵다. 유동성이 부족하기 때문이다.

결국 외국인이 실제로 비중을 줄일 수 있는 대상은 그동안 많이 올랐고, 외국인 보유비중이 높으며, 거래대금이 충분한 방산·원전·자동차·조선·화장품 대형주가 된다.

기업 전망이 가장 나빠서가 아니라 가장 많이 보유하고 있고, 가장 쉽게 팔 수 있기 때문에 먼저 매도되는 것이다.

11. 반도체 집중 위에 정책 리스크가 더해졌다

여기에 노동·규제·재분배 정책의 불확실성까지 겹치고 있다.

2026년 3월 시행된 노란봉투법은 원청의 사용자 범위와 하청 노동자의 교섭권을 확대하고, 쟁의행위에 따른 손해배상 책임을 개인별로 산정하도록 했다.

노동권 보호라는 취지가 있지만, 기업 입장에서는 교섭 상대와 책임 범위, 파업 및 공급망 차질 비용의 예측 가능성이 낮아질 수 있다.

여기에 안전·보건 의무 위반으로 1년간 근로자 3명 이상이 사망한 기업에 영업이익의 5% 이내 과징금을 부과하는 법안도 추진됐다.

이는 단순 사망사고가 아니라 안전 의무 위반이 전제된 제재이지만, 투자자는 그 취지와 별개로 잠재적 손실 규모와 적용 기준의 불확실성을 기업가치에 반영한다.

이러한 정책은 반도체보다 조선·자동차·방산·원전처럼 대규모 생산시설과 복잡한 협력업체 구조, 다수의 현장 인력을 보유한 산업에 더 큰 부담으로 작용할 수 있다.

외국인 투자자 입장에서는 이익성장률도 반도체보다 낮은데 노동·규제 위험은 더 높아지는 산업을 굳이 높은 비중으로 보유할 이유가 줄어든다.

결국 비반도체 산업은 다음의 세 가지 압력을 동시에 받는다.

**반도체 EPS 급증에 따른 상대매력 하락

원화 강세에 따른 수출경쟁력 약화
노동·규제·정치 불확실성에 따른 할인율 상승**

12. 외국인은 정치적 안정과 정책의 연속성을 먼저 본다

외국인이 다른 나라에 투자할 때 가장 먼저 확인하는 것은 정치적 안정, 재산권, 정책의 예측 가능성이다.

특히 한국은 미국과 중국의 전략경쟁, 북한 리스크, 에너지 수입 의존, 수출 중심 산업구조가 동시에 존재한다. 방산·원전·조선·자동차는 단순한 민간기업이 아니라 외교·안보·통상정책과 직접 연결된 산업이다.

이런 상황에서 현 정부의 정치적 안정성이 약해지고 정권교체 가능성이 높아지면 외국인에게 그것이 반드시 호재로만 해석되는 것은 아니다.

정권이 바뀌면 노동·세제·에너지·외교·산업정책이 다시 뒤집힐 수 있다. 기존 법안의 시행 여부와 정부 간 계약, 수출금융, 미국과의 경제안보 협력 방향도 달라질 수 있다.

외국인의 관점에서 중요한 것은 어느 정당이 옳은가가 아니다.

앞으로 2~3년 동안 어떤 정책이 유지될지 예측할 수 있는가, 그리고 정권이 바뀌더라도 기업의 계약과 투자수익이 안정적으로 보호되는가가 중요하다.

정책의 방향보다 더 위험한 것은 정책의 방향을 예측할 수 없는 상태일 수 있다.

생각정리 392 (* The Cost of Intervention)

13. 구조적 원인과 촉발 요인을 구분해야 한다

최근 주가 하락을 정치나 환율 하나로만 설명하는 것은 무리다.

10월 급락의 직접적인 촉발 요인은 미국 AI 투자수익성 논란, 반도체 차익실현, 지정학적 불안, 높은 밸류에이션과 외국인의 포지션 축소가 겹친 결과에 가깝다.

실제로 최근 외국인 순매도액의 절대규모는 삼성전자와 SK하이닉스에 집중됐다. 보도에 따르면 올해 외국인의 코스피 순매도 가운데 두 종목이 차지한 비중은 **87%**에 달했다.

따라서 최근 매도를 단순히 외국인의 비반도체 산업 이탈로만 규정하는 것은 사실과 다르다.

다만 반도체에서 시작된 디레버리징이 비반도체 주도주로 확산될 때, 이미 상대적인 EPS Growth가 낮아지고 원화 강세와 정책 위험, 높은 밸류에이션을 안고 있던 업종의 낙폭이 더 커질 수 있다.

즉, 반도체 이익 집중이 자금배분과 환율 구조를 바꾸고, 글로벌 위험회피가 매도를 촉발했으며, 정책과 정치 불확실성이 비반도체 업종의 할인율을 추가로 높인 것으로 해석할 수 있다.

결론

최근 방산·원전·전력기기·조선·화장품의 주가 급락을 산업별 악재만으로 설명하기는 어렵다.

이들 산업의 장기 수요와 수주잔고가 단기간에 사라진 것도 아니다.
그렇다고 주가 하락을 모두 정치 탓으로 돌리는 것 역시 지나치게 단순한 해석이다.

가장 현실적인 설명은 다음과 같다.

AI·HBM으로 기업이익과 시가총액이 삼성전자와 SK하이닉스에 집중됐고,
해외 투자자의 EM·Asia·Korea 할당비중이 제한된 상황에서 메모리 IDM 2사의 비중이 커질수록 다른 한국 산업의 투자비중은 자연스럽게 줄어들 수밖에 없다.

동시에 메모리 기업이 벌어들인 대규모 달러가 성과급·세금·설비투자·배당·자사주 매입을 위한 원화 수요로 전환되면서 원화 강세 압력이 커졌다.

메모리 반도체는 높은 가격결정력과 마진으로 원화 강세를 견딜 수 있다.

그러나 자동차·조선·기계·화장품 등 다른 수출산업은 원화가 경쟁국 통화보다 강해질수록 달러 환산 원가가 상승하고, 원화 환산 매출과 이익이 감소하며, 가격경쟁력까지 약화될 수 있다.

결국 반도체 호황은 두 경로를 통해 다른 산업을 압박한다.

첫째, 자본시장에서 투자자금을 빨아들인다.

둘째, 외환시장에서 원화를 강하게 만들어 다른 수출산업의 경쟁력을 약화시킨다.

여기에 글로벌 위험회피와 차익실현이 매도를 촉발했고, 노동·규제·재분배 정책과 정권교체 불확실성이 외국인이 요구하는 한국의 할인율을 높였다.

반도체가 나빠서 다른 산업이 하락한 것이 아니다.

오히려 반도체의 EPS Growth와 달러 창출 능력이 너무 빠르게 올라가면서, 같은 Korea Risk를 부담하는 다른 산업의 상대적인 투자매력과 수출경쟁력이 동시에 낮아진 것이다.

결국 시장이 묻는 질문은 세 가지다.

한국 기업이 앞으로 더 많은 이익을 벌 수 있는가.
같은 한국 위험을 부담하면서 어느 기업이 가장 빠르게 이익을 늘릴 수 있는가.
원화 강세까지 감수하고도 글로벌 시장에서 가격경쟁력을 유지할 수 있는가.

현재 이 질문에 대한 답은 지나치게 메모리 반도체에 집중돼 있다.

삼성전자와 SK하이닉스의 이익이 코스피 전체 이익의 70~80%를 차지하고, MSCI Korea Index 내 두 기업의 비중이 60%를 넘어선다면 해외 투자자는 한국에 투자하면서 사실상 메모리 반도체를 선택할 수밖에 없다.

한국 전체 할당비중이 함께 늘어나지 않는다면 반도체 비중 확대는 다른 한국 산업의 비중 축소를 의미한다.

반도체가 벌어들인 달러가 원화를 경쟁국 통화보다 강하게 만든다면,
비반도체 수출기업은 자본시장과 실물시장에서 동시에 압박받는다.

이것이 지금 한국 경제와 증시에서 나타나기 시작한 반도체의 중력이다.

반도체의 성공은 한국 경제에 분명한 축복이다.

그러나 가장 강한 산업이 시장의 이익과 시가총액, 유동성, 해외자금, 환율까지 모두 움직이기 시작하면 그 성공은 다른 산업에 기회가 아니라 상대적인 자본 부족과 가격경쟁력 약화로 작용할 수 있다.

최근 비반도체 주도주의 동반 급락은 개별 산업의 구조적 훼손이라기보다, 한국 경제의 이익·자금·환율이 메모리 반도체 2사 중심으로 재편되는 과정에서 나타난 한국형 반도체 네덜란드병의 초기 증상에 더 가까운 것이 아닐까 싶다.

=끝

생각정리 394 (* The Memory Land Grab)

프랑스 재정위기를 필두로 다시 발작하는 crdit risk

버핏 할아버지는 금리를 자산가치에 작용하는 **‘중력’**에 비유했고, 유동성은 밀물과 썰물에 빗대어 설명하곤 했다. 물이 빠져야 누가 벌거벗고 헤엄쳤는지 드러난다는 유명한 표현도 같은 맥락이다.

평화의 배당과 인구 배당이 이어지던 시대에는 이 비유가 잘 들어맞았다. 안정된 물가와 성장, 비교적 건전한 재정이 유지되는 가운데 유동성은 경기순환에 따라 들어왔다가 빠져나갔다. 밀물 뒤에는 썰물이 왔고, 과도하게 풀린 돈은 긴축을 거치며 어느 정도 회수될 수 있었다.

그러나 지금은 전제가 달라지고 있다. 평화의 배당과 인구 배당이 끝나고, 저성장·고물가·고금리와 구조적 재정적자가 동시에 상시화되는 시대로 접어들고 있다. 정부부채와 재정지출은 경기침체가 올 때마다 한 단계씩 높아지고, 위기 때 공급된 유동성도 이전 수준까지 완전히 회수되기 어렵다.

이제 유동성은 밀물과 썰물처럼 같은 자리로 오가는 것이 아니라, 차오르는 속도만 달라질 뿐 장기적으로 수위가 계속 높아지는 해수면에 가까워지고 있는지도 모른다. 긴축기에는 상승 속도가 느려지고 표면의 파도가 잦아들 수 있지만, 이미 높아진 수위 자체가 과거로 돌아가는 것은 아니다.

그런 의미에서 나는 금리를 자산가치에 작용하는 중력보다 기업의 생존선을 위협하는 차오르는 해수면에 빗대는 편이 더 직접적이라고 생각한다.

시중금리라는 해수면이 높아지면 그 아래에 놓인 기업들은 유동성이 고갈되고 사업성이 악화돼 물속으로 사라진다. 경쟁력이 부족한 기업들은 목 끝까지 차오른 물속에서 차환과 증자에 의존하며 간신히 생존을 이어간다.

반면 물가상승세가 안정되고 해수면의 상승이 멈출 때까지 살아남은 기업들은 오히려 더 강해진다. 높은 ROIC와 ROE, 견고한 현금흐름을 보유한 기업들은 경쟁자가 사라진 시장에서 점유율을 높이고, 이후 다시 밀려오는 유동성의 큰 파도를 타고 이전보다 훨씬 멀리 나아갈 수 있다.

물가상승률은 오르내리는 Flow지만, 한 번 공급된 유동성과 그 과정에서 누적된 정부부채·통화량·자산가격은 경제 안에 남는 Stock에 가깝다. 인플레이션율이 안정된다고 해서 과거에 풀린 유동성까지 사라지는 것은 아니다. 물가의 상승 속도가 둔화될 뿐, 이미 높아진 물가와 명목자산 가격의 기준점은 그대로 남는다.

따라서 앞으로 중요한 것은 물이 언제 다시 빠질지를 기다리는 일이 아닐지도 모른다. 높아진 해수면 위에서 유동성의 파도가 다시 일어날 때, 어떤 기업이 그 파도를 가장 크고 빠르게 탈 수 있는지를 찾는 일이 더 중요하다.

과거의 경험을 되짚어보면, 해수면이 차오른다고 물에 빠져 죽을까 두려워하기보다 높아진 해수면 위에서 더 큰 파도를 타고 나아갈 기업이 무엇인지 찾아야 했다.

그리고 그런 기업을 발견했다면, 물이 다시 빠지기만을 기다릴 것이 아니라 어쩌면 팬티까지 벗어 던지고 달려드는 편이 맞지 않았나 싶다.

(*그렇기에 거시경제 충격으로 시장 전체가 함께 조정받을 때마다 위축되기보다, 확신도가 높고 견고한 해자를 갖춘 기업에 비중을 더욱 집중하는 것이 장기적으로 포트폴리오 수익률을 높이는 길이 아니었나 싶다.)

본문

최근 며칠 사이 Meta, AMD, Microsoft에서 서로 다른 뉴스가 연이어 나왔다.

Meta는 차세대 Agent 모델 Muse Wonder에서 기억과 맥락 유지 기능을 핵심 경쟁력으로 강조했다. AMD는 Agent 확산을 반영해 서버 CPU 시장 전망을 다시 높이는 동시에, 삼성전자·SK하이닉스와 3~5년 이상의 메모리 협력이 필요하다고 밝혔다.

Microsoft는 자체 AI 가속기 Maia 300에 288GB HBM4를 탑재하고, HBM 공급을 최대 5년 앞서 확보하고 있다고 설명했다. NVIDIA 역시 Rubin 이후 HBM 용량과 대역폭을 높이는 동시에 NVHBM을 통해 메모리를 GPU 설계 안으로 더 깊이 끌어들이고 있다.

그동안 HBM 수급과 가격을 공급자 관점에서 분석해왔다면, 최근 변화는 이를 수요자인 GPU·ASIC·빅테크 고객사의 실제 행동으로 확인해주는 자료에 가깝다.

앞선 두 글에서 무엇을 봤나

HBM의 적층단수와 제품구성 변화가 DRAM Wafer 수급에 미치는 영향은 아래 글에서 따로 계산했다.

생각정리 391 (* The HBM Wafer Reset)

당시 핵심은 HBM 수요 전망을 추가로 높이지 않더라도 12단·16단 제품 비중이 상승하면 동일한 HBM Bit을 생산하는 데 필요한 DRAM Wafer가 늘어난다는 것이었다.

기존 1:3의 Wafer Trade Ratio를 제품별로 수정한 결과, DRAM Wafer-equivalent Demand는 기존 모델 대비 2027년 7.4%, 2030년 21.9% 증가했다. 계획된 증설을 그대로 적용하면 2027~2029년 공급 충족률도 기존 **85~87%에서 약 73~81%**까지 낮아질 수 있다고 추정했다.

HBM 가격의 상단은 아래 글에서 따로 역산했다.

생각정리 393 (* HBM Price Reset)

NVIDIA가 GPU ASP를 높이고 매출총이익률 하락을 일부 감수할 경우, HBM에 지불할 수 있는 예산이 얼마나 늘어날 수 있는지를 계산했다. 여기에 GPU당 HBM 용량을 조정하는 경우까지 반영하면 일부 고부가 HBM 가격은 기존 대비 3배에 근접할 수 있다는 결론이었다.

이번 글에서는 이 산식을 다시 반복하지 않는다.

새롭게 확인하려는 것은 GPU·ASIC 고객사들이 실제로 어떤 제품을 만들고, 얼마나 긴 기간의 HBM 공급을 확보하려 하는가다.

결론부터 정리하면

최근 고객사들의 움직임은 앞선 두 글의 방향을 오히려 강화한다.

Agent 경쟁의 핵심이 단순 연산성능에서 기억·맥락 유지·장기 작업 수행으로 이동하고 있다.
NVIDIA뿐 아니라 AMD와 Microsoft ASIC도 GPU·가속기당 HBM 용량과 대역폭을 크게 높이고 있다.
HBM 구매계획이 1~2년에서 3~5년 이상의 장기 Capacity 선점으로 이동하고 있다.
HBM4는 대량 양산 경쟁이지만, HBM4E부터는 고객별 시스템 로드맵을 선점하는 공동설계 경쟁이 된다.

결국 HBM 수요 확대는 NVIDIA GPU 한 제품에 의존하는 이야기가 아니다.

Merchant GPU, Custom ASIC, Agent Model, CPU Orchestration이 모두 같은 메모리 병목을 가리키기 시작했다.

Meta Muse Wonder가 강조한 것은 기억이었다

Meta는 2026년 10월 12일 개인·업무용 AI Agent에 최적화된 Muse Wonder와 Muse Wonder Full을 공개했다.

핵심 기능은 Active Memory와 Active Focus다.

Active Memory는 며칠·몇 주·몇 달 전의 대화와 작업에서 중요한 정보를 기억하고, 현재 업무에 필요한 과거 맥락을 능동적으로 검색하는 기능이다. Active Focus는 장시간 작업 중 장애물이 발생해도 대안을 찾고, 새로운 정보에 맞춰 실행계획을 계속 수정하는 기능이다.

Meta, Muse Wonder 공식 발표

Agent의 기억이 왜 HBM·Server DRAM·eSSD 수요로 이어지는지는 이전 글에서 정리했다.

생각정리 378 (* The Memory Behind Every Agent)

Meta가 말하는 Active Memory가 곧바로 HBM을 의미하는 것은 아니다.

사용자의 장기 기억은 SSD와 데이터베이스에 저장되고, 필요한 정보는 CPU와 Server DRAM을 거쳐 검색된다. 그러나 검색된 맥락이 현재 Context에 편입되고 Attention과 KV Cache 연산이 시작되면, 반복적으로 사용되는 뜨거운 데이터는 HBM으로 이동한다.

중요한 것은 메모리 계층 전체의 회전속도가 빨라진다는 점이다.

기억해야 할 맥락 증가 → 검색과 Tool Call 증가 → 동시 활성 Context 증가 → KV Cache 증가 → HBM 접근량 증가

Muse Wonder는 Agent가 단순히 더 똑똑한 답변 모델로 발전하는 것이 아니라, 기억과 상태를 장기간 유지하는 Persistent Worker로 바뀌고 있음을 보여준다.

Agent의 제품 경쟁력이 기억에 달려 있다면, 그 기억을 저장하고 실시간으로 불러오는 물리적 메모리는 비용 항목이 아니라 서비스 품질을 결정하는 핵심 인프라가 된다.

AMD의 CPU 전망 상향도 같은 변화를 가리킨다

Agent가 모든 작업을 GPU 안에서 처리하는 것은 아니다.

CPU는 Agent의 작업을 분해하고,
API를 호출하고,
데이터베이스와 스토리지에서 정보를 불러오며,
권한과 보안을 확인하고,
결과를 다시 GPU에 전달한다.

AMD는 이 변화를 반영해 2030년 서버 CPU 시장 전망을 계속 높여왔다.

https://newsroom.amd.com/news/ocp-2026-amd-ceo-lisa-su-keynote-takeaways/

마지막 3,000억달러는 AMD의 공식 수치가 아니라 Meta Muse와 같은 상시 구동형 Agent 확산을 반영한 Citi 전망이다. AMD가 공식적으로 제시한 최신 수치는 2,200억달러다.

AMD는 기존 Chatbot 중심 시스템에서 CPU와 GPU의 비율이 약 1:4~8이었다면, Agent 환경에서는 1:1 또는 CPU가 더 많은 구조로 이동할 수 있다고 설명했다.

AMD, Agentic AI Changes the CPU/GPU Equation

CPU 수요 증가는 GPU나 HBM 수요 감소를 의미하지 않는다.

CPU가 더 많은 Agent와 Tool Call을 관리할수록 GPU에 전달되는 모델 호출과 Context도 함께 증가한다. CPU는 HBM의 대체재라기보다 더 많은 HBM 트래픽을 발생시키는 오케스트레이터에 가깝다.

AMD는 왜 GPU당 HBM을 더 많이 탑재하나

AMD Instinct 시리즈는 전통적으로 동시기 NVIDIA GPU보다 더 많은 HBM 용량을 탑재해왔다.

제품 출시시점과 시스템 구성이 완전히 같지는 않기 때문에 이를 일대일 성능 비교로 해석해서는 안 된다.

다만 AMD가 GPU당 HBM 용량을 경쟁력의 핵심으로 사용해왔다는 방향성은 분명하다. MI325X는 256GB·6TB/s, MI350X는 288GB·8TB/s, 차세대 MI455X는 432GB HBM4·23.3TB/s까지 높아진다.

AMD Instinct MI455X 공식 사양

MI455X는 HBM4 36GB 스택을 12개 사용한다. 8스택·288GB를 탑재하는 NVIDIA Rubin이나 Microsoft Maia 300보다 HBM 스택 투입량이 50% 많다.

동일한 수의 가속기를 출하해도 AMD가 더 많은 HBM 생산능력을 필요로 한다는 의미다.

AMD는 NVIDIA보다 작은 소프트웨어 생태계와 GPU 간 연결 최적화의 약점을 대용량 HBM으로 일부 보완해왔다. 대형 모델과 KV Cache를 GPU 또는 Pod 내부에 더 많이 유지하면 Host Memory나 외부 Storage로 데이터를 내보내는 빈도를 줄일 수 있기 때문이다.

AMD에는 HBM이 단순 원가가 아니라 NVIDIA와 차별화할 수 있는 제품 사양이다.

삼성전자와 AMD의 이해관계가 맞아떨어졌다

삼성전자와 AMD는 2026년 3월 공식 MOU를 체결하고, 삼성전자가 MI455X용 HBM4 주공급에 참여하기로 합의했다.

삼성전자·AMD, 차세대 AI 메모리 솔루션 협력 확대

NVIDIA가 SK하이닉스의 선단 HBM 생산능력 상당 부분을 선점해온 상황에서 AMD는 대규모로 HBM4를 공급할 수 있는 추가 공급기반이 필요하다.

MI455X는 GPU당 HBM4를 12스택씩 소비한다. AMD가 2027년 Helios와 MI455X 생산량을 늘릴수록 필요한 HBM 물량도 가속기 출하량보다 빠르게 증가할 수 있다.

삼성전자 입장에서도 AMD는 HBM4 대량출하 레퍼런스를 확보하고, 차세대 Custom HBM 공동설계로 관계를 확대할 수 있는 전략적 고객이다.

리사 수 AMD CEO가 방한해 삼성전자와 SK하이닉스 경영진을 차례로 만난 뒤 다음과 같이 말한 배경이기도 하다.

“한국은 AMD에 중요한 생태계이며, 1~3년의 단기적 관계가 아닌 3~5년 이상의 중장기 파트너십이 필요하다.”

리사 수 AMD CEO 인터뷰

이는 단순히 내년 HBM 물량이 부족하다는 의미가 아니다.

AMD가 3~5년 뒤 GPU와 CPU 로드맵을 실현하려면 HBM4뿐 아니라 HBM4E와 후속 세대의 DRAM Wafer, Logic Base Die, 적층·패키징 생산능력까지 지금부터 확보해야 한다는 의미에 가깝다.

Microsoft Maia 300은 ASIC도 HBM을 더 많이 사용한다는 증거다

Custom ASIC이 NVIDIA GPU를 대체하면 HBM 수요가 줄어들 것이라는 시각도 있었다.

그러나 Microsoft가 공개한 Maia 300은 반대 방향을 보여준다.

Maia 300은 이전 Maia 200보다 HBM 용량이 33%, 대역폭이 2.5배, 전력당 HBM 대역폭이 약 2배 증가한다.

Microsoft는 Long-context Reasoning과 Multi-step Agent 작업에서는 연산성능 자체보다 데이터 이동이 병목이 되고 있다고 설명했다. 더 많은 모델 상태와 KV Cache를 연산장치 가까이에 유지하기 위해 HBM 용량과 대역폭을 동시에 높인 것이다.

Microsoft Azure, Deep Dive into Maia 300 Architecture

Microsoft는 2027년부터 Maia를 Multi-Gigawatt 규모로 배치할 계획이다.

Maia 300의 랙당 전력이 167kW이므로 명목전력 기준 1GW를 단순 환산하면 약 5,988개 랙, 57만5,000개 가속기, 460만개의 HBM4 스택이 필요하다.

전체 설치 HBM 용량은 약 165PB에 해당한다.

실제 배치 규모는 전력 이용률과 네트워크·호스트·냉각 전력에 따라 달라진다. 그럼에도 Custom ASIC 확대가 HBM 수요 감소를 의미하지 않는다는 방향은 분명하다.

NVIDIA GPU가 Microsoft ASIC으로 대체되더라도 가속기 한 개가 요구하는 HBM은 여전히 288GB다.

GPU와 ASIC의 경쟁은 HBM을 사용할 것인지의 경쟁이 아니라, 어떤 HBM을 얼마나 많이, 어떤 구조로 사용할 것인지의 경쟁으로 바뀌고 있다.

Microsoft가 5년 뒤 물량까지 확보하는 이유

Microsoft Maia 사업 책임자인 Andrew Wall은 HBM 산업이 심각한 공급 제약 상황에 있으며, Maia 300뿐 아니라 그 이후 로드맵에 필요한 물량까지 확보하기 위해 주요 메모리 업체들과 협력하고 있다고 밝혔다.

https://m.sedaily.com/article/20100722

특히 신뢰할 수 있는 공급사에는 최대 5년 앞서 주문할 수 있을 정도의 관계가 중요하다고 강조했다.

Microsoft AI Chip Chief Says HBM Is Scarce, Secures Supply Five Years Out

2027년부터 배치되는 Maia 300의 HBM4 물량만 확보하려는 것이라면 5년 계약까지 필요하지 않다.

Microsoft가 5년 뒤 생산능력을 논의한다는 것은 HBM4E와 후속 HBM 세대, Logic Base Die, Advanced Packaging 및 고객별 인증 일정까지 현재의 공급협상에 포함되고 있다는 의미로 해석할 수 있다.

AMD의 3~5년 파트너십과 Microsoft의 5년 선행주문은 같은 방향을 가리킨다.

과거처럼 제품이 완성된 뒤 메모리를 구매하는 것이 아니라, 차세대 가속기를 설계하는 시점부터 HBM 공급능력을 함께 예약해야 하는 시장으로 바뀌고 있다.

NVIDIA GPU와 Custom ASIC은 HBM 시장에서 같은 방향으로 움직인다

AI 가속기 시장에서는 NVIDIA의 범용 GPU와 빅테크의 Custom ASIC이 경쟁한다.

하지만 HBM 관점에서는 두 진영이 반대 방향으로 움직이지 않는다.

NVIDIA는 Rubin에서 288GB HBM4와 22TB/s를 제공하고, AMD는 MI455X에서 이를 432GB와 23.3TB/s까지 높인다. Microsoft의 자체 ASIC 역시 288GB와 18TB/s를 탑재한다.

GPU와 ASIC의 경쟁이 심해질수록 각 업체는 자신의 연산구조에 맞는 메모리 용량·대역폭·전력효율을 확보해야 한다.

이는 표준 HBM 수요가 사라지는 것이 아니라 고객별 HBM 설계의 수가 늘어난다는 뜻이다.

NVIDIA가 NVHBM을 통해 Memory Controller를 Base Die 쪽으로 이동시키려는 이유와 구조적 의미는 이전 글에서 정리했다.

생각정리 355 (* HBM Hegemony, NVHBM)

앞으로 HBM 공급사는 단순히 DRAM 다이를 적층해서 납품하는 역할에 머물기 어렵다.

고객사의 XPU 구조에 맞춰 PHY, Controller, Logic Base Die, 전력관리, 패키징과 수율까지 공동으로 최적화해야 한다.

HBM4는 양산경쟁, HBM4E는 설계권 경쟁

HBM4의 우선 과제는 12단 제품을 높은 수율로 대량생산하는 것이다.

반면 HBM4E부터는 단순히 더 빠른 HBM을 만드는 것만으로 부족하다. 고객별 가속기의 연산구조와 네트워크, 전력 및 패키징 설계에 맞춘 Customization이 본격화될 가능성이 높다.

Microsoft Maia, Google TPU, Amazon Trainium, Meta MTIA와 Broadcom 계열 ASIC은 서로 다른 연산구조와 데이터 이동방식을 갖는다. NVIDIA와 AMD 역시 GPU당 HBM 용량과 인터페이스 구성이 다르다.

같은 HBM4E라도 고객에 따라 필요한 스택 수·핀당 속도·전력·Base Die 기능과 패키징 조건이 달라진다.

따라서 HBM4E 경쟁은 시장점유율만의 경쟁이 아니다.

누가 고객의 차세대 XPU 설계 초기부터 참여해 향후 3~5년의 HBM 공급 지위를 확보하는가의 경쟁이다.

이 때문에 HBM4보다 HBM4E 시장에서 업체별 매출과 이익의 격차가 더 크게 벌어질 가능성이 높다.

앞서 계산한 Price Reset은 이미 협상가격에 가까워지고 있다

생각정리 393 (* HBM Price Reset)에서는 NVIDIA의 GPU ASP와 매출총이익률을 기준으로 일부 고부가 HBM 가격이 기존 대비 3배에 근접할 수 있는 상단을 역산했다.

당시에는 고객이 감당할 수 있는 경제적 가격의 상단을 계산한 것이었다.

그러나 최근 삼성전자가 주요 고객사와 협의 중인 2027년 HBM4 가격은 이미 비슷한 구간을 가리키고 있다.

2027년 HBM4 제시가격: 1Gb당 $4 중후반
현재 HBM3E 추정가격: 1Gb당 약 $1.5
HBM3E 대비 가격: 약 3배
2026년 HBM4 스택 대비 가격: 약 2배 이상
TrendForce 2027년 HBM Blended ASP 전망: 전년 대비 +121%

비교 기준에 따라 상승률은 달라진다.

HBM3E와 세대 간 가격을 비교하면 약 3배, 2026년 HBM4와 2027년 장기계약 가격을 비교하면 약 2배 이상이다. 모든 HBM 가격이 일률적으로 세 배 오른다는 뜻은 아니지만, 가격 기준점 자체가 기존 세대 전환기의 점진적인 인상폭을 벗어나고 있다는 점은 분명하다.

이는 단순히 메모리 업체가 공격적인 가격을 제시했기 때문만은 아니다.

AMD는 GPU당 12스택을 사용하면서 3~5년 공급관계를 요구하고 있다. Microsoft는 8스택 기반의 자체 ASIC을 Multi-Gigawatt 규모로 배치하면서 5년 뒤 HBM까지 예약하려 한다. NVIDIA는 NVHBM을 통해 메모리를 XPU 설계의 일부로 통합하고 있다.

가격을 결정하는 단위가 GB와 속도에서 가속기의 실제 처리량, 전력효율, 설계면적과 공급안정성으로 이동하고 있다.

이번에 새롭게 확인한 것

앞선 Wafer Reset은 HBM 고단화가 공급을 얼마나 잠식하는지를 계산한 글이었다.

Price Reset은 제한된 HBM을 확보하기 위해 GPU 업체가 감당할 수 있는 가격의 상단을 계산한 글이었다.

최근 Meta·AMD·Microsoft·NVIDIA의 변화는 두 분석 사이를 고객 행동으로 연결한다.

Meta Muse Wonder

기억과 장기 Context가 Agent 제품의 핵심 기능으로 이동했다.

AMD

CPU 시장 전망을 반복해서 높이고, GPU당 HBM을 432GB까지 확대했으며, 한국 메모리 업체들과 3~5년 이상의 공급관계를 요구하기 시작했다.

Microsoft Azure

Custom ASIC에도 288GB HBM4를 탑재하고 Multi-Gigawatt 배치를 준비하면서 최대 5년 뒤 HBM까지 확보하고 있다.

NVIDIA

HBM 용량과 대역폭을 높이는 동시에 NVHBM을 통해 메모리 Controller와 Base Die의 설계권까지 GPU 아키텍처 안으로 가져오고 있다.

서로 다른 네 기업이 같은 결론에 도달하고 있다.

앞으로 AI 시스템의 병목은 연산장치의 수만이 아니라, 그 연산장치가 필요한 데이터를 얼마나 많이 보관하고 얼마나 빠르게 공급받을 수 있는가다.

메모리 3사의 실적에는 어떻게 연결될까

HBM 가격이 2~3배의 새로운 기준점으로 이동하면 수혜는 단순 매출 증가에 그치지 않는다.

HBM은 일반 DRAM보다 많은 Wafer를 사용하기 때문에 공급량을 늘리는 속도가 제한된다. 반면 고객사는 3~5년 물량을 미리 예약하면서 높은 가격을 받아들이고 있다.

이에 따라 실적 전달경로는 다음과 같이 바뀐다.

Agent·ASIC 수요 증가

→ GPU·가속기당 HBM 용량 증가

→ Wafer와 패키징 Capacity 선점

→ HBM4·HBM4E 가격 상승

→ 고부가 제품 믹스 확대

→ HBM과 범용 DRAM의 마진 격차 축소 또는 역전

→ 장기 공급계약을 통한 이익 가시성 상승

SK하이닉스는 NVIDIA와의 선도적인 공급관계와 높은 HBM 비중을 갖고 있다. 삼성전자는 AMD MI455X를 기반으로 HBM4 대량출하 레퍼런스를 확보하고 Custom ASIC 고객까지 확대할 수 있다. Micron은 북미 고객 접근성과 전력효율을 기반으로 HBM 공급을 늘리고 있다.

HBM 비중이 높았던 업체는 초기 수율과 선행투자 부담 때문에 범용 DRAM 가격 급등기에는 이익 증가율이 상대적으로 낮아 보일 수 있었다.

그러나 HBM4 가격이 2~3배로 재설정되고 HBM4E에서 고객별 Customization Premium이 붙기 시작하면, 기존에 HBM 비중이 높았던 업체들의 매출과 이익 추정치가 더 크게 상향될 가능성이 있다.

물론 실제 이익은 계약가격뿐 아니라 12단 수율, Logic Base Die 원가, 패키징 수율과 고객별 개발비를 함께 확인해야 한다.

그럼에도 HBM의 가격이 범용 DRAM 대비 낮은 수율과 높은 Wafer 소모량을 충분히 보상하기 시작한다면, HBM은 더 이상 성장률만 높고 수익성이 상대적으로 낮은 제품이 아니다.

정리하며

HBM 시장 전망을 다시 확인해보면 새로운 방향으로 바뀐 것은 많지 않다.

달라진 것은 방향이 아니라 기울기와 확신의 정도다.

(*계산전에는 미묘해 보일지 몰라도, 막상 다시 재설정(*Reset)하고 나면 상당한 차이를 보일때가 간혹있다. 이 부분이 항상 제일 어려운 부분이다.)

Agent는 기억과 장기 Context를 제품의 핵심 기능으로 만들고 있다. AMD는 Agent가 CPU 시장을 얼마나 크게 바꿀지 계속 전망치를 높이고 있다. GPU당 HBM 용량은 288GB에서 432GB까지 증가하고 있다.

Microsoft는 자체 ASIC에서도 288GB HBM4를 사용하며, Multi-Gigawatt 배치를 위해 5년 뒤 공급까지 확보하고 있다. NVIDIA는 NVHBM을 통해 HBM을 GPU에 부착되는 부품이 아니라 XPU 설계 자체의 일부로 바꾸고 있다.

이 모든 변화가 동시에 진행되는 가운데 HBM 고객사는 3~5년 장기계약을 요구하고, 가격은 HBM3E 대비 약 3배, 직전 HBM4 대비 약 2배 이상의 구간으로 이동하고 있다.

앞서 계산한 HBM Wafer Reset은 공급 측면의 문제였다.

HBM Price Reset은 그 부족한 공급의 가치가 어디까지 올라갈 수 있는지에 대한 계산이었다.

최근 고객사들의 행동은 두 가정 사이의 연결고리를 채워준다.

Agent가 기억을 요구하고,
GPU와 ASIC이 더 많은 HBM을 탑재하며,
고객사가 5년 뒤 생산능력까지 미리 확보하려 한다면,
HBM 공급부족과 가격 재설정은 일시적인 사이클로 보기 어렵다.

HBM4는 대규모 양산 경쟁의 시작이다.

그러나 HBM4E부터는 누가 더 많은 HBM을 생산하는가보다, 누가 고객의 차세대 XPU와 데이터센터 아키텍처 안으로 더 깊이 들어가는가가 중요해진다.

결국 HBM 시장의 본격적인 격전은 생산량 경쟁이 아니라 미래 AI 시스템의 Memory Roadmap을 선점하는 경쟁이 될 가능성이 높다.

=끝.

카테고리