AGI, ASI의 시대가 더 이상 먼 미래의 이야기가 아닐지도 모르겠다.
Frontier Lab에서는 AI가 AI 연구 자체를 가속하는 RSI(Recursive Self-Improvement) 연구개발이 본격화되고 있고, 최첨단 모델의 성능이 빠르게 높아지면서 새로운 모델의 공개와 배포에서도 보안과 통제 가능성이 점점 더 중요한 문제로 부상하고 있다.
 |
| https://x.com/sama |
동시에 LLM 내부에서 우리가 흔히 ‘자아’나 ‘의식’이라고 부르는 현상과 유사한 특성이 나타날 가능성을 탐구하는 연구까지 접하다 보면, 지금의 발전 속도가 단순한 성능 개선을 넘어 AGI와 ASI로 이어지는 전환점에 가까워지고 있는 것은 아닌가 하는 생각도 든다.
아직 많은 부분이 검증되지 않은 영역이지만, 적어도 AI가 수행하는 작업의 복잡성과 자율성이 빠르게 높아지고 있다는 방향성만큼은 분명해 보인다.
 |
| Emergent Introspective Awareness in Large Language Models |
이처럼 AI가 급변하는 시점에서 최근 조금 다른 시각으로 바라보기 시작한 기업이 Cerebras이다. 지금까지 AI 인프라 경쟁의 중심이 더 많은 연산능력과 HBM을 중심으로 한 대용량 메모리 계층에 있었다면, Agentic AI가 확산되면서 얼마나 많은 정보를 기억할 수 있는가뿐 아니라 얼마나 빠르게 생각하고 반응할 수 있는가가 새로운 가치로 부상하고 있기 때문이다.
Cerebras가 가진 저지연·초고속 Decode라는 특성은 단순히 Chatbot의 답변을 빨리 보여주는 기능이 아니다. Coding Agent, Cybersecurity, 실시간 Research, Voice AI처럼 여러 번 추론하고 검증하며 즉시 행동해야 하는 산업에서는 Latency 자체가 AI의 생산성과 제품 성능을 결정하는 변수가 될 수 있다.
 |
| OpenAI (@OpenAI) / X |
따라서 Cerebras를 기존 GPU나 HBM을 대체하는 또 하나의 AI Chip으로 보기보다는, 앞으로 AI Memory Hierarchy가 세분화되는 과정에서 HBM이 대규모 Context와 기억을 담당하고, Cerebras와 같은 SRAM 중심의 저지연 Architecture가 빠른 추론과 반응을 담당하는 새로운 Layer가 형성될 가능성에 주목할 필요가 있다고 생각한다.
아래는 이러한 관점에서 Cerebras의 최근 성장, 저지연 inference가 만들어내는 새로운 수요, Cybersecurity를 비롯한 실사용 사례, 그리고 HBM 중심 Architecture와의 경쟁과 분업 가능성을 살펴본 리서치 기록이다.
Cerebras의 급성장은 무엇을 의미하는가: HBM 시대에 ‘빠른 디코딩’이 만드는 새로운 시장
Cerebras를 처음 보면 가장 직관적인 설명은 간단하다. NVIDIA GPU보다 훨씬 빠르게 토큰을 생성하는 특수 AI 칩을 만들었고, AI inference 시장이 커지면서 그 수요가 늘고 있다는 것이다.
하지만 최근 Cerebras의 성장 속도를 설명하기에는 이것만으로 부족하다. 더 중요한 변화는 시장이 ‘빠른 inference’를 단순한 사용자 편의가 아니라, AI가 실제로 할 수 있는 일의 범위를 결정하는 하나의 자원으로 재평가하기 시작했다는 것이다.
특히 Agentic AI가 확산되면서 AI는 질문에 한 번 답하고 끝나는 것이 아니라 계획을 세우고, 검색하고, 코드를 작성하고, 결과를 검증하고, 다시 판단하는 과정을 반복한다. 이 환경에서는 한 번의 응답을 10초에서 1초로 줄이는 것이 단순한 UX 개선을 넘어 같은 시간 안에 수행할 수 있는 reasoning·tool call·validation의 횟수를 늘리는 효과를 갖는다.
다만 여기에는 중요한 반대편도 존재한다. Agent가 장시간 작동하고 context와 KV cache가 계속 커지면 속도보다 메모리 용량이 더 중요한 문제가 된다. 바로 이 지점에서 대용량 HBM을 중심으로 발전하는 NVIDIA·AMD 계열의 GPU architecture가 Cerebras와 전혀 다른 강점을 갖는다.
따라서 Cerebras와 HBM의 관계를 누가 누구를 대체하는 경쟁으로 보는 것보다, 앞으로 AI inference가 “대용량 Context를 보관하고 처리하는 계층”과 “최종 답을 극도로 빠르게 생성하는 계층”으로 분리될 가능성에 주목하는 것이 더 중요하다.
1. Cerebras는 왜 갑자기 빠르게 성장하고 있는가
 |
| 2026.08.13 Cerebras |
최근 숫자부터 보면 변화가 상당히 선명하다. Cerebras의 2026년 2분기 Core Revenue는 2억990만달러로 전년 대비 103% 증가했다. 그런데 Hardware Revenue는 17% 증가한 8,210만달러였던 반면, Cloud & Other Services Revenue는 1억2,770만달러로 287% 증가했다.
즉 최근 Cerebras의 성장을 단순히 “AI 칩을 더 많이 팔고 있다”고 이해하면 핵심을 놓친다. 회사의 성장축이 Wafer-Scale Engine이라는 하드웨어 판매에서, 그 하드웨어가 생산하는 고속 token을 Cloud를 통해 판매하는 사업으로 빠르게 이동하고 있기 때문이다.
회사는 2026년 Core Revenue 가이던스를 8억8,000만~8억9,000만달러로 높였고, 2027년에는 Core Revenue가 다시 3배 이상 증가할 것이라고 밝혔다. 2026년 6월 말 RPO도 254억달러에 달한다.
현재 문제는 수요 부족이 아니라 오히려 공급능력이다. Cerebras는 최근 7개월 동안 2027년 말까지 공급될 600MW 이상의 데이터센터 Capacity를 확보했고 추가 Pipeline은 GW 단위라고 설명한다. 제조 Capacity도 2026년에 10배 이상 확대할 예정이다.
여기에서 성장의 인과관계가 나온다.
Fast Inference Demand → Data Center Capacity 확보 → Cerebras System 설치 → High-speed Token 공급 증가 → Cloud Revenue 증가
즉 현재 Cerebras에서는 데이터센터를 얼마나 빨리 확보하고 시스템을 설치하느냐가 매출 성장률을 결정하는 병목이다.
물론 숫자의 질을 볼 때는 한 가지 주의해야 한다. 현재 RPO와 성장의 상당 부분은 OpenAI 같은 대형 고객에 기반하며, 회사도 OpenAI가 2027년까지 상당한 매출 비중을 차지할 것이라고 인정한다. 반면 AWS, Coding, Security 등의 비중이 커지면서 장기적으로 고객 집중도가 낮아질 것이라는 것이 회사의 주장이다.
따라서 빠른 성장이 곧바로 광범위한 산업 수요가 완전히 검증됐다는 의미는 아니다. 지금부터 중요한 것은 OpenAI 이후 두 번째, 세 번째 수요처가 실제 매출로 얼마나 빠르게 확대되는가이다.
또 하나의 성장 배경: HBM·CoWoS·선단공정 병목에서 상대적으로 자유로운 공급망
여기에 Cerebras의 최근 성장을 이해할 때 하나 더 주목해야 할 부분이 있다. Cerebras의 공급망 구조가 기존 고성능 GPU와 상당히 다르다는 점이다.
현재 최첨단 AI GPU를 증산하려면 GPU Logic Chip만 충분해서는 안 된다. 선단 Logic Wafer뿐 아니라 HBM과 CoWoS 같은 Advanced Packaging Capacity가 동시에 확보되어야 최종 AI Accelerator를 출하할 수 있다. 따라서 Logic, HBM, Packaging 가운데 어느 하나라도 공급이 부족하면 전체 시스템 출하량이 제한될 수 있다.
반면 Cerebras의 WSE-3는 TSMC 5nm 공정에서 생산되며, HBM 대신 대규모 SRAM을 Wafer-Scale Processor 내부에 직접 집적하는 구조를 사용한다. Cerebras 경영진 역시 현재 AI 반도체 산업의 주요 공급 제약인 HBM Memory, CoWoS Packaging, 3nm Fab Capacity를 필요로 하지 않는다는 점을 공급망상의 장점으로 강조하고 있다. 또한 5nm 공정을 사용하기 때문에 3nm나 그 이하의 최신 선단공정에 비해 Wafer 가격이 낮고 공급 역시 상대적으로 덜 제약되어 있다고 설명한다.
이를 단순화하면 최신 GPU의 공급망은 대략
Leading-edge Logic → HBM → CoWoS → System
이라는 여러 병목을 동시에 통과해야 한다.
반면 Cerebras는 상대적으로
5nm Wafer → Wafer-Scale Engine → System
에 가까운 구조이다.
이 차이는 AI 수요가 공급을 크게 초과하는 현재 환경에서 특히 중요하다. 아무리 inference 성능이 좋더라도 시스템을 충분히 생산하지 못하면 매출로 전환할 수 없기 때문이다.
Cerebras는 현재 TSMC로부터 향후 성장에 필요한 Wafer를 확보했다고 밝히고 있으며, 제조 Capacity를 2026년 중 10배 이상 확대할 계획이다.
따라서 Cerebras의 성장 논리는 단순히
“빠른 칩이기 때문에 수요가 증가한다”
에서 끝나는 것이 아니라,
Fast Inference Demand
→ HBM·CoWoS·최선단공정 의존도가 낮은 Supply Chain
→ 상대적으로 빠른 Manufacturing Ramp
→ System Deployment 증가
→ Token Capacity 증가
→ Revenue Growth
라는 공급 측 인과관계까지 포함한다.
물론 이것이 Cerebras에 공급망 문제가 없다는 의미는 아니다. Wafer-Scale Processor 자체의 제조 난이도는 매우 높으며 TSMC에 대한 의존도도 존재한다. 또한 Cerebras 경영진이 현재 가장 큰 물리적 병목으로 지목하고 있는 것은 반도체보다 데이터센터 전력과 공간이다.
다만 NVIDIA·AMD 계열의 최신 AI Accelerator가 선단 Logic + HBM + Advanced Packaging이라는 여러 공급 제약을 동시에 관리해야 하는 것과 비교하면, Cerebras는 현재 AI 공급망에서 가장 타이트한 일부 병목을 구조적으로 우회하고 있다는 점에서 Capacity 확대에 상대적으로 유리한 위치에 있다고 볼 수 있다.
세 가지 설명을 경쟁시켜보면
현재 증거를 종합하면 첫 번째 설명이 Cerebras의 현재 매출 성장을 가장 잘 설명한다. 하지만 장기적인 기업가치를 결정할 가능성이 더 높은 것은 두 번째와 네 번째 설명이다.
2. 빠른 응답속도의 의미가 바뀌고 있다
과거 inference speed를 이야기할 때 가장 흔한 설명은 “ChatGPT 답변이 더 빨리 나온다”였다.
이 관점에서는 10초가 1초로 줄어드는 것이 편리하기는 하지만 반드시 수십억달러의 새로운 반도체 시장을 만들 이유는 없어 보인다.
 |
| Accelerating GPT-5.6 Sol Ultrafast with OpenAI |
하지만 Agent 시대에는 구조가 달라진다.
일반적인 Agent는 다음과 같이 움직인다.
Think → Search → Reason → Tool Call → Observe → Reason → Validate → Act
각 단계 사이에 LLM inference가 들어가면 이전 단계가 끝나기 전 다음 단계로 갈 수 없다. 즉 많은 과정이 Sequential Critical Path 위에 있다.
예를 들어 각 inference 단계가 5초이고 10번의 reasoning loop가 필요하면 모델에서만 50초가 소비된다. 같은 inference가 0.5초라면 5초가 된다.
따라서 Agent에서는 inference latency가 단순히 “답변을 기다리는 시간”이 아니라 Task Completion Time을 결정하기 시작한다.
Lovable과 Cerebras가 2026년 8월 발표한 협업은 이 구조를 잘 보여준다. Lovable은 소프트웨어 생성이 하나의 요청이 아니라 planning, scaffolding, component 작성, 오류 수정, 재작성 등이 연결된 연속적인 작업이라고 설명하며, 일부 latency-sensitive workload를 Cerebras에서 실행하기로 했다. Cerebras–Lovable 발표
여기에서 한 단계 더 중요한 재해석이 가능하다.
빠른 AI는 같은 답을 빨리 주는 것이 아니라, 같은 시간 안에 더 좋은 답을 만들 수 있게 한다.
10초의 latency budget이 있다고 가정해보자. 느린 inference에서는 reasoning을 두 번 하고 답을 내야 할 수도 있다. inference가 10배 빨라지면 같은 10초 동안 검색하고, 두 개의 가설을 비교하고, 결과를 검증하고, 한 번 더 수정할 수 있다.
Cerebras도 현재 자사 inference의 가치를 단순 interactivity가 아니라 동일한 latency budget 안에서 더 많은 reasoning을 수행하여 output quality를 높이는 것으로 설명하고 있다. Cerebras Inference
따라서 Speed의 가치 함수가 변한다.
Latency ↓ → Reasoning Steps ↑ → Validation ↑ → Output Quality ↑
이것이 Cerebras에 대한 가장 중요한 재평가라고 본다.
3. Cybersecurity는 왜 Cerebras의 좋은 실사용 사례인가
이 변화가 가장 직관적으로 나타날 가능성이 높은 산업 중 하나가 Cybersecurity이다.
Coding에서는 응답시간을 10초에서 1초로 줄이면 개발자의 생산성이 좋아진다. 하지만 Cybersecurity에서는 10초를 1초로 줄이는 것이 경우에 따라 공격을 막는 것과 공격 이후 사고 원인을 설명하는 것의 차이가 될 수 있다.
실제로 CrowdStrike는 2026년 7월 Cerebras와 전략적 협업을 발표했고, Falcon AI Detection and Response(AIDR)에 Cerebras inference를 활용하기로 했다. CrowdStrike는 AI 시대에는 공격자가 여러 domain을 수초 안에 이동할 수 있기 때문에 더 크고 정교한 모델을 실시간으로 실행할 필요가 있다고 설명했다. CrowdStrike–Cerebras 발표
보안 시스템을 단순화하면 다음과 같다.
Endpoint·Network·Cloud Telemetry → Log/Data Lake → Relevant Evidence Retrieval → AI Reasoning → Decision → Block/Remediation
여기서 중요한 것은 Cerebras가 수십 PB의 보안 로그를 전부 읽거나 저장하는 역할을 맡는 것이 아니라는 점이다.
방대한 로그는 Data Lake에 저장한다. 특정 공격이 발생하면 관련 Endpoint, Process Tree, Identity, Network Connection, Threat Intelligence 등을 선별해 AI에게 Context로 제공하고, AI는 그 증거를 바탕으로 공격인지 판단하고 추가 조사를 수행한다.
즉,
Huge Security Data ≠ Huge Active LLM Context
이다.
이 차이 때문에 Cybersecurity는 Cerebras의 구조적 약점을 상대적으로 피하면서 장점을 살릴 가능성이 있다.
필요한 사건 Context만 가져온 뒤,
Reason → Check → Validate → Decide
를 최대한 빨리 반복하면 되기 때문이다.
Palo Alto Networks의 Cortex XSIAM도 업계가 이 방향으로 움직이고 있음을 보여준다. XSIAM은 SIEM·XDR·NDR·SOAR 등의 telemetry를 통합 Data Layer에 모으고 Agentic AI가 investigation, threat hunting, multi-step action을 수행하는 구조로 발전하고 있다.
Palo Alto Cortex XSIAM Architecture
Cybersecurity에서 Cerebras의 기회는 단순 SIEM 시장을 가져오는 것이 아니다. 오히려 핵심은 지금까지 latency 때문에 LLM을 넣기 어려웠던 Inline Decision Loop에 AI가 들어갈 수 있게 만드는 것이다.
이것은 시장 자체를 확장할 수 있다.
4. 어떤 산업에서 Cerebras의 가치가 추가로 커질 수 있을까
두 번째로 명확한 시장은 AI Coding과 Software Creation이다.
Coding Agent는 코드를 한 번 생성하고 끝나는 것이 아니라 파일을 읽고, 계획하고, 코드를 작성하고, 컴파일하고, 오류를 읽고, 수정한다. Lovable뿐 아니라 AWS도 agentic coding을 fast inference가 특히 중요한 workload로 지목하고 있다. Cerebras–Lovable 발표
세 번째는 금융·기업정보·Research Intelligence이다.
AlphaSense는 Cerebras를 Generative Search architecture에 적용하고 있다. Query를 해석하고, Research Plan을 만들고, 여러 문서를 검색하고, 여러 Agent와 Tool을 실행하는 과정에서 inference latency를 낮추면 같은 시간 동안 더 많은 자료를 검색하고 더 많은 검증을 수행할 수 있다. Cerebras–AlphaSense 사례
여기서도 중요한 것은 단순 답변 속도가 아니다.
More Searches + More Tool Calls + More Validation within the same waiting time
이 핵심이다.
네 번째는 Voice AI와 실시간 Customer Service이다. 사람과 대화하는 AI에서는 매 문장마다 몇 초씩 기다리게 되면 제품 경험 자체가 무너진다. Cerebras도 coding, research, voice, automation 등을 대표적인 interactive inference workload로 제시하고 있다. Cerebras Inference
다섯 번째 후보는 Robotics와 실시간 산업제어다. AMD와 Cerebras도 2026년 파트너십에서 robotics와 scientific discovery를 low-latency token generation의 잠재 응용영역으로 언급했다. AMD–Cerebras 발표
다만 Robotics에는 중요한 반론이 있다. 로봇의 의사결정 시간이 수십 ms 수준이어야 한다면 Cerebras chip 자체가 아무리 빨라도 Cloud 왕복 Network latency가 병목이 될 수 있다. 따라서 이 시장은 On-premise 또는 Edge와 가까운 Cerebras deployment가 가능할 때 더 현실적인 기회가 된다.
마찬가지로 “저지연이 중요하다”는 이유만으로 HFT나 Packet Filtering까지 Cerebras 시장으로 보는 것도 잘못이다. 이 영역은 LLM reasoning이 아니라 FPGA, ASIC, 전통적인 ML이 훨씬 효율적이다.
결국 Cerebras가 필요한 조건은 단순히 Low Latency가 아니다.
LLM Reasoning이 Critical Path에 있고, 그 Reasoning의 지연시간을 줄였을 때 시스템의 실제 결과가 좋아지는 산업이어야 한다.
5. 그렇다면 Cerebras는 왜 모든 inference를 가져갈 수 없는가
여기서 HBM과 비교해야 한다.
Cerebras WSE-3가 빠른 근본 이유는 메모리 구조가 GPU와 다르기 때문이다. WSE-3는 44GB의 SRAM을 chip 위에 배치하고 약 21PB/s의 on-chip memory bandwidth를 제공한다. Cerebras는 모델 weight를 WSE들의 SRAM 가까이에 배치해 decode 과정의 데이터 이동을 최소화한다. Cerebras WSE-3
 |
| https://www.cerebras.ai/cs4 |
GPU는 다른 선택을 한다.
NVIDIA B300은 GPU당 288GB HBM3e와 최대 8TB/s bandwidth를 제공한다. 이후 GPU architecture 역시 HBM capacity와 bandwidth를 지속적으로 확대하면서 long-context와 agentic inference를 동시에 대응하는 방향으로 발전하고 있다.
숫자만 놓고 보면 Cerebras SRAM bandwidth가 압도적이다.
그러나 21PB/s 대 수 TB/s라고 해서 실제 AI inference가 수백~수천 배 빨라진다는 뜻은 아니다. 모델 partitioning, compute utilization, interconnect, KV movement, batch scheduling, networking 및 software overhead가 모두 존재하기 때문이다.
더 중요한 차이는 Capacity이다.
SRAM은 매우 빠르지만 비싸고 면적을 많이 차지한다. HBM은 SRAM보다 느리지만 훨씬 많은 정보를 보관할 수 있다.
바로 이 차이가 Long-context Agent에서 중요해진다.
Transformer의 KV Cache는 단순화하면 다음과 같이 증가한다.
KV Cache ∝ Batch Size × Active Context Length × Model Size
예를 들어 긴 Context를 가진 Agent 하나는 문제가 없더라도, 이런 Agent를 수십 개, 수백 개 동시에 처리하면 KV memory 요구량은 급격하게 증가한다.
Context ↑ × Concurrency ↑ → KV Capacity 급증
이때 Cerebras의 매우 빠른 SRAM bandwidth가 해결하지 못하는 문제가 생긴다.
저장할 공간 자체가 부족해지는 Capacity Bottleneck이다.
즉 장시간 Agent라고 무조건 Cerebras에 불리한 것은 아니다.
Long Decode / 많은 Output Token → Cerebras 유리
하지만
Long Persistent Context × High Concurrency → HBM 유리
이다.
Cerebras도 이 문제를 모르는 것은 아니다. 회사는 Prompt Caching을 통해 반복되는 긴 Prompt의 Prefill 비용을 줄이고 있으며, Sparse Attention 연구를 통해 KV Cache 사용량을 줄이는 방법도 연구해왔다. Cerebras Prompt Caching
다만 Prompt Cache는 주로 반복되는 input processing을 줄이는 방법이지, 장시간 decode 동안 필요한 모든 active KV capacity 문제를 없애주는 것은 아니다.
6. Cerebras와 HBM을 경쟁관계로만 보면 중요한 것을 놓친다
AI 시스템의 메모리를 단순화하면 다음과 같은 Hierarchy로 볼 수 있다.
Cerebras가 한 일은 본질적으로 이 Hierarchy의 가장 빠른 SRAM Tier를 기존 accelerator보다 극단적으로 크게 만든 것이다.
반대로 NVIDIA의 전략은 HBM을 더 크고 빠르게 만들고 NVLink를 통해 여러 GPU를 하나의 거대한 memory domain처럼 묶는 방향이다.
여기에 Context Memory, CPU DRAM, CXL, Storage까지 더해지면서 앞으로 AI inference는 하나의 chip이 모든 데이터를 들고 처리하는 구조보다,
Storage → Context Memory → HBM / Prefill → Ultra-fast Decode
로 더욱 세분화될 가능성이 있다.
실제로 Cerebras 자체가 AWS와 추진하는 architecture도 이 방향이다.
AWS Trainium이 Prompt와 Context를 처리해 KV Cache를 만든 뒤, 이를 Cerebras WSE에 전달하고 Cerebras가 Decode를 담당한다. AWS–Cerebras 발표
AMD와의 협업 역시 유사하다. AMD Helios가 Prefill을 담당하고 Cerebras가 Decode를 담당하는 구조다. Cerebras 경영진은 이 조합이 Cerebras의 speed를 유지하면서 Throughput을 최대 5배 확대할 수 있다고 설명한다.
이것은 사실 Cerebras의 약점을 인정하면서 동시에 가장 강한 부분만 떼어내는 전략이다.
HBM/GPU가 잘하는 일을 빼앗으려 하지 않고, Cerebras가 가장 잘하는 Decode만 가져가는 것이다.
7. 그렇다면 어느 산업이 어느 Architecture를 필요로 할까
여기서 가장 중요한 것은 산업 전체를 Cerebras 산업과 HBM 산업으로 나누면 안 된다는 점이다.
한 기업 안에서도 workload마다 필요한 Memory Hierarchy가 다르기 때문이다.
Cybersecurity를 다시 보면 이 구조가 특히 잘 보인다.
수년간 축적된 모든 보안 로그를 Cerebras SRAM 안에 넣을 이유는 없다.
Data Lake에 모든 로그를 보관하고 → 필요한 Context만 HBM/Prefill Engine이 처리하고 → Cerebras가 빠르게 판단한 뒤 → Security System이 차단한다.
이 구조에서는 HBM과 Cerebras가 경쟁자가 아니라 한 inference pipeline의 서로 다른 계층이 된다.
Coding 역시 비슷하다. 전체 Code Repository와 장기 Agent state는 HBM 또는 별도 Context Memory에 보관하고, 사용자가 기다리고 있는 Coding·Debugging·Validation loop만 Cerebras가 빠르게 처리할 수 있다.
반대로 하루 동안 수십만 token의 history를 유지하는 Autonomous Agent 수천 개를 동시에 서비스한다면 Cerebras보다 HBM capacity와 KV-management architecture가 훨씬 중요해질 가능성이 높다.
따라서 앞으로 AI chip 경쟁을 판단할 때 단순 tokens/sec benchmark는 충분하지 않다.
실제로 확인해야 할 숫자는 다음과 같은 형태가 된다.
Tokens/sec per user
at X Context Length
at Y Concurrent Users
within Z Power Budget
결국 Latency × Context × Concurrency × Power를 동시에 봐야 한다.
8. 결국 시장은 Cerebras와 HBM 중 하나를 선택할까
현재 가장 가능성이 높은 답은 아니다라고 본다.
Cerebras의 성공이 HBM의 실패를 의미하지 않고, HBM 수요 증가가 Cerebras의 실패를 의미하지도 않는다.
오히려 Agentic AI가 커질수록 두 종류의 메모리 요구가 동시에 증가한다.
Reasoning Token 증가 → Decode Bandwidth 요구 증가
동시에
Agent 수·Context 증가 → KV Cache Capacity 요구 증가
가 발생한다.
첫 번째 문제에서는 Cerebras의 massive SRAM architecture가 강력하다. 두 번째 문제에서는 HBM과 Context Memory가 훨씬 유리하다.
따라서 가장 가능성 높은 Architecture는 다음과 같다.
Large Context / Prefill / KV State
→ HBM·Context Memory
Latency-sensitive Sequential Decode
→ Cerebras 같은 SRAM-centric Accelerator
이런 관점에서 보면 AMD와 AWS가 Cerebras와 Disaggregated Inference를 만드는 것은 단순한 파트너십 이상의 의미가 있다. 두 회사 모두 Cerebras를 GPU나 Trainium의 완전한 대체재가 아니라 Decode Specialist로 이용하려 하고 있기 때문이다.
그리고 이것이 Cerebras 투자 Thesis에서 가장 과소평가될 수 있는 부분이라고 생각한다.
Cerebras가 NVIDIA를 대체해야 성공하는 것이 아니다.
전체 AI Compute의 일부이지만 경제적 가치가 가장 높은 Latency-sensitive Decode 시장을 장악해도 충분히 큰 사업이 될 수 있다.
9. 최종적으로 무엇을 봐야 하는가
가장 가능성이 높은 시나리오는 AI inference infrastructure가 workload별로 분화되는 것이다. HBM GPU는 Training, Prefill, Long Context, High Concurrency에서 핵심 지위를 유지하고, Cerebras는 latency-sensitive Decode에서 특화된 시장을 형성할 가능성이 높다.
재평가가 시급한 부분은 inference speed가 단순한 UX 변수가 아니라는 점이다. 빠른 inference는 동일한 시간 안에서 더 많은 reasoning, validation, tool call을 가능하게 한다. Cybersecurity에서는 그 차이가 생산성을 넘어 실제 공격을 방어할 수 있는 시간적 여유로 전환될 수도 있다.
여기에 Cerebras가 가진 또 하나의 장점이 결합된다. 5nm 공정과 on-chip SRAM을 사용하는 구조 덕분에 HBM, CoWoS, 최신 3nm급 Logic Capacity라는 현재 AI 반도체 공급망의 주요 병목에 대한 의존도가 상대적으로 낮다.
즉 Cerebras의 성장 Thesis는 수요 측면에서만 존재하지 않는다.
**Fast Decode라는 새로운 수요
공급망 병목을 일부 우회하는 Architecture
데이터센터 Capacity 확대
= 빠른 Revenue Ramp**
라는 공급과 수요의 결합으로 봐야 한다.
반면 Highest Asymmetric Impact를 갖는 변수는 Long-context Agent의 발전 방향이다.
만약 미래 Agent가 수십만~수백만 token의 Context를 장시간 유지하고 수천 개의 세션을 동시에 서비스하는 방향으로 발전한다면 HBM Capacity와 Context Memory의 중요성은 지금보다 더욱 커질 수 있다.
반대로 Context Compression, Sparse Attention, External Memory, Retrieval 기술이 발전해 실제 Accelerator가 유지해야 하는 Active KV를 작게 만들 수 있다면 Cerebras가 가진 초고속 SRAM Decode의 적용 범위는 훨씬 넓어진다.
그래서 Cerebras와 HBM의 미래를 판단하는 가장 중요한 질문은 결국 하나로 수렴한다.
“미래의 Agent가 얼마나 많이 기억해야 하는가, 그리고 얼마나 빨리 생각해야 하는가.”
많이 기억해야 한다면 HBM이 중요하다.
빠르게 생각해야 한다면 Cerebras가 중요하다.
그리고 현재 AI 산업이 향하는 방향은 둘 중 하나가 아니라, 더 많이 기억하면서 동시에 더 빨리 생각하는 시스템에 가깝다.
그렇다면 장기적으로 가장 설득력 있는 그림은 Cerebras와 HBM의 승자독식 경쟁이 아니다.
HBM과 Context Memory가 AI의 거대한 기억을 담당하고, Cerebras와 같은 SRAM-centric Accelerator가 그 기억을 바탕으로 가장 빠르게 생각하는 구조.
AI infrastructure가 이 방향으로 발전한다면 Cerebras의 최근 급성장은 단순히 또 하나의 AI accelerator가 시장에 진입했다는 사건이 아니다.
오히려 지금까지 GPU 하나가 담당하던 inference pipeline이 Memory Capacity와 Decode Speed라는 서로 다른 문제로 분리되기 시작했다는 신호일 수 있다.
#글을 마치며
마침 아침에 그동안 NVIDIA, 메모리와 관련해 다소 부정적인 시각을 반복적으로 제기해 온 기자와, 어느 외국계 펀드매니저의 인터뷰 기사를 접했다.
여기에 일부 중국계 매체에서는 Cerebras의 아키텍처를 근거로 HBM의 필요성이 크게 낮아질 수 있다는 식의 주장까지 확산되고 있었다. 개인적으로는 기술 구조와 실제 AI 인프라의 병목을 충분히 검토하지 않은 채 결론이 앞선 해석으로 보인다.
=끝
