![]() |
| https://uiyeonassociation.blogspot.com/2026/09/358-price-of-compute.html |
![]() |
| https://uiyeonassociation.blogspot.com/2026/09/358-price-of-compute.html |
최근 AI Value Chain을 계속해서 들여다보면서 한 가지 의문이 생겼다.
Cloud Computing과 AI Labs, 과연 누가 더 강한 협상력을 갖고 있으며 장기적으로 어느 계층이 더 많은 초과이익을 가져갈 것인가.
지난 생각정리 417 (* AI CAPEX, Follow the Constraint)와 생각정리 419 (* From Silicon to Intelligence, Follow the Value)에서는 AI 수요가 물리적 공급제약으로 연결되는 구조와 각 계층의 Value Creation을 살펴봤다.
이번에는 조금 다른 관점에서 생각해보고자 한다.
Value Creation과 Value Capture는 다르다.
AI 산업 전체가 빠르게 성장하더라도, 그 과정에서 누가 가장 많은 경제적 가치를 실제 이익으로 가져갈지는 아직 불확실하다.
특히 최근 SpaceX의 공격적인 GPU Rental 사업 확장과 Anthropic의 Computing Capacity 조달 관련 소식을 접하면서 이러한 생각이 더욱 강해졌다.
그리고 한 걸음 더 나아가 보면, Cloud와 AI Labs 사이의 Hegemony 경쟁보다 더 중요한 변화가 나타날 가능성도 있다.
전력과 Computing Resource가 부족한 상황에서 이를 최대한 효율적으로 사용하는 기술의 경제적 가치가 급격하게 높아지는 것이다.
결국 이러한 기술혁신이 Advanced Packaging, Memory, Optical Interconnect, Test & Inspection 등 Hardware Supply Chain으로 추가적인 이익을 귀속시킬 가능성에 주목하고 있다.
1. Cloud의 Scarcity — 공급부족이 곧 영구적인 가격결정력은 아니다
최근 SpaceX는 GPU 구매를 위해 약 $40B 규모의 부채 조달을 완료했다고 발표했다.
Elon Musk는 Starlink와 로켓 발사사업에서 발생하는 독립적인 현금흐름, 그리고 상대적으로 우수한 자금조달 능력을 강조하면서 Neocloud 사업자들의 구조조정 가능성까지 언급했다.
출처: Reuters, 2026.10.25 — SpaceX GPU Financing
개인적으로 중요한 부분은 단순히 GPU를 얼마나 많이 구매했느냐가 아니다.
SpaceX처럼 자금조달 경쟁력을 확보한 사업자가 대규모 Bare-metal GPU Capacity를 공급하기 시작하면, 기존 Cloud 사업자들의 가격결정력도 제한받을 수 있다는 점이다.
최근 FundaAI는 Anthropic의 3Q26 추가 추론 컴퓨팅 지출 상당 부분이 SpaceX로 배정됐을 가능성을 제기했다.
반면 AWS·GCP·Azure가 확보한 증분 지출은 합산 약 $820M에 그쳤다는 분석이다.
출처: FundaAI — Anthropic Compute Allocation
물론 아직 공급자별 실제 지출과 계약단가를 공식적으로 확인할 수 없으므로 확정적인 사실로 받아들일 수는 없다.
그럼에도 Anthropic과 같은 대규모 AI Labs가 여러 공급자 사이에서 Workload를 재배분할 수 있다면, Cloud가 반드시 일방적인 Pricing Power를 행사할 수 있는 것은 아니다.
특히 자체 소프트웨어 스택을 보유한 Frontier AI Labs는 모든 Workload에서 고가의 Managed Cloud를 사용할 필요가 없다.
결국 Cloud Computing 전체는 차별화된 서비스일 수 있지만, 그중 GPU Rental 계층만 분리하면 생각보다 빠르게 Commoditization될 가능성이 있다.
반면 현재의 물리적 공급부족은 여전히 심각하다.
전력계통 접속, 냉각, 인허가, 지역사회 반발과 건설공기 등으로 인해 Computing Capacity는 수요만큼 빠르게 확대되기 어렵다.
IEA의 Energy and AI 보고서 역시 전력망 제약에 따른 데이터센터 프로젝트 지연 위험을 지적하고 있다.
그렇다면 현재 Cloud의 협상력은 어느 정도까지 구조적인 것일까.
지난 생각정리 419에서 살펴봤듯 GPU 구매가격 대비 Annual Cloud Revenue의 배율은 상대적으로 낮다.
높은 Hardware Cost와 데이터센터 건설비를 부담하는 Cloud 사업자는 이를 높은 Utilization과 장기계약, 고객에 대한 Cost Pass-through로 회수해야 한다.
Oracle이 강조하는 Customer Prepayment와 Cost-plus 성격의 계약구조도 이러한 맥락에서 이해할 수 있다.
현재 Cloud는 강한 Scarcity를 보유하고 있지만, 그 희소성이 Cloud 사업자 전체의 영구적인 초과이익을 보장하지는 않는다.
신규 공급자가 늘어나고 대형 고객의 구매자 협상력이 강화되면 상당한 Margin Pressure가 발생할 수 있기 때문이다.
2. AI Labs의 Scarcity — Model Commoditization과 Customer Value의 역설
AI Labs 역시 상황이 단순하지 않다.
Frontier Model의 성능은 빠르게 개선되고 있지만, Open-weight Model과 Distillation을 통한 후발주자의 추격도 계속되고 있다.
실제로 Stanford AI Index 2025에 따르면 GPT-3.5 수준의 추론비용은 약 18개월 동안 280배 이상 하락했다.
Model Intelligence 자체가 빠르게 범용화되고 있는 셈이다.
하지만 Model의 Commoditization이 곧 AI Labs의 경제적 가치 감소를 의미하지는 않는다.
지난 생각정리 410 (* AI Compute Monetization, Anthropic S-1, Figure AI)에서는 Anthropic의 Revenue / Compute Cost를 살펴봤고, 생각정리 419에서는 최종 고객의 AI 지출 대비 Economic Benefit을 추정했다.
여기서 중요한 것은 AI Labs가 고객에게 제공하는 경제적 가치가 Computing Cost보다 충분히 크다면, Cloud의 비용상승을 흡수할 여력이 존재한다는 점이다.
오히려 AI 성능이 개선되고 Token 가격이 하락하면 이전에는 경제성이 없었던 업무까지 자동화할 수 있게 된다.
이는 다시 새로운 수요를 창출한다.
Token ASP는 하락하지만 Usage가 더 빠르게 늘어나면서 전체 Intelligence Spending은 확대되는, 일종의 Jevons Paradox다.
![]() |
| a16z.news/p/charts-of-th |
물론 이 과정에서 모든 Model Provider가 높은 Margin을 유지할 수는 없다.
따라서 AI Labs의 진정한 경쟁우위는 단순한 Model Weight보다 Frontier 연구개발 능력과 최종 고객의 Workflow를 장악하는 Distribution, 그리고 Switching Cost에 있을 가능성이 크다.
특히 Frontier AI Labs는 언제든 상대적으로 작은 모델을 개발하거나 최적화해 하위 시장으로 진입할 선택권을 갖는다.
현재는 한정된 연구인력과 Computing Resource를 Frontier 성능 향상에 우선 배분하고 있을 뿐이다.
반대로 저비용 Model 사업자가 최상위 Frontier에 진입하려면 상당한 Computing Capacity와 연구개발 자원이 필요하다.
Model 자체는 Commoditization되더라도, 지속적으로 새로운 Frontier를 개척하고 고객의 실제 업무에 연결할 수 있는 능력까지 쉽게 범용화되는 것은 아니다.
다만 이러한 우위가 실제 가격결정력으로 이어지는지는 앞으로 계속 검증해야 할 부분이다.
3. Vertical Integration — 서로의 Margin을 가져오려는 경쟁
이러한 상황에서 Cloud와 AI Labs 모두 Vertical Integration을 확대하고 있다.
AI Labs는 자체 Chip과 Computing Infrastructure를 확보하려 하고, Cloud 사업자는 자체 AI Accelerator와 Model, Application 개발에 나서고 있다.
Anthropic은 2026년 8월 자체 AI Chip 설계팀을 구축한다고 확인했다.
Google 역시 TPU를 중심으로 Chip부터 Rack Architecture, Networking, Software Stack까지 통합하고 있다.
Amazon과 Microsoft도 자체 Accelerator에 지속적으로 투자하고 있다.
이러한 움직임은 단순한 Cost Reduction이 아니다.
외부 사업자에게 지불하던 Margin을 내부화하고, 동시에 상대방의 협상력을 약화시키려는 전략이다.
AI Labs가 자체 Computing Capacity를 확보하면 Cloud에 대한 의존도를 낮출 수 있다.
반대로 Cloud가 자체 Model과 Application을 확보하면 외부 AI Labs가 보유한 고객관계에 대한 의존도를 줄일 수 있다.
결국 양측 모두 Value Chain에서 더 많은 Economic Rent를 가져가기 위한 경쟁을 벌이고 있다.
하지만 수직통합이 반드시 ROIC 개선으로 이어지지는 않는다.
AI Labs가 직접 데이터센터를 구축하면 전력·건설·감가상각 위험까지 부담해야 하고, Cloud 역시 자체 Model 개발이 고객 확보로 이어지지 않으면 추가 비용만 발생할 수 있다.
따라서 단순히 누가 더 많은 영역을 소유하느냐보다 누가 더 낮은 Total Cost로 높은 Customer Value를 제공하면서 이를 지속적인 현금흐름으로 전환할 수 있는가가 중요해질 것이다.
아직은 확실한 승자가 보이지 않는다.
그런데 여기서 한 가지 더 생각해볼 부분이 있다.
이러한 Hegemony 경쟁과 별개로, Cloud와 AI Labs 모두 반드시 해결해야 하는 공통의 문제가 존재한다.
바로 Energy Constraint다.
4. Energy to Intelligence — 결핍은 발명의 어머니
최근 아래의 인터뷰를 보면서 가장 흥미로웠던 부분이다.
![]() |
| https://www.youtube.com/watch?v=3W2ezZJQ7R8 |
Rao는 과거 Nervana Systems와 MosaicML을 설립했고, 현재는 차세대 AI Computing Architecture를 개발하는 팀 Unconventional AI을 이끌고 있다.
Unconventional AI는 2025년 12월 약 $475M의 Seed Funding을 유치했다.
출처: TechCrunch — Unconventional AI $475M Funding
Rao는 향후 AI 산업의 가장 중요한 병목이 Energy가 될 것으로 보고 있다.
인터뷰에서 특히 인상적이었던 표현은 다음과 같다.
“The conversion of energy to intelligence is hardware.”
전력을 Intelligence로 전환하는 것이 Hardware의 역할이라는 의미다.
그가 말하는 Hardware는 단순한 반도체 Chip에 국한되지 않는다.
Chip, System, Cloud, Network까지 Computing Stack 전체를 포함한다.
조금 더 단순화하면 다음과 같다.
Energy → Hardware Efficiency → Intelligence
그렇다면 향후 AI 산업의 핵심 경쟁력은 단순히 더 많은 전력을 확보하는 것에서 나아가, 동일한 전력으로 얼마나 많은 Intelligence를 생산할 수 있는가로 이동할 수 있다.
이는 전력공급이 제한될수록 더욱 중요해진다.
Rao는 인터뷰에서 연간 수십 GW의 신규 데이터센터 전력을 단기간에 확보할 수 있다는 낙관적인 전망에 의문을 제기했다.
아무리 많은 자본이 있더라도 발전설비와 송전망, 데이터센터를 구축하는 데 필요한 물리적인 시간을 단축하는 데는 한계가 있기 때문이다.
IEA의 Energy and AI 전망에 따르면 글로벌 데이터센터 전력수요는 2030년까지 약 두 배로 증가할 것으로 예상된다.
이 과정에서 Computing Capacity에 대한 수요가 전력공급보다 빠르게 증가한다면, 산업은 다른 해결책을 찾아야 한다.
동일한 전력으로 더 많은 연산을 수행하는 것이다.
그리고 여기서 Efficiency Innovation의 경제적 가치가 급격히 높아진다.
Rao는 과거처럼 Transistor 미세화만으로 높은 효율개선을 얻기 어려워졌으며, 앞으로는 Computing Architecture와 Model Optimization에서 더욱 큰 개선의 여지가 존재한다고 설명했다.
실제로 연산 Precision을 FP32에서 FP16, FP8, FP4 등으로 낮추거나, 불필요한 데이터 이동을 줄이는 것도 이러한 효율화의 일환이다.
단, 낮은 Precision이 항상 동일한 모델 정확도와 실제 시스템 효율을 보장하지는 않는다.
그럼에도 방향은 분명해 보인다.
AI 산업의 경쟁이 단순한 FLOPS에서 Performance per Watt, 나아가 유효 Intelligence per Watt로 확장되고 있는 것이다.
전력이 부족할수록 동일한 전력으로 더 많은 유효 Token을 생성하는 기술의 경제적 가치는 높아진다.
그리고 효율 개선이 Cost per Intelligence를 낮추면, 이전에는 경제성이 없었던 새로운 수요가 다시 열릴 수 있다.
효율화가 오히려 전체 Computing Consumption을 증가시키는 구조다.
결핍이 기술혁신을 촉진하고, 그 기술혁신이 다시 새로운 수요를 만들어내는 셈이다.
5. Follow the Efficiency — 추가적인 이익은 Hardware Supply Chain으로 귀속될 수 있다
여기에서 최근 정리했던 반도체 Supply Chain을 다시 떠올려볼 필요가 있다.
지난 생각정리 416 (* CY 3Q26 Review: Memory, Packaging, Optical Interconnect & Test)에서는 Memory에서 시작된 초과이익이 다른 반도체 공급망으로 확산되는 흐름을 살펴봤다.
당시에는 기업들의 실적과 공급제약을 중심으로 접근했다.
그런데 Rao의 인터뷰를 듣고 보니 이를 조금 다른 관점에서 해석할 수 있을 것 같다.
현재의 공급병목은 단순히 생산능력이 부족해서 발생하는 것이 아니라, 제한된 전력과 자원을 더 효율적으로 활용하기 위한 기술경쟁의 결과이기도 하다.
Advanced Packaging은 Chip 간 데이터 이동거리와 대역폭 문제를 해결한다.
HBM과 Memory Architecture는 GPU가 실제 연산능력을 충분히 활용할 수 있도록 돕는다.
Optical Interconnect는 대규모 GPU Cluster의 네트워크 전력소비와 통신 병목을 낮춘다.
Test & Inspection은 더욱 복잡해진 반도체 시스템의 수율과 신뢰성을 확보해 유효 생산능력을 높인다.
관련 기술과 공급망의 세부 내용은 기존 글에서 이미 충분히 다뤘으므로 여기서는 생략한다.
여기에서 강조하고 싶은 것은 하나다.
이러한 기술들은 서로 다른 영역에 속해 있지만, 결국 한정된 Computing Resource의 생산성을 극대화한다는 공통된 목적을 갖고 있다.
전력과 Computing Capacity가 풍부하다면 일부 효율화 기술의 경제적 가치가 상대적으로 낮을 수 있다.
하지만 수요가 공급을 계속해서 초과하는 상황에서는 작은 효율 개선도 상당한 추가 매출과 비용절감으로 연결될 수 있다.
가령 동일한 전력으로 Token Throughput을 30% 높이는 기술이 있다면, 전력이 제한된 데이터센터에서는 이론적으로 그만큼의 추가 Computing Capacity를 확보하는 효과가 발생한다.
물론 실제 수익성은 Token ASP, 추가 설비비용과 가동률 등에 따라 달라진다.
그럼에도 이러한 Efficiency Premium이 커질수록 이를 구현하는 핵심 부품과 장비에 대한 투자유인은 높아질 것이다.
결국 추가적인 Value Creation과 Economic Rent가 Cloud·AI Labs에서 그 아래 Hardware Supply Chain으로 이동하거나, 그곳에서 새롭게 창출될 가능성이 있다는 이야기다.
특히 이러한 기술은 단순한 공급량 확대가 아니라 시스템의 물리적인 성능 한계를 개선한다는 점에서 중요하다.
물론 관련 소재·장비사 모두가 동일한 초과이익을 누리는 것은 아니다.
실제 Margin의 크기는 기술적 진입장벽, 고객의 대체 가능성, 경쟁사의 Capacity 확장속도에 따라 결정된다.
다만 향후 AI Computing의 중심이 단순한 연산량 확대에서 Energy Efficiency와 System-level Optimization으로 이동한다면, 이들 Hardware Supply Chain의 전략적 중요성은 지금보다 높아질 가능성이 있다.
정리하며 — 누가 가장 희소한 자원을 통제하는가
최근 시장은 Cloud 사업자들의 CAPEX 확대와 FCF 악화, 그리고 AI Labs의 Model Commoditization에 따른 수익성 저하를 우려하고 있다.
각각 충분히 합리적인 우려다.
하지만 이를 AI Value Chain 전체의 관점에서 보면 조금 다른 그림이 보인다.
Cloud는 공급부족으로 높은 협상력을 확보하고 있지만, 새로운 경쟁자의 등장과 AI Labs의 Computing 내재화로 장기적인 Pricing Power가 약화될 수 있다.
AI Labs 역시 Model Commoditization에 직면해 있지만, Intelligence 가격하락은 새로운 수요를 만들어내고 있다.
![]() |
| 내 계산이 맞다면, AI Labs 회사들은 고객들에게 상당한 value creation을 제공하고 있기에 token 가격을 올려받을 buffer가 여전히 상당히 크다 |
그리고 이 수요가 물리적인 공급능력을 계속해서 초과한다면, 산업은 한정된 Energy와 Computing Resource를 더욱 효율적으로 활용하기 위한 기술개발을 가속화할 것이다.
그 과정에서 Advanced Packaging, Memory, Optical Interconnect, Test & Inspection 등 Hardware Supply Chain이 새로운 Value Creation의 중심으로 부상할 가능성이 있다.
이것이 최근 AI CAPEX와 FCF 우려를 단순한 재무지표만으로 판단하기 어려운 이유다.
개별 Cloud나 AI Labs의 Margin이 압박받더라도, AI 산업 전체의 Economic Value와 Computing Consumption은 계속 확대될 수 있다.
그리고 초과이익은 그 과정에서 가장 희소한 기술과 생산능력을 보유한 계층으로 재배분될 것이다.
따라서 앞으로는 누가 더 많은 GPU를 보유하고 있는지, 누가 더 뛰어난 Model을 개발했는지만 볼 것이 아니다.
누가 더 낮은 Energy와 Computing Cost로 높은 Economic Value를 만들어내며, 그 효율 개선의 과실을 지속적으로 Capture할 수 있는가.
이 질문이 더욱 중요해질 것 같다.
물론 Efficiency Innovation이 언제나 Hardware 수요 확대로 이어지는 것은 아니다. 효율 개선에 따른 비용절감보다 실제 사용량 증가가 작거나, 대체 기술과 신규 Capacity가 빠르게 공급된다면 기존 사업자의 초과이익은 오히려 축소될 수 있다.
따라서 기술적 중요성 자체보다 실제 Adoption, Pricing Power, Capacity Constraint와 Incremental ROIC를 함께 확인해야 할 것이다.
그럼에도 지금의 AI 산업을 바라보면서 개인적으로 가장 주목하는 부분은 분명하다.
Intelligence에 대한 수요는 빠르게 증가하고 있지만, 이를 공급할 물리적 자원은 한정되어 있다.
그리고 자원이 부족할수록 이를 더 효율적으로 활용하려는 기술혁신의 가치는 높아진다.
결핍은 발명의 어머니라는 말처럼, 지금의 Energy와 Compute Scarcity가 오히려 다음 세대 AI Hardware의 기술혁신을 촉진하는 동력이 될 수 있지 않을까 싶다.
결국 AI 산업의 Hegemony 경쟁은 단순한 Cloud vs AI Labs의 싸움으로 끝나지 않을 것이다.
장기적으로는 Energy를 Intelligence로 전환하는 전체 Value Chain에서 누가 가장 대체하기 어려운 희소성을 확보하느냐의 경쟁이 될 가능성이 크다.
Follow the Constraint.
Follow the Value.
Follow the Scarcity & Efficiency.
=끝









댓글 없음:
댓글 쓰기