지난 생각정리 417 (* AI CAPEX, Follow the Constraint)에서는 AI Value Chain을 위에서 아래로 내려다봤다.
당시 출발점은 최종 고객의 AI 수요였다.
Enterprise / Consumer
→ AI Lab
→ Cloud
→ GPU / ASIC
→ Memory / Packaging / Substrate / Optical / Test
최종 고객의 AI 수요가 실제로 존재하고, AI Lab이 이를 매출로 전환하고, Cloud가 높은 Computing Cost를 고객에게 전가할 수 있다면 결국 그 돈이 어디로 흘러가는가를 추적했다.
결론은 Physical Infrastructure였다.
특히 단기간에 공급을 늘리기 어려운 Memory, Packaging, Optical, Test와 같은 영역일수록 초과이익이 더 오래 남을 수 있다고 봤다.
그런데 이번에는 같은 Value Chain을 반대 방향에서 한번 올라가 보고 싶었다.
최근 All-In Podcast에서 꽤 흥미로운 장표 하나를 봤다.
NVIDIA가 GPU를 만들기 위해 사용한 $1의 제조원가가 GPU 판매를 거쳐 Compute가 되고, Compute가 Intelligence가 되고, 마지막에는 고객의 생산성 가치로 바뀌면서 얼마까지 커질 수 있는가를 표현한 자료였다.
지난 글이
Customer → AI Lab → Cloud → Physical Infrastructure
라는 Top-down 구조였다면,
이번 글은
Silicon → GPU → Compute → Intelligence → Customer Value
라는 Bottom-up 구조다.
결국 확인하고 싶은 것은 같다.
AI Value Chain의 각 단계가 그 아래 단계의 높은 비용을 정당화할 만큼 충분한 경제적 가치를 만들어내고 있는가.
그리고 이 질문을 풀기 위해서는 예전에 작성했던 생각정리 358 (* The Price of Compute)의 Cloud 수익성 추정부터 다시 한번 돌아볼 필요가 있었다.
왜냐하면 GPU에서 AI Lab으로 올라가기 위해 반드시 거쳐야 하는 중간 Layer가 바로 Cloud이기 때문이다.
1. 생각정리 358에서 무엇을 추정했고, 지금 무엇이 달라졌는가
생각정리 358에서 가장 궁금했던 것은 하나였다.
Cloud 사업자가 1GW의 Productive Compute를 통해 얼마나 많은 매출과 이익을 만들어낼 수 있는가.
당시에는 AI Cloud 프로젝트 단위의 직접적인 수익성 자료가 많지 않았다.
그래서 여러 간접지표를 조합할 수밖에 없었다.
대략 다음과 같은 구조였다.
당시에는 AWS와 Google Cloud의 전사 Cloud 영업이익률을 AI Data Center의 수익성 Proxy로 사용했다.
그런데 여기에는 명확한 한계가 있었다.
AWS와 GCP에는 일반 Compute, Database, Storage, Networking, Software Service가 모두 포함되어 있다.
즉 전사 Cloud Margin이 35~40%라고 해서 순수 AI GPU Data Center의 Margin도 동일하다고 볼 수는 없었다.
그때는 더 나은 자료가 없었다.
지금은 다르다.
Oracle Investor Day에서 실제 AI Infrastructure 프로젝트의 경제성을 상당히 구체적으로 공개했다.
Oracle이 제시한 대표적인 1GW 프로젝트는 대략
CAPEX 약 $37B
5년 계약가치 약 $80B
Full Ramp Revenue 약 $16B/year
Operating Margin 약 30%대 중반
수준이었다.
이 숫자를 생각정리 358의 기존 추정과 비교해보면 꽤 재미있다.
당시 AWS와 GCP Margin을 Proxy로 사용해 35~40% 정도를 추정했는데, Oracle의 실제 프로젝트 수익성 역시 약 30%대 중반으로 제시됐다.
즉 당시 수익성의 방향 자체는 크게 틀리지 않았다.
다만 과거에는 전사 Cloud Margin에서 역산했고, 지금은 실제 AI Infrastructure 계약을 기준으로 Project Economics를 볼 수 있게 됐다.
해석
생각정리 358의 가장 큰 오류는 Cloud Margin을 지나치게 높게 본 것이 아니었다.
오히려 수익성의 근거가 간접적이었다는 것이 문제였다.
지금은 Oracle의 실제 계약을 통해 AI Cloud 프로젝트도 충분히 30%대의 Operating Margin을 만들 수 있다는 사실을 좀 더 직접적으로 확인할 수 있다.
따라서 이번 Bottom-up Value Chain에서는 Cloud Layer의 Base Case를 35~40% Operating Margin 정도로 잡는 것이 이전보다 훨씬 근거가 탄탄해졌다.
그리고 이 숫자가 중요한 이유는 바로 다음 단계 때문이다.
Cloud가 충분한 수익성을 만들어낼 수 있어야 비싼 GPU와 Memory를 구매할 경제적 유인이 생긴다.
2. 달라진 것은 Margin보다 CAPEX의 정의다
오히려 지금 다시 생각정리 358을 돌아보며 더 많이 수정해야 할 부분은 CAPEX 쪽이었다.
당시에는 Jensen Huang의 AI Factory 관련 발언과 JPMorgan의 1GW당 투자비 추정을 조합해
$40~60B / GW
정도를 All-in CAPEX 범위로 사용했다.
그런데 Oracle이 공개한 대표 프로젝트는 약 $37B였다.
그렇다면 과거 추정이 틀린 것일까.
꼭 그렇지는 않다.
문제는 모든 1GW가 같은 1GW가 아니라는 점이다.
어떤 계산에는 GPU와 Server만 포함되고,
어떤 계산에는
**GPU
CPU
Memory
Networking
Storage
Cooling
Power Distribution
Building
Land**
전체가 포함된다.
그리고 여기에 고객이 GPU를 직접 제공하는 BYOH 구조까지 들어가면 Cloud 사업자가 실제로 부담하는 자본은 크게 줄어든다.
즉 같은 1GW라고 하더라도 누가 Hardware를 보유하고, 누가 Financing을 부담하는지에 따라 Cloud 사업자의 실제 Invested Capital은 크게 달라질 수 있다.
해석
이 부분이 상당히 중요하다.
앞으로 AI Cloud를 비교할 때 단순히
CAPEX / GW
만 보는 것은 충분하지 않을 가능성이 높다.
더 중요한 것은
Cloud Invested Capital / Productive GW
다.
예를 들어 둘 다 연간 $16B의 Revenue를 만드는 1GW라고 하더라도,
한 사업자는 전체 $37B를 직접 투자하고,
다른 사업자는 고객이 GPU를 제공해 $10~15B만 부담한다면,
두 사업자의 Equity Return은 완전히 달라진다.
즉 Cloud 사업자의 경쟁력은 단순히 Data Center를 얼마나 많이 짓는가가 아니라,
동일한 Revenue를 얼마나 적은 자기자본으로 만들어내는가
까지 확장해서 봐야 한다.
이 점을 이해하면 Oracle이 왜 Investor Day에서 BYOH, Vendor Financing, Customer Prepayment를 그렇게 강조했는지도 자연스럽게 연결된다.
그리고 이 Financing Structure를 이해해야 다음 질문,
GPU를 비싸게 사도 Cloud 사업자가 정말 돈을 벌 수 있는가
에 답할 수 있다.
3. 생각정리 358의 $30B/GW 전망도 조금 다르게 해석해야 한다
생각정리 358에서는 2030년 Base Case로
Cloud Revenue 약 $30B/GW
를 추정했다.
당시의 논리는 대략 다음과 같았다.
Hardware throughput ↑
→ Token cost ↓
→ Usage ↑
→ Utilization ↑
→ Revenue / Productive GW ↑
즉 차세대 GPU가 동일한 전력에서 더 많은 Token을 처리하고, Agentic AI가 더 많은 Computing을 소비하며, 가동률까지 상승하면 1GW가 만들어내는 Revenue 자체도 증가할 수 있다는 논리였다.
이 가설 자체는 여전히 유효하다고 생각한다.
다만 Oracle Investor Day를 보고 나니 Revenue/GW가 상승하는 경로를 하나 더 추가해야 할 것 같다.
Hardware Cost 상승 자체가 Revenue/GW를 끌어올릴 수 있다.
Oracle은 AI Infrastructure 계약의 상당 부분에서 Hardware Cost가 올라가면 계약가격도 함께 올라가는 Cost + Margin 성격을 설명했다.
실제로 Full Ramp Revenue/GW가 과거 약 $10B 수준에서 최근 약 $16B 수준까지 올라온 배경에는 Memory를 포함한 Hardware Cost 상승도 영향을 미쳤다.
이를 단순화하면 다음과 같다.
GPU / Memory / Networking Cost ↑
→ Cloud Cost ↑
→ Contract Price ↑
→ Revenue/GW ↑
→ Margin % 유지
여기서 중요한 차이가 하나 생긴다.
Revenue/GW가 증가한다고 해서 Cloud 사업자의 절대적인 경제성이 동일한 속도로 좋아지는 것은 아니다.
매출은 증가하지만 비용도 동시에 증가할 수 있기 때문이다.
해석
그래서 이제는 생각정리 358에서 중요하게 봤던 Revenue/GW보다 EBIT/GW와 EBIT/Invested Capital을 더 중요하게 봐야 한다고 생각한다.
Revenue/GW는 Productive Compute의 시장가격을 보여준다.
하지만 투자자에게 중요한 것은
그 Revenue가 얼마의 투자자본으로 만들어졌고, 그중 얼마가 이익으로 남는가
다.
즉
Revenue/GW
→ Margin
→ EBIT/GW
→ Capital Turnover
→ ROIC
순으로 내려가야 한다.
그리고 이 구조를 기준으로 보면 생각정리 358의 방향은 유지되지만, 분석단위는 한 단계 더 정교해진 셈이다.
4. 그렇다면 지금 Cloud의 합리적인 수익성은 어느 정도일까
이제 Cloud 수익성을 다시 한번 정리해볼 수 있다.
현재 확인 가능한 기준점은 크게 세 가지다.
첫째, Oracle이다.
1GW 프로젝트에서 연간 약 $16B Revenue와 30%대 중반의 Operating Margin을 제시했다.
둘째, SpaceXAI다.
SpaceX S-1에 따르면 Anthropic에 약 325K개의 NVIDIA GPU 규모의 Compute를 제공하고 정상화 기준 월 약 $1.25B, 연환산 약 $15B의 Compute Revenue를 받는다.
셋째, 기존 Hyperscaler의 Cloud Margin이다.
AWS와 Google Cloud 역시 전체 Cloud 기준으로 이미 30%대 후반의 Operating Margin을 기록하고 있다.
이 세 숫자를 함께 놓으면 현재 AI Cloud 프로젝트의 Base Margin을 굳이 50~60%까지 높게 잡을 필요는 없어 보인다.
개인적으로는 다음 정도가 가장 합리적이라고 생각한다.
여기서 Base Case의 35~40%는 Oracle 프로젝트와 Hyperscaler의 실제 Cloud Margin을 동시에 감안한 범위다.
해석
Cloud 사업의 높은 Margin이 유지되는 조건은 생각보다 단순하다.
**높은 가동률
Hardware Cost의 가격전가
장기계약
효율적인 Financing**
이다.
반대로 이 네 가지 중 하나라도 무너지면 수익성은 빠르게 낮아질 수 있다.
특히 GPU 가격이 높아지는 것 자체는 Cloud에 반드시 나쁜 것이 아니다.
그 가격 상승을 고객에게 전가할 수 있고, 장기계약을 통해 높은 가동률을 확보할 수 있다면 Cloud는 절대이익을 유지할 수 있다.
이 지점이 다음 단계인 NVIDIA의 Pricing Power와 직접 연결된다.
Cloud가 GPU 가격 상승을 흡수할 수 있기 때문에 NVIDIA가 높은 가격을 유지할 수 있는 것이다.
그럼 이제 정말 아래쪽에서부터 올라가 보자.
5. NVIDIA — 제조원가 $1이 GPU Revenue $4가 된다
Bottom-up의 출발점은 NVIDIA다.
NVIDIA FY27 2Q Gross Margin은 약 75%였다.
이를 단순화하면
COGS $1
→ Revenue $4
→ Gross Profit $3
정도의 구조다.
물론 NVIDIA 회사 전체 Gross Margin을 개별 GPU 하나의 제조원가 구조와 동일하게 보는 것은 정확하지 않다.
하지만 Value Chain의 첫 번째 단계에서 얼마의 Value Capture가 발생하는지를 이해하는 데는 충분히 유용하다.
SpaceXAI가 사용하는 NVIDIA GPU 약 325K개의 평균 ASP를 $40K 정도로 가정하면 GPU Hardware Value는 약 $13B다.
Jensen Huang — Blackwell GPU $30K~40K 언급 정리
Epoch AI — Blackwell / GB200 pricing methodology
NVIDIA — GB200 NVL72 official configuration
여기에 25%의 Cost Ratio를 단순 적용하면 NVIDIA의 제조원가는 약 $3.25B가 된다.
즉 첫 단계는 대략 아래와 같은 수치가 나온다.
$3.25B Manufacturing Cost
→ $13B GPU Revenue
해석
여기서 중요한 것은 NVIDIA가 $3.25B의 제조원가를 들여 $13B의 Revenue를 만들었다는 사실 자체가 아니다.
더 중요한 것은 그 다음 구매자인 Cloud가 $13B라는 높은 Hardware Price를 감당할 수 있는가다.
NVIDIA의 높은 Margin이 유지되려면 구매자 역시 그 Hardware를 통해 충분한 Return을 만들어내야 한다.
그렇지 않으면 결국 Cloud가 가격인하를 요구하거나 CAPEX를 줄일 수밖에 없다.
따라서 NVIDIA의 Pricing Power를 판단하려면 GPU에서 분석을 끝내면 안 된다.
GPU가 Cloud 안에서 얼마의 Revenue를 만드는지를 봐야 한다.
6. GPU/Incremental Capital Payback과 All-in Asset Payback
GPU $13B는 Cloud에서 연 $15B의 Compute Revenue를 만든다
이 숫자가 의미하는 것은 생각보다 상당히 크다.
NVIDIA로부터 약 $13B의 GPU를 구매했다고 해서 Cloud가 $13B를 단순히 소비한 것이 아니다.
SpaceX가 SEC에 공개한 Anthropic 계약을 보면 약 325K개의 NVIDIA GPU를 포함한 Compute Capacity에 대해 월 $1.25B, 정상화 기준 연간 약 $15B의 매출을 받는다. 계약은 2029년 5월까지 설정되어 있다. 물론 초기 3개월 이후에는 90일 사전통지에 따른 해지조항이 있기 때문에 $15B × 계약연수를 모두 확정 Backlog처럼 볼 수는 없다.
SpaceX S-1 — Anthropic Compute Services Agreement
앞서 추정한 GPU Hardware Value 약 $13B만 놓고 단순 계산하면,
$13B GPU Purchase
÷ $15B Annual Compute Revenue
= 약 0.87년
이다.
물론 이것은 GPU 가격만을 분모로 사용한 Revenue Payback이기 때문에 실제 투자회수기간으로 사용하면 안 된다.
Cloud 사업자는 GPU 외에도 CPU, HBM, Storage, Networking, Cooling, Power Infrastructure와 Data Center에 상당한 자본을 추가로 투자해야 하기 때문이다.
그런데 흥미롭게도 최근 SpaceX가 이보다 훨씬 직접적인 숫자를 공개했다.
2026년 10월 26일 SpaceX는 Apollo와 약 $40B 규모의 차세대 NVIDIA Vera Rubin GPU 및 관련 장비 Finance Lease 계약을 발표하면서 CFO가 다음과 같이 설명했다.
“less than one year payback periods on our SI infrastructure investments.”
즉 SpaceX 내부 계산상 Super Intelligence Infrastructure 투자에서 1년 미만의 Payback이 관찰되고 있다는 것이다.
SpaceX — $40B GPU Financing Announcement, 2026.10.26
다만 여기서 조심할 부분이 있다.
SpaceX가 말하는 Payback이 GPU Purchase Cost 기준인지, Incremental Cash Investment 기준인지, Contribution Profit 기준인지 정확한 산식은 공개되지 않았다.
따라서 이를 전체 Data Center의 Accounting EBIT Payback이 1년 미만이라는 의미로 확대해석하는 것은 적절하지 않다.
오히려 Oracle Investor Day가 All-in Project Economics를 이해하는 데 더 좋은 기준점을 제공한다.
Oracle이 제시한 대표적인 1GW AI Infrastructure 프로젝트는 대략
$37B CAPEX
→ $16B Annual Revenue
→ 약 35% Gross Margin
→ 약 34% Project Operating Margin
구조다.
이를 단순 계산하면 연간 Operating Profit은 약 $5.4B다.
따라서
$37B ÷ $5.4B
= 약 6.8년
정도의 All-in EBIT Payback이 나온다.
Oracle Investor Day 2026 — 1GW Project Economics
이 숫자가 SpaceX의 1년 미만 Payback과 크게 달라 보이지만, 사실 두 숫자는 서로 모순된다고 보기 어렵다.
Oracle은 Data Center와 Hardware 전체에 들어가는 경제적 총투자비를 기준으로 보는 반면, SpaceX는 Finance Lease를 통해 GPU 투자자본 자체를 외부에서 조달하고 있기 때문이다.
Oracle도 비슷한 구조를 설명했다.
1GW 프로젝트에서 약 $37B의 경제적 CAPEX가 필요하더라도 70% 수준의 Vendor Financing을 사용하면 초기 2년간 실제 자본투입은 약 $18B, 고객이 Hardware를 직접 제공하는 BYOH 구조에서는 $6B 이하까지 낮출 수 있다고 설명했다.
즉
Asset Payback
≠ Cash Payback
≠ Equity Payback
이다.
Cloud 사업에서 실제 주주수익률을 결정하는 것은 데이터센터 전체 가격만이 아니라, 그 자산을 누가 소유하고 누구의 자본으로 먼저 구축하는가까지 포함한다.
이 점은 Oracle의 실제 실적에서도 확인된다.
Oracle은 FY26 대규모 AI 계약 중 GPU를 고객이 직접 구매하거나 선수금을 제공한 계약의 Hardware 부분이 이미 $75B에 달한다고 공개했다. 회사 입장에서는 고객의 장기 Compute 수요가 데이터센터 구축자본의 상당 부분을 미리 조달해주는 셈이다.
Oracle FY2026 Results — Customer-funded / Customer-supplied GPU Contracts
그래서 이전에 추정했던 SpaceXAI의 Economics도 조금 더 보수적으로 보는 것이 맞다고 생각한다.
약 $30B의 All-in Invested Capital,
연간 $15B의 Compute Revenue,
약 38%의 Operating Margin을 Base Case로 적용하면,
연간 Operating Profit은 약 $5.7B가 된다.
$30B ÷ $5.7B
= 약 5.3년
이다.
즉 GPU Hardware만 보면 1년 안팎의 Revenue Payback이 가능하지만, Data Center 전체의 감가상각과 인프라 투자를 포함하면 약 5~7년 정도의 EBIT Payback이 현재로서는 더 합리적인 Base Case로 보인다.
그리고 최근 Big Tech의 실제 숫자들도 이 범위가 아주 비현실적인 가정은 아니라는 점을 보여준다.
Amazon의 3Q26 AWS는 분기매출 $46.0B, 영업이익 $17.8B, Operating Margin **38.7%**를 기록했다. Andy Jassy는 AWS Infrastructure 투자가 “working”하고 있다고 평가하면서 2027년과 2028년에도 AWS Revenue Growth가 40%를 상회할 것으로 예상했다.
Amazon 3Q26 Results
물론 AWS의 38.7%에는 Database, Storage, Software 등 고마진 서비스가 포함되어 있기 때문에 이를 순수 AI GPU Rental Margin으로 볼 수는 없다.
그럼에도 Cloud 전체가 대규모 Infrastructure CAPEX를 흡수하면서도 30%대 후반의 Operating Margin을 실제로 유지할 수 있다는 중요한 기준점이다.
Microsoft도 FY27 1Q에 $45.2B의 CAPEX를 집행했고 그중 약 75%가 GPU·CPU·Memory·Storage 등 상대적으로 수명이 짧은 자산이었다.
그런데도 경영진은
“Customer demand continues to exceed available supply.”
라고 설명했고, 인프라 효율이 개선되면서 “each dollar of capex”가 장기적으로 더 많은 Revenue와 Return을 지원할 수 있다고 말했다.
Microsoft FY27 Q1 Earnings Call
실제로 Microsoft는 한 분기에 24개의 Data Center를 추가했고, GB300의 Dock-to-Live 시간을 전분기 대비 약 20% 줄였으며, 기존 Infrastructure에서도 Copilot Workload Throughput을 50% 이상 높였다.
이 부분은 상당히 중요하다.
Cloud의 투자수익률 개선은 단순히 GPU 가격이 내려가야만 발생하는 것이 아니다.
**GPU Utilization 상승
Deployment Time 단축
Software Optimization
Higher Throughput
Long-term Contracts**
을 통해 동일한 Hardware에서도 더 많은 Revenue를 만들어낼 수 있기 때문이다.
Oracle 역시 2026년 9월 실적에서 AI Cloud Training 및 Inferencing Demand가 Supply보다 빠르게 증가하고 있다고 밝히면서 한 분기에 850MW의 추가 데이터센터 Capacity를 공급하고, 직전 분기 이후 300K개 이상의 GPU를 고객에게 인도했다.
Oracle FY27 Q1 Results
결국 여러 사업자의 숫자를 같이 놓으면 조금 더 선명한 그림이 나온다.
SpaceX
→ GPU 중심 투자에서는 내부적으로 1년 미만 Payback 주장
Oracle
→ All-in 1GW Project 기준 약 6~7년 EBIT Payback
AWS
→ 실제 Cloud Operating Margin 38.7%
Microsoft
→ Demand > Supply 상태에서 CAPEX 효율과 Throughput 지속 개선
즉 AI Cloud 투자회수기간을 하나의 숫자로 표현하기보다,
GPU-only / Incremental Capital: 약 1~3년
All-in Data Center EBIT Payback: 약 5~7년
Equity Payback: Financing Structure에 따라 그보다 짧아질 수 있음
정도로 구분하는 것이 더 합리적으로 보인다.
해석
이 숫자들이 의미하는 것은 꽤 크다.
NVIDIA로부터 약 $13B의 GPU를 구매했다고 해서 Cloud가 $13B를 단순 소비한 것이 아니다.
Hardware는 일회성으로 구매하지만, 해당 GPU가 Data Center와 결합되어 높은 가동률을 확보하면 수년에 걸쳐 반복적인 Compute Revenue를 만들어낼 수 있다.
그리고 최근 SpaceX, Oracle, Microsoft, Amazon의 실제 발언과 실적을 보면 Cloud 사업자들은 적어도 현재까지 높은 초기 CAPEX를 감당할 만한 Revenue Growth와 Return을 실제로 확인하고 있기 때문에 투자를 계속 확대하고 있다고 보는 편이 자연스럽다.
그래서 NVIDIA의 높은 GPU ASP 역시 고립해서 볼 필요가 없다.
Cloud가 그 Hardware를 이용해 충분한 Return을 창출할 수 있는 동안에는 NVIDIA의 높은 가격을 받아들일 경제적 여력이 존재한다.
Cloud Economics가 NVIDIA Economics를 지지하고, NVIDIA의 Hardware가 다시 Cloud Revenue를 만들어낸다.
여기까지가 Physical Infrastructure와 Cloud 사이에서 발생하는 첫 번째 Feedback Loop다.
그런데 이 구조가 지속되려면 마지막 조건이 하나 남는다.
Cloud보다 한 단계 위의 고객인 AI Lab이 결국 이 높은 Compute 가격을 계속 감당할 수 있어야 한다.
그래서 다음으로 봐야 할 숫자가 Anthropic의 Revenue / Compute = 2.08x다.
7. Compute $1은 Anthropic에서 Revenue $2.08이 된다
이제 AI Lab으로 올라가 보자.
Anthropic S-1에서 개인적으로 가장 흥미롭게 본 숫자다.
Compute에 $1을 사용해 약 $2.08의 Revenue를 만들어낸 셈이다.
물론 이 숫자를 Gross Margin으로 보면 안 된다.
Compute Expense에는 Training, Inference, R&D, Internal Use 등이 섞여 있다.
그럼에도 AI Lab이 구매한 Computing Capacity를 얼마나 많은 Revenue로 바꾸고 있는가를 보는 지표로는 꽤 유용하다.
SpaceXAI의 연간 Compute Revenue $15B를 Anthropic의 Compute Cost라고 가정하고 동일한 수익화 배율을 적용하면,
$15B × 2.08
≈ $31B AI Revenue
가 된다.
해석
이 숫자는 Cloud Layer의 수익성이 왜 유지될 수 있는지를 설명해준다.
Anthropic 입장에서 $15B의 Compute를 구매해 약 $31B의 Revenue를 만들어낼 수 있다면, Compute 가격이 높더라도 경제적으로 구매할 이유가 존재한다.
즉 Cloud의 $15B Revenue는 AI Lab에게 단순한 비용이 아니다.
더 큰 Revenue를 생산하기 위한 Input Cost다.
이것이 중요한 이유는 AI Infrastructure를 일반적인 Commodity Cost처럼 보면 안 되기 때문이다.
철광석이나 전기료가 올라가는 것처럼 단순히 마진을 깎는 Cost가 아니라,
Compute 자체가 Revenue Generation Capacity에 가까울 수 있다.
그렇다면 이제 마지막 질문이 남는다.
Anthropic 고객들은 왜 $31B의 AI Service를 구매하는가.
AI Lab이 돈을 벌 수 있으려면 최종 고객도 결국 그보다 더 큰 가치를 얻어야 한다.
8. Intelligence $1은 고객에게 얼마의 Economic Value를 만들어낼까
Value Chain의 마지막 단계는 최종 고객이다.
All-In Podcast의 원본 장표에서는 AI 지출액의 2~10배를 고객의 Economic Value로 가정했다.
상단 10배는 꽤 공격적인 가정으로 보였다.
그래서 기업 생산성 연구를 참고해 조금 더 보수적인 Bottom-up 모델을 만들어봤다.
예를 들어 100명의 Knowledge Worker가 있는 기업을 가정하자.
Fully Loaded Labor Cost가 시간당 $60,
연간 근로시간이 2,000시간이면,
총 Labor Cost는 $12M이다.
AI를 활용해 Gross Productivity가 12% 개선된다고 가정하더라도 그 12%가 모두 경제적 가치로 실현되는 것은 아니다.
절약한 시간이 단순 여유시간으로 남을 수도 있고,
직원 수를 줄이지 않을 수도 있으며,
추가 생산량이 실제 매출로 연결되지 않을 수도 있다.
그래서 Economic Realization을 50%로 잡았다.
그러면 실제 Economic Benefit은 인건비의 약 6%다.
$12M × 6%
= $720K
한편 직원 100명이 매월 $200의 AI Service를 사용한다면 연간 AI 비용은 $240K다.
따라서
$240K AI Spend
→ $720K Gross Economic Benefit
즉 약 3배다.
AI 비용을 제외한 Net Benefit은 $480K이고, AI Spend 대비 Net ROI는 약 200%다.
해석
이 지점이 사실 전체 Value Chain에서 가장 중요하다.
최종 고객이 $1을 지출해서 $3의 가치를 얻는다면 AI 서비스를 더 많이 사용할 이유가 생긴다.
그렇기 때문에 Anthropic은 높은 Compute Cost를 감당할 수 있고,
Anthropic이 지불할 수 있기 때문에 Cloud는 높은 Compute Price를 받을 수 있으며,
Cloud가 높은 Revenue와 Margin을 만들 수 있기 때문에 NVIDIA와 Memory 사업자의 높은 Hardware Price를 받아들일 수 있다.
즉 Value Chain의 가장 아래쪽 Hardware Pricing Power를 정당화하는 최종 원인은 결국 위쪽의 Customer ROI다.
Customer ROI
→ AI Lab Willingness to Pay
→ Cloud Pricing Power
→ Hardware Pricing Power
순서다.
이것이 지난 생각정리 417에서 Top-down으로 봤던 구조와 정확히 연결된다.
(*지식노동자를 빠르게 대체하고있는 AI..)
 |
| AI 확산으로 인해 가속화되는 OPEX -> CAPEX로의 비용 전환 |
 |
9월 고용지표 : 전 산업 고용 +16.2만 명 vs 정보 산업 -2.3만 명 (유일한 급락):
|
 |
금융투자업 종사자로서 AI기능 확산에 따라 업계 내 인력 구조조정 소식을 실로 매일 체감하는 1인..
|
 |
| 현재 컴퓨터 에이전트의 시간당 비용은 대략 6∼8달러로 추정된다. 해외 아웃소싱 백오피스 인력은 약 10달러, 미국 내 백오피스 인력은 30∼45달러 수준이다. a16z.com |
(*아래는 ai가 생산성향상에 직접적인 영향을 미치고 있다는 사례들..)
 |
https://x.com/GavinSBaker/status/2116973459519709591
|
9. 전체 Chain을 다시 연결해 보면
이제 모든 Layer를 하나로 연결할 수 있다.
Base Case는 대략 다음과 같다.
이를 NVIDIA 제조원가 $1 기준으로 Normalize하면,
$1 Manufacturing Cost
→ $4 GPU Revenue
→ 약 $4.6 Annual Compute Revenue
→ 약 $9.6 Annual AI Revenue
→ 약 $29 Annual Customer Economic Benefit
정도가 된다.
다시 한번 강조하지만
$1이 1년 만에 $29가 된다는 의미는 아니다.
NVIDIA COGS와 GPU Revenue는 Hardware 판매시점의 Transaction이고,
Cloud Revenue, AI Lab Revenue, Customer Value는 이후 매년 발생할 수 있는 Flow다.
따라서 하나의 IRR 계산으로 합칠 수 없다.
해석
여기서 보고 싶은 것은 배율 자체보다 Value Conversion이다.
Silicon과 Packaging으로 만들어진 Hardware가
Compute Capacity가 되고,
Compute가 Intelligence Service가 되고,
Intelligence가 인간의 노동과 기업 생산성을 대체하거나 보완하면서
더 큰 Economic Utility로 변환되는 구조다.
이 과정에서 각 Layer는 그 아래 Layer의 비용보다 더 큰 경제적 가치를 만들어낸다.
그래야 Chain이 유지된다.
즉 현재 AI Value Chain이 지속될 수 있는 핵심 조건은
Value Created at Layer N+1 > Cost Paid to Layer N
이라는 아주 단순한 관계다.
10. Value Creation과 Value Capture는 다르다
여기에서 한 가지 더 구분할 필요가 있다.
가장 많은 Value를 만들어내는 Layer와 가장 높은 Margin을 가져가는 Layer는 반드시 동일하지 않다.
최종 고객은 가장 큰 Economic Value를 창출할 수 있다.
하지만 그 전부를 Anthropic에 지불하지 않는다.
Anthropic은 고객이 만들어낸 Value 중 일부를 AI Service Revenue로 가져간다.
Cloud는 다시 Anthropic Revenue 일부를 Compute Fee로 가져간다.
NVIDIA는 Cloud가 앞으로 수년간 만들어낼 Compute Revenue의 일부를 Hardware 판매시점에 앞당겨 가져간다.
Memory, Networking, Power, Cooling, Packaging 사업자들도 다시 그 아래에서 일부를 가져간다.
따라서 AI Value Chain은 다음과 같이 볼 수 있다.
Value는 위로 갈수록 커지고,
Cash는 그 Value를 근거로 아래로 다시 배분된다.
해석
이 구조를 이해하면 왜 Physical Infrastructure의 일부 기업이 상당한 초과이익을 가져갈 수 있는지도 설명된다.
최종 고객에게서 충분한 Value가 만들어지고 있는 동안에는 Value Chain 중간의 가격상승을 어느 정도 흡수할 수 있다.
그 과정에서 가장 공급이 제한된 Layer가 가장 높은 Scarcity Rent를 가져간다.
현재는 GPU, HBM, Advanced Packaging, Power, Optical 등이 그 후보에 해당한다.
그래서 결국 AI 투자에서는
누가 가장 많은 Value를 창출하는가
와
누가 그 Value 중 가장 많은 부분을 Capture할 수 있는가
를 따로 봐야 한다.
11. 생각정리 417과 이번 글은 결국 같은 이야기를 반대편에서 보고 있다
지난 생각정리 417에서는 위에서 아래로 내려왔다.
Final Demand
→ AI Lab
→ Cloud
→ Physical Infrastructure
최종 고객수요가 충분히 강하고,
AI Lab이 그 수요를 Revenue로 전환하고,
Cloud가 Cost + Margin 구조로 높은 Computing Cost를 전가할 수 있다면,
결국 돈은 Physical Infrastructure까지 내려간다는 이야기였다.
이번에는 반대로 아래에서 올라왔다.
Physical Infrastructure
→ Cloud
→ AI Lab
→ Final Customer
GPU가 Compute를 만들고,
Compute가 Intelligence를 만들고,
Intelligence가 고객의 실제 노동과 생산성에 적용돼 더 큰 Economic Value를 만든다.
해석
두 방향을 함께 보면 AI CAPEX Cycle의 구조가 좀 더 선명해진다.
Top-down으로 보면
Customer Demand가 Hardware CAPEX를 정당화한다.
Bottom-up으로 보면
Hardware가 충분한 Economic Utility를 만들기 때문에 Customer가 비용을 지불한다.
결국 하나의 Feedback Loop다.
Higher Customer Value
→ More AI Spending
→ More AI Lab Revenue
→ More Compute Demand
→ Higher Cloud Utilization
→ More GPU / Memory CAPEX
→ Lower Cost per Intelligence
→ More AI Usage
→ Higher Customer Value
현재 AI Cycle의 강도가 높은 이유는 이 Loop의 여러 지점이 동시에 강화되고 있기 때문이라고 생각한다.
Customer Usage는 증가하고,
Anthropic의 Revenue / Compute는 개선되고,
Cloud의 Utilization은 높아지며,
GPU와 Memory 공급은 여전히 제약돼 있다.
그래서 단순히 한 Layer의 CAPEX만 보고 Cycle의 고점을 판단하기 어려운 것이다.
12. 그렇다면 무엇이 이 Loop를 깨뜨릴 수 있을까
여기까지 오면 반대로 이 Thesis를 깨뜨리는 조건도 비교적 명확해진다.
첫째는 Customer ROI다.
AI에 $1을 지출해 $1 이하의 Value밖에 얻지 못하기 시작하면 가장 위의 Demand가 약해진다.
그러면 AI Lab의 Growth가 둔화되고 Compute Demand 역시 줄어든다.
둘째는 AI Lab Revenue / Compute다.
현재 Anthropic의 2.08배가 지속적으로 하락한다면 높은 Compute Price를 감당할 수 있는 능력이 낮아진다.
셋째는 Cloud Margin과 Utilization이다.
Oracle이 제시한 30%대 중반 Project Margin이 10~20%대로 하락한다면 신규 Capacity에 대한 투자유인은 크게 떨어진다.
넷째는 GPU Economic Life다.
차세대 GPU의 성능향상이 너무 빨라 기존 Fleet의 경제적 수명이 2~3년 이하로 줄어들면 Cloud 사업자의 실질 Return은 빠르게 악화된다.
다섯째는 Supply Response다.
현재 높은 Return은 결국 신규자본을 끌어들인다.
GPU, HBM, Power, Networking, Data Center 공급이 수요보다 빨리 늘어나는 순간 Scarcity Rent는 약해진다.
해석
따라서 Cycle Peak를 확인하는 가장 좋은 방법은 단순히 CAPEX 증가율을 보는 것이 아닐 수 있다.
오히려 Value Chain의 각 단계에서
ROI와 Monetization이 동시에 악화되기 시작하는가
를 보는 것이 더 중요하다.
Customer ROI ↓
AI Lab Revenue / Compute ↓
Cloud Utilization ↓
Cloud Margin ↓
Hardware ASP ↓
이 흐름이 동시에 나타나기 시작한다면 그때는 Cycle의 구조 자체가 바뀌고 있다고 볼 수 있다.
현재는 아직 그런 방향보다는 정반대의 신호가 더 많이 나타나고 있다.
정리하며 — Follow the Value
지난 생각정리 417의 제목은 Follow the Constraint였다.
이번에는 반대로 Follow the Value라고 생각해볼 수 있을 것 같다.
지난 글에서는
수요가 어디에서 시작되고, 그 돈이 어떤 병목으로 내려가는가
를 봤다.
이번에는
Hardware에 투입된 $1이 위쪽으로 올라가면서 얼마나 많은 Economic Utility로 바뀌는가
를 살펴봤다.
현재 Base Case를 단순화하면
NVIDIA COGS $1
→ GPU Revenue $4
→ Annual Cloud Revenue 약 $4.6
→ Annual AI Lab Revenue 약 $9.6
→ Annual Customer Economic Benefit 약 $29
정도의 구조다.
숫자의 정확한 소수점은 앞으로 계속 변할 것이다.
GPU ASP도 변하고,
Cloud Margin도 변하고,
Anthropic의 Revenue / Compute도 변하며,
기업의 AI 생산성 실현율 역시 변할 것이다.
하지만 결국 확인해야 하는 질문은 단순하다.
각 Layer가 그 아래 Layer에서 지불한 비용보다 충분히 큰 Value를 만들어내고 있는가.
현재까지 확인되는 숫자로는 아직 그렇다고 생각한다.
Customer는 AI 비용보다 큰 생산성 가치를 얻고,
AI Lab은 Compute Cost보다 더 많은 Revenue를 만들어내며,
Cloud는 높은 CAPEX를 감수하면서도 30%대의 Project Margin을 기대할 수 있다.
그리고 그렇기 때문에 NVIDIA와 Memory 사업자의 높은 Hardware 가격도 아직 Value Chain 안에서 흡수되고 있다.
이 구조가 유지되는 동안에는 GPU와 Memory 가격이 올라가고 Cloud CAPEX가 증가하더라도 그것만으로 Cycle의 붕괴를 의미한다고 보기는 어렵다.
가격이 높은 이유가 단순한 투기 때문이 아니라,
그보다 더 큰 경제적 Value가 위에서 만들어지고 있기 때문이다.
반대로 언젠가 최종 고객이 AI에 지불한 $1에서 $1 이하의 Value밖에 만들지 못하기 시작하면 이야기는 완전히 달라진다.
그때는 가장 위에서부터 Willingness to Pay가 낮아지고,
AI Lab의 Monetization이 약해지고,
Cloud의 Utilization과 Margin이 떨어지고,
마지막에는 GPU와 Memory Pricing Power까지 내려올 것이다.
그래서 앞으로는 Constraint만큼이나 Value를 같이 따라가야 하지 않을까 싶다.
Follow the Constraint.
And Follow the Value.
지난 글에서는 위에서 아래로 돈이 어디에 귀속되는지 봤다면,
이번에는 아래에서 위로 그 돈이 왜 지불될 수 있는지를 살펴봤다.
결국 두 방향은 같은 지점에서 만난다.
최종 고객이 충분한 Economic Value를 얻는 동안,
AI Infrastructure의 높은 가격은 단순한 비용이 아니라 더 큰 Value를 생산하기 위한 Input이다.
현재까지는 여전히 그쪽에 조금 더 무게를 두고 있다.
=끝
관련글