아는 만큼 보인다고 했던가?
2022년 말 처음 Palantir Technologies를 분석했을 때만 해도 이 회사를 기업의 자동화 업무를 지원하는 소프트웨어 업체 정도로 바라봤다. 하지만 AI와 데이터 구조, 기업 의사결정 시스템을 공부할수록 Palantir의 본질이 데이터·업무규칙·권한·행동을 Ontology 위에 연결하는 Enterprise Operating Layer에 가깝다는 점을 이해하게 됐다.
생각정리 110 (* Palantir Technology)
최근 Neocloud를 바라보면서도 비슷한 경험을 하고 있다.
그동안 CoreWeave와 Nebius 같은 Neocloud를 GPU를 대규모로 확보한 뒤 높은 레버리지로 데이터센터를 구축해 임대하는 자본집약적 GPU Rental Business 정도로 생각했다. GPU 공급 부족이 끝나면 차별화가 약해질 수 있는 사업이라고 봤다.
하지만 Jeff Dean, Demis Hassabis, Claude Code 개발진 등 Frontier AI 업계 핵심 인물들의 최근 인터뷰를 종합해보면 AI 산업의 다음 병목은 단순한 Model Training이나 Inference가 아니다.
AI는 점차
Model → Agent → Tool → Execution → Verification → Evaluation → Retry → Learning
이라는 장시간의 반복적 Production Loop로 이동하고 있다.
모델의 지능 자체보다 이를 실제 업무에 연결하고, Context를 유지하며, 여러 Agent를 조정하고, 결과를 검증하고, 실패하면 다시 실행하는 Execution Layer의 중요성이 커지고 있는 것이다.
이런 흐름 속에서 OpenAI와 Anthropic은 FDE를 확대하며 기업 Workflow 안으로 직접 들어가고 있고, Palantir는 Ontology를 중심으로 Data·Logic·Action·Permission·Evaluation을 축적하고 있다. NVIDIA 역시 Open-weight Model과 Runtime을 확장하며 Model보다 아래쪽의 Compute와 Execution Stack을 장악하려 한다.
이 지점에서 CoreWeave와 Nebius도 다르게 보이기 시작했다.
두 회사는 더 이상 GPU Capacity만 강조하지 않는다. CoreWeave는 Training·Experiment·Evaluation·RL·Agent Runtime을 연결하고 있고, Nebius는 Open Model Inference, Optimization, Orchestration과 Agentic Search를 하나의 Production Stack으로 통합하려 한다. 동시에 대규모 전력 확보와 장기계약, 금융조달을 통해 AI Infrastructure 자체를 하나의 자산군으로 만들고 있다.
따라서 Neocloud를 단순한 GPU 임대업체로만 볼 것이 아니라,
Model Lab과 Silicon 사이에서 AI의 실제 실행과 반복개선을 담당하는 Merchant AI Factory
로 진화할 가능성을 다시 검토할 필요가 있다.
물론 막대한 Capex와 부채, NVIDIA 의존도, GPU 세대교체, 고객 집중도라는 위험은 여전히 크다. Software 확장이 실제 Switching Cost와 Utilization, ROIC 개선으로 이어지는지도 확인해야 한다.
그럼에도 최근 AI 기술 발전과 CoreWeave·Nebius의 전략을 종합해보면, 내가 Neocloud를 바라보던 기존 시각이 지나치게 단순했다는 생각이 든다.
이 글은 특정 기업에 대한 결론이라기보다, AI 산업의 중심이 Model Intelligence에서 Execution·Verification·Production Infrastructure로 확장되는 과정에서 Neocloud의 산업적 위치를 다시 생각해본 기록이다.
모델보다 실행계층이 중요해지는 시대
좋은 AI Startup의 조건과 Neocloud를 다시 봐야 하는 이유
최근 Jeff Dean, Demis Hassabis, Claude Code 개발진, OpenClaw와 Conductor 창업자 등의 인터뷰를 연속해서 살펴보면서 한 가지 공통된 흐름이 눈에 들어왔다.
AI 산업의 중심이 더 이상 가장 큰 Model을 만드는 경쟁에만 머무르지 않는다는 점이다. 모델이 실제 도구를 사용하고, 장기간 작업하며, 결과를 검증하고, 실패하면 다시 시도하는 Agent로 진화하면서 산업의 병목이 Model Intelligence를 현실의 경제적 가치로 전환하는 실행계층으로 이동하고 있다.
이 변화는 좋은 AI Startup을 고르는 기준도 바꾼다. 동시에 Palantir, OpenAI, Anthropic과 기존 Cloud 업체들이 왜 Forward Deployed Engineer, Enterprise Workflow, Evaluation, Governance에 대규모로 투자하는지도 설명해준다.
그리고 이 논리를 끝까지 따라가면 CoreWeave와 Nebius 같은 Neocloud를 단순 GPU 임대업체가 아니라, 모델과 기업의 실제 업무 사이에서 AI 실행을 생산하는 독립적인 AI Factory로 다시 볼 필요가 있다는 결론에 도달한다.
1. 좋은 AI Startup은 무엇을 가져야 하는가
Model Capability Gap보다 중요한 것은 Durable Capability Delta이다
Jeff Dean이 제시한 기준 가운데 흥미로운 부분은 Frontier Model이 현재 거의 풀지 못하는 문제에서 Startup 기회가 나올 수 있다는 주장이다.
반면 범용 모델이 이미 20% 정도의 성공률을 보인다면 몇 개월 뒤 추가적인 Training, Scale, Tool Use를 통해 빠르게 성능이 올라올 수 있으므로 주의해야 한다고 본다. 이는 중요한 기준이지만 그대로 적용하기보다는 조금 수정할 필요가 있다.
Frontier Model의 성공률이 0%에 가깝다고 해서 반드시 좋은 사업기회가 되는 것은 아니다. Startup 역시 이를 개선할 수 없다면 그것은 아직 풀리지 않은 연구문제일 뿐이다.
반대로 범용 모델의 성공률이 20%이더라도 Startup이 독점적인 데이터, Tool, Workflow, Evaluator를 결합해 End-to-end 성공률을 80~90%까지 높일 수 있다면 충분히 좋은 기회가 될 수 있다.
따라서 투자자가 봐야 할 것은 단순한 Model 성공률이 아니다.
Durable Capability Delta
= Startup System의 성공률 − Frontier Model 단독 성공률
더 중요한 것은 이 차이가 어디에서 발생하느냐이다.
Prompt나 System Prompt에서 대부분의 개선이 발생한다면 모델이 좋아질수록 경쟁우위가 사라질 가능성이 높다. 반대로 독점데이터, 실제 업무시스템과의 연결, Domain Evaluator, 실험결과, 고객의 승인·거절 데이터에서 개선이 발생한다면 모델이 좋아져도 경쟁우위가 유지될 수 있다.
AlphaGo와 AlphaFold가 보여준 세 가지 조건
Demis Hassabis가 AlphaGo와 AlphaFold를 통해 정리한 AI 문제의 조건은 Startup을 평가할 때도 상당히 유용하다.
첫째, 인간이나 Brute Force로 직접 탐색하기 어려울 만큼 거대한 Combinatorial Search Space가 존재해야 한다.
둘째, 후보가 좋은지 나쁜지를 판단할 수 있는 명확한 Objective Function이 있어야 한다.
셋째, 모델이 학습하고 실험할 수 있는 Data 또는 Simulator가 존재해야 한다.
여기에 사업적 조건을 추가해야 한다.
Evaluator가 충분히 빠르고 저렴해야 하며, AI가 결과를 제안하는 데서 끝나지 않고 실제 코드·실험·장비·업무시스템에서 실행할 수 있어야 한다. 그리고 실험할수록 외부에서 구할 수 없는 결과 데이터와 Negative Result가 쌓여야 한다.
결국 좋은 AI Startup의 구조는 다음에 가깝다.
Large Search Space
→ Candidate Generation
→ Execution
→ Verification
→ Selection
→ Proprietary Feedback
→ Better Next Experiment
이 Loop가 닫혀 있다면 AI가 발전할수록 Startup의 데이터와 Evaluator도 함께 개선된다. 반대로 생성만 있고 실행과 검증이 없다면 인상적인 Demo는 만들 수 있어도 지속적인 경쟁우위를 만들기는 어렵다.
Product Overhang은 진입기회이지 Moat 자체는 아니다
Claude Code 개발진이 언급한 Product Overhang도 중요한 개념이다.
현재 Frontier Model은 사람들이 생각하는 것보다 훨씬 많은 일을 할 수 있지만, 이를 사용할 수 있도록 설계된 Product와 Workflow가 충분하지 않다고 한다. 다시 말해 다음과 같은 격차가 존재한다는 것이다.
Model Capability > Existing Product Capability
Claude Code의 초기 성공도 모델을 더 복잡하게 통제한 결과라기보다 Terminal, Codebase, Test Suite에 접근할 수 있도록 해 모델이 이미 가지고 있던 능력을 끌어낸 데서 나왔다.
그러나 Product Overhang은 영구적인 경쟁우위가 아니다. 특정 Prompt, Harness, UI가 모델의 잠재력을 일시적으로 잘 끌어낸 것이라면 다음 Model Update에서 그 차이는 빠르게 사라질 수 있다.
따라서 좋은 Startup은 Product Overhang을 발견하는 데서 멈추지 않고, 이를 다음 단계로 전환해야 한다.
Prompt Moat
→ Verification Moat
→ Workflow Moat
→ Data Moat
진입 자체는 Product Overhang을 활용해 가능하다. 그러나 시간이 지날수록 진짜 경쟁력으로 남는 것은 단순한 모델 활용 능력이 아니라, 결과를 검증하는 Verification 체계, 고객의 실제 업무에 깊이 들어간 Workflow, 그리고 반복적인 사용 과정에서 축적되는 Outcome-labelled Data이다.
이것이 내가 개인적으로 한국의 많은 단순 기술이전 중심 바이오 기업이 AI 시대에 구조적으로 취약할 수 있다고 보는 이유이기도 하다.
단순히 후보물질이나 기술을 발굴한 뒤 외부에 이전하는 구조에서는 임상·실험·환자 반응과 같은 최종 결과가 다시 기업 내부의 학습 데이터로 충분히 환류되지 않는 경우가 많다. 즉 Discovery → Experiment → Outcome → Learning → Next Discovery의 Closed Loop가 기업 내부에 축적되지 않는다.
AI 시대에 중요한 자산은 단순히 많은 데이터를 보유하는 것이 아니라, 어떤 판단과 Intervention이 실제로 어떤 결과를 만들었는지 연결된 Outcome-labelled Data이다. 이 데이터가 지속적으로 쌓여야 다음 후보의 성공확률을 높이고 Evaluator를 개선하며, 시간이 갈수록 경쟁사가 복제하기 어려운 학습곡선을 만들 수 있다.
결국 AI 시대의 바이오 기업에서 중요한 질문은 단순히 “좋은 후보물질을 발굴할 수 있는가”가 아니라,
“발굴한 후보의 실제 결과가 다시 자신의 AI와 다음 의사결정을 개선하는 데이터로 돌아오는 구조를 가지고 있는가”
에 더 가까워질 가능성이 높다.
결국 AI가 창출하는 경제적 가치는 Discovery–Development–Clinical Outcome을 하나의 데이터 루프로 연결할 수 있는 기업에 집중될 가능성이 크다.
즉, 독자적인 AI 플랫폼과 데이터를 보유한 기술 바이오 기업, 또는 방대한 임상 경험과 개발 데이터를 축적해 온 대형 제약회사가 AI 시대 바이오 산업에서 대부분의 부가가치를 확보할 가능성이 높다.
생각정리 132 (* AlphaFold)
생각정리 133 (* ADC)
 |
| https://t.me/mk81_koreainvestment 한국의 바이오가 왜 미국 바이오를 꼭 따라가야 하는거지? |
미래의 Model Curve에 올라타야 한다
Sam Altman이 Startup School에서 강조한 것도 현재 AI로 과거와 동일한 일을 더 싸게 수행하는 데 머물러서는 안 된다는 점이다.
기술환경이 빠르게 바뀌고 비용이 하락하며 개발주기가 짧아질수록 기존 기업의 경쟁우위가 약화된다. 소수의 인력과 다수의 Agent, Compute만으로 과거 훨씬 큰 조직이 수행하던 일을 할 수 있게 되며, 이 시기에는 전문지식 자체보다 무엇을 만들 것인지 판단하는 Taste, 실제로 실행하는 Agency, 사업구조를 이해하는 Business Physics가 더 중요해진다.
따라서 AI Startup은 현재 모델의 한계를 고정된 조건으로 가정해서는 안 된다.
6개월 뒤 모델이 지금보다 훨씬 강해진다면 자신의 제품이 사라지는 것이 아니라, 더 큰 문제를 풀 수 있어야 한다. 생산성이 100배 증가했다면 동일한 일을 100배 싸게 수행하는 데 그치지 않고 목표 자체를 100배 확대해야 한다는 것이 Altman의 주장이다.
이를 한 문장으로 정리하면 좋은 AI Startup의 조건은 비교적 명확하다.
더 강한 모델이 등장했을 때 대체되는 회사가 아니라, 더 강한 모델을 사용할수록 자동화 범위와 데이터 자산, 고객가치가 함께 커지는 회사여야 한다.
2. 모델보다 Existing Product Capability가 중요해지는 이유
Model Intelligence는 여전히 중요하지만 차별화의 지속기간은 짧아지고 있다
Model Lab의 성능경쟁이 끝났다는 의미는 아니다.
가장 어려운 Reasoning, Long-running Agent, Scientific Discovery에서는 여전히 Frontier Model의 성능 차이가 중요하다. 다만 기업이 실제 구매하는 것은 Benchmark Score 자체가 아니라 업무를 얼마나 안정적으로 완료하는가이다.
Stanford AI Index 2026에 따르면 2026년 3월 기준 주요 Frontier Model 기업들의 성능은 상위 구간에 밀집하기 시작했고, 경쟁축도 비용, 신뢰성, Domain-specific Performance로 이동하고 있다. Open-weight Model은 일시적으로 격차가 다시 확대되었지만, 여전히 Closed Model에 대한 유력한 대안으로 기능할 정도까지 올라왔다. (Stanford HAI)
이는 Model이 중요하지 않다는 뜻이 아니다.
Model의 반감기가 짧아지고 있다는 의미에 가깝다. 오늘의 최고 모델이 몇 개월 뒤에도 압도적인 우위를 유지한다고 가정하기 어려워지면서, 기업가치의 중심은 모델에 접근하는 권리보다 모델을 실제 업무에 배치하는 능력으로 이동한다.
기업에서 AI의 경제적 가치는 다음 공식에 더 가깝다.
Economic AI Value
= Model Intelligence
× Input·Context Quality
× Tool·Action Access
× Verification·Evals
× Retry·Recovery
× User Adoption
아무리 좋은 모델도 잘못된 Input을 받거나, 필요한 시스템에 접근하지 못하거나, 결과가 맞는지 검증할 수 없다면 경제적 가치는 제한된다.
이 관점에서 나는 중국 LLM 기업들이 Model 성능만으로 장기간 높은 기업가치 Premium을 유지하기는 어렵다고 본다.
중국의 LLM은 정책적 검열과 정보통제 환경으로 인해 일부 정치·사회적 영역에서 학습데이터와 Input·Output의 분포가 제약될 수 있다. 아무리 모델 자체의 추론능력이 높아지더라도 현실을 정확하게 반영하는 Input과 Context가 제한된다면 Model Intelligence가 실제 의사결정 가치로 전환되는 데 한계가 생긴다.
더 근본적으로는 앞으로 좋은 모델을 만드는 것 자체가 점차 충분한 경쟁우위가 되지 못한다는 점이 중요하다.
진짜 기업가치는
Model → Proprietary Data → Workflow → Action → Verification → Outcome → Learning
이라는 Closed Loop를 얼마나 깊게 구축할 수 있는가에서 발생한다.
따라서 중국 LLM 기업의 장기적인 가치를 판단할 때도 Benchmark 성능보다 얼마나 자유롭고 정확한 Input을 확보할 수 있는지, Global Enterprise의 Proprietary Data와 Workflow에 접근할 수 있는지, 그리고 실제 사용 결과가 다시 Outcome-labelled Data로 축적되는 구조를 만들 수 있는지가 훨씬 중요하다고 생각한다.
결국 Model Intelligence가 빠르게 범용화되는 시대에는 좋은 모델보다 좋은 Input과 검증 가능한 Outcome을 소유하는 기업이 더 큰 가치를 가져갈 가능성이 높다.
반대로 약간 낮은 성능의 모델이라도 고객의 데이터, 기존 Software, 승인체계와 연결되고 결과가 자동으로 검증된다면 훨씬 큰 가치를 만들 수 있다.
이것이 앞으로 Existing Product Capability가 중요해지는 이유이다.
Existing Product Capability에는 단순한 UI만 포함되는 것이 아니다.
이미 고객이 사용하는 Workflow
고객의 Data와 System Connector
Identity와 Permission
사용자가 익숙한 Interface
Domain-specific Rule
Evaluation Dataset
Human Approval과 Escalation
Observability와 Audit Log
오류 발생 시 Rollback
기존 Distribution과 구매관계
등이 모두 포함된다.
모델의 성능이 비슷해질수록 이러한 자산의 상대적인 가치는 더 높아진다.
Model Lab이 FDE에 투자하는 이유
OpenAI와 Anthropic이 Forward Deployed Engineer와 Partner Network에 대규모로 투자하는 것도 같은 맥락이다.
OpenAI는 2026년 5월 OpenAI Deployment Company를 출범시키면서 AI Consulting·Engineering 업체 Tomoro를 인수했고, 약 150명의 FDE와 Deployment Specialist를 확보했다. 이 조직은 고객사 내부에 들어가 중요한 Workflow를 AI 중심으로 다시 설계하고, Pilot을 일상적으로 사용할 수 있는 시스템으로 전환하는 역할을 맡는다. (OpenAI)
2026년 7월 공개한 OpenAI Presence 역시 단순한 Model API가 아니다.
기업의 고객지원과 내부업무를 특정 Job 단위로 정의하고, Company System을 연결하며, 정책·Guardrail·승인·Escalation·Evaluation을 결합해 Agent를 Production에서 운영하는 제품이다. OpenAI 스스로도 기업의 병목이 Agent가 작동할 수 있음을 증명하는 단계에서, 신뢰성 있게 고부가가치 업무를 수행하게 만드는 단계로 이동했다고 설명한다. (OpenAI)
Anthropic도 유사한 방향으로 움직이고 있다.
2026년 3월 Claude Partner Network에 초기 1억 달러를 투입했고, 6월에는 DXC가 고객 조직 내부에 직접 들어가는 Claude-certified FDE를 수만 명 규모로 양성하겠다고 발표했다. DXC는 은행, 항공사, 보험회사, 제조업체의 Core System을 오랫동안 운영해온 기업이므로, 이 협력의 목적은 Claude를 단순히 제공하는 것이 아니라 기존 기업시스템의 실제 업무 안에 배치하는 데 있다. (Anthropic)
Model Lab이 FDE에 투자하는 이유는 모델이 약해서가 아니다.
오히려 모델의 능력이 빠르게 올라가면서 Capability와 Deployment 사이의 격차가 가장 큰 병목으로 떠올랐기 때문이다.
FDE는 고객지원 조직이 아니라 다음 네 기능을 동시에 수행한다.
**Enterprise Distribution
Workflow Discovery
Product Engineering
Model Feedback Loop**
현장에서 발견된 Failure Mode, 필요한 Tool, Permission Structure, Evaluation 방식은 다시 제품과 Model Roadmap에 반영된다.
따라서 FDE 투자는 단기적으로는 AI 도입을 돕는 비용이지만, 장기적으로는 Model Lab이 Enterprise Operating Layer로 내려오기 위한 전략적 투자라고 볼 수 있다.
그동안 무주공산에서 홀로 모든 파이를 독차지했던 Palantir Technology는 앞으로 큰 경쟁에 맞닿뜨리게 되지 않을까 한다.
3. Palantir Ontology와 Enterprise AI의 진짜 Switching Cost
Palantir가 장악하려는 것은 Model이 아니라 Decision Layer이다
 |
| 2026.08.03 Palantir Technology |
Palantir의 전략은 Model Lab이 Enterprise 시장으로 이동하는 방향을 가장 선명하게 보여준다.
Palantir AIP는 OpenAI, Anthropic, Google, xAI와 Open Model을 함께 사용할 수 있으며, 고객은 자체 Model을 연결하거나 Self-hosting할 수도 있다. Model Selector를 통해 비용, 속도, 성능, 가용성을 비교할 수 있다는 점에서 Palantir의 전략은 특정 Model에 고객을 묶어두는 방식과 거리가 있다. (Palantir)
Palantir가 대신 장악하려는 것은 Ontology이다.
Palantir Ontology는 기업의 데이터를 검색 가능한 형태로 연결하는 Semantic Layer에 그치지 않는다. 기업의 Data, Logic, Action, Security를 하나의 구조로 표현하고, 인간과 Agent가 동일한 운영 현실 위에서 의사결정을 내리고 행동하도록 만든다. (Palantir)
예를 들어 공장의 설비와 주문, 재고, 작업자, 납기 데이터를 Object로 연결하고, 어떤 조건에서 생산계획을 바꿀지 Logic으로 정의하며, 실제 ERP와 설비에 반영되는 행동을 Action으로 만든다. 동시에 누가 어떤 데이터와 행동에 접근할 수 있는지를 Permission으로 통제한다.
이 구조에서는 Model이 Claude에서 GPT로 바뀌어도 기업의 운영체계는 유지된다.
반면 수년 동안 구축된 Object, Relation, Business Rule, Action, Permission, Evaluation Dataset을 다른 Platform으로 옮기는 것은 매우 어렵다.
Palantir의 전략을 한 문장으로 정리하면 다음과 같다.
Make Models Replaceable, Make the Ontology Indispensable.
모델을 다양하게 허용하는 것은 Lock-in을 포기하는 전략이 아니다.
오히려 Model Lock-in을 낮춰 고객의 경계심을 줄인 뒤, 기업의 업무 의미와 행동체계를 Ontology에 축적해 더 강한 Switching Cost를 만드는 전략이다. 이를 Open Edge, Sticky Core 구조라고 볼 수 있다.
AI FDE는 Ontology를 더 빠르게 축적하는 장치이다
Palantir AI FDE는 자연어 명령을 데이터 변환, Code 작성, Ontology 수정, Function 생성과 App 구축으로 전환한다.
중요한 점은 단순히 코드를 작성하는 것이 아니다. AI FDE는 사용자의 기존 Permission 안에서 행동하고, Branch와 Pull Request를 통해 변경사항을 검토할 수 있게 하며, AIP Evals를 이용해 결과를 반복적으로 평가한다. (Palantir)
즉 AI FDE가 수행하는 Workflow는 다음과 같다.
Problem Definition
→ Data Integration
→ Ontology·Function
→ Application·Action
→ Evals
→ Failure Analysis
→ Revision
AI가 기업의 Ontology를 구축하고 개선할수록 Palantir의 구축속도는 빨라진다. 과거 FDE가 수개월 동안 수행하던 일부 작업이 자동화되면 고객당 Deployment Cost가 낮아지고, 더 작은 고객과 더 많은 Use Case를 지원할 수 있다.
동시에 Ontology에 더 많은 Action과 Evaluation이 쌓이면서 고객의 Switching Cost도 높아진다.
여기에서 Enterprise AI의 핵심 전략자산을 다시 정의할 수 있다.
**Data Sovereignty
User Experience
Input·Context
Tool·Action
Permission
Verification·Evals
Retry·Recovery
Outcome History**
이 전체 Loop를 누가 관리하느냐가 중요하다.
Raw Data는 다른 시스템으로 이전할 수 있다. 하지만 어떤 Input을 사용했고, 어떤 판단을 내렸으며, 누가 이를 승인했고, 실제 행동 이후 어떤 결과가 발생했는지에 대한 운영이력은 쉽게 이전하기 어렵다.
이를 기존 Data Gravity에서 한 단계 더 나아간 Decision Gravity라고 부를 수 있다.
Model Lab과 Cloud 업체들이 Palantir의 Ontology 제품을 그대로 복제하는 것은 아니다. 그러나 Data, Logic, Action, Security와 Evaluation을 하나의 Enterprise Control Plane 안에 넣으려는 방향은 Palantir식 전략과 수렴하고 있다.
앞으로 Enterprise AI 시장의 경쟁은 가장 좋은 모델을 누가 보유하는가보다 다음 질문에 가까워질 가능성이 높다.
기업의 AI Agent가 무엇을 알고, 무엇을 할 수 있으며, 그 행동이 맞았는지를 판단하는 체계를 누가 소유하는가?
4. 왜 이 변화가 Neocloud를 다시 부르는가
Enterprise AI에는 Decision Layer뿐 아니라 Execution Layer가 필요하다
Palantir가 기업의 Decision Layer를 장악하려 한다면, CoreWeave와 Nebius 같은 Neocloud는 다른 계층을 장악하려 한다.
Neocloud가 다루는 것은 기업의 업무 의미체계보다 AI의 Execution Physics에 가깝다.
어떤 GPU와 Memory를 사용할 것인가
Training과 Inference를 어디에 배치할 것인가
Agent 수요가 급증할 때 Capacity를 어떻게 확장할 것인가
Model을 어떻게 Quantization하고 최적화할 것인가
수천 개 Sandbox와 Evaluation을 어떻게 병렬 실행할 것인가
어떤 Workload를 최신 GPU와 구형 GPU에 배분할 것인가
전력과 Network를 어떻게 확보할 것인가
가 핵심이다.
CoreWeave는 2026년 1분기 실적에서 자신의 위치를 “Models와 Silicon 사이”라고 표현했다. 당시 Active Power는 1GW를 넘어섰고 Revenue Backlog는 994억 달러에 달했다. 회사는 Training에서 Inference로 시장의 중심이 이동할수록 Infrastructure, Software, 운영 전문성의 결합이 더 중요해진다고 설명했다. (CoreWeave)
이 위치는 기존 Hyperscaler와도 다르고 Model Lab과도 다르다.
기존 Hyperscaler는 이미 기업의 Data, Identity, Security와 Application을 보유하고 있다. Microsoft, Google, AWS가 Enterprise AI에서 매우 강한 이유이다.
따라서 Neocloud가 모든 Enterprise Workload에서 Hyperscaler보다 유리하다고 보기는 어렵다.
다만 대규모 GPU Cluster, 최신 NVIDIA Architecture, Open Model Inference, RL, Agent Evaluation처럼 AI에 특화된 업무에서는 Neocloud가 더 직접적이고 유연하게 대응할 여지가 있다. General-purpose Cloud의 수많은 Product와 Legacy Architecture에 맞출 필요가 적고, 고객의 특정 Workload에 맞춰 Cluster와 Runtime을 공동 최적화할 수 있기 때문이다.
즉 Neocloud는 Hyperscaler를 대체하기보다 다음 영역에서 별도의 위치를 만들 가능성이 높다.
Hyperscaler
= Enterprise Data·Identity·Base-load Cloud
Neocloud
= Frontier NVIDIA·Open Model·Flexible AI Production
두 계층은 경쟁하면서도 서로의 고객과 Partner가 되는 Co-opetition 구조에 가깝다.
Open-weight Model과 Data Sovereignty는 Neocloud의 기회를 넓힌다
NVIDIA가 Nemotron을 Open-weight Model로 제공하고, Training Data와 RL Environment, Evaluation Tool까지 함께 공개하는 것도 이 구조와 연결된다.
NVIDIA는 모델 자체의 희소성을 극대화하기보다 다양한 기업과 Startup이 Specialized Agent를 만들도록 하고, 그 Agent가 NVIDIA GPU, CUDA, TensorRT-LLM, Dynamo와 Cloud Partner에서 실행되도록 하는 전략을 취하고 있다. Nemotron 3는 Open Model, Data, RL Library를 함께 제공하며 Multi-Agent와 Long-running Agent의 효율을 핵심 가치로 제시한다. (NVIDIA Newsroom)
Open-weight Model이 충분히 좋아질수록 기업은 특정 Model API에 완전히 종속될 필요가 줄어든다.
자체 Fine-tuning, Data Sovereignty, Regional Deployment, Model Routing이 가능해지며, 이러한 Model을 효율적으로 운영해주는 독립적인 AI Cloud의 가치가 올라갈 수 있다.
Nebius의 Token Factory가 Open Model과 Custom Model의 Fine-tuning부터 Production Inference까지 하나의 Governance Platform으로 제공하는 것도 이 수요를 겨냥한 것이다. 고객은 DeepSeek, Llama, Nemotron, Qwen 등 여러 Model을 선택하거나 자체 Model을 배치할 수 있다. (Nebius)
따라서 Neocloud가 추구하는 이상적인 포지션은 일종의 AI Compute Switzerland이다.
Model은 교체할 수 있고 고객은 자신의 Data와 Model을 통제하지만, Training, Inference, Evaluation, Capacity Management는 Neocloud의 Runtime 안에서 수행되는 구조이다.
다만 이 중립성은 완전하지 않다.
Neocloud는 Model 측에서는 비교적 중립적일 수 있지만 Hardware 측에서는 NVIDIA에 강하게 의존한다. 즉 Model-neutral, Silicon-concentrated 구조이다.
이것이 Neocloud의 기회이자 동시에 가장 큰 위험이다.
5. Neocloud는 GPU Cloud에서 Software·Power·Finance Platform으로 이동한다
Software Layer는 단순한 Multiple Expansion 수단이 아니다
 |
| 2026.08.11 CoreWeave |
 |
| 2026.07.16 Nebius |
CoreWeave와 Nebius가 Software Layer를 강화하는 이유를 단순히 Software 기업처럼 더 높은 Valuation Multiple을 받기 위한 전략으로만 보면 부족하다.
Neocloud Software의 핵심 목적은 세 가지이다.
첫째, 고객의 Training, Evaluation, Inference Workflow를 자사 Infrastructure에 연결해 Switching Cost를 높이는 것이다.
둘째, 서로 다른 Workload를 결합해 GPU Utilization을 높이는 것이다.
셋째, 동일한 Hardware에서 더 많은 Verified Output을 만들어 Cost per Task를 낮추는 것이다.
CoreWeave는 2025년 Weights & Biases를 인수해 Compute와 AI Experiment Platform을 결합했다. W&B는 Model Training Run, Metric, Evaluation, Agent Trace를 관리하며, CoreWeave는 이를 자사의 Infrastructure와 연결해 개발부터 배포, 반복개선까지 하나의 Platform으로 만들려 한다. (CoreWeave)
이후 CoreWeave는 Agent와 RL을 위한 격리형 Sandboxes, Training과 Inference 사이를 연결하는 Serverless RL, Experiment Data를 읽고 다음 연구방향을 제안하는 ARIA를 출시했다. CoreWeave의 방향은 Training과 Inference를 분리된 일회성 Workload로 두지 않고, 실제 운영결과가 다시 Post-training과 Evaluation으로 돌아가는 Closed Loop를 만드는 것이다. (CoreWeave)
이 Loop가 성공하면 CoreWeave의 경제성은 단순 GPU 임대료에서 벗어난다.
Compute
→ Experiment
→ Evaluation
→ Failure Analysis
→ Post-training
→ Inference
→ 다시 Compute
Software가 Compute Consumption을 다시 Compute Consumption으로 연결한다.
동시에 Training이 끝난 시간에는 Inference를, Inference 수요가 낮을 때는 Evaluation과 Batch Workload를 배치해 Fleet Utilization을 높일 수 있다.
따라서 Software Attach의 진짜 가치는 Software ARR 자체보다 다음 경로에 있을 수 있다.
Software Attach
→ Workload Diversity
→ Higher Utilization
→ Revenue per MW 상승
→ ROIC 개선
Nebius도 Full-stack Inference Platform으로 이동하고 있다
Nebius의 방향도 비슷하지만 Open Model과 Production Inference에 더 집중되어 있다.
Nebius는 Token Factory를 중심으로 Agentic Search 업체 Tavily를 인수했고, Model-level Inference Optimization 업체 Eigen AI를 인수했다. 또한 Clarifai의 핵심 연구인력과 Compute Orchestration 관련 IP를 확보했다.
역할을 구분하면 다음과 같다.
Token Factory: Open·Custom Model의 Fine-tuning과 Inference
Eigen AI: Model, Kernel, Quantization Optimization
Clarifai: System-level Inference와 Compute Orchestration
Tavily: Agent의 Real-time Search와 Grounding
Nebius는 이를 통해 단순 GPU Capacity를 제공하는 업체가 아니라, 기업이 Open Model을 가져오면 최적화하고, 배포하고, 검색과 Agent Tool을 연결해 Production에서 운영하는 Platform으로 이동하려 한다. (Nebius)
CoreWeave가 W&B를 중심으로 Experiment·Eval·Research Loop를 장악하려 한다면, Nebius는 Token Factory를 중심으로 Open Model·Inference·Agent Runtime을 장악하려는 성격이 강하다.
두 회사가 만들려는 Switching Cost는 Palantir의 Ontology와는 다르다.
Palantir는 기업의 Data, Logic, Action, Permission과 Outcome을 축적해 Decision Gravity를 만든다.
Neocloud는 Model Artifact, Training History, Evaluation Trace, Inference Endpoint, Sandbox, Scheduler, Capacity Reservation과 Runtime Optimization을 축적해 Execution Gravity를 만들려고 한다.
기업은 Model을 교체할 수 있다. 그러나 수년간 축적한 Experiment History, Eval Suite, Runtime Configuration과 Capacity Workflow를 다른 AI Cloud로 옮기는 것은 점점 어려워질 수 있다.
동시에 Neocloud는 거대한 전력·금융 Vehicle이다
그러나 Software만 보면 Neocloud의 본질을 놓치게 된다.
Neocloud는 대규모 전력과 데이터센터, GPU를 선제적으로 확보해야 하는 자본집약적 산업이다. 따라서 장기 승자를 결정하는 것은 Software만이 아니라 Power Procurement와 Cost of Capital이다.
CoreWeave는 2026년 3월 고객계약과 HPC Infrastructure를 담보로 한 85억 달러 규모의 Non-recourse Financing을 조달했다. 일부 Tranche는 투자적격등급을 받았고, 회사는 이를 AI Infrastructure Financing이 독립적인 자산군으로 발전하는 사례로 제시했다. (CoreWeave)
이는 CoreWeave가 단순 Technology Company가 아니라는 것을 보여준다.
**AI Cloud Software
Data Center Operator
Power Buyer
Structured Finance Vehicle**
이라는 성격이 동시에 존재한다.
Nebius 역시 NVIDIA로부터 20억 달러의 투자를 유치하고 2030년까지 5GW 이상의 NVIDIA System 배치를 추진하고 있다. Meta와는 2027년부터 시작되는 120억 달러의 Dedicated Capacity 계약과, 잔여 Capacity를 최대 150억 달러까지 구매하는 구조를 체결했다. (NVIDIA)
이 구조에서 Neocloud의 경쟁력은 GPU를 많이 보유했다는 사실만으로 결정되지 않는다.
다음 변수의 조합이 중요하다.
Power Availability
× Hardware Deployment Speed
× Utilization
× Software Optimization
× Contract Quality
÷ Cost of Capital
장기계약이 GPU의 경제적 수명을 충분히 커버하고, 새로운 GPU가 출시된 뒤 구형 GPU를 낮은 가격대의 Inference·Fine-tuning·Batch Workload로 재배치할 수 있어야 한다.
그렇지 못하면 GPU 세대교체가 빨라질수록 기존 자산의 임대가격은 하락하지만 부채와 감가상각은 남게 된다.
따라서 Neocloud는 AI 수요가 증가한다고 반드시 좋은 Equity Investment가 되는 사업은 아니다.
결론: 왜 지금 Neocloud를 다시 봐야 하는가
지금까지의 논리를 하나로 연결하면 다음과 같다.
AI Startup의 경쟁력은 더 이상 좋은 Model에 먼저 접근했다는 사실만으로 설명되지 않는다. 더 강한 모델이 등장할수록 자동화 범위가 넓어지고, 그 과정에서 독점데이터, Evaluation, Workflow와 고객관계가 누적되는 기업이 좋은 Startup이다.
Model Lab 역시 이러한 변화를 인식하고 있다.
OpenAI와 Anthropic이 FDE와 Partner Network를 확대하는 이유는 Model Intelligence만으로 기업의 경제적 가치를 만들 수 없기 때문이다. 기업의 Data와 System을 연결하고, Permission을 설계하며, 결과를 검증하고, 실패하면 다시 시도하는 실행체계가 필요하다.
Palantir는 이 경쟁에서 가장 앞선 사례를 보여준다.
여러 Model을 자유롭게 허용하는 대신 기업의 Data, Logic, Action, Security와 Evals를 Ontology에 축적한다. Model Lock-in을 낮추고 Decision Layer의 Switching Cost를 높이는 전략이다.
그런데 이 전체 구조가 작동하기 위해서는 아래쪽에 새로운 형태의 AI Infrastructure가 필요하다.
장시간 작동하는 Agent, 반복되는 Evaluation, RL, Multi-Agent Search, Open Model Inference는 일반적인 Cloud Workload와 다르다. 더 빠른 GPU 배치, Model Optimization, Flexible Capacity, 대규모 Sandbox, 전용 Network와 높은 전력밀도를 요구한다.
바로 이 지점에서 Neocloud의 전략적 의미가 생긴다.
Neocloud는 Hyperscaler를 대체하지 않는다. 오히려 Hyperscaler의 Data·Identity·Enterprise Distribution과 Model Lab의 Intelligence 사이에서, AI를 실제로 실행하고 반복 개선하는 독립적인 Merchant AI Factory가 될 가능성이 있다.
다만 장기 승자는 GPU를 가장 많이 산 회사가 아니다.
고객의 Training·Inference·Eval Loop를 Software로 연결하고
구형과 신형 Accelerator를 높은 Utilization으로 운영하며
Power와 Financing을 낮은 비용으로 확보하고
Customer Concentration과 Hardware Obsolescence를 통제하는
회사만이 살아남을 가능성이 높다.
따라서 앞으로 Neocloud를 평가할 때 가장 중요한 지표도 GPU 수나 매출성장률만이 아니다.
Verified Tasks per MW
즉 1MW의 전력과 1달러의 투자자본으로 경쟁사보다 얼마나 많은 검증된 AI 작업을 생산할 수 있는지를 봐야 한다.
현재 Neocloud는 아직 두 개의 미래 사이에 서 있다.
하나는 GPU 부족을 이용해 Capacity를 임대하다가 공급이 늘어나면 가격경쟁에 빠지는 고레버리지 GPU Rental Business이다.
다른 하나는 Training, Inference, Evaluation, Agent Runtime과 Software를 통합하고, 전력과 금융까지 최적화하는 새로운 AI Production Platform이다.
CoreWeave와 Nebius의 Software 인수, Inference Platform 확대, NVIDIA와의 전략적 관계, 대규모 전력·금융조달은 두 회사가 후자의 방향으로 이동하려 하고 있다는 증거이다.
아직 그 전환이 완성됐다고 보기는 어렵다. Software가 실제 Switching Cost와 Utilization 개선으로 연결되는지, GPU 교체 이후에도 계약과 Cash Flow가 유지되는지, Hyperscaler의 자체 ASIC과 경쟁할 수 있는지를 더 확인해야 한다.
그럼에도 지금 Neocloud를 다시 봐야 하는 이유는 명확하다.
AI 산업의 가치 중심이 Model을 만드는 능력에서, Model의 지능을 지속적이고 검증 가능한 경제적 결과로 생산하는 능력으로 이동하고 있기 때문이다.
그리고 그 변화가 계속된다면 Neocloud는 단순히 GPU를 빌려주는 회사가 아니라, AI 시대의 새로운 공장과 전력시장, Software Platform과 금융시장이 만나는 핵심 산업계층으로 발전할 가능성이 있다.
#글을 마치며
AI가 계속 발전할수록 어느 기업의 시스템 안에 더 많은 행동과 결과가 축적되는가?
나는 앞으로 AI 기업의 장기적인 기업가치를 판단할 때 이 질문이 상당히 중요한 기준이 될 것이라고 생각한다.
한국의 메모리, MLCC Peak-out 논리는
그냥 ... 어이가 없음..
 |
| This is Ashenbrenner's Scientific Awesome Announcement of Purchase of 12% Stake in Uden |
 |
| Singapore's Temasek to Invest in Samsung and SK hynix... 'First Investment in Korean Stock Market' |
=끝
