2026년 7월 20일 월요일

생각정리 315 (* Kimi K3, 추가 제재-2)

이전 글에 이어, 미국이 중국산 LLM에 대해 추가 제재에 나설 경우 어떤 시나리오가 전개될 수 있을지 조금 더 생각해본다.

좀 더 생각해보니 미국에는 생각보다 강력한 카드가 남아 있다.

바로 OpenRouter를 비롯한 미국 내 클라우드·라우팅 플랫폼이 중국산 LLM을 호스팅하거나 제공하지 못하도록 행정적으로 제한하는 방안이다.

이는 중국 모델의 미국 내 접근성을 낮추는 데 그치지 않고, 그동안 서방 인프라에 분산돼 있던 추론 수요를 중국 내부로 되돌려 중국의 컴퓨팅 자원 부족을 더욱 부각시킬 수 있다.

Scott Bessent: US to control 80% of global compute power soon
클라우드 AI H/W 주도권을 강조하는 스콧 베센트

중국 LLM 제재가 오히려 AI 하드웨어 투자를 늘리는 이유


Kimi K3 증류 의혹에서 메모리 중복투자까지


Kimi K3의 등장 이후 시장의 관심은 주로 성능과 가격에 집중됐다.

하지만 더 중요한 문제는 따로 있다. Anthropic은 Moonshot AI가 수백 개의 부정 계정을 이용해 Claude와 340만 건 이상의 대화를 수행하고, 코딩·추론·컴퓨터 사용 능력을 조직적으로 추출하려 했다고 주장했다.

물론 현재 공개된 자료만으로 Kimi K3가 Anthropic의 Fable을 불법 복제해 개발됐다고 확정할 수는 없다. 그러나 미국 정부가 이번 사태를 단순한 기업 간 분쟁이 아니라 미국의 AI 기술을 탈취하려는 국가안보 문제로 받아들일 가능성은 충분하다.

미국이 이를 계기로 중국산 LLM에 대한 추가 제재를 강화한다면, 가장 먼저 흔들리는 것은 중국 모델의 미국 시장점유율이 아닐 수 있다.

오히려 그동안 낮은 토큰 가격과 서방 클라우드 활용 뒤에 가려져 있던 중국의 컴퓨팅 인프라 부족이 더 선명하게 드러날 가능성이 있다.

그리고 그 결과는 역설적으로 GPU·메모리·네트워크를 포함한 AI 하드웨어 투자의 확대로 이어질 수 있다.

중국 LLM의 성장은 낮은 가격에 기반하고 있다


2026년 7월 기준 Zhipu, DeepSeek, MiniMax, Kimi 등 중국 주요 독립계 LLM 4사의 합산 ARR는 약 21억 달러로 추정된다.

OpenAI의 연환산 매출 프록시는 약 240억 달러, Anthropic은 최근 월평균 매출을 기준으로 약 729억 달러로 추정된다.


중국 독립계 LLM의 매출 규모는 여전히 미국 프론티어 모델 기업보다 작지만, 글로벌 토큰 사용량에서는 빠르게 존재감을 높이고 있다.

그 이유는 분명하다.

  • 미국 프론티어 모델에 근접한 성능

  • 훨씬 낮은 API 가격

  • 적극적인 오픈웨이트 정책

  • 개발자 친화적인 API와 에이전트 기능

  • 중국 내 경쟁과 가격전쟁


중국 LLM 기업은 높은 마진보다 사용량과 시장점유율을 우선하고 있다. 낮은 가격으로 개발자를 끌어들이고 모델 생태계를 확대하는 전략이다.

그러나 이 전략에는 중요한 전제가 있다.

중국 모델이 증가하는 글로벌 추론 수요를 모두 중국 데이터센터에서 직접 처리할 필요가 없어야 한다는 점이다.

중국 모델의 토큰은 반드시 중국에서 만들어지지 않는다


현재 중국산 오픈웨이트 모델은 AWS, OpenRouter, 네오클라우드와 기업 자체 데이터센터에서도 실행된다.

여전히 압도적인 중국산 LLM

이 경우 모델을 개발한 기업은 중국 기업이지만 실제 토큰을 생성하는 GPU와 메모리는 미국이나 유럽 데이터센터에 있을 수 있다.

예를 들어 AWS가 DeepSeek나 Kimi의 오픈웨이트를 자체 서버에 배포하면 AWS가 GPU, HBM, 네트워크와 전력 비용을 부담한다. 중국 모델 기업은 전 세계 데이터센터를 직접 구축하지 않고도 글로벌 사용량을 확대할 수 있다.

즉, 중국의 오픈웨이트 전략은 단순한 기술 공개가 아니다.

모델은 중국이 개발하지만 글로벌 추론 CAPEX는 서방 클라우드와 기업 고객이 부담하게 만드는 구조이기도 하다.

이 구조 덕분에 중국 LLM 기업은 제한된 자체 인프라로도 글로벌 토큰 점유율을 빠르게 확대할 수 있다. Sparse MoE, 캐싱, 양자화 같은 기술적 효율화까지 더해지면서 낮은 토큰 가격도 일정 부분 유지할 수 있다.

하지만 미국의 추가 제재가 이 연결고리를 끊는다면 상황은 달라진다.

미국의 추가 제재는 컴퓨팅 수요를 다시 중국으로 돌려보낼 수 있다


미국이 중국산 LLM을 규제할 때 선택할 수 있는 수단은 다양하다.

연방정부와 공공기관에서 중국 모델의 사용을 금지할 수 있고, 금융·국방·통신·의료와 같은 핵심 산업으로 제한 범위를 확대할 수도 있다.

여기에 AWS·Azure·Google Cloud가 중국산 모델을 호스팅하지 못하도록 하거나, 중국 LLM 기업의 공식 API와 결제를 차단하는 조치가 더해질 수 있다. 신규 모델 가중치의 다운로드와 미국 내 배포를 제한하는 방안도 가능하다.

규제가 이 수준까지 확대되면 중국 LLM 기업은 더 이상 미국 클라우드와 제3의 추론 사업자에게 글로벌 컴퓨팅 수요를 분산하기 어렵다.

그동안 서방 데이터센터에서 처리되던 중국 모델의 추론 수요가 다시 중국 내부 인프라로 돌아오게 된다.

문제는 미국이 모델과 서비스만 규제하는 것이 아니라 첨단 GPU와 HBM에 대한 중국의 접근도 동시에 제한하고 있다는 점이다.

결국 중국은 다음 두 가지 압력을 동시에 받게 된다.

처리해야 할 추론 수요는 증가하지만
이를 처리할 첨단 GPU와 메모리의 조달은 더 어려워지는 구조이다.


이는 중국 LLM의 가격경쟁력보다 먼저 서비스 공급능력의 한계를 드러낼 수 있다.

(참고로, 이미 미국 프론티어 LLM의 수익성과 하위 중국 오픈웨이트 LLM간의 격차는 상당히 벌어져 있음..)


2026.07.21 Anthropic 

2026.05.27 OpenAI


2026.03.31 Zhipu AI

2026.03.02 MiniMax


Kimi K3 구독 중단은 그 가능성을 미리 보여줬다


Kimi K3는 출시 직후 예상보다 강한 수요가 몰리면서 약 48시간 만에 신규 유료 가입을 중단했다.

Moonshot은 수요가 현재 GPU 용량의 한계에 접근했으며 기존 가입자를 우선하겠다고 설명했다.

이는 단순히 Kimi K3가 큰 인기를 얻었다는 의미에 그치지 않는다.

낮은 가격으로 수요를 폭발시키는 데는 성공했지만, 그 수요를 처리할 컴퓨팅 인프라는 충분히 확보하지 못했다는 뜻이기도 하다.

LLM 서비스는 낮은 가격만으로 유지되지 않는다. 사용량이 증가할수록 더 많은 GPU, HBM, 네트워크와 전력이 필요하다. 그러나 토큰 가격을 지나치게 낮추면 추가 인프라 투자를 내부 현금흐름으로 조달하기 어려워진다.

수요가 공급능력을 넘어설 경우 기업이 선택할 수 있는 방법은 제한적이다.

  • 토큰 가격 인상

  • 신규 가입 및 사용량 제한

  • 응답 속도와 서비스 품질 저하

  • 외부 클라우드에서 고가의 GPU 임차

  • 자체 데이터센터 대규모 증설


Moonshot은 그중 신규 가입 제한을 선택했다.

미국의 본격적인 규제가 시행되기도 전에 이 같은 병목이 발생했다는 점이 중요하다. 향후 미국 클라우드에서 중국 모델의 호스팅이 제한되고, 첨단 GPU와 HBM 수출통제까지 강화된다면 Kimi K3와 유사한 용량 부족이 다른 중국 LLM에서도 반복될 가능성이 있다.

미국의 제재는 중국 모델의 수요를 없애기보다, 기존에 서방 인프라로 분산되던 수요를 중국 내부로 집중시킬 수 있다.

중국의 수출통제까지 더해지면 두 개의 생태계가 만들어진다


Financial Times에 따르면 중국 상무부 역시 첨단 AI 모델과 반도체 기술에 대한 수출통제 강화를 검토하고 있다.

핵심 훈련 데이터의 해외 이전과 외국 사용자의 모델 가중치 다운로드를 제한하되, 해외에는 중국 기업이 통제하는 API와 서비스 형태로만 접근을 허용하는 방안이다.

중국의 조치가 현실화되고 미국의 제재가 동시에 강화되면 양쪽의 규제가 서로 맞물리게 된다.

  • 중국은 첨단 모델의 가중치 반출을 제한한다.

  • 미국은 중국 기업이 통제하는 API와 클라우드 서비스를 차단한다.

  • 미국은 중국으로의 첨단 GPU와 HBM 공급도 제한한다.

  • 중국은 국산 모델과 국산 하드웨어 생태계 구축을 가속한다.

그 결과 AI 시장은 다음과 같은 두 개의 생태계로 분리될 가능성이 높다.

  • 미국 모델·미국 클라우드·서방 반도체 공급망

  • 중국 모델·중국 클라우드·중국산 가속기 공급망

하나의 글로벌 시장에서는 특정 지역의 컴퓨팅 부족을 다른 지역의 클라우드 용량으로 보완할 수 있다.

하지만 생태계가 분리되면 미국과 중국은 각각 독립적인 학습 클러스터, 추론 데이터센터와 예비 연산능력을 구축해야 한다.

글로벌 차원에서는 같은 기능을 양쪽이 따로 구축하는 중복투자가 발생한다.

소프트웨어의 분리는 하드웨어 시장의 파이를 키울 수 있다


생태계 분리는 소프트웨어 기업에는 부정적일 수 있다.

접근 가능한 시장이 줄어들고, 모델과 데이터의 이동이 제한되며, 클라우드의 가동률과 효율성도 낮아질 수 있다.

그러나 하드웨어 관점에서는 이야기가 달라진다.

AI 인프라가 통합된 환경에서 필요한 설비는 글로벌 평균 수요와 피크 수요를 기준으로 결정된다. 반면 생태계가 분리되면 미국과 중국이 각자 다음 설비를 확보해야 한다.

Required capacity
= Local peak demand

  • Reserve margin

  • Sovereign redundancy

미국은 중국 모델을 대체할 자체 모델과 추론 인프라를 확대해야 한다. 중국은 서방 클라우드와 첨단 GPU에 대한 접근이 제한되는 만큼 자국 내 AI 데이터센터와 반도체 공급망을 더 빠르게 구축해야 한다.

그 결과 양쪽에서 다음 투자가 중복된다.

  • 프론티어 모델 학습 클러스터

  • 대규모 추론 데이터센터

  • 피크 수요에 대비한 예비 GPU 용량

  • HBM·DDR·NAND 및 Enterprise SSD

  • 스케일업·스케일아웃 네트워크

  • 첨단 패키징

  • 전력·변압기·냉각 인프라

물론 전체 수요가 정확히 두 배가 되는 것은 아니다. 가격 상승과 서비스 제한으로 일부 토큰 수요가 감소할 수 있고, 모델 효율화가 하드웨어 부담을 낮출 수도 있다.

하지만 글로벌 인프라를 공유하지 못하게 되면 시스템 전체의 가동률은 낮아진다. 동일한 수요를 처리하기 위해 더 많은 예비용량을 설치해야 한다.

AI 생태계의 분리는 효율을 낮추지만, 그 비효율이 오히려 하드웨어 투자수요를 증가시키는 구조이다.

특히 메모리의 전략적 중요성이 커진다


GPU 수혜는 생태계별로 나뉠 가능성이 높다.

미국과 서방에서는 NVIDIA, AMD, Google TPU, AWS Trainium과 자체 ASIC이 중심이 된다. 중국에서는 Huawei Ascend, Cambricon과 중국산 가속기 생태계가 확대될 것이다.

중국의 AI CAPEX가 늘어난다고 해서 그 수요가 모두 NVIDIA 매출로 연결되는 것은 아니다.

반면 메모리와 스토리지는 양쪽 생태계에서 공통으로 필요하다.

  • HBM은 GPU와 AI 가속기의 메모리 대역폭을 담당한다.

  • DDR·LPDDR는 CPU 오케스트레이션과 긴 컨텍스트 처리를 지원한다.

  • Enterprise SSD는 데이터레이크와 영속적 KV 캐시를 담당한다.

  • NAND는 모델 데이터와 추론 결과의 장기 저장에 필요하다.

특히 중국이 첨단 GPU 조달에 어려움을 겪을수록 제한된 가속기를 최대한 효율적으로 활용하기 위한 HBM·DDR·SSD 및 네트워크 투자 중요성은 오히려 커질 수 있다.

다만 첨단 HBM은 미국의 수출통제 대상이기 때문에 중국의 수요 증가가 기존 글로벌 메모리 기업의 매출로 모두 연결되지는 않는다.

서방 데이터센터 증설은 기존 HBM 기업에 직접적인 수혜가 될 가능성이 높지만, 중국의 증설은 중국산 메모리와 반도체 장비의 국산화를 동시에 촉진할 수 있다.

그럼에도 산업 전체로 보면 방향은 분명하다.

미국과 중국이 각각 독립적인 AI 인프라를 구축할수록 글로벌 메모리와 스토리지의 총 설치량은 증가할 가능성이 높다.

결론


Kimi K3의 불법 증류 및 모델 추출 복제 의혹은 단순한 기술 논쟁으로 끝나지 않을 가능성이 있다.

미국 정부가 이를 국가안보와 지식재산권 문제로 판단해 중국산 LLM에 대한 추가 제재를 강화한다면, 중국 모델은 서방 클라우드와 미국 컴퓨팅 인프라를 활용해 글로벌 추론 수요를 분산하기 어려워질 수 있다.

그 결과 그동안 낮은 토큰 가격과 오픈웨이트 전략 뒤에 가려져 있던 중국의 GPU·HBM·네트워크 부족이 더욱 뚜렷하게 드러날 가능성이 있다.

Kimi K3가 출시 직후 신규 가입을 중단한 사례는 이를 미리 보여준다.

중국 LLM의 저가정책은 수요를 만드는 데는 성공했지만, 그 수요를 감당할 인프라와 가격체계가 충분히 준비됐는지는 아직 확인되지 않았다. 미국의 클라우드·API·반도체 제재가 강화되면 현재의 낮은 토큰 가격을 유지하기는 더 어려워질 것이다.

그러나 AI 하드웨어 산업에는 이것이 반드시 악재인 것만은 아니다.

미국은 중국 모델을 배제한 독자적인 생태계를 구축해야 하고, 중국은 서방 인프라에 의존하지 않는 자체 AI 공급망을 만들어야 한다.

소프트웨어 시장은 두 개로 나뉘지만, 하드웨어는 같은 기능을 양쪽에 다시 설치해야 한다.

결국 AI 생태계의 분리는 컴퓨팅 자원의 효율을 떨어뜨리는 대신 GPU, HBM, DDR, NAND, Enterprise SSD, 네트워크와 전력 인프라에 대한 중복투자를 확대할 수 있다.

특히 메모리 사업자 입장에서는 미국과 중국의 모델 경쟁 그 자체보다, 양국이 각자의 학습·추론 인프라와 예비용량을 별도로 구축해야 한다는 점이 더 중요하다.

Kimi K3 사태로 촉발될 수 있는 추가 제재는 중국 LLM의 인프라 부족을 드러내는 동시에, AI 하드웨어 시장의 전체 파이를 키우는 순풍으로 작용할 가능성이 있다.

참고자료


공부하고 기록하고 생각할수록
중국은 미국과 AI경쟁을 할 준비가 전혀 되어 있지않은게 아닐까하는 의문이든다. 

=끝
작성자: 시간: 댓글 없음:

생각정리 314 (* Kimi K3, 추가 제재-1)

자기 전 침대에 누워 X.com App을 켰다가,
추천 알고리즘을 통해 과거 Kimi 창업자의 GTC 강연 영상을 보게 됐다.

How We Scaled Kimi K2.5 | Zhilin Yang's full GTC 2026 Keynote

영상에서는 Kimi가 적용한 새로운 학습기법과 모델 구조, 효율화 성과가 자신감 있게 소개되고 있었다. 그런데 발표를 볼수록 기술적 감탄보다 묘한 불쾌감이 먼저 밀려왔다.

Claude를 상대로 한 대규모 비인가 증류 의혹이 제기된 상황에서도, Kimi의 성과는 마치 온전히 자체적인 연구와 기술혁신만으로 만들어진 결과처럼 설명되고 있었다.

내가 Anthropic이나 다른 Frontier LLM 개발에 참여한 연구자였다면, 이처럼 태연하게 기술적 성과를 나열하는 모습을 보며 상당한 허탈감과 어처구니없음을 느꼈을 것 같다.

이번 글에서는 화려한 Kimi K3의 성과 뒤에 가려진 데이터의 출처와 자본의 성격, 그리고 이를 모두 생략한 채 독자적인 기술혁신만을 강조하는 그들의 뻔뻔함에 대해 기록해보고자 한다.  


https://t.me/givme23
claude를 불법 증류 복제했다는 증거..


Kimi3 은 Fable5 를 증류 ( distillation ) 했을 가능성 ( 파란색에 가까울 수록 답변 유사도가 높음 )
https://t.me/migukstocksailor


효율화 뒤에 가려진 비용


Kimi K3는 순수한 기술 혁신의 결과인가


최근 중국 Moonshot AI의 창업자 양즈린이 NVIDIA GTC 무대에서 Kimi 모델의 확장 전략을 설명했다.

발표만 놓고 보면 Kimi의 급성장은 상당히 인상적이다. 새로운 최적화 알고리즘과 Attention 구조를 도입해 학습 효율을 높였고, 긴 문맥과 다수의 에이전트를 동시에 처리할 수 있도록 모델 구조를 개선했다.

이후 Moonshot은 총 2.8조 개의 파라미터를 보유한 Kimi K3를 공개했다. K3는 896개 전문가 가운데 토큰당 16개만 선택적으로 활성화하는 Sparse MoE 구조를 사용하며, Kimi Delta Attention과 Attention Residuals를 결합했다. Moonshot은 이러한 기술을 통해 K2보다 약 2.5배 높은 스케일링 효율을 확보했다고 주장한다. (Kimi AI 플랫폼)

그러나 기술 발표와 회사가 제시한 벤치마크만으로 K3의 등장을 설명하기에는 빠진 부분이 너무 많다.

Kimi의 기술적 성과는 분명 존재한다. 다만 K3를 Moonshot AI라는 스타트업의 독자적인 기술 혁신만으로 설명하기는 어렵다.

그 배경에는 미국 Frontier Model에서 추출한 것으로 의심되는 고품질 데이터, 알리바바와 텐센트의 자본, 중국의 국유·정부계 자금과 컴퓨팅 인프라 정책이 함께 놓여 있다.

1. Kimi CEO의 강연은 무엇을 말했나


양즈린의 강연 핵심은 단순히 모델의 파라미터를 늘리는 데 있지 않았다.

같은 데이터와 컴퓨팅에서 더 많은 지능을 학습하고, 더 긴 문맥을 처리하며, 여러 에이전트를 병렬로 작동시키는 방법을 설명하는 자리였다.

같은 데이터에서 더 많이 학습하는 Muon

첫 번째는 토큰 효율성이다.

대부분의 대규모 언어모델은 Adam 또는 AdamW라는 최적화 알고리즘을 사용한다. 최적화기는 학습 과정에서 모델의 파라미터를 어느 방향으로 얼마나 수정할지를 결정한다.

Moonshot은 이를 Muon으로 대체하고, 초대형 모델에서 발생하는 학습 불안정성을 MuonClip으로 보완했다.

Moonshot의 설명에 따르면 Muon은 AdamW보다 같은 성능에 도달하는 데 필요한 학습 연산량을 크게 줄일 수 있다. Kimi K2는 MuonClip을 적용해 1조 파라미터 모델을 15.5조 토큰 동안 큰 Loss Spike 없이 학습했다.

즉 MuonClip은 새로운 지능을 만들어내는 단일 알고리즘이라기보다, 거대한 모델을 보다 안정적으로 학습하고 같은 데이터에서 더 많은 성능을 끌어내는 기술이다.


https://www.youtube.com/watch?v=CwePo4847ho


긴 문맥을 처리하는 Kimi Linear


두 번째는 Long Context 효율성이다.

기존 Transformer는 입력 문맥이 길어질수록 Attention 연산량과 KV Cache 사용량이 크게 증가한다. 모델이 대규모 코드베이스를 읽고 장기간 작업하려면, 과거에 읽은 정보와 작업 이력을 계속 기억해야 한다.

Moonshot은 이를 해결하기 위해 Kimi Delta Attention을 중심으로 한 Kimi Linear 구조를 개발했다.

회사 측 실험에서는 100만 토큰 문맥에서 KV Cache 사용량을 최대 75% 줄이고, 디코딩 처리량을 최대 약 6배 높였다고 보고했다.

이 구조는 모든 정보를 똑같이 기억하는 대신, 채널마다 서로 다른 기억 주기를 부여한다.

  • 일부 정보는 오랫동안 유지

  • 일부 정보는 빠르게 갱신

  • 불필요한 정보는 선택적으로 제거

쉽게 말하면 모델 내부에 단기기억과 장기기억을 담당하는 경로를 나누는 구조에 가깝다.


https://www.youtube.com/watch?v=CwePo4847ho


하나의 에이전트에서 에이전트 집단으로


세 번째는 Agent Swarm이다.

기존 AI 에이전트는 하나의 모델이 검색, 분석, 코딩, 검증 작업을 순차적으로 수행하는 경우가 많다. 이 방식은 작업이 복잡해질수록 실행시간이 길어진다.

Kimi는 하나의 Orchestrator가 복잡한 과제를 여러 하위 작업으로 분해한 뒤, 최대 100개의 Sub-agent를 생성하도록 설계했다.

각 에이전트는 서로 다른 조사와 분석을 병렬로 수행하며, 전체적으로 최대 1,500회의 Tool Call을 실행할 수 있다. Moonshot은 이를 통해 단일 에이전트 방식보다 일부 복잡한 작업의 실행시간을 최대 4.5배 단축했다고 주장한다.


https://www.youtube.com/watch?v=CwePo4847ho


깊이 방향의 정보를 선택하는 Attention Residuals


또 다른 핵심 기술은 Attention Residuals다.

일반적인 Transformer는 각 레이어의 출력을 다음 레이어에 계속 더한다. 모델이 깊어질수록 어떤 레이어에서 생성된 정보가 중요한지 구분하기 어려워지고, 여러 정보가 뒤섞일 수 있다.

Attention Residuals는 이전 레이어의 출력을 무조건 더하지 않는다. 현재 입력에 따라 어느 레이어의 정보를 얼마나 가져올지를 Attention으로 결정한다.

기존 Attention이 과거 토큰 가운데 필요한 정보를 선택한다면, Attention Residuals는 과거 레이어 가운데 필요한 표현을 선택하는 구조다.

이 기술은 이후 Kimi K3의 핵심 아키텍처 가운데 하나로 적용됐다.


https://www.youtube.com/watch?v=CwePo4847ho

기술적 성과 자체는 인정해야 한다


MuonClip, Kimi Delta Attention, Kimi Linear, Attention Residuals와 Agent Swarm은 단순한 마케팅 용어만으로 치부하기 어렵다.

Moonshot은 초대형 모델의 학습 안정성, KV Cache 부담, 장문 문맥, 에이전트 병렬처리라는 실제 문제를 해결하기 위해 상당한 기술적 진전을 이뤘다.

따라서 Kimi의 성능을 모두 외부 데이터나 중국 정부의 지원으로만 설명하는 것도 정확하지 않다.

다만 여기서 질문해야 할 부분은 따로 있다.

이러한 기술만으로 Kimi K3의 성능과 비정상적으로 빠른 개발 속도 전체를 설명할 수 있는가.

2. Kimi는 효율화로 컴퓨팅을 줄인 것이 아니다


Kimi K3는 총 2.8조 개의 파라미터를 보유하지만, 매 토큰마다 전체 파라미터를 사용하는 Dense Model은 아니다.

896개 전문가 가운데 16개만 활성화하는 Sparse MoE 구조를 사용한다. 따라서 2.8조 파라미터 Dense Model과 동일한 연산량이 필요한 것은 아니다.

그러나 Sparse MoE라고 해서 전체 컴퓨팅 부담이 사라지는 것은 아니다.

  • 2.8조 개의 전체 가중치를 메모리에 저장해야 함

  • 896개 전문가를 다수의 GPU와 서버에 배치해야 함

  • 토큰을 적절한 전문가로 전송해야 함

  • GPU 사이의 All-to-All 통신을 처리해야 함

  • 대규모 체크포인트와 학습 데이터를 저장해야 함

  • 장애가 발생했을 때 분산학습을 복구해야 함


파라미터가 커질수록 HBM 용량, GPU 수, 네트워크 대역폭과 스토리지 수요는 여전히 증가한다.

실제로 K3 출시 직후 사용자 수요가 급증하자 Moonshot은 신규 구독을 일시 중단했다. 회사는 현재 컴퓨팅 용량이 한계에 근접했다고 밝혔고, 외부 분석가 역시 K3가 매우 많은 컴퓨팅을 요구하는 모델이라고 평가했다. (AP News)

따라서 Kimi의 효율화는 다음과 같이 이해해야 한다.

효율성 향상 → 총컴퓨팅 감소

보다는

효율성 향상 → 더 큰 모델·더 긴 문맥·더 많은 에이전트로 재투자

Kimi는 알고리즘을 통해 컴퓨팅의 필요성을 제거한 사례가 아니다.

막대한 컴퓨팅 자본의 생산성을 높인 뒤, 절약된 자원을 모델의 절대 규모 확대에 다시 투입한 사례에 가깝다.

결국 K3를 설명하는 핵심 변수는 알고리즘만이 아니라 데이터와 자본으로 확장된다.

3. Anthropic이 제기한 Moonshot의 Claude 증류 의혹


Anthropic은 2026년 2월 DeepSeek, Moonshot AI와 MiniMax가 Claude의 능력을 추출하기 위해 산업적 규모의 증류 캠페인을 운영했다고 발표했다.

Anthropic에 따르면 세 기업은 약 2만4,000개의 허위 계정을 통해 Claude와 1,600만 건 이상의 대화를 생성했다.

이 가운데 Moonshot 관련 트래픽으로 분류된 대화는 340만 건 이상이었다.

Moonshot이 집중적으로 추출한 것으로 지목된 능력은 다음과 같다.

  • Agentic reasoning과 Tool use

  • 코딩과 데이터 분석

  • Computer-use agent

  • Computer vision

  • Claude의 추론 과정 재구성


이는 일반적인 웹 문서나 사전학습 데이터와 성격이 다르다.

사용자의 질문을 어떻게 분해하고, 어떤 도구를 선택하며, 오류를 어떻게 수정하고, 최종 결과를 어떻게 검증하는지 보여주는 고부가가치 후처리 데이터에 해당한다.

Anthropic은 IP 주소, 요청 메타데이터, 인프라 지표와 다른 사업자가 관찰한 행위 등을 바탕으로 캠페인을 특정 기업에 귀속했다고 밝혔다.

다만 이 내용은 현재까지 Anthropic의 자체 조사 결과다. Moonshot의 형사상 범죄가 법원에서 확정됐거나, Claude 출력이 Kimi K3에 정확히 얼마나 사용됐는지는 공개적으로 검증되지 않았다.

따라서 법적으로는 ‘불법 증류가 확정됐다’고 단정하기보다, Anthropic이 제기한 대규모 비인가 증류 의혹이라고 표현하는 편이 정확하다.

Hydra Cluster는 어떻게 작동했나


Anthropic은 이러한 대규모 우회 접근 인프라를 Hydra Cluster라고 설명했다.

하나의 계정이나 서버에서 대량의 요청을 보내는 방식은 쉽게 탐지된다. Hydra Cluster는 수많은 정상 이용자처럼 보이는 계정과 접근 경로로 요청을 분산시킨다.

Anthropic이 설명한 방식은 다음과 같다.

  • 중국 외부의 상업용 프록시 사업자로부터 Claude 접근권 구매

  • 수천~수만 개 계정으로 요청 분산

  • 교육·스타트업·연구·보안 목적 등 여러 계정 유형 활용

  • 계정이 차단되면 새로운 계정으로 교체

  • 증류용 트래픽과 일반 사용자의 요청을 혼합

  • 동일한 능력을 묻는 질문을 다양한 형태로 반복


이는 Claude의 내부 서버를 직접 해킹해 가중치나 원본 데이터베이스를 가져간 방식과는 다르다.

보다 정확하게는 Claude를 Teacher Model이자 합성데이터 생산공장으로 사용한 의혹이다.

Claude에 고난도 코딩, 추론, Agent 과제를 반복적으로 입력하고, 그 답변과 작업 과정을 대규모로 수집한 뒤 이를 자체 모델의 학습 데이터로 활용하는 방식이다.

4. 증류는 미국 모델이 먼저 부담한 비용을 흡수하는 수단이다


LLM은 인터넷 문서를 대량으로 학습한다고 곧바로 완성되는 것이 아니다.

원시 데이터를 실제 서비스에 사용할 수 있는 지능으로 바꾸려면 여러 단계가 필요하다.

데이터 수집 → 중복 제거 → 유해 데이터 정제 → 전문가 라벨링 → 지도학습 → 인간 선호학습 → 강화학습 → 안전성 평가 → Agent 학습 → 반복적인 실패 수정

미국의 Frontier AI 기업은 이 과정에서 막대한 인력, 데이터, 법률비용과 컴퓨팅을 먼저 부담했다.

OpenAI의 데이터 정제 비용


OpenAI는 케냐의 외주업체 Sama를 통해 노동자들이 폭력, 혐오, 성적 학대 등 유해한 텍스트를 분류하도록 했다.

이들이 인터넷 전체를 읽으면서 유해한 문장을 하나씩 삭제한 것은 아니다. 사람이 수만 건의 샘플에 라벨을 붙이면, 이를 바탕으로 별도의 분류 모델과 필터를 학습해 대규모 데이터와 모델 출력을 자동으로 정제하는 구조였다.

특정 Sama 계약의 명목상 규모만 보면 수십만달러 수준이었기 때문에, 이 계약 하나를 두고 천문학적인 비용이라고 표현하면 과장이다.

그러나 서비스가 가능한 LLM을 만드는 전체 과정에는 다음과 같은 비용이 반복적으로 발생한다.

  • 유해성 기준 설계

  • 인간의 경계 사례 판단

  • Reward Model과 분류기 구축

  • 레드팀과 취약점 점검

  • 과도한 거부와 위험한 응답 사이의 균형 조정

  • 새로운 모델이 나올 때마다 반복되는 안전성 평가


중요한 것은 하나의 외주 계약 액수가 아니라, 모델 뒤에 누적된 인간 노동과 수많은 시행착오다.

https://time.com/6247678/openai-chatgpt-kenya-workers/


Anthropic의 도서 데이터 확보 비용


Anthropic 역시 고품질 도서 데이터를 확보하기 위해 수백만 권의 실물 책을 구매하고, 책등을 제거한 뒤 페이지를 스캔해 디지털 라이브러리를 구축했다.

이는 모든 작가에게 별도의 AI 학습 저작권료를 지급했다는 의미는 아니다. 적법하게 구매한 실물 책을 스캔해 내부 학습용으로 사용한 방식이었다.

동시에 Anthropic은 불법 복제 사이트에서 수백만 권의 도서를 내려받아 보관한 문제로 대규모 저작권 분쟁도 겪었다.

따라서 미국 AI 기업이 데이터 문제에서 완전히 도덕적이고 합법적이었다고 평가하기도 어렵다.

미국 기업 역시 다음 논란에서 자유롭지 않다.

  • 저작권자의 동의 없는 웹 데이터 학습

  • 불법 복제 데이터 취득

  • 저임금 데이터 라벨링

  • 작가와 출판사에 대한 보상 문제

  • 모델 학습과 공정이용의 경계


그럼에도 이들이 실제로 부담한 비용은 남는다.

  • 원시 데이터를 확보하는 비용

  • 데이터를 디지털화하고 정제하는 비용

  • 법적 분쟁과 합의를 감당하는 비용

  • 고품질 데이터를 선별하는 비용

  • 인간 피드백과 안전성 평가 비용

  • 수없이 실패한 모델과 실험의 컴퓨팅 비용



https://techcrunch.com/2026/07/20/anthropics-landmark-1-5b-copyright-settlement-is-approved/
클로드는 $1.5bn 저작권 위반 벌금을 물었는데, 이를 불법 증류 및 추출한 kimi k3는 아무런 법적 조취를 안받는게 말이 되는건가?   


Kimi가 우회했을 가능성이 있는 비용


Claude의 최종 출력은 이러한 과정을 거친 뒤 생산된 결과물이다.

Claude가 만든 하나의 고품질 Agent 작업 궤적에는 다음 정보가 압축돼 있다.

  • 문제를 어떤 순서로 분해해야 하는지

  • 어떤 도구를 선택해야 하는지

  • 오류가 발생하면 어떻게 수정해야 하는지

  • 코드의 정확성을 어떻게 검증해야 하는지

  • 최종 답변을 어떤 구조로 작성해야 하는지


경쟁 모델이 이를 대량으로 학습하면, 좋은 답을 만들어내는 방법을 처음부터 발견하는 비용을 크게 줄일 수 있다.

미국 선도 모델이 원석을 채굴하고 제련공정을 개발했다면, 비인가 증류 모델은 이미 제련된 고순도 결과물을 훨씬 낮은 한계비용으로 반복 채취한 것에 가깝다.


Kimi가 OpenAI와 Anthropic의 원본 데이터 전체를 가져간 것은 아니다.

그러나 Anthropic의 주장이 맞다면, 선도 모델들이 막대한 비용을 들여 만들어낸 고부가가치 후처리 결과와 능력의 일부를 훨씬 짧은 시간과 낮은 비용으로 흡수했을 가능성은 높다.

증류는 컴퓨팅을 없애주는 기술이 아니다.

대신 미국 모델이 먼저 지불한 연구·실패·정렬·평가 비용을 외부화하고, 모델 개발의 시간과 비용을 압축하는 수단이다.

5. Moonshot을 둘러싼 자본은 일반적인 스타트업 투자와 다르다


Moonshot은 더 이상 창업자와 소규모 벤처캐피털만으로 운영되는 독립 스타트업으로 보기 어렵다.

알리바바는 Moonshot에 약 8억달러를 투자해 초기 기준 약 36%의 지분을 확보한 것으로 알려졌다. 텐센트 역시 주요 투자자로 참여했다.

알리바바와 텐센트는 단순한 재무투자자가 아니다.

  • 대규모 클라우드 데이터센터

  • AI GPU와 네트워크

  • 방대한 사용자와 데이터

  • 개발자 생태계

  • 서비스 유통망

  • 장기간의 적자를 감당할 자본


을 동시에 보유한 중국 최대 플랫폼 기업들이다.

이후 Moonshot에는 중국의 국유기업과 정부계 투자자도 참여한 것으로 보도됐다.

따라서 Moonshot을 둘러싼 자본은 세 가지 층으로 나눠 볼 수 있다.

미국 모델이 선행 지출한 지적자본


Anthropic의 주장이 사실이라면 Moonshot은 Claude가 먼저 개발한 Agent·코딩·추론 능력의 일부를 대규모 출력 데이터로 흡수했다.

여기에는 Anthropic이 부담한 데이터 선별, 강화학습, 평가, Agent 환경 구축과 실패 실험의 결과가 압축돼 있다.

중국 민간 플랫폼의 금융·컴퓨팅 자본


알리바바와 텐센트는 현금투자뿐 아니라 클라우드, GPU, 네트워크와 서비스 운영 역량을 제공할 수 있다.

다만 K3가 구체적으로 어느 클라우드 클러스터에서 학습됐는지, 투자자들이 얼마의 GPU 크레딧이나 인프라를 제공했는지는 공개되지 않았다.

중국 국가 산업정책의 자본


중국은 AI를 국가전략산업으로 육성하고 있다.

  • 국유·정부계 펀드의 직접 투자

  • 대규모 데이터센터 건설

  • 컴퓨팅 바우처와 보조금

  • 국산 AI 반도체 생태계

  • 공공기관과 국유기업의 AI 도입

  • 오픈웨이트 모델의 해외 확산


Moonshot은 이러한 정책 생태계 안에서 성장하고 있다.

따라서 중국 정부와 국유자본의 지원 가능성을 단순한 음모론으로 치부하기는 어렵다.

다만 중국 공산당이 Claude 증류 캠페인을 직접 지시했다거나, K3의 전체 학습비용을 비밀리에 부담했다고 단정할 공개 증거는 아직 없다.

확인되는 사실은 Moonshot이 중국의 민간 플랫폼 자본, 국유·정부계 자금과 국가 컴퓨팅 정책이 결합된 생태계 안에 있다는 점이다.

6. 미국 정부는 증류를 국가안보 문제로 보기 시작했다


미국 정부는 경쟁 모델의 비인가 증류를 단순한 기업 간 서비스 약관 분쟁으로만 바라보지 않고 있다.

미국의 Frontier Model이 막대한 비용을 들여 구축한 능력을 중국 기업이 조직적으로 추출할 경우, 다음 문제가 동시에 발생한다.

  • 미국 기업의 연구개발 비용이 중국에 외부화

  • 중국 모델의 개발 기간 단축

  • 첨단 반도체 수출통제의 실효성 약화

  • 군사·정보·사이버 분야로의 전용 가능성

  • 중국의 저가 모델을 통한 글로벌 AI 생태계 장악


따라서 향후 미국의 대응은 단순한 API 계정 차단을 넘어설 가능성이 있다.

  • 중국 AI 기업의 Frontier API 접근 제한

  • 프록시·리셀러와 허위 계정 규제

  • 고객확인과 실소유자 확인 강화

  • 제3국 클라우드를 통한 중국 기업의 모델 학습 제한

  • 특정 중국 AI 기업의 Entity List 등재

  • 미국 공공기관의 중국 LLM 사용 제한


아직 Moonshot에 대한 구체적인 제재가 확정된 것은 아니다.

그러나 비인가 증류가 미국의 지적·컴퓨팅 자본을 우회 추출하는 국가안보 문제로 전환될 정책적 조건은 이미 마련되고 있다.

chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.whitehouse.gov/wp-content/uploads/2026/04/NSTM-4.pdf?utm_source=chatgpt.com


The secret Trump administration battle to fight Chinese AI


7. Kimi 창업자의 공개 강연이 불편하게 보이는 이유


Kimi 창업자가 NVIDIA GTC와 같은 공개 무대에서 기술을 설명한 행위 자체를 범법행위의 법적 두둔으로 보기는 어렵다.

강연은 MuonClip, Kimi Linear와 Agent Swarm 등 모델의 기술적 구조를 소개하는 자리였다. 주최자가 발표 기회를 제공했다는 이유만으로 비인가 증류를 공모하거나 방조했다고 볼 수도 없다.

그럼에도 해당 강연이 불편하게 느껴지는 이유는 분명하다.

성능의 인과관계가 알고리즘만으로 설명된다


기술 발표에서는 알고리즘과 모델 구조가 성능 향상의 핵심 원인으로 제시된다.

그러나 Anthropic의 주장이 사실이라면 Claude에서 추출한 Agent·코딩·추론 데이터도 Kimi의 성능 형성에 기여했을 가능성이 있다.

이 부분이 빠지면 청중은 Kimi의 발전을 모두 Moonshot의 독자적인 연구개발 성과로 받아들이기 쉽다.

데이터 출처와 후처리 비용이 보이지 않는다


Kimi가 Agent 능력을 어떤 데이터로 학습했는지, 외부 Frontier Model의 출력이 어느 정도 포함됐는지, 데이터 확보 과정에서 어떤 권한과 계약이 있었는지는 공개되지 않았다.

알고리즘 효율만 설명하고 데이터 출처를 제외하면, 모델 성능을 만든 가장 중요한 생산요소 가운데 하나가 사라진다.

권위 있는 무대가 성과에 정당성을 부여한다


GTC와 같은 국제 기술행사는 단순한 발표장이 아니다. 연구자와 투자자, 언론이 해당 기업의 기술적 정당성을 확인하는 공간이기도 하다.

증류 의혹이 해소되지 않은 기업의 성과가 별다른 검증 없이 순수한 혁신 사례로 소개될 경우, 국제 AI 생태계가 논란 있는 성과를 정상적인 기술 추격으로 인정해주는 효과가 발생할 수 있다.

따라서 가장 정확한 비판은 ‘범죄를 공개적으로 옹호했다’보다 다음에 가깝다.

Claude 비인가 증류 의혹과 데이터 출처를 배제한 채 알고리즘 혁신만 강조한다면, 논란 있는 방식으로 축적했을 가능성이 있는 성과를 순수한 독자 기술로 포장하고, 국제 기술 생태계가 이를 세탁해주는 것으로 비칠 수 있다.

 

8. Kimi K3는 실제로 얼마나 강한 모델인가


현재 Kimi K3를 무조건 성능이 낮은 모델이라고 단정할 수는 없다.

출시 직후 K3는 Arena의 Frontend Coding 분야에서 최상위권에 올랐고, Artificial Analysis의 Intelligence Index에서도 상위권을 기록했다. 일부 외부 개발자와 기업 역시 웹 개발과 코딩 분야에서 높은 성능을 확인했다. (Business Insider)

반면 실제 사용 과정에서 오류와 신뢰성 문제도 나타나고 있다.

Wharton의 Ethan Mollick은 K3에 복잡한 통계 검증을 맡겼을 때 핵심 통계기법을 잘못 적용하는 등 다수의 오류를 발견했다고 지적했다. (Business Insider)

이처럼 현재 외부 평가는 엇갈린다.

  • Frontend Coding에서는 강한 결과

  • 공개 벤치마크에서는 Frontier급에 근접

  • 일부 복잡한 실제 작업에서는 오류 발생

  • 장기 Agent 작업의 안정성은 충분히 검증되지 않음

  • 내부 평가와 실제 서비스 성능 사이의 차이 불명확

  • 2.8조 파라미터 규모 대비 비용효율성 검증 부족


특히 공개 벤치마크 점수만으로 모델의 실질적 경쟁력을 판단하기는 어렵다.

모델이 특정 문제를 풀 수 있는지뿐 아니라 다음 지표가 함께 확인돼야 한다.

  • 동일한 작업을 반복했을 때의 성공률

  • 긴 작업에서 오류가 누적되는 정도

  • Tool Call 실패와 복구 능력

  • 환각과 사실 오류

  • 작업 완료당 비용

  • 실제 서비스 환경의 지연시간

  • GPU와 메모리 사용량

  • 사용자 개입 없이 완수할 수 있는 작업 범위


파라미터 숫자와 최고점 몇 개가 모델의 경제성과 신뢰성을 대신할 수는 없다.

결론: 7월 27일은 Kimi K3 검증의 첫 관문이다


Kimi는 K3의 전체 기술보고서와 아키텍처·훈련·평가 세부사항을 추후 공개하겠다고 밝히고 있으며, 전체 가중치도 2026년 7월 27일까지 공개할 예정이라고 설명하고 있다.

해당 결과가 나오기 전까지 K3의 실제 능력을 단정하는 것은 이르다. 이미 일부 외부 평가에서 상당한 코딩 성능이 확인됐기 때문에, K3를 전부 허상이라고 평가할 수도 없다.

다만 현재까지 공개된 정보만 놓고 보면 Kimi K3는 기술적 실체보다 서사가 앞서가고 있다는 인상을 지우기 어렵다.

2.8조 파라미터라는 압도적인 숫자, 세계 최대 오픈 모델이라는 표현, 제한적인 벤치마크의 최고점과 미국 모델 대비 낮은 가격이 하나의 강력한 이야기로 묶였다.

반면 다음과 같은 핵심 정보는 공개되지 않았다.

  • 전체 학습 토큰과 총 FLOPs

  • GPU 종류와 수량

  • 전체 학습비용

  • Alibaba Cloud 등 투자자의 컴퓨팅 지원

  • Post-training 데이터의 출처

  • Claude 출력의 사용 여부와 규모

  • 복잡한 실제 업무에서의 반복 성공률

  • 2.8조 파라미터를 서비스하는 실제 추론비용


Moonshot은 K3 공개 직후 투자자들에게 이르면 6개월 내 홍콩 상장을 추진하기 위한 주주결의안을 배포한 것으로 보도됐다. 기업가치는 300억달러 이상이 거론되고 있다. (타이페이 타임스)

이는 K3를 둘러싼 기술적 서사와 자본시장 이해관계를 분리해서 보기 어렵게 만든다.

K3가 미국의 Frontier Model을 위협하는 역사적 돌파구로 인식될수록 Moonshot의 기업가치는 높아지고, IPO를 통한 외부자금 조달도 쉬워진다. 반대로 증류 의혹, 높은 컴퓨팅 비용, 불완전한 외부 검증과 실제 성능의 한계를 먼저 강조할 유인은 크지 않다.

중국 정부와 국유자본이 K3의 실제 성능 한계를 어디까지 알고 있는지는 확인할 수 없다. 중국 정부가 의도적으로 문제를 은폐하고 있다고 단정할 직접적인 증거도 없다.

그러나 중국이 AI를 국가전략산업으로 육성하고 있고, Moonshot의 성공이 중국의 기술자립과 미국 제재 극복을 상징한다는 점을 고려하면, IPO와 추가 자금조달을 앞둔 시점에 정부와 국유자본이 현재의 성공 서사를 스스로 약화시킬 유인은 거의 없어 보인다.

지금까지의 정황 증거들을 미뤄보아,
현재 단계의 Kimi K3는 상당 부분 과대포장돼 있을 가능성이 높다고 *개인적으로 생각하고 있다.


#글을 마치며


미국이 이번 Kimi K3 사례를 확인하고도 프론티어 LLM에 대한 불법 증류와 성능 복제를 사실상 방치한다면, 막대한 비용을 지불하며 미국산 모델을 사용할 유인은 점차 약해질 수밖에 없다. 규제가 느슨한 국가에서 우회 계정과 API, VPN 등을 활용해 모델의 능력을 추출하고, 이를 기반으로 저가의 유사 모델을 출시하는 일이 반복될 가능성이 높기 때문이다.

이러한 구조가 고착되면 연구개발비와 컴퓨팅 비용은 미국 기업이 부담하고, 그 성과는 중국과 제3국이 저비용으로 복제하는 상황이 이어질 수 있다. 글로벌 이용자 역시 비싼 프론티어 모델보다 성능이 유사한 중국산 오픈웨이트 모델을 선택할 가능성이 커진다.

개인적으로 불법 증류 자체를 기술적으로 완전히 차단하는 것은 현실적으로 쉽지 않다고 본다. 그렇다면 규제의 초점은 모델 접근 통제에만 머물 것이 아니라, 대규모 증류와 복제를 가능하게 하는 첨단 AI 반도체와 제조 장비, 고대역폭 메모리, 네트워크 장비 등 물리적 컴퓨팅 인프라로 이동할 필요가 있다.

프론티어 AI의 지식재산권은 보호하지 못하면서, 이를 복제할 수 있는 컴퓨팅 자원까지 계속 공급하는 정책은 지속되기 어렵다. 이번 Kimi K3 사례는 단순한 모델 경쟁을 넘어, 미국의 AI 수출통제 전략을 다시 점검해야 할 계기에 가깝다고 생각한다.

https://bloomingbit.io/feed/news/116471


내 예상대로 추가 제재가 현실화된다면, 중국의 공급 확대가 제한되면서 반사이익을 얻는 글로벌 IDM과 중국향 매출 감소로 실적 부담이 커지는 반도체 장비업체 사이에 묘한 긴장 관계가 형성될 가능성도 염두에 둘 필요가 있지 않나 싶다.

中기업들, 독자 AI 생태계 구축 프로젝트 '은하계획' 발족
중국도 어느정도 추가제재 가능성에 대해 눈치 채고 있지 않나 싶다.

제3국이 자국 LLM을 불법 증류하거나 추출해 복제하는 상황을 우려한 중국 당국은, 같은 방식으로 기술을 탈취당하기 전에 관련 수출 통제부터 선제적으로 강화하는 모습 (*도둑이 제발저리는 꼴)

China considers tighter export controls on AI models and chips


=끝

작성자: 시간: 댓글 없음:

2026년 7월 19일 일요일

생각정리 313 (* 수급, 레버리지, 부동산 증세)

최근 여러 정책 변화가 있는듯 싶다.

이번 글의 결론은 "레(*개)버리지의 끝이 별로 밝아보이진 않는다."이다.

현금으로 매수한 투자자는 시간을 견딜 수 있지만,
신용과 레버리지 ETF를 이용한 투자자는 가격이 추가로 하락할 경우 기다릴 선택권을 잃는다.

이번 하락은 좋은 기업의 전망이 무너진 사건이라기보다,
좋은 전망을 담보로 지나치게 많은 빚이 쌓였고 그 빚이 한꺼번에 회수되는(*디레버리지) 과정에 대한 기록이다.

상반기 빚투, 하반기에는 누가 받아줄 것인가


대출 총량 소진에 주거비 트리플 강세와 보유세 강화 가능성까지 겹치고 있다


최근 증시 하락을 기업 실적과 투자심리만으로 설명하기에는 부족한 부분이 있다.

상반기에는 개인 신용대출과 증권사 신용융자가 빠르게 증가했다. 단일종목 레버리지 상품까지 출시되면서 가계의 레버리지 자금이 주식시장으로 집중됐다.

그러나 하반기 들어 흐름이 바뀌고 있다.

은행과 증권사의 대출 여력은 한계에 도달했고, 주가 하락으로 기존 레버리지 포지션의 청산 압력은 높아졌다. 여기에 주택 매매가격과 전세·월세가 동시에 오르는 주거비 트리플 강세가 나타나면서 가계의 가처분소득까지 줄어들고 있다.

향후 보유세 강화가 현실화하면 가계는 새로운 자산을 매입하기보다 기존 자산을 처분해 대출과 주거비, 세금을 감당하는 방향으로 이동할 가능성이 높다.

상반기에는 레버리지가 증시 상승을 가속했다면, 하반기에는 대출 제한과 주거비 상승이 그 레버리지의 상환을 강제하는 국면으로 전환되고 있을 수 있다.

1. 주택담보대출보다 빠르게 늘어난 개인 신용대출


2026년 6월 5대 은행의 개인 신용대출은 한 달 만에 2조1,550억원 증가했다. 같은 기간 주택담보대출 증가액은 1조7,576억원이었다.

전체 은행권에서도 6월 가계대출이 전월 대비 7조6,000억원 늘었다. 이 가운데 주택담보대출은 4조3,000억원, 신용대출을 포함한 기타대출은 3조3,000억원 증가했다.




한국은행은 기타대출 증가 배경으로 개인의 주식투자 확대를 지목했다. 신용대출 증가분 전체가 증시로 유입됐다고 단정할 수는 없지만, 같은 기간 신용융자와 미수거래가 함께 급증했다는 점에서 상반기 가계 신용 확대와 주식시장 사이의 연결고리는 분명해 보인다.

한국은행 2026년 6월 금융시장 동향 관련 보도

2. 은행의 가계대출 여력은 이미 소진됐다


5대 은행이 금융감독원에 제출한 2026년 연간 가계대출 증가 목표는 약 4조3,400억원이다.

정책성 대출을 제외한 가계대출은 6월 말까지 지난해 말보다 2조5,045억원 증가했다. 그러나 7월 들어 신용대출이 다시 급증하면서 7월 15일에는 증가액이 4조6,912억원에 도달했다.

상반기가 끝난 지 보름 만에 연간 목표의 108.1%를 사용한 것이다.



은행들은 신규 대출 한도를 줄이고 모집인 접수를 중단하는 등 강한 총량 관리에 나서고 있다. 7월 1일부터 15일까지 5대 은행의 주택구입 목적 신규 주담대 취급액은 하루 평균 1,857억원으로, 6월보다 약 25% 감소했다.

정부가 수도권·규제지역의 주택구입 목적 주담대 한도를 최대 6억원으로 제한한 가운데, KB국민은행은 자체적으로 이를 다시 3억원으로 낮췄다.

정확히 말하면 3억원 제한은 정부의 일률적인 규제가 아니라, 가계대출 목표를 맞추기 위해 국민은행이 시행한 총량 관리 조치이다. 다만 다른 은행들도 연간 목표에 근접하거나 이미 초과한 만큼 유사한 제한이 확산될 가능성은 남아 있다.

5대 은행 가계대출 세부 통계
KB국민은행 주택구입자금 대출 한도 축소

기존에 6억원의 주담대를 예상했던 가계가 3억원만 받을 수 있다면 부족한 3억원을 자기자금으로 마련해야 한다. 주택은 즉시 현금화하기 어렵기 때문에 예금 인출이나 주식·ETF 매도가 가장 빠른 자금 조달 수단이 된다.

집값을 억제하기 위한 대출 규제가 단기적으로는 주식시장의 매도 압력으로 전이될 수 있는 구조이다.

3. 증권사의 빚투 공급 능력도 한계에 도달했다


은행에서 돈을 빌려 투자하는 경로만 막힌 것이 아니다. 증권사의 신용융자와 예탁증권담보대출도 한도에 근접했다.

주요 10개 증권사의 일평균 신용융자 잔고는 2025년 평균 20조9,000억원에서 2026년 1월 28조8,000억원, 3월 32조9,000억원, 5월 36조3,000억원으로 증가했다.

전체 신용융자 잔고는 6월 24일 38조6,328억원까지 확대됐다.


증권사의 투자자 대상 신용공여는 신용융자와 증권담보대출 등을 합산해 원칙적으로 자기자본의 100% 이내에서 관리된다.

상반기 빚투 증가 속도가 증권사 자기자본 증가 속도를 앞지르면서 한국투자증권은 신규 신용약정과 예탁증권담보대출을 일시 중단했고, NH투자증권과 KB증권도 계좌별 신용융자 한도를 축소했다.

일부 제한은 시장 상황에 따라 완화됐지만, 증권업계 전체의 신용공여 능력이 상반기보다 제한된다는 흐름은 달라지지 않았다.

금융감독원 증권사 신용융자 통계
증권사별 신용공여 제한 현황

4. 레버리지 자금은 일부 대형주에 집중됐다


상반기에 증가한 신용자금은 시장 전체로 고르게 확산되지 않았다.

7월 7일 기준 삼성전자와 SK하이닉스의 신용잔고 합계는 10조5,982억원으로 코스피 전체 신용융자의 약 36%를 차지했다.

한 달 동안 삼성전자의 신용잔고는 1조1,700억원, SK하이닉스는 1조4,489억원 증가했다. 반면 두 종목을 제외한 나머지 코스피 종목의 신용잔고는 오히려 1조893억원 감소했다.


이는 신규 레버리지 자금이 시장 전체보다 삼성전자와 SK하이닉스에 집중됐다는 의미이다.

상승 국면에서는 이러한 집중이 지수 상승을 가속한다. 그러나 주가가 하락하면 동일한 종목에서 담보 부족과 손절매가 동시에 발생하면서 매도 압력이 빠르게 확대될 수 있다.

삼성전자·SK하이닉스 신용잔고 집중도

5. 단일종목 레버리지 상품이 집중도를 더욱 높였다


단일종목 레버리지 ETF·ETN의 시가총액은 5월 27일 4조4,000억원에서 7월 15일 11조9,000억원으로 증가했다.

약 7주 만에 2.7배로 확대된 것이다.


단일종목 레버리지 상품은 특정 종목의 일간 수익률을 두 배로 추종한다. 상승할 때는 수익률을 확대하지만, 하락할 때는 손실과 매도 압력도 함께 증폭된다.

특히 변동성이 확대되면 다음과 같은 문제가 발생한다.

  • 기초종목보다 큰 손실 발생

  • 환매에 따른 헤지 포지션 축소

  • 일일 리밸런싱 과정에서 추가 매도 수요 발생

  • 급등락 반복에 따른 음의 복리효과 확대

금융당국은 과열과 변동성 확대를 우려해 신규 상품 상장을 잠정 중단하고, 기본예탁금을 기존 1,000만원에서 현금 3,000만원으로 높이기로 했다.

이 조치는 투자자 보호와 시장 안정이라는 목적을 갖지만, 수급 측면에서는 하반기 신규 레버리지 자금의 유입을 제한하는 효과로 이어진다.

금융위원회 단일종목 레버리지 상품 보완방안

6. 신규 빚투는 막히고 기존 레버리지는 청산되고 있다


신용거래융자 잔고는 6월 24일 38조6,328억원에서 7월 15일 34조3,702억원으로 감소했다.

고점 대비 약 4조3,000억원, 비율로는 약 11% 줄어든 것이다.


주가가 하락한다고 신용대출 원금이 자동으로 줄어드는 것은 아니다. 신용융자 잔고 감소는 대출 상환과 손절매, 담보 부족에 따른 반대매매가 실제로 진행되고 있다는 의미가 크다.

7월 1일부터 13일까지 위탁매매 미수금 반대매매로 처분된 주식은 4,519억원에 달했다. 특히 7월 9일과 10일 이틀 동안에만 2,238억원이 강제로 매각됐다.

7월 반대매매 통계

상반기에는 신용대출과 신용융자가 새로운 매수자금으로 작용했다. 하반기에는 같은 레버리지가 상환과 청산을 요구하는 매도자금으로 바뀌고 있다.

7. 주거비 트리플 강세가 가처분소득을 압박한다


가계의 유동성을 압박하는 요인은 대출 제한에 그치지 않는다.

서울에서는 주택 매매가격과 전세·월세가 동시에 오르는 주거비 트리플 강세가 나타나고 있다.


한국부동산원의 2026년 6월 전국주택가격동향조사에 따르면 서울 주택 매매가격은 전월 대비 1.03%, 전세가격은 1.08%, 월세가격은 0.96% 상승했다.

아파트만 보면 매매가격은 1.21%, 전세가격은 1.37%, 월세가격은 1.15% 올랐다. 특히 월세 상승률은 관련 통계 작성 이후 가장 높은 수준을 기록했다.



서울 주택 매매·전세·월세 트리플 강세

이러한 주거비 상승은 무주택자와 유주택자 모두의 현금흐름을 압박한다.

주택 매수자

주택가격은 오르는데 대출 한도는 줄고 있다. 같은 집을 구입하기 위해 더 많은 자기자금을 투입해야 한다.

부족한 자금은 예금과 주식 등 기존 금융자산을 처분해 마련할 가능성이 높다.

전세 거주자

전세가격이 오르면 계약 갱신 과정에서 추가 보증금을 마련해야 한다. 그러나 은행의 대출 총량이 소진되면서 전세대출과 신용대출을 추가로 받기도 어려워지고 있다.

결국 저축을 인출하거나 보유 주식을 매도해 보증금을 충당해야 할 수 있다.

월세 거주자

월세 상승은 매달 반복되는 현금 유출을 직접 늘린다. 주택가격 상승과 달리 월세는 자산으로 남지 않는다.

월세 부담이 커지면 소비와 저축, 주식 투자에 사용할 수 있는 가처분소득이 즉시 줄어든다.

매매가격 상승은 주택 구입에 필요한 자기자금을 늘리고, 전세가격 상승은 보증금 부담을 높이며, 월세 상승은 매월 투자할 수 있는 현금을 줄인다.

청와대도 최근 주택 매매·전세·월세가 동시에 오르는 트리플 강세를 공식적으로 인정했다. 김용범 정책실장은 국민에게 사과하면서 부동산 수급 여건을 무겁게 보고 있다고 밝혔다. 한국일보 관련 기사

8. 집값 상승이 가계 유동성 증가로 이어지지 않는 이유


일반적으로 주택가격이 오르면 주택 보유자의 자산가치도 상승한다.

그러나 현재는 자산가치 상승이 소비와 투자 여력 확대로 이어지기 어려운 환경이다. 주택가격 상승분은 주택을 매각하거나 담보대출을 추가로 받아야 현금화할 수 있기 때문이다.

현재 가계가 직면한 상황은 다음과 같다.


주택 보유자의 자산가치는 올라도 실제 사용할 수 있는 현금은 줄어들 수 있다. 자산은 부유해 보이지만 현금흐름은 오히려 나빠지는 상황이다.

따라서 집값 상승을 단순한 가계 자산 증가로 해석하기 어렵다. 주택가격 상승이 전세·월세와 보유세를 함께 끌어올리면 경제 전체의 가처분소득은 오히려 위축될 수 있다.

9. 보유세 강화가 겹치면 현금흐름 압박은 더 커진다


오는 7월 23일에는 대통령이 주재하는 부동산 국민 대토론회가 열린다.

이날 세제개편안이 확정 발표되는 것은 아니다. 공급·금융·세제 전반을 논의한 뒤 7월 말에서 8월 초 사이 부동산 종합대책과 세법 개정안에 반영할 예정이다.

현재까지는 다음과 같은 방향이 논의되고 있다.

  • 다주택자와 1주택자 차등 과세

  • 실거주와 비거주 주택의 차등 적용

  • 초고가 1주택에 대한 과세 강화

  • 주택 수보다 전체 보유가액 중심으로 종부세 개편

  • 장기보유특별공제를 보유 기간보다 실거주 기간 중심으로 조정


청와대는 초고가 주택과 비거주·다주택자를 중심으로 보유세를 강화하는 방향을 재확인했다.

다만 양도소득세까지 일률적으로 인상하는 방안이 확정된 것은 아니다. 정부는 보유세를 강화하더라도 일정 기간에는 매도할 수 있도록 양도세 부담을 낮추고, 이후 부담을 높이는 방안도 검토하고 있다.

따라서 현시점에서는 보유세 강화 가능성은 높지만, 양도세는 매물 유도를 위해 일부 완화될 가능성도 함께 열려 있다고 보는 편이 정확하다.

부동산 대토론회 및 세제개편 일정
보유세·양도세 개편 방향

그럼에도 보유세 인상은 가계에 반복적인 현금 유출을 만든다.

소득에 비해 부동산 보유 비중이 높은 가계는 세금을 마련하기 위해 소비와 신규 금융투자를 줄이거나, 주식과 펀드를 처분할 수 있다.

10. 부동산을 겨냥한 정책이 주식시장을 먼저 압박할 수 있다


현재 가계가 사용할 수 있는 자금 경로는 동시에 좁아지고 있다.


은행 신용대출은 연간 총량 소진으로 신규 취급이 제한되고 있음

  • 주택담보대출은 최대한도가 축소되고 있음

  • 증권사 신용융자와 담보대출도 한도에 근접함

  • 단일종목 레버리지 상품의 투자요건은 강화됨

  • 전세와 월세 상승으로 주거비 지출은 증가함

  • 보유세 강화 가능성으로 미래 현금 유출도 확대될 수 있음


결국 가계는 신규 대출을 받아 자산을 추가 매입하기보다, 기존 자산을 처분해 주거비와 대출, 세금을 감당하는 방향으로 이동할 가능성이 높다.

이 과정에서 가장 먼저 매각되는 자산은 주택이 아닐 수 있다.

주택은 거래 비용이 크고 매각까지 시간이 오래 걸린다. 반면 주식과 ETF는 즉시 처분할 수 있다. 정부 정책의 목표가 가계대출과 집값 안정이더라도 단기적인 유동성 충격은 주식시장에서 먼저 나타날 수 있다.

결론: 하반기 증시의 핵심은 가계의 현금흐름이다


상반기에는 신용대출과 신용융자, 단일종목 레버리지 상품이 증시로 새로운 매수자금을 공급했다.

하반기에는 은행과 증권사의 대출 여력이 줄어든 가운데 매매가격과 전세·월세가 동시에 오르면서 가계의 현금흐름까지 약해지고 있다. 여기에 보유세 강화가 현실화하면 주택 보유 가계의 금융투자 여력도 추가로 줄어들 수 있다.

현재의 수급 구조는 다음과 같이 정리할 수 있다.

대출 규제가 자금의 입구를 막고

→ 주거비 상승과 보유세가 가계의 현금을 흡수하며

→ 주가 하락이 기존 레버리지의 청산을 강제하고

→ 반대매매가 다시 주가를 끌어내리는 구조이다.


금주 한국 내 전체 성인 인구의 3.4%(*120만명)가 마진콜

https://www.tokenpost.kr/news/insights/378748

>디레버리징은 끝났나? 한국 투자자 신용융자 잔액, 4월 하순 수준까지 감소
한국금융투자협회 데이터

기업의 장기적인 실적 전망이 유지되더라도 단기 주가는 수급에 의해 크게 흔들릴 수 있다. 현재 시장을 압박하는 핵심은 기업의 이익 감소보다 가계의 현금흐름 악화와 레버리지 축소일 가능성이 높다.

상반기에는 빚이 자산가격 상승을 가속했다. 하반기에는 대출 제한과 주거비 상승이 그 빚의 상환을 강제하면서, 매도가 다시 매도를 부르는 수급 악순환으로 전환되고 있을 수 있다.

#글을 마치며 


손실의 원인을 외부에서만 찾고 싶은 유혹은 언제나 경계해야 한다.
투자 판단에 대한 책임은 결국 투자자 자신에게 있기 때문이다.

그럼에도 이번 상황만큼은 정책이 던진 메시지와 실제 결과 사이의 괴리가 지나치게 컸다는 생각을 지우기 어렵다.

정부는 부동산보다 주식시장으로 자금이 이동하도록 유도했고,
코스닥 활성화와 단일종목 레버리지 상품 도입에도 적극적인 태도를 보였다.

그러나 결과적으로 집권 1년 차에 주택가격은 유례없이 빠른 속도로 상승했다.

우스갯소리로 한국에서 부의 사다리는 문** 정권과 이** 정권을 언제 만났느냐에 따라 극명하게 갈린다는 이야기가 문득 떠오른다.

문** 정부 당시 자기자본 2~3억원에 주택담보대출 4~5억원을 더해 6~8억원대 도심 아파트를 매수했다면, 현재 시세는 대략 13~15억원 안팎까지 상승했을 가능성이 크다.

그동안의 대출 상환과 추가 저축까지 감안하면, 기존 주택을 처분한 뒤 20억원대 아파트로 갈아탈 수 있는 자산 기반을 마련했을 가능성도 높다.


https://www.reb.or.kr/r-one/portal/stat/easyStatPage.do
꾸준히 우상향중인 도심 집값.. 

정부의 메시지와 달리 주택을 계속 보유한 가계의 자산가치는 오히려 더 크게 늘어났다. 이러한 역설은 오랜 기간 반복되어온 대한민국 부동산 시장의 한 장면이기도 하다.

반면 정책을 믿고 코스닥과 레버리지 상품에 투자한 개인들은 상당한 손실을 입었다.


단일종목 ETF 레버리지

코스닥 지수

https://v.daum.net/v/20260720104125342


이런 상황에서 향후 예정된 ‘부동산 대국민담화’가 부동산 증세를 추진하는 데 집중하면서, 무주택자와 서울시장의 문제 제기를 충분히 담아내지 못한 일방적인 연출로 비친다면 ​국민이 느끼는 정책 불신은 더욱 커질 수밖에 없다.

지금 안 사면 지각비… 서울 밖 벼랑끝 매수

국무회의에서 하지 못한 이야기｜이재명 정부 부동산 지옥, 원인 분석 보고서 (일타시장)


정책의 취지가 아무리 선하더라도,
그 결과와 과정에 대한 충분한 설명과 설득이 뒤따르지 않으면 시장은 더 이상 정부의 메시지를 신뢰하지 않는다.

이렇게 누적된 불신과 박탈감은 추가 규제나 담화만으로 되돌리기 어렵다.

이거 실화에요..?

개인적으로 이번 정권은 이미 정책 추진 동력을 상당 부분 잃었다고 본다.
(*지난 1년을 돌아보면 ALL TIME Legend이긴 했음..)

그동안 억눌려 있던 규제들이 다시 ‘정상화’되는 과정에서,
함께 눌려 있던 자산가격 역시 재평가되며 큰 폭으로 상승하는 국면이 찾아올 가능성이 있다.

공부하고 기록할수록 이번 하락에 지나치게 매몰되기보다,
그 이후 펼쳐질 다음 국면을 어떻게 맞이할 것인지에 더 집중해야 한다는 생각이 든다.

지금 필요한 것은 단기적인 시장 변동에 대한 걱정보다,
다가올 변화에 대비하기 위한 전략적 고민이지 않나 싶다


=끝
작성자: 시간: 댓글 없음:

생각정리 312 (* Kimi K3, Computing Infra)

주말 동안 나온 메모리 관련 기사들을 정리해본다.

특히 Kimi K3의 등장이 왜 컴퓨팅 자원의 희소성을 높이고, AI 인프라 투자를 다시 가속하는지를 개인적인 관점에서 살펴보고자 한다.

참고자료 : 생각정리 151 (* Sparse MoE)

모델은 공개되고, 컴퓨팅은 희소해진다


Kimi K3가 보여준 중국 오픈웨이트 LLM과 AI 인프라 투자의 재가속


최근 Kimi K3를 둘러싼 시장의 해석은 크게 두 방향으로 나뉜다.

한쪽에서는 Kimi Delta Attention, 즉 KDA와 희소(*Sparse) MoE 구조가 KV 캐시와 연산 부담을 낮춘다는 점에 주목한다. 모델의 효율성이 높아질수록 필요한 GPU와 메모리도 줄어들 수 있다는 해석이다.

다만, 이러한 주장은 과거 DeepSeek 모멘트 당시 MoE 구조가 실제로 어떤 방식으로 컴퓨팅 수요를 변화시켰는지 충분히 이해하지 못한 해석에 가깝다.

반면 다른 한쪽에서는 Kimi K3가 총 2.8조 파라미터에 달하는 초대형 모델이라는 점과 출시 직후 나타난 강한 사용자 수요에 주목한다. 효율 개선이 컴퓨팅 소비를 줄이는 데 사용된 것이 아니라, 과거에는 운영하기 어려웠던 초대형 모델을 실제 서비스 영역으로 끌어들이는 데 사용됐다는 해석이다.

내 생각은 후자에 가깝다.

Kimi K3와 같은 중국 오픈웨이트 LLM의 발전은 컴퓨팅 수요를 줄이는 사건이 아니다. 프런티어급 모델을 개발하고 운영하려는 참여자를 늘리면서 GPU, HBM, 서버 DRAM, 네트워크, 스토리지와 전력을 더욱 희소한 자원으로 만들고 있다.


Moonshot은 컴퓨팅 용량 부족으로 Kimi K3 모델의 원활한 서비스에 어려움을 겪고 있다고 함.

그리고 얼마지나지 않아 나온 KIMI 사용자 제한 공문

​컴퓨팅 자원 부족 및 멤버십 신규 가입 일시 중단에 관한 안내


* Kimi 신규구독 중단 후 나온 용량 증설

이를 이해하려면 먼저 LLM에서 왜 파라미터 수가 반복적으로 강조되는지부터 살펴볼 필요가 있다.

LLM에서 파라미터가 중요한 이유


LLM의 파라미터는 학습 과정에서 조정되는 수많은 숫자 값이다.

모델 내부에서는 입력된 정보를 여러 단계에 걸쳐 변환한다. 단어의 의미를 표현하고, 문맥 속 관계를 찾고, 어떤 정보를 중요하게 볼지 결정한 뒤 다음에 올 토큰의 확률을 계산한다.

이 과정에 사용되는 임베딩, 어텐션 가중치, Feed Forward Network의 가중치와 정규화 계수 등이 모두 파라미터에 포함된다.

신경망의 연산을 단순화하면 다음과 같이 표현할 수 있다.

y=Wx+b


여기서 WW와 bb가 학습을 통해 결정되는 파라미터다.

따라서 파라미터는 GPU가 처리한 학습 데이터의 연결 횟수를 의미하지 않는다. 학습 데이터를 반복해서 읽는 과정에서 모델 내부에 형성된 수많은 변환 규칙과 관계의 강도에 가깝다.

특정 파라미터 하나가 특정 지식 하나를 저장하는 구조도 아니다. 하나의 지식과 개념은 여러 파라미터에 걸쳐 분산돼 표현되고, 하나의 파라미터 역시 다양한 개념의 처리에 동시에 관여한다.

결국 파라미터 수는 모델이 얼마나 많은 패턴과 관계를 표현할 수 있는지를 보여주는 일종의 표현 용량이다.

하나의 단어가 여러 의미를 가질 수 있는 이유


파라미터를 조금 더 직관적으로 이해하기 위해 하나의 단어를 생각해볼 수 있다.

예를 들어 ‘배’라는 단어는 그 자체만으로 완성된 의미를 갖지 않는다.

  • 배를 먹었다.

  • 배가 아프다.

  • 배를 타고 바다를 건넜다.

  • 가격이 두 배로 올랐다.


같은 단어가 사용됐지만 문장마다 의미는 전혀 다르다. 사람은 앞뒤 문장과 상황을 함께 보고 현재 문맥에 맞는 뜻을 자연스럽게 선택한다.

LLM도 비슷한 방식으로 단어를 처리한다.

모델은 ‘배’라는 단어에 하나의 고정된 뜻을 붙여두지 않는다. 대신 학습 과정에서 다음과 같은 관계를 반복해서 관찰한다.

  • 어떤 단어들과 함께 등장했는지

  • 문장 안에서 어떤 역할을 했는지

  • 앞뒤 문맥에 따라 의미가 어떻게 달라졌는지

  • 비슷한 상황에서 어떤 표현이 사용됐는지


이렇게 학습된 수많은 관계와 차이를 담는 공간이 모델의 파라미터다.

다만 특정 파라미터 하나가 ‘배는 과일이다’라는 의미를 따로 저장하는 것은 아니다. 하나의 단어가 가진 여러 의미는 수많은 파라미터에 분산돼 표현된다. 문장이 입력될 때마다 모델은 이 파라미터들을 함께 사용해 현재 문맥에 가장 적절한 의미를 구성한다.

파라미터는 단어의 뜻을 고정적으로 저장하는 사전이라기보다, 문맥에 따라 달라지는 의미와 단어 사이의 관계를 표현하기 위한 수많은 조정값이다.


따라서 파라미터가 많아진다는 것은 단순히 더 많은 단어와 지식을 외운다는 의미가 아니다.

같은 단어가 서로 다른 상황에서 어떻게 다르게 쓰이는지, 여러 개념이 어떤 조건에서 연결되거나 분리되는지를 더 세밀하게 표현할 수 있는 공간이 넓어진다는 뜻이다.

파라미터와 학습 데이터는 어떻게 연결되는가


LLM의 성능은 파라미터만으로 결정되지 않는다.

파라미터와 학습 데이터, 컴퓨팅은 서로 다른 역할을 한다.

  • 학습 데이터는 모델이 관찰하는 언어, 코드, 이미지, 문제와 해답이다.

  • 파라미터는 데이터에서 발견한 패턴과 관계를 담는 공간이다.

  • 컴퓨팅은 데이터를 읽고 파라미터를 반복적으로 수정하는 데 사용된다.

  • 알고리즘과 모델 구조는 같은 자원을 얼마나 효율적으로 활용할지를 결정한다.


파라미터가 너무 작으면 방대한 학습 데이터가 가진 복잡한 관계를 충분히 표현하기 어렵다. 많은 내용을 지나치게 작은 공간에 압축하면서 중요한 패턴과 예외가 손실된다.

반대로 파라미터만 크게 만들고 데이터와 학습량을 충분히 늘리지 않으면 커진 모델의 용량을 제대로 활용하지 못한다. 모델의 그릇은 커졌지만 그 안을 채우는 학습이 부족한 상태가 된다.

이 관계를 단순화하면 다음과 같다.

Model Capability=f(Parameters, Data, Compute, Architecture, Post-training)


파라미터는 그릇의 크기이고, 학습 데이터는 그 안에 담기는 재료다. 컴퓨팅은 이 재료를 실제 모델 능력으로 전환하는 공정이다.

따라서 “파라미터가 클수록 성능이 좋아진다”는 설명도 파라미터만 독립적으로 늘리면 된다는 뜻으로 이해해서는 안 된다.

파라미터, 학습 데이터와 컴퓨팅이 함께 확대될 때 모델이 더 복잡한 구조와 더 많은 지식을 학습할 수 있다는 의미에 가깝다.

왜 큰 모델이 대체로 더 좋은 성능을 보이는가


현실 세계의 지식은 단순하지 않다.

언어에는 단어의 뜻과 문법뿐 아니라 수많은 예외, 은유, 전문지식과 문화적 맥락이 포함돼 있다. 코드 역시 언어별 문법만 이해해서는 충분하지 않다. 라이브러리, 시스템 구조, 오류 처리, 보안과 성능 최적화를 함께 이해해야 한다.

모델이 처리해야 하는 작업의 범위도 계속 넓어지고 있다.

  • 긴 문서와 대규모 코드베이스 이해

  • 여러 단계의 논리적 추론

  • 이미지·음성·영상의 통합 처리

  • 검색과 코드 실행을 포함한 도구 사용

  • 장시간 이어지는 에이전트 작업

  • 학습 과정에서 보지 못한 새로운 문제에 대한 일반화


작은 모델은 자주 등장하는 패턴과 일반적인 관계를 우선적으로 학습한다. 반면 희귀한 개념, 복잡한 예외와 긴 인과관계까지 동시에 표현하려면 더 많은 용량이 필요하다.

파라미터가 늘어나면 모델은 서로 다른 개념을 더 세밀하게 구분하고, 여러 지식과 문맥을 동시에 처리할 수 있는 공간을 확보한다. 작은 모델에서 하나의 표현 공간에 여러 개념이 겹치면서 발생하는 간섭도 줄어들 수 있다.

이러한 관계가 일정한 규모 이상에서도 반복적으로 관찰된 것이 Scaling Law다.

Scaling Law는 왜 계속 작동하는가


초기 Scaling Law 연구에서는 모델 크기와 학습 데이터, 학습 컴퓨팅을 늘릴수록 언어모델의 예측 오차가 비교적 일정한 멱법칙 형태로 감소하는 현상이 확인됐다. (Kaplan et al., 2020)


다만 이는 파라미터만 무작정 늘리면 된다는 뜻은 아니다.

이후 Chinchilla 연구는 주어진 컴퓨팅 예산 안에서 모델 크기와 학습 토큰을 균형 있게 확대해야 한다는 점을 보여줬다. 동일한 연산량을 사용하더라도 지나치게 큰 모델을 적은 데이터로 학습하는 것보다, 적절한 규모의 모델을 충분한 데이터로 학습하는 편이 더 높은 성능을 낼 수 있다는 결과였다. (Hoffmann et al., 2022)

결국 Scaling Law의 핵심은 다음과 같다.

파라미터, 데이터와 컴퓨팅을 적절한 비율로 확대하면 모델 성능은 여전히 비교적 예측 가능한 방향으로 개선된다.


이 관계가 계속 작동하는 이유는 학습해야 할 세계의 구조가 아직 포화되지 않았기 때문이다.

하나의 공개 벤치마크가 포화되더라도 더 긴 문맥, 더 어려운 추론, 멀티모달 이해, 장기 에이전트, 로보틱스와 실제 환경 조작이라는 새로운 과제가 계속 등장한다.

알고리즘 개선 역시 Scaling을 멈추게 하지 않는다.

MoE, 선형 어텐션, 저정밀 연산과 새로운 옵티마이저는 같은 컴퓨팅으로 더 높은 성능을 낼 수 있게 만든다. 그러나 프런티어 연구소는 이렇게 절약된 컴퓨팅을 반환하지 않는다.

그 자원을 다시 다음 영역에 사용한다.

  • 더 큰 모델

  • 더 많은 학습 데이터

  • 더 긴 컨텍스트

  • 더 복잡한 강화학습

  • 더 많은 추론 토큰

  • 더 긴 에이전트 실행

효율 개선은 Scaling의 종료보다 Scaling이 가능한 모델의 상한을 높이는 방향으로 작동해 왔다.

Kimi K3는 효율화 이후 모델이 어디까지 커질 수 있는지를 보여준다


Kimi K3는 총 2.8조 파라미터를 가진 희소 MoE 모델이다.

KDA 기반의 하이브리드 선형 어텐션과 Attention Residuals를 적용했고, 896개 전문가 가운데 토큰당 16개를 활성화한다. 최대 100만 토큰의 문맥과 멀티모달 입력을 지원하며, Moonshot AI는 Kimi K2 대비 컴퓨팅을 모델 능력으로 전환하는 효율이 약 2.5배 높아졌다고 설명한다. (Kimi K3)

여기서 중요한 것은 효율 개선의 사용처다.

Moonshot은 KDA와 희소 MoE를 이용해 작은 모델을 만드는 데 머물지 않았다. 동일한 컴퓨팅으로 더 큰 모델을 만들고, 더 긴 문맥과 더 복잡한 에이전트 작업을 처리하는 데 효율 개선분을 사용했다.

전개 과정은 다음에 가깝다.

Efficiency Improvement→Larger Model→Lower Usage Cost→More AI Workloads


Kimi K3의 등장은 모델 효율이 높아지면 모델이 작아진다는 가정보다, 효율이 높아질수록 경제적으로 운영할 수 있는 모델의 규모가 더 커진다는 사실을 보여준다.

2.8조 파라미터가 의미하는 메모리 부담


파라미터는 실제 메모리 어딘가에 저장돼야 한다.

2.8조 파라미터 모델의 가중치 저장량을 단순 계산하면 다음과 같다.

BF16:2.8조×2Bytes=5.6TB\text{BF16} : 2.8조 \times 2Bytes = 5.6TB
INT8:2.8조×1Byte=2.8TB\text{INT8} : 2.8조 \times 1Byte = 2.8TB
4-bit:2.8조×0.5Byte=1.4TB\text{4-bit} : 2.8조 \times 0.5Byte = 1.4TB

실제 시스템에서는 가중치만 저장하면 끝나지 않는다.

양자화 스케일, 활성값, 통신 버퍼, 라우팅 정보, KV 캐시와 시스템 여유 공간이 추가로 필요하다.

MoE 구조는 토큰당 일부 전문가만 활성화하기 때문에 연산량을 줄일 수 있다. 그러나 비활성 전문가의 가중치까지 사라지는 것은 아니다. 전체 전문가 가중치는 여러 GPU와 메모리 계층에 분산된 상태로 유지돼야 한다.

따라서 MoE 모델에서는 두 가지 숫자를 구분해야 한다.

  • 총 파라미터 수: 모델 전체의 표현 용량과 저장해야 할 가중치 규모

  • 활성 파라미터 수: 한 토큰을 처리할 때 실제 연산에 사용되는 규모


Kimi K3는 모든 토큰마다 2.8조 파라미터를 전부 계산하지 않는다. 그럼에도 거대한 전체 가중치를 저장하고, 선택된 전문가에게 토큰을 전달하기 위해 대규모 HBM과 고속 네트워크가 필요하다.

좀 쉬는듯 싶다가 재차 상승하는 디램 현물가격


KDA가 KV 캐시를 줄여도 시스템 전체의 수요는 줄지 않는다


Kimi K3에 대한 부정적인 해석은 KDA가 KV 캐시 부담을 낮춘다는 점에서 출발한다.

KV 캐시가 줄어들면 동일한 GPU에서 더 긴 문맥을 처리하거나 더 많은 사용자를 동시에 받을 수 있다. 단위 요청당 필요한 메모리도 낮아질 수 있다.

하지만 절감된 자원이 그대로 남는 경우는 많지 않다.

서비스 사업자는 이를 다음 용도로 다시 사용한다.

  • 컨텍스트 길이 확대

  • 동시 접속자 증가

  • 배치 크기 확대

  • 추론 시간 연장

  • 복수 에이전트 병렬 실행

  • 검색·코딩·검증 횟수 증가


동시에 MoE 모델은 전문가가 여러 GPU에 분산돼 있기 때문에 토큰을 GPU 사이에서 지속적으로 이동시켜야 한다. 모델 규모가 커지고 전문가 병렬화가 확대될수록 GPU의 계산 성능과 함께 Scale-up 네트워크 대역폭이 중요해진다.

NVIDIA GB200 NVL72는 72개의 Blackwell GPU를 하나의 NVLink 도메인으로 연결하며, 랙 내부에서 초당 130TB의 GPU 통신 대역폭을 제공한다. 이러한 랙 스케일 구조는 수조 파라미터 모델의 학습과 추론에서 발생하는 대규모 GPU 간 통신을 겨냥한 시스템이다. (NVIDIA GB200 NVL72)

결국 KDA가 줄이는 것은 시스템 병목 가운데 한 부분이다.

모델 규모와 사용량이 늘어나면 병목은 다시 다른 영역으로 이동한다.

  • 가중치를 저장하는 HBM

  • CPU 서버의 DDR5

  • KV 캐시와 체크포인트를 저장하는 NVMe SSD

  • GPU 간 통신을 담당하는 NVLink와 네트워크

  • 데이터센터 전력과 냉각


AI 인프라에서 효율화는 병목을 완전히 제거하기보다, 병목의 위치를 이동시키면서 전체 시스템의 처리 가능 규모를 확대한다.

오픈웨이트는 모델 경쟁의 참여자를 늘린다


Kimi K3가 갖는 더 큰 의미는 2.8조 파라미터라는 숫자에만 있지 않다.

Kimi K3는 오픈웨이트 모델로 공개됐다. 누구나 가중치를 내려받아 직접 호스팅하고, 특정 산업과 언어에 맞게 추가 학습하며, 자체 클라우드와 데이터센터에 배치할 수 있다.

폐쇄형 API 모델에서는 소수 프런티어 기업이 중앙에서 컴퓨팅을 운영하고 전 세계 사용자가 이를 호출한다.

오픈웨이트 모델에서는 구조가 달라진다.

  • 중국 클라우드 기업이 자체 서비스를 운영

  • 각국 CSP가 지역별로 모델을 호스팅

  • 기업이 내부 데이터센터에 모델을 배치

  • 정부기관이 소버린 AI 클러스터에 모델을 탑재

  • 다른 AI 기업이 추가 미세조정과 강화학습을 수행

  • 중국산 AI 가속기에 맞춘 별도 최적화가 진행


동일한 모델 가중치가 공개되더라도 이를 실행하는 인프라는 공유되지 않는다.

오픈웨이트는 모델을 한곳에 집중시키기보다, 여러 국가와 기업이 같은 모델을 중복해서 학습하고 호스팅하도록 만든다.

모델의 접근성은 높아지지만 컴퓨팅 인프라 수요는 더 넓은 지역과 더 많은 사업자로 분산된다.

핵심은 오픈소스 모델 확산이 GPU 수요를 줄이는 것이 아니라,
오히려 데이터브릭스 같은 호스팅·게이트웨이 사업자의 GPU 수요를 폭발시키고 있다는 점.

모든 곳에서 GPU가 고갈되고 있고 모든 국가가 GPU를 원하고 있다.

Databricks CEO: We're hosting open source models like Kimi and running out of GPUs
https://t.me/bornlupin

Databrick


Databrick


증류는 성능 격차를 줄이지만 컴퓨팅 비용을 없애지 않는다


중국 LLM의 발전 속도에는 오픈웨이트뿐 아니라 프런티어 모델의 증류도 영향을 미친다.

Anthropic은 DeepSeek, Moonshot, MiniMax가 다수의 부정 계정을 이용해 대규모 Claude 대화를 생성하고, 이를 자체 모델의 에이전트 추론과 코딩, 도구 사용 능력 향상에 활용하려 했다고 주장했다. 이는 Anthropic의 조사 결과이며, 개별 중국 모델 전체가 Claude를 단순 복제해 만들어졌다는 사실을 직접 입증하는 것은 아니다. (Anthropic)

증류는 원본 모델의 파라미터를 그대로 복사하는 방식이 아니다.

강한 교사 모델에 수많은 질문을 입력하고, 얻어진 답변을 자체 모델의 학습 데이터로 활용한다. 교사 모델이 만든 코드와 추론 결과, 도구 사용 방식과 평가 점수를 학생 모델이 반복적으로 학습한다.

이 과정이 확산되면 공개적으로 관찰할 수 있는 LLM 성능은 일정한 시차를 두고 수렴할 가능성이 높다.

한 기업이 새로운 능력을 공개하면 다른 기업이 이를 증류하고, 오픈모델로 다시 확산시킨다. 후발 모델이 선두 모델의 과거 능력을 따라잡는 동안 선두는 다시 다음 프런티어로 이동하는 반복게임이다.

그러나 증류는 컴퓨팅을 대체하지 않는다.

수집된 답변을 실제 모델 능력으로 전환하려면 별도의 사전학습과 미세조정, 강화학습, 평가와 추론 서비스가 필요하다. 학생 모델의 수조 개 파라미터 역시 다시 GPU에서 계산해 만들어야 한다.

기술과 모범답안은 복제할 수 있지만, 학습과 추론에 필요한 계산은 각 기업이 직접 수행해야 한다.


따라서 모델 성능의 확산 속도가 빨라질수록 프런티어 모델을 만들 수 있다고 판단하는 기업과 국가는 늘어난다. 이는 AI 인프라 경쟁에서 수요 참여자의 증가로 이어진다.

중국의 모델 평준화는 중복 컴퓨팅 투자를 확대한다


중국의 AI 생태계에서는 새로운 모델 구조와 학습 방식이 빠르게 확산될 가능성이 높다.

Kimi, DeepSeek, Alibaba, Tencent, Zhipu 등 여러 기업이 서로의 모델 구조와 오픈소스 생태계를 활용하면서도 각각 별도의 프런티어 모델을 개발한다.


Qwen 3.8이 곧 출시되어 오픈 웨이트로 전환됩니다!

하나의 국가 대표 모델에 컴퓨팅을 집중하기보다 여러 기업이 동시에 다음 세대 모델을 만드는 구조다.

각 기업은 반복적으로 다음 과정을 수행해야 한다.

  1. 대규모 기반 모델 학습

  2. 합성 데이터와 증류 데이터 생성

  3. 미세조정과 강화학습

  4. 벤치마크와 실제 에이전트 평가

  5. 공개 이후 대규모 추론 서비스 운영

  6. 다음 세대 모델을 위한 재학습

모델의 구조와 학습 방법은 빠르게 공유될 수 있다. 그러나 각각의 모델을 만드는 학습 클러스터와 추론 클러스터는 별도로 필요하다.

그 결과는 다음과 같은 흐름으로 이어진다.

Faster Model Diffusion→More Frontier Participants→Duplicated Training and Serving→Higher Compute Demand\text{Faster Model Diffusion} \rightarrow \text{More Frontier Participants} \rightarrow \text{Duplicated Training and Serving} \rightarrow \text{Higher Compute Demand}

중국 LLM의 평준화는 컴퓨팅 수요를 통합하기보다, 더 많은 기업이 중복 인프라를 구축하도록 만드는 방향으로 작동할 가능성이 높다.


"메모리 수요 아비규환, 증설이 생명줄"


저렴한 오픈모델은 기존 수요를 대체하면서 새로운 수요를 만든다


기업 입장에서 모든 업무에 가장 비싼 프런티어 모델을 사용할 필요는 없다.

고난도 연구, 복잡한 코딩과 중요한 의사결정에는 Claude나 ChatGPT와 같은 프런티어 모델을 사용하더라도, 반복적인 일상 업무에는 저렴한 오픈모델을 사용할 수 있다.

예를 들면 다음과 같다.

  • 내부 문서 요약

  • CRM 데이터 정리

  • 보고서 초안 작성

  • 데이터베이스 입력

  • 고객 문의 분류

  • 코드 테스트와 단순 오류 수정


업무 하나에 필요한 컴퓨팅 비용이 낮아지면 과거에는 경제성이 나오지 않았던 수많은 작업이 AI로 전환된다.

전체 컴퓨팅 수요는 다음과 같이 생각할 수 있다.

Total Compute Demand=Compute per Task×Number of Tasks×Agent Steps×Concurrency\text{Total Compute Demand} = \text{Compute per Task} \times \text{Number of Tasks} \times \text{Agent Steps} \times \text{Concurrency}


KDA와 MoE는 업무당 컴퓨팅을 낮춘다.

그러나 가격 하락으로 처리 업무 수가 크게 늘어나고, 에이전트가 검색·코딩·검증·재시도를 반복하며, 동시 사용자가 증가하면 전체 컴퓨팅 수요는 오히려 커질 수 있다.

사용자당 AI 토큰 사용량이 지출 증가보다 더 빠르게 확대.
토큰 사용량 +225.3%, 사용자당 지출 +174.4%


AI 모델 가격은 PC 가격 보다 더 빠르게 붕괴중

CODEX 유저 증가속도
GPT 5.6 발표 이후 하루에 +100만으로

프런티어 모델과 오픈모델 역시 완전한 대체 관계로만 움직이지 않는다.

어려운 문제는 프런티어 모델이 처리하고, 빈도가 높은 일상 업무는 오픈모델이 담당한다. AI가 적용되는 전체 업무 범위가 넓어지면서 모델별 수요가 서로 다른 가격대에서 동시에 증가하는 구조가 만들어진다.

소버린 AI는 국가 단위의 신규 구매자를 추가한다


오픈웨이트 모델은 소버린 AI와 결합하기 쉽다.

정부와 기업은 폐쇄형 해외 API를 호출하는 대신, 공개된 가중치를 자국 데이터센터에 배치하고 자체 데이터로 추가 학습할 수 있다.

소버린 AI의 목적은 단순한 비용 절감에 한정되지 않는다.

  • 데이터 주권

  • 정부·금융·국방 데이터 보호

  • 자국어와 문화에 특화된 모델 구축

  • 해외 플랫폼 의존도 축소

  • 국내 AI 산업과 클라우드 생태계 육성

  • 국가안보와 핵심 기술 확보


경제적 효율만 고려하면 여러 국가가 하나의 글로벌 클라우드를 함께 사용하는 편이 유리하다.

그러나 안보와 데이터 주권을 고려하면 각 국가는 일정 수준의 독립적인 인프라를 구축하려 한다. 동일한 Kimi 계열 모델을 사용하더라도 중국, 중동, 아시아와 유럽의 사업자는 별도의 클러스터를 보유하게 된다.

이에 따라 AI 인프라의 구매자는 미국 하이퍼스케일러와 프런티어 연구소에서 다음 영역으로 확대된다.

  • 중국 플랫폼 기업과 AI 연구소

  • 지역별 클라우드 사업자

  • 오픈모델 호스팅 기업

  • 대기업의 사설 AI 클러스터

  • 정부와 국부펀드가 주도하는 소버린 AI


오픈웨이트 모델의 확산은 AI 인프라 수요를 소수 빅테크에서 전 세계 국가와 기업으로 분산시키는 역할을 한다.


https://gccbusinesswatch.com/news/saudi-arabias-sovereign-ai-strategy-earns-global-recognition-as-kingdom-accelerates-leadership-in-artificial-intelligence/


컴퓨팅 병목은 GPU와 HBM을 넘어 시스템 전체로 확산된다


프런티어 모델 경쟁이 확대될수록 병목은 GPU 한 종류에 머물지 않는다.

대규모 모델을 실제로 운영하려면 다음 인프라가 함께 필요하다.

  • 연산을 수행하는 GPU와 AI ASIC

  • 가중치와 활성값을 저장하는 HBM

  • CPU 서버와 오프로드를 위한 DDR5 RDIMM

  • 모델·데이터셋·체크포인트용 NVMe SSD

  • GPU 간 연결을 위한 Scale-up 네트워크

  • 데이터센터와 랙을 연결하는 Scale-out 네트워크

  • 전력·변전·냉각 설비


TrendForce는 AI 서버 수요가 이어지면서 서버 DRAM 시장의 공급이 타이트하게 유지되고 있으며, CSP들이 향후 부족 가능성에 대비해 조달을 확대하고 있다고 분석하고 있다. (TrendForce)

기업용 SSD 역시 생성형 AI의 대규모 확산과 함께 수요가 증가하고 있으며, 의미 있는 생산능력 확대에는 시간이 필요하다. (TrendForce)

이는 AI 인프라 사이클이 HBM만의 사이클에서 시스템 전체의 사이클로 확장되고 있음을 보여준다.

모델 가중치가 커질수록 HBM이 필요하고, 사용자가 늘수록 서버 DRAM과 SSD가 필요하다. 전문가 수가 증가할수록 네트워크가 중요해지며, 클러스터 규모가 커질수록 전력과 냉각이 새로운 제약조건으로 부상한다.

TrendForce

두 번째 AI 컴퓨팅 인프라 사이클


초기 AI 인프라 사이클은 미국 하이퍼스케일러와 소수 프런티어 연구소의 대규모 학습 클러스터 구축이 중심이었다.

현재 나타나는 흐름은 성격이 다르다.

프런티어 기업의 차세대 학습은 계속되고 있다. 여기에 중국 오픈웨이트 모델, 기업용 AI, 에이전트 추론과 소버린 AI가 새로운 수요층으로 합류하고 있다.

첫 번째 사이클이 소수 기업의 학습 CAPEX에 가까웠다면, 두 번째 사이클은 다음 요소가 동시에 결합된다.

  • 프런티어 모델의 학습 경쟁

  • 중국 AI 기업의 추격과 중복 투자

  • 오픈웨이트 모델의 분산 호스팅

  • 기업 업무의 대규모 AI 전환

  • 장기 에이전트의 반복 추론

  • 국가 단위 소버린 AI 구축


이에 따라 학습을 위한 CAPEX와 추론을 위한 반복적인 OPEX가 함께 증가한다.

이 국면에서 컴퓨팅 인프라는 GPU 보유량만으로 설명하기 어렵다.

Effective Compute=Accelerator×Memory×Network×Power×Cooling×Software×Utilization

컴퓨팅 인프라는 하나의 반도체가 아니라, 지능을 생산하고 전달하는 전체 시스템이다.


- "AI is becoming a widely available commodity."

결론: 오픈웨이트 모델의 확산이 컴퓨팅 투자를 다시 가속한다


Kimi K3는 효율적인 모델이다.

KDA는 KV 캐시 부담을 낮추고, 희소 MoE는 토큰당 연산량을 줄인다. 증류는 미국 프런티어 모델과의 성능 격차를 빠르게 좁힐 수 있으며, 오픈웨이트는 누구나 모델을 직접 배치하고 추가 학습할 수 있게 한다.

표면적으로 보면 이 모든 변화는 컴퓨팅 절감으로 이어질 것처럼 보인다.

그러나 실제로는 반대 방향의 변화가 나타난다.

효율 개선은 더 작은 모델보다 2.8조 파라미터의 더 큰 모델을 가능하게 했다. 오픈웨이트는 하나의 중앙 모델을 공유하기보다 여러 클라우드와 국가, 기업이 같은 모델을 중복해서 운영하게 만든다.

증류는 프런티어 모델을 만들 수 있는 참여자의 문턱을 낮추지만, 각 참여자가 학습과 추론에 사용할 컴퓨팅까지 제공하지는 않는다. 저렴한 모델은 기존의 고가 모델을 일부 대체하면서도, 과거에는 AI를 사용하지 않았던 수많은 일상 업무를 새로운 추론 수요로 전환한다.

결국 중국 오픈웨이트 LLM의 발전은 다음 흐름으로 이어질 가능성이 높다.

Open-weight Model Progress→More Model Developers and Hosts→

More Training and Inference→Compute Scarcity→Infrastructure Reinvestment

모델 기술은 빠르게 확산되고 성능은 점차 수렴할 수 있다. 그러나 이를 학습하고 운영하는 GPU, HBM, 서버 DRAM, 네트워크, 스토리지와 전력은 같은 속도로 늘어나지 않는다.

모델이 공개될수록 모델 자체의 희소성은 낮아진다. 반대로 그 모델을 가장 먼저 학습하고, 가장 저렴하게 운영하며, 가장 많은 사용자에게 공급할 수 있는 컴퓨팅 인프라의 희소성은 높아진다.

Kimi K3도 그렇게 가성비 있는 모델은 아니라고 함.
GPT 5.6과 비슷하게 돈이 들어간다고 함.
https://t.me/aetherjapanresearch

따라서 Kimi K3와 같은 중국 오픈웨이트 LLM은 NVIDIA와 메모리 수요를 위협하는 모델로 보기 어렵다.

오히려 미국의 소수 프런티어 기업에 집중돼 있던 컴퓨팅 소비를 중국 AI 기업, 글로벌 클라우드, 일반 기업과 소버린 AI로 확산시키면서 AI 컴퓨팅 인프라 투자의 재점화와 재가속을 촉진하는 사건에 가깝다.

모델이 평준화될수록 경쟁의 중심은 모델을 소유하는 능력에서, 지능을 대량 생산할 수 있는 컴퓨팅 인프라를 확보하는 능력으로 이동한다.

오픈웨이트 모델이 많아질수록 지능은 더 널리 소비되고, 그 지능을 생산하는 AI 공장은 더 많이 필요해진다.


다시 정리하면, 

  • 모델 구조와 학습 방법은 빠르게 복제됨
  • 모델 성능 격차는 일정한 시차를 두고 축소됨
  • 컴퓨팅 인프라는 물리적으로 건설해야 함
  • HBM·DRAM·전력·송전망은 단기간에 복제하기 어려움
  • 결국 모델의 초과이익은 압축되고 인프라의 희소가치는 상승함


즉 지능의 가격은 내려가지만, 지능을 대량 생산할 수 있는 물리적 생산수단의 전략적 가치는 올라가는 구조가 한동안 지속되지않을까 한다.

#글을 마치며


경제적 수급 논리를 넘어, 메모리는 점차 AI 패권과 국가 안보를 좌우하는 전략자산으로 부상하고 있는듯 싶다. 

그런 점에서 미국이 중국 메모리 기업인 CXMT와 YMTC에 대한 제재를 보다 직접적이고 강도 높게 확대하지 않는 이유에 대해서는 여전히 의문이 남는다.



https://www.tomshardware.com/pc-components/dram/lawmakers-want-us-government-to-ban-memory-chips-from-china-even-in-allied-supply-chains-citing-unacceptable-risk-to-national-economic-and-supply-chain-security


이렇게 대놓고 중국 LLM들이 불법 증류 및 추출로 따라오는데,
추가 제재를 안하고 아무 조취도 안한다고..?
추가 반도체 chip & equipment 수출규제나 때려버렸으면.. 


중국 AI 모델의 미국 기업 사용량 급증, 60%에 육박, 연초 대비 3배 증가


=끝 

작성자: 시간: 댓글 없음: