최근 다모다란의 인터뷰,
어제 Arm Holdings의 키노트 스피치,
그리고 최근 더욱 선명해지고 있는 TSMC의 전략적 위상 변화는 서로 다른 주제를 다루는 듯 보이지만, Agent AI 시대라는 하나의 흐름 위에서 읽을 때 공통된 의미를 갖는다.
이 세 가지는 연산 구조의 재편, 설계와 제조의 권력 이동, 그리고 AI 가치사슬의 주도권 변화를 중심으로 재구성되고 있음을 보여준다.
이 글에서는 이 세 흐름을 하나의 축으로 묶어, Agent AI 시대의 중요한 변화가 어디에서 시작되고 어디로 향하는지를 정리해보고자 한다.
핵심요지
1. Agent AI 시대의 핵심은 모델 성능 경쟁보다 실행 구조 경쟁이다.
앞으로 AI의 가치는 답변 품질 자체보다, 실제 업무를 얼마나 안정적으로 수행하고 반복 실행할 수 있느냐에서 커질 가능성이 높다.
2. 이 구조에서는 GPU만이 아니라 CPU의 전략적 중요성이 다시 올라온다.
에이전트형 AI는 작업 분배, 도구 호출, 코드 실행, 오류 재시도, 결과 통합 같은 운영 기능이 많아 CPU가 시스템의 조정자 역할을 맡게 된다.
3. Arm의 투자포인트는 단순 CPU 판매 확대가 아니라 CPU 역할의 재정의다.
CPU가 범용 연산 보조가 아니라 AI 시스템의 운영 계층 핵심으로 격상되면, Arm의 TAM과 가치평가 기준도 함께 바뀔 수 있다.
4. 메모리는 단순 부품이 아니라 Agent AI의 기억 인프라가 된다.
중간 결과 저장, 문맥 유지, 상태 추적, 검색 기반 호출이 중요해질수록 물리적 메모리와 시스템 메모리 구조의 전략적 가치가 동시에 높아진다.
5. 결국 늘어나는 AI 수요는 선단공정과 첨단 패키징 병목으로 수렴한다.
GPU뿐 아니라 CPU, 제어 로직, 인터커넥트, 메모리 관련 칩까지 함께 증가하면, 최종적으로는 TSMC의 선단공정 희소성이 더 부각될 가능성이 크다.
6. 따라서 Agent AI 시대의 수혜는 단일 칩이 아니라 실행 인프라 전반으로 확산된다.
Arm은 운영 계층, 메모리는 상태 유지 계층, TSMC는 최종 제조 병목 계층에서 각각 구조적 수혜를 받을 가능성이 있다.
한 줄로 더 줄이면 이렇다.
Agent AI 확산은 GPU 중심의 AI 투자 프레임을 CPU·메모리·선단공정까지 넓히는 변화이며, Arm과 TSMC의 전략적 가치도 이 구조 속에서 다시 평가될 가능성이 크다.
Agent AI 시대, 왜 CPU·메모리·Arm·TSMC를 함께 봐야 하는가
AI 산업의 다음 단계는 단순히 모델이 더 똑똑해지는 문제가 아니다.
핵심은 AI가 실제 일을 대신 처리하는 구조가 얼마나 빨리 넓어지느냐다.
이 점에서 지금 가장 중요한 변화는 에이전트형 AI다.
에이전트형 AI는 질문에 답하는 데서 끝나지 않는다. 목표를 받고, 일을 나누고, 필요한 도구를 고르고, 코드를 실행하고, 중간 결과를 다시 점검한 뒤 수정한다. 말 그대로 디지털 직원에 가까운 구조다.
시장도 빠르게 움직이고 있다. 가트너는 2026년 말까지 기업용 응용프로그램의 40%가 특정 업무용 AI 에이전트를 갖추게 될 것이라고 전망했다. 현재는 5% 미만 수준이다. 변화 속도가 상당히 빠르다는 뜻이다. (가트너)
1. AI 시대의 기회는 “더 좋은 답변”보다 “실제 실행”에서 커진다
다모다란이 강조한 핵심은 분명하다.
AI 시대에 더 중요해지는 것은 추론력, 맥락을 엮는 능력, 이야기로 정리하는 능력, 서로 다른 정보를 연결하는 능력이다. 반복 업무는 AI가 빠르게 대체할 수 있지만, 무엇이 중요한지 가르고 의미를 부여하는 일은 더 희소해진다. (Aswath Damodaran)
이 관점은 산업에도 그대로 들어맞는다.
앞으로 가치가 커지는 것은 단순히 “모델 성능”이 아니다. 그 모델이 실제로 일을 하게 만드는 구조가 더 중요해진다.
에이전트형 AI는 바로 그 구조다.
그래서 앞으로 AI 인프라 수요는 단순 계산 수요가 아니라, 실행 수요로 번지게 된다.
2. 애널리스트·투자자에게 남는 비교우위도 달라진다
이 변화는 투자 업무에도 직접 연결된다.
예전에는 정보를 빨리 모으고, 엑셀을 빨리 돌리고, 반복 작업을 많이 처리하는 능력이 강점이었다.
이제는 그 구간의 가치가 조금씩 내려간다.
대신 더 중요한 것은 무엇을 물어봐야 하는지 아는 능력이다.
예를 들어, 이제는 뉴스 기사나 실적 발표 내용을 바로 숫자 모델로 바꾸고, 이전 대화 맥락을 이어서 시나리오를 다시 점검하고, 기업 변수와 거시 변수까지 한 번에 넣어 비교하는 일이 훨씬 빨라진다. 이런 작업은 AI가 상당 부분 대신할 수 있다.
그렇다고 인간의 강점이 사라지는 것은 아니다.
오히려 비교우위가 더 위쪽으로 올라간다.
앞으로 더 중요해지는 것은 다음과 같은 능력이다.
문제를 잘 정의하는 능력
중요한 변수와 중요하지 않은 변수를 가르는 능력
AI가 그럴듯하게 만든 오류를 걸러내는 능력
정치·산업 변화 같은 비정형 정보를 숫자로 번역하는 능력
투자 판단의 일관성을 유지하는 능력
비중 조절과 위험 관리
즉, AI 시대의 애널리스트 비교우위는 정보 접근이나 작업 속도보다,
질문 설계, 맥락 통합, 검증, 의사결정 규율 쪽으로 이동한다.
이 점이 중요하다.
에이전트형 AI는 애널리스트를 대체한다기보다, 판단력을 더 위 단계로 끌어올리는 도구에 가깝기 때문이다.
3. 에이전트형 AI 시대에는 CPU가 다시 중심으로 올라온다
에이전트형 AI가 늘어날수록, 시스템 전체를 움직이는 축은 더 복잡해진다.
AI가 실제 일을 하려면 다음 같은 과정이 반복된다.
작업 순서 정하기
외부 도구 부르기
데이터 다시 읽기
코드 실행하기
여러 결과 묶기
오류 나면 다시 시도하기
이런 일은 대부분 GPU가 아니라 CPU가 맡는다.
GPU가 계산을 한다면, CPU는 전체 시스템을 운영하고 조정한다.
Arm은 최근 이 점을 강하게 강조하고 있다.
AI 데이터센터가 커질수록 CPU는 보조 부품이 아니라, 전체 흐름을 조정하는 중심축이 된다고 설명한다. 또 Arm 기반 데이터센터용 CPU는 이미 10억 개 이상의 코어가 배치됐고, 2025년에는 상위 대형 클라우드 사업자에 들어가는 컴퓨트의 절반 가까이 Arm 기반이 될 것이라고 밝혔다. (Arm Newsroom)
이 숫자가 의미하는 것은 단순하다.
Arm은 미래 가능성만 있는 회사가 아니라, 이미 설치 기반을 갖춘 상태에서 AI용 CPU 수요 확대의 중심에 들어가고 있는 회사라는 점이다. (Arm Newsroom)
4. Arm의 진짜 투자포인트는 “CPU 판매”보다 시장의 재정의에 있다
| ARM Holdings |
Arm AGI CPU의 핵심은 “Arm도 CPU를 만든다”가 아니다.
더 중요한 것은 CPU가 담당하는 시장의 범위가 커지고 있다는 점이다.
ARM은 현재 CPU 시장 기회(TAM) 를 약 30억 달러로 보고 있으나, AGI CPU 사업 확장을 통해 해당 시장이 장기적으로 1,000억 달러 규모까지 커질 수 있다고 전망하고 있다. 더 나아가 회사는 2030년까지 전체 TAM을 1조 달러 이상으로 확대하는 것을 목표로 하고 있다.
예전의 CPU 시장은 범용 서버 중심이었다.
하지만 에이전트형 AI 시대에는 CPU가 맡는 일이 훨씬 늘어난다.
예를 들면,
AI 가속기 조정
작업 분배
실행 환경 관리
중간 결과 연결
시스템 제어
보안 경로 관리
같은 일들이다.
즉, 앞으로의 CPU 시장은 단순 서버 교체 시장이 아니라,
AI 시스템 전체를 굴리는 운영 계층 시장으로 넓어진다.
이 때문에 시장 크기도 다시 봐야 한다.
또 Arm은 누적 3,500억 개 이상의 칩 출하 기반을 갖고 있다. 여기에 이미 대형 클라우드 사업자 안에서 Arm 기반 서버 비중이 빠르게 올라오고 있다. 결국 Arm의 강점은 새 시장에 “이제 들어가는 것”이 아니라, 이미 깔려 있는 생태계 위에서 더 큰 시장을 맞이한다는 점이다. (Arm Newsroom)
정리하면 Arm의 투자포인트는 이렇다.
CPU가 더 많이 팔린다는 수준이 아니다.
CPU가 맡는 역할 자체가 더 중요해지고, 그만큼 Arm이 접근 가능한 시장도 커진다는 것이다.
5. CPU가 중요해질수록 메모리의 전략적 가치도 같이 커진다
에이전트형 AI는 한 번 묻고 한 번 답하는 구조가 아니다.
중간 결과를 저장해야 하고, 이전 작업을 기억해야 하며, 맥락을 이어가야 한다.
이 때문에 메모리는 단순 부품이 아니다.
시스템의 기억 저장소가 된다.
여기서 메모리는 두 층으로 봐야 한다.
첫째는 실제 반도체로서의 메모리다.
고대역폭 메모리, 디램 같은 하드웨어가 여기에 들어간다.
둘째는 시스템 안의 기억 구조다.
세션 기록, 긴 문맥 저장, 검색용 데이터베이스, 중간 저장 지점 같은 것이 여기에 포함된다.
에이전트형 AI가 늘어날수록 이 둘 다 중요해진다.
CPU가 전체 흐름을 조정하더라도, 뒤에서 메모리가 상태를 안정적으로 저장하고 다시 꺼내주지 못하면 시스템 품질이 급격히 떨어진다.
이 문제는 현장에서도 이미 드러나고 있다.
블룸버그에 따르면 OpenAI의 최고운영책임자 브래드 라이트캡은 2026년 3월 행사에서, 현재 AI 인프라 확장의 병목으로 메모리 부족을 지목했다. 과거에는 전력이 문제였지만, 지금은 메모리가 더 직접적인 제약으로 떠오르고 있다는 뜻이다. (Bloomberg.com)
OpenAI가 최소 10기가와트 규모의 엔비디아 시스템 배치를 추진한다고 밝힌 점까지 함께 보면, AI 인프라 병목이 단순 계산 칩 부족이 아니라 계산을 떠받치는 메모리와 전력 체계 전체로 이동하고 있다는 점이 더 분명해진다. (OpenAI)
6. 결국 마지막 병목은 TSMC 선단공정으로 모인다
| TSMC |
| counterpoint |
이제 마지막으로 봐야 할 것은 TSMC다.
현재 선단공정은 이미 AI용 GPU와 맞춤형 반도체 수요만으로도 빠듯하다.
TSMC는 2025년 AI 가속기 관련 매출이 두 배 성장할 것으로 봤고, 이를 맞추기 위해 고급 패키징 설비도 늘리고 있다고 밝혔다. 또 3나노와 5나노 수요가 타이트한 상태가 몇 년 이어질 수 있다고 설명했다. (TSMC)
여기에 에이전트형 AI 확산으로 CPU 수요까지 본격적으로 붙으면 상황은 더 빡빡해질 수 있다.
중요한 것은 CPU 수요 증가가 GPU 수요를 대신하는 것이 아니라, 전체 AI 시스템이 필요로 하는 실리콘 양 자체를 늘린다는 점이다.
앞으로 늘어날 것은 GPU만이 아니다.
고성능 CPU
시스템 제어용 로직
인터커넥트 주변 칩
메모리 제어 관련 칩
까지 같이 늘어날 가능성이 높다.
이 구조에서는 TSMC의 선단공정이 단순한 생산설비가 아니다.
AI 인프라 전체를 실제로 늘릴 수 있느냐를 결정하는 핵심 병목 자산이 된다.
특히 TSMC는 2나노 공정이 고객의 에너지 효율형 컴퓨팅 수요를 겨냥하고 있고, 거의 모든 주요 반도체 혁신 기업이 TSMC와 함께 일하고 있다고 밝혔다. (TSMC)
결국 Agent AI 시대가 갈수록,
CPU와 메모리의 중요성이 커질수록,
TSMC 선단공정의 희소성도 같이 커질 가능성이 높다.
결론
에이전트형 AI의 확산은 단순히 “AI가 더 좋아진다”는 뜻이 아니다.
AI가 실제로 더 많은 일을 대신하는 구조가 열린다는 뜻이다.
이 구조가 커질수록 CPU는 다시 중심으로 올라온다.
메모리는 시스템의 기억과 연속성을 지탱하는 핵심이 된다.
그리고 이 모든 수요가 실제 칩 수요로 이어질수록, 마지막 병목은 TSMC 선단공정으로 모이게 된다.
애널리스트와 투자자의 비교우위도 여기서 다시 정의된다.
앞으로 중요한 것은 단순 정보 수집이나 반복 작업 속도가 아니다.
무엇을 물어야 하는지, 무엇이 핵심 변수인지, 무엇이 그럴듯한 오류인지, 어떤 판단 틀을 끝까지 유지할 것인지가 더 중요해진다.
한 문장으로 정리하면 이렇다.
Agent AI 시대의 본질은 모델 경쟁이 아니라 실행 구조 경쟁이며, 그 과정에서 CPU와 메모리의 전략적 가치가 커지고, Arm은 그 운영 계층의 수혜를 받을 가능성이 높으며, 최종적으로는 TSMC 선단공정의 희소성이 더 부각될 가능성이 크다.
=끝