해외펀드 초창기부터 계속 홀딩중인 팔란티르 테크놀로지에 이번 컨콜을 듣고 개인적으로 흥미로웠던 AI FDE 출시를 금번 메모리 호황과 엮어서 정리해볼까 한다.
서문: 현장형 소프트웨어의 진화와 메모리 호황의 결합이다
팔란티르가 이번 컨콜에서 보여준 메시지는 단순한 분기 실적을 넘어 엔터프라이즈 AI가 어떻게 ‘현장 가치’로 수렴하는가에 대한 답이었다. 핵심은 두 가지이다.
첫째, AIP라는 플랫폼 위에서 AI FDE라는 에이전틱 AI가 가속하며 **문제 정의→데이터 변환→온톨로지/함수→앱→평가(Evals)**까지의 구현을 자동화한다는 점이다.
둘째, 이 에이전틱 추론을 뒷받침하기 위해 HBM·CXL·HBF 등 커스텀 메모리가 동시 발전하며 컴퓨팅 능력을 한 번 더 증폭시킨다는 점이다.
이 둘이 맞물리면 사용자·수익이 늘고 다시 컴퓨팅에 재투자되는 선순환이 완결된다.
 |
| Nvidia AI Keynote |
팔란티르의 진화: 사람 FDE에서 AI FDE로의 확장이다
팔란티르의 진화는 사람 FDE에서 AI FDE로의 확장으로 요약된다. 초창기 팔란티르는 **Forward Deployed Engineer(FDE)**가 고객 현장에 상주하며, 현장의 데이터와 업무 언어를 소프트웨어가 이해할 온톨로지로 재구성하는 방식으로 가치를 만들었다.
이 과정에서 권한·감사·정책을 함께 설계하고, 스키마와 데이터 파이프라인을 정교화하며 기초 온톨로지 인프라를 차곡차곡 쌓았다.
여기서 스키마를 정리한다는 것은 “데이터의 설계도”를 정확히 그려 공용 이름·단위·관계·품질 규칙을 통일하는 일이며, 파이프라인을 정교화한다는 것은 그 설계도에 따라 데이터를 수집→정제→결합→계산→적재→제공의 공정으로 깨끗하고 빠르게 흘려보내도록 만드는 일이다.
이 기반이 마련되어야 AIP 위의 애플리케이션이 업무 언어 그대로 안정적으로 동작하게 된다.
이 토대 위에서 오늘의 팔란티르는 AIP를 중심으로 한 단계 더 올라섰다. **AI FDE는 ‘가상 현장 엔지니어’**로서 목표를 자연어로 입력받으면, 필요한 데이터 매핑, 온톨로지 수정안(diff), 함수/액션의 골격, 앱 뼈대, Evals 계획까지 한 번에 초안을 제시한다.
사람은 그 초안을 검토·수정·승인하면 되고, 거버넌스와 감사는 AIP의 체계를 그대로 상속한다. 과거 수주가 걸리던 프로토타입이 수일로 단축되고, 엔지니어의 시간은 반복 구현이 아니라 문제 정의·검증·안전성 통제에 집중되므로 시간·비용·범위에서 압도적 레버리지가 발생한다.
현장에서 체감되는 차이는 분명하며, 제조·금융·공공안전·예지정비 등 다양한 도메인에서 동일한 패턴이 재현되고 있다.
여기서 중요한 변화가 하나 더 있다. 그동안은 AIP와 같은 인프라를 깔기 위해 인적 자본 리소스를 대거 투입했다면, 이제는 일정 수준 완성된 인프라 위에 ‘에이전틱 AI’ 기능이 본격 가동되기 시작했다는 점이다.
AI FDE의 활용으로 추론 기능의 유용성과 적용 범위가 폭넓게 확장되고, 그 결과 AI 사용량이 폭증할 가능성이 커졌다. 사용량 증가는 다시 컴퓨팅 자원 수요와 CAPEX 재투자를 자극하여 추가적인 재가속을 불러올 수 있다.
즉, 인프라 구축 단계의 인력 중심 성장에서 인프라 활용 단계의 에이전트 중심 확장으로 질적 전환이 일어나며, 이 전환이 수요–투자–성능의 선순환을 강화하는 구조로 작동할 수 있다.
결국 팔란티르의 궤적은 현장에서 다져 놓은 데이터 설계도와 생산공정을 바탕으로, 가상 엔지니어가 그 위에서 초안을 자동으로 빚어 내는 체계로의 진화이다. 그리고 이 체계가 만들어 내는 사용량 증가→성능 향상→재투자의 순환은, 메모리와 가속기의 CAPEX 재가속을 동반한 다음 단계의 성장 국면으로 이어질 가능성이 높다.
AIP vs AI FDE: 같은 경기장을 다르게 뛰는 방식이다
AIP는 플랫폼, AI FDE는 그 위의 에이전트형 구현자라는 점이 본질적 차이이다. 아래 예시는 그 차이를 직관적으로 보여준다.
-
제조(재고 최적화·수요예측)
-
AIP:
SKU·Facility·Inventory·Order온톨로지와forecast_demand / compute_reorder_point함수 설계, Agent Studio로 운영자 플로우 구성, Evals/Observability로 성능 관리이다. -
AI FDE: “폐기율 30%↓, 재고회전일 10% 개선” 목표만 주면 데이터 매핑·온톨로지 수정·함수 템플릿·Evals·승인 플로우까지 초안을 자동 생성한다. 프로토타입 리드타임이 수주→수일로 단축된다.
-
-
금융(거래 모니터링·AML)
-
AIP:
Customer·Account·Transaction·Device온톨로지와 특징 엔지니어링·위험 점수 함수, 조사관 앱, Evals 지표 설계이다. -
AI FDE: “오탐 20%↓, TAT 30%↓” 목표만 주면 스키마 정렬·조인 규칙·v2 점수모형·설명 템플릿·승인 라우팅·리플레이 실험계획을 제안·생성한다.
-
-
산업설비(PdM)
-
AIP:
Asset·SensorStream·WorkOrder·FaultEvent온톨로지, 이상탐지·위험 함수, 현장 에이전트, 성능 모니터링이다. -
AI FDE: “계획외 정지 15%↓, 스페어 10%↓” 목표만 주면 리샘플링/필터·라벨 정합 파이프라인·원인 설명 함수·안전 승인 게이트까지 초안을 구성한다.
-
-
공공안전(재난 대응)
-
AIP: 사건·부대·위치·센서 온톨로지와 출동·대피 함수, 오퍼레이터 앱, 개인정보 거버넌스이다.
-
AI FDE: “평균 대응 90초 단축” 목표만 주면 **민감도 태깅·가명처리 규칙·상황판/보고서 템플릿·승인 흐름·지표(Evals)**를 자동 제안한다.
-
공통적으로 거버넌스·감사·승인 플로우는 동일하게 상속되며, 휴먼 인더루프가 안전·책임을 통제한다.
메모리 호황과의 연결: 에이전틱 추론은 ‘대역폭+용량’의 이중 수요를 낳는다
메모리 하드웨어 측면에서도 이 변화는 명확한 함의를 갖는다. 다중 에이전트 동시 실행과 긴 컨텍스트, KV 캐시 증가가 **가속기 로컬 메모리(HBM)**의 대역폭과 용량 수요를 동시에 밀어 올리고, 온톨로지·벡터DB·세션 로그 같은 장기 문맥은 서버 DRAM/DDR5와 CXL 풀링으로 확장되며, 요약·체크포인트·세션 히스토리는 eSSD/HBF로 내려보내는 계층화가 진행된다.
결과적으로 데이터센터 메모리는 HBM(대역폭)–DDR5/CXL(용량)–eSSD/HBF(오프로딩) 구조로 재편되고, 이는 메모리 업체와 가속기 생태계 전반의 CAPEX 사이클을 뒷받침한다. 소프트웨어의 에이전틱 확장이 실사용 트래픽을 만들고, 그 트래픽이 다시 커스텀 메모리·시스템 투자를 정당화하는 구조가 굳어지는 셈이다.
젠슨 황의 논지: 두 개의 지수함수와 극한의 공동 설계이다
엔비디아의 젠슨 황은 AI의 폭발적 성장을 설명하는 프레임으로 다음을 제시한다.
-
두 개의 지수함수이다.
-
모델을 더 똑똑하게 만들기 위한 컴퓨팅 수요(훈련·추론)가 지수적으로 늘어난다.
-
모델이 똑똑해질수록 유료 사용자가 폭증하고, 이것이 다시 추가 컴퓨팅을 지수적으로 요구한다.
-
두 곡선이 동시에 상승하며 컴퓨팅→성능→사용자/수익→컴퓨팅 재투자의 선순환 고리를 완성한다.
-
-
**극한의 공동 설계(Extreme Co-design)**이다.
-
칩–시스템–네트워킹–소프트웨어–모델–애플리케이션을 동시에 설계·최적화해 세대당 성능을 급격히 끌어올리고 토큰당 비용을 내리는 방식이다.
-
이는 HBM4 같은 커스텀 메모리, CXL·네트워킹, 스케줄러/OS, CUDA-X·NIM까지 하나의 엔진처럼 통합해 지연·대역폭 병목을 제거하고 추론 TPS를 확대한다.
-
결과적으로 유료 사용자 저변 확대가 가능해지고, 재투자→성능 향상의 속도가 더 빨라진다.
-
팔란티르의 AI FDE/에이전트 스웜은 이 프레임 안에서 소프트웨어 측 ‘현장 가치’의 폭발력을 제공하고, 커스텀 메모리/시스템 스택은 **하드웨어 측 ‘컴퓨팅 탄력’**을 제공한다. 두 축이 동시에 가속되므로 성장의 탄성은 단일 축보다 훨씬 크다.
결론: ‘현장 가치 × 커스텀 컴퓨팅’이 만드는 초과성장이다
요약하면, AIP 위의 AI FDE는 문제 정의를 곧바로 실행 계획과 코드·온톨로지·평가로 변환하는 에이전틱 소프트웨어 레이어이다. 이 레이어가 만드는 동시 추론·긴 문맥을 감당하기 위해 HBM·CXL·HBF로 대표되는 커스텀 메모리/시스템 스택이 동시 진화한다. 그 결과 컴퓨팅 증가 → 성능 향상 → 사용자/수익 증가 → 컴퓨팅 재투자의 선순환이 닫히며, 젠슨 황이 지적한 두 개의 지수함수가 함께 상승한다.
이 구조 아래에서 팔란티르의 소프트웨어 레버리지와 SK하이닉스의 메모리 레버리지는 서로의 성장을 강화하는 동반 가속을 보여줄 가능성이 크다. AI는 이미 인프라가 되었고, 이 인프라는 AI 공장이라는 새로운 제조체계로 확장되는 중이다. 따라서 향후 수년간의 폭발적 성장을 설명하는 핵심 논리는 현장 가치에 닿은 에이전틱 AI와 이를 지탱하는 커스텀 컴퓨팅의 동시 진화라고 결론지을 수 있지 않나 싶다.
개인적 견해이지만, 이번 AI FDE는 기존 AIP 대비 유용성과 체감 성능이 현저히 높아 시장 침투 속도가 훨씬 빠를 것으로 본다. 이로써 AI 기능 확산의 촉매제로 작용하여 AI 시장 침투와 CAPEX 투자를 동시에 가속화하고, 결과적으로 업계 전반의 지수적 성장에 기여할 가능성이 크다.
댓글 없음:
댓글 쓰기