 |
| 차세대 모델 Astra와 같은 장기 실행 AI를 중심으로, AI 활용 방식이 일회성 질의응답에서 자율 작업 에이전트 중심으로 진화할 것임을 시사 OpenAI 내부직원 |
AI Computing S-Curve
Fable·Mythos·Astra 이후 차세대 AI는 어디로 향하는가
최근 OpenAI 내부에서 공유된 평가를 요약하면 다음과 같다.
현재 Codex는 AI를 활용하기 위한 훌륭한 실행환경이다. 그러나 2~3개월만 지나도 지금의 Codex는 원시적으로 보일 수 있다. 차세대 모델은 더 이상 노트북 한 대에서 단일 Agent를 실행하는 방식만으로 충분하지 않을 것이다.
이 발언에서 중요한 것은 다음 모델의 Benchmark 점수가 얼마나 높아지는지가 아니다.
Frontier LLM을 사용하는 기본방식 자체가 다시 바뀌고 있다는 점이 중요하다.
지금까지 AI는 사람이 질문하거나 작업을 지시하면 답을 생성하는 방식으로 사용됐다. 그러나 Fable 5와 Mythos 5, 그리고 Astra 이후 모델들은 하나의 요청에 답하는 수준을 넘어 수시간에서 수일 동안 작업을 지속하고, 여러 Agent를 병렬로 운영하며, 중간 결과를 기억하고, 실패를 수정하는 방향으로 발전하고 있다.
차세대 모델의 핵심은 한 번의 답변을 더 잘 만드는 데 그치지 않는다.
더 오래 일하고, 더 많은 작업을 동시에 처리하며, 결과가 완성될 때까지 스스로 작업을 이어가는 능력이 중요해지고 있다.
이는 AI 성능의 변화인 동시에 AI Computing 수요구조의 변화를 의미한다.
1. 새로운 모델보다 누적되는 개선요인을 봐야 한다
GPT-2에서 GPT-5.6까지의 흐름을 모델 이름으로만 보면 AI가 몇 차례 갑자기 도약한 것처럼 보인다.
그러나 실제 Frontier Lab 내부에서는 새로운 모델이 공개되지 않는 기간에도 수많은 개선이 계속 누적된다.
Training Compute와 GPU Cluster 확대
Algorithmic Efficiency 개선
Data Quality와 Synthetic Data 향상
Post-training과 Reasoning 강화
Tool Use와 Agent 기능 추가
Long Context와 Memory 개선
Inference-time Compute 확대
Multi-agent 병렬화
Evaluation과 Verification 고도화
Hardware·Network·Serving 최적화
AI를 활용한 AI Research Automation
새로운 Frontier Model은 이러한 개선이 일정 수준 이상 축적된 뒤 하나의 제품으로 공개되는 시점에 가깝다.
외부에서는 GPT-4에서 GPT-5.6으로 한 번에 발전한 것처럼 보이지만, 실제 연구개발 과정에서는 매일 학습실험과 데이터 조정, 실패 분석, Kernel 최적화, Agent 실험이 진행되고 있었을 가능성이 높다.
따라서 중요한 것은 모델 이름보다 어떤 병목이 해결됐는가다.
2. 지금까지 AI 발전을 만든 핵심 개선축
AI 발전의 첫 번째 축은 Physical Compute였다.
더 많은 Training FLOP, 더 큰 GPU Cluster, 더 높은 HBM Bandwidth와 더 빠른 Network가 더 큰 모델을 학습할 수 있게 만들었다. GPT-2에서 GPT-3로 넘어가는 과정에서는 이러한 Physical Scaling의 영향이 특히 컸다.
두 번째 축은 Algorithmic Efficiency다.
Optimizer, Data Mixture, Attention 구조, Low-precision Training, Mixture-of-Experts와 Synthetic Data가 개선되면서 동일한 Compute로 더 높은 성능을 얻을 수 있게 됐다.
세 번째 축은 Post-training과 Unhobbling이다.
Instruction Tuning, RLHF, Reasoning Training과 Tool-use Training은 Base Model이 가진 잠재능력을 실제 문제해결 능력으로 끌어냈다. GPT-3에서 ChatGPT로 넘어갈 때 나타난 체감적 변화도 Parameter 증가보다 이 영역의 영향이 컸다.
네 번째 축은 Inference-time Compute다.
최근 모델은 한 번에 답을 생성하지 않는다. 더 오래 추론하고, 여러 후보를 비교하고, Search와 Planning을 수행하며, 결과를 검증하고 실패하면 다시 시도한다.
동일한 Model Weight를 사용하더라도 얼마나 많은 시간과 Token을 투입하느냐에 따라 실제 성능이 달라지는 구조가 형성됐다.
다섯 번째 축은 Memory·Tool·Agent System이다.
현재의 Agent는 LLM 하나로 구성되지 않는다.
LLM에 Memory, Tool, Planning, Execution Environment, Verification과 Safety System이 결합돼야 장기 작업을 수행할 수 있다.
이 단계부터는 모델 자체의 성능과 Agent System의 성능을 따로 보기 어려워진다. 같은 모델이라도 어떤 Harness와 Tool, Memory를 제공하느냐에 따라 작업시간과 성공률이 크게 달라진다.
마지막 축은 AI Research Automation이다.
AI가 새로운 실험 아이디어를 만들고, Training Code를 수정하고, 학습을 실행하고, 결과를 평가한 뒤 성공한 변경만 남기는 방식이다.
이 지점이 초기 Recursive Self-improvement와 연결된다.
3. Fable·Mythos·Astra가 보여주는 변화
Fable 5와 Mythos 5가 보여주는 핵심은 단순한 Benchmark 개선이 아니다.
작업이 길고 복잡할수록 이전 모델과의 차이가 커지고 있다는 점이 중요하다.
차세대 Frontier Model은 다음 능력을 중심으로 발전하고 있다.
수시간에서 수일 동안 작업 유지
긴 작업과정에서 목표 보존
중간 결과와 실패경험 저장
필요한 정보 재검색
잘못된 전략 수정
Sub-agent에 작업 분배
결과 자동 검증
Mythos 5가 제한적인 인간 개입 아래 장기간 연구과정을 수행했다는 사례도 같은 방향을 보여준다.
중요한 것은 특정 연구결과가 아니라 하나의 모델이 데이터 정리, 분석, 모델 설계와 결과 검증을 장기간 연결해서 수행했다는 점이다.
Astra가 보여주는 방향도 유사하다.
Astra는 단순히 문제의 답을 생성하는 데서 끝나지 않고, 문제 해결과 논증 작성, 형식 검증까지 연결하는 장기 연구형 시스템을 지향한다.
이는 차세대 Frontier LLM이 한 번의 응답을 잘 만드는 모델에서 장기 연구과정을 운영하는 Agent System으로 이동하고 있음을 의미한다.
4. 왜 현재 Codex가 곧 원시적으로 보일 수 있는가
현재 Codex는 이미 단순한 Coding Assistant를 넘어 Agent 실행환경으로 발전하고 있다.
사람이 직접 Code를 작성하기보다 작업목표와 완료조건을 정하고, Agent가 Code 작성과 Test, Documentation, Review를 수행하는 구조가 확대되고 있다.
그러나 현재 방식은 여전히 사용자가 개별 작업을 지시하고 결과를 확인하는 형태가 중심이다.
다음 단계에서는 사용방식이 달라질 가능성이 높다.
하나의 Agent가 아니라 여러 Agent가 동시에 실행된다.
Agent는 수시간 또는 수일 동안 작업을 지속한다.
중간 결과를 별도의 Memory에 저장한다.
다른 Agent가 결과를 검토하고 수정한다.
사용자는 실행과정을 직접 관리하기보다 목표와 권한, Compute Budget과 완료조건을 설정한다.
따라서 “2~3개월 후 현재 Codex가 원시적으로 보일 수 있다”는 발언은 단순히 UI가 바뀐다는 의미가 아니다.
Frontier AI를 사용하는 기본단위가 단일 Prompt와 단일 Agent에서 장기 실행형 Multi-agent System으로 바뀔 수 있다는 의미에 가깝다.
5. 카파시의 AutoResearch가 보여준 초기 선순환
안드레이 카파시의 AutoResearch는 이 변화가 어떤 방식으로 진행될 수 있는지를 단순하게 보여준다.
Agent는 새로운 실험 아이디어를 생성하고 Training Code를 수정한다. 이후 모델을 학습시키고 성능을 측정한다.
성능이 좋아지면 변경사항을 유지하고, 나빠지면 이전 상태로 돌아간다. 이후 새로운 실험을 다시 시작한다.
이 과정에서 중요한 것은 개별 실험의 규모가 아니다.
아이디어 생성, Code 수정, 학습, 평가와 재시도가 하나의 자동화된 Research Loop로 연결됐다는 점이 중요하다.
과거에는 인간 연구자가 매번 결과를 확인한 뒤 다음 실험을 설계해야 했다.
AutoResearch에서는 Agent가 이 반복작업을 인간의 개입 없이 계속 수행한다.
인간은 연구목표와 평가기준, 실험범위, Compute Budget과 안전규칙을 결정한다. Agent는 그 안에서 더 많은 실험을 더 빠르게 반복한다.
 |
| https://www.youtube.com/watch?v=kwSVtQ7dziU&t=1396s |
6. 모델을 개선하는 AI에서 연구방법을 개선하는 AI로
AutoResearch에서 Agent의 행동방식을 결정하는 핵심은 program.md다.
여기에는 Agent가 무엇을 수정할 수 있는지, 어떤 성능지표를 개선해야 하는지, 실패한 실험을 어떻게 처리할지가 적혀 있다.
여기서 한 단계 더 나아가면 여러 종류의 연구지침을 동일한 Compute Budget에서 실행한 뒤 어떤 지침이 가장 빠른 개선을 만들었는지 비교할 수 있다.
이후 AI가 더 나은 연구지침을 다시 작성할 수도 있다.
첫 번째 단계에서는 AI가 모델을 개선한다.
두 번째 단계에서는 AI가 모델을 개선하는 연구방식 자체를 개선한다.
발전은 다음 순서로 이어질 수 있다.
Hyperparameter와 Model Weight 개선
Training Code와 Architecture 개선
Agent의 Research Strategy 개선
여러 Agent의 역할과 협업방식 개선
전체 Research Loop 개선
이 구조가 반복되면 Recursive Self-improvement와 연결될 수 있다.
7. 현재는 완전한 Recursive Self-improvement 단계가 아니다
현재 AI가 스스로 최종목표를 설정하고, Training Method를 독립적으로 설계하고, 자신의 Weight를 지속적으로 수정하는 단계는 아니다.
인간이 여전히 다음 요소를 결정한다.
연구목표
평가기준
Training Data
Compute Budget
Tool과 접근권한
Safety Boundary
최종 결과의 채택과 배포
따라서 현재 단계는 Human-governed Recursive Research Acceleration으로 보는 것이 가장 정확하다.
AI가 독립적으로 모든 연구를 수행하는 것은 아니지만, 인간 연구자가 수행하던 반복적인 실험과 분석을 빠르게 대체하고 있다.
더 중요한 변화는 이전 세대 AI가 다음 세대 AI 개발에 참여하기 시작했다는 점이다.
이전 세대 AI가 더 나은 AI를 만드는 데 기여하고, 그렇게 만들어진 더 강한 AI가 다시 연구생산성을 높이는 초기 선순환이 형성되고 있다.
8. Continual Learning과 In-session Adaptation
장기 실행 Agent가 발전하려면 Context Window만 길어져서는 부족하다.
Agent는 작업과정에서 발생한 정보를 구분해 관리해야 한다.
현재 목표
중간 결과
실패한 접근방법
반드시 유지해야 하는 안전규칙
다음 작업에 재사용할 지식
일시적으로만 필요한 정보
현재 Agent는 Model Weight를 실시간으로 변경하기보다 External Memory와 Retrieval을 이용한다.
중요한 내용을 Memory에 저장하고 필요한 시점에 다시 불러온 뒤, 이를 바탕으로 현재 전략을 수정한다.
이 기능이 발전하면 Agent는 같은 실수를 반복하지 않고, 성공했던 방법을 다시 활용하며, 장기 작업에서도 목표를 유지할 수 있다.
그러나 Memory가 길어진다고 항상 성능이 좋아지는 것은 아니다.
잘못된 정보가 장기 Memory에 남거나, Context Compaction 과정에서 안전규칙이 빠질 수 있다.
따라서 앞으로 중요한 것은 Memory 용량보다 무엇을 저장하고, 무엇을 버리고, 어떤 규칙은 항상 유지할 것인지 결정하는 Memory Policy다.
9. AI Computing 수요는 계단식 S-Curve로 증가한다
이러한 변화가 중요한 이유는 AI Computing 수요가 일정한 속도로 증가하지 않기 때문이다.
특정 병목이 해결될 때마다 새로운 사용수요가 열린다.
첫 번째 단계에서는 Base Model의 정확도와 Reasoning이 개선되면서 더 많은 작업이 AI로 이전된다.
두 번째 단계에서는 Token 비용이 낮아지면서 기존에는 경제성이 없었던 업무까지 AI를 사용하기 시작한다.
세 번째 단계에서는 Agent Reliability가 높아지면서 단순한 질문이 아니라 실제 업무 전체를 위임한다.
네 번째 단계에서는 Memory와 Context 관리가 개선되면서 작업시간이 수분에서 수시간·수일로 늘어난다.
다섯 번째 단계에서는 여러 Agent가 동시에 Research, Coding과 Verification을 수행한다.
여섯 번째 단계에서는 AI가 다음 세대 AI 개발에 참여하면서 Frontier Lab 내부의 Training, Inference, Evaluation과 자동실험 수요가 증가한다.
각 단계는 이전 수요를 대체하지 않는다. 이전 단계 위에 새로운 수요가 추가된다.
따라서 AI Computing 수요는 하나의 매끄러운 S-Curve보다 여러 개의 작은 S-Curve가 시간차를 두고 겹치며 상승하는 구조에 가까울 가능성이 높다.
10. Agent 시대의 Compute 수요를 결정하는 요소
Agent 이전에는 AI 수요를 사용자 수와 질문 횟수로 설명할 수 있었다.
Agent 시대에는 다음 요소를 함께 봐야 한다.
총 AI Computing 수요는 사용자 수, 사용자당 Agent 수, Agent당 작업 수, 작업당 Token, 작업 지속시간, 재시도 횟수와 결과 검증량이 함께 증가할수록 커진다.
여기에 다음 수요도 추가된다.
Agent 간 Communication
Long-term Memory 저장과 검색
여러 Agent의 병렬 실행
Synthetic Data 생성
자동 Evaluation과 Red-teaming
AI Research Experiment
사용자가 늘지 않더라도 한 명이 여러 Agent를 동시에 사용하면 Compute 수요는 증가한다.
Agent 작업시간이 10분에서 10시간으로 늘어나도 수요는 커진다.
하나의 Agent가 결과를 만든 뒤 다른 Agent가 다시 검토하고 수정하면 추가 Inference와 Verification Compute가 필요하다.
11. 효율성 개선이 수요감소로 이어지지 않는 이유
Algorithm과 Hardware가 개선되면 동일한 작업을 더 적은 Compute로 수행할 수 있다.
그러나 전체 AI Computing 수요가 감소한다고 보기는 어렵다.
Token 비용이 낮아지면 더 많은 업무가 AI로 이전된다.
Agent Reliability가 높아지면 더 긴 작업을 맡기게 된다.
Parallel Agent가 활성화되면 한 명의 사용자가 여러 Agent를 동시에 운영한다.
Research Automation이 발전하면 AI 서비스를 제공하기 위한 Compute뿐 아니라 더 좋은 AI를 개발하기 위한 Compute 수요도 증가한다.
Token당 비용이 10분의 1로 내려가는 동안 전체 사용량이 30배 증가하면 총 Compute 수요는 오히려 세 배로 늘어난다.
효율성 개선은 기존 수요를 줄이는 요인이면서 동시에 훨씬 큰 신규 수요를 여는 요인이다.
결론
Fable·Mythos·Astra가 보여주는 변화는 단순한 모델 성능향상이 아니다.
AI가 일하는 시간, 작업을 나누는 방식, Memory를 사용하는 방법, 결과를 검증하는 구조와 다음 세대 AI 개발에 참여하는 정도가 함께 달라지고 있다.
GPT-2에서 GPT-5.6까지의 발전도 하나의 기술적 돌파구에서 나오지 않았다.
Physical Compute, Algorithmic Efficiency, Data, Post-training, Reasoning, Tool Use, Memory, Inference-time Compute와 Serving Optimization이 계속 누적되면서 지금의 Frontier Intelligence가 만들어졌다.
앞으로의 발전도 같은 방식으로 이어질 가능성이 높다.
모델 성능이 개선되면 더 좋은 Agent가 만들어진다. 더 좋은 Agent는 더 많은 연구실험을 수행한다. 더 많은 실험은 더 나은 Algorithm과 다음 세대 모델로 이어진다.
현재는 완성된 Recursive Self-improvement 단계가 아니다.
그러나 Research Automation Loop가 실제 Frontier Lab의 개발과정에 들어오기 시작했고, 장기 실행과 Memory, In-session Adaptation, Multi-agent 병렬화가 빠르게 개선되고 있다는 점은 분명하다.
이는 Recursive Self-improvement를 향한 첫 번째 선순환 연결고리가 만들어지고 있음을 시사한다.
동시에 AI Computing 수요도 직선적으로 증가하지 않을 가능성이 높다.
특정 병목이 해결될 때마다 새로운 Use Case가 열리고, Agent 수와 실행시간, Token 사용량과 Verification Compute가 함께 증가한다.
앞으로 AI Computing 수요를 판단하려면 새로운 모델 이름과 Benchmark보다 Agent Reliability, 작업 지속시간, Memory, Parallelism, Research Automation과 안전기술의 변화를 지속적으로 추적해야 한다.
Fable·Mythos·Astra는 이러한 누적과정이 다음 단계로 넘어가고 있다는 초기 단서를 보여주고 있다.
#글을 마치며
곧 AI 새로운 특이점이 온다고 하는데..
그렇다면 나를 포함한 우리는 앞으로 각각 어느 그룹에 속하게 될까..?
w를 찾아서. (시골의사 박경철)
세상을 바꾸는 변화를 직접 만들어내는 0.1%의 W가 있다면, 그 변화의 의미와 파장을 남들보다 먼저 이해하고 자신의 선택에 반영하는 0.9%의 사람들이 있다. 나머지 99%는 변화가 일상에 완전히 들어온 이후에야 그 크기를 체감한다.
Fable·Mythos·Astra, 장기 실행형 Agent, Multi-agent와 AutoResearch가 아직은 일부 Frontier Lab의 기술적인 이야기처럼 들릴 수 있다.
그러나 중요한 것은 새로운 용어 자체보다 본질이다.
현재의 작은 기능개선이 Agent의 작업시간과 범위, AI 연구개발 속도, Computing 수요와 산업구조를 앞으로 어떻게 바꿀지 연결해서 보는 능력이 중요하다.
AI 발전은 어느 날 갑자기 완성되지 않는다. 성능개선과 병목 제거가 계속 누적되고, 어느 순간 불가능했던 작업이 가능해지면서 새로운 시장과 수요가 열린다.
결국 우리는 지금 나타나는 변화를 보며 “그래서 당장 무엇이 달라지는데?”라고 지나칠 수도 있고, 아직 작게 보이는 신호에서 다음 파장을 읽어내는 0.9%의 그룹에 속할 수도 있다.
Fable·Mythos·Astra가 진정한 변곡점의 시작이었는지는 아직 단정하기 어렵다.
다만 장기 실행형 Agent와 Research Automation이 실제 연구개발 과정에 연결되기 시작했다는 점은 가볍게 넘기기 어렵다.
불과 2~3개월 뒤에는 우리가 W가 만들어내는 변화의 초입을 보고 있었는지, 그리고 그 앞에서 각자 어느 그룹에 서 있었는지가 조금 더 분명해질지도 모르겠다.
=끝
댓글 없음:
댓글 쓰기