알고픽
AI Agentic Trading에 관하여
알
알고픽
Category
Empty
'AI Agentic Trading'라는 말이 적절한 것인지는 모르겠지만 AI 에이전트를 주식 투자에 활용하는걸 흔히 이렇게 부른다고 합니다.
중요한 것은 단어 그 자체보다 단어가 의미하는 바일겁니다. 저는 아래와 같이 정의하고 싶습니다.
다양한 역할을 지닌 AI 에이전트들을 유기적으로 연결하여 AI가 매매를 ‘보조’하는 게 아니라, 스스로 판단하고 운용하는 구조
퀀트, 시스템 트레이딩, 로보어드바이저 등과는 뭐가 다르지?
저는 'AI Agentic Trading'이 기존의 퀀트, 시스템 트레이딩, 로보어드바이저와는 본질적으로 다른 패러다임이라고 생각합니다.
이것은 단순히 알고리즘이 매매를 자동화하는 수준을 넘어, 자율적으로 사고하고 판단하는 AI 운용 시스템의 등장입니다.
그리고 바로 이 'AI Agentic Trading'이야말로, 인간 펀드매니저를 대체할 수 있는 새로운 형태의 운용 주체, 즉 'AI 펀드매니저 시대'의 서막이라고 봅니다.
그럼 먼저 퀀트, 시스템 트레이딩, 로보어드바이저가 무엇인지 알아보고 중요한 차이점이 어디서 발생하는지 말씀드려보겠습니다.
단순히 인터넷에 떠도는 정의를 나열하려는 게 아닙니다. 제가 직접 퀀트 전략을 공부하고, 시스템 트레이딩을 구축하며 시행착오를 겪었던 경험을 바탕으로 제 언어로 설명드리려 합니다.
먼저 퀀트입니다.
대부분 퀀트라고 하면 수학이나 통계 모델을 이용해 투자하는 방식으로 알고 계실 겁니다. 요즘은 여기에 딥러닝까지 결합해 'AI 퀀트 리포트'를 내놓는 경우도 많죠.
하지만 본질은 훨씬 단순합니다.
1.
어떤 종목을 포트폴리오에 담을지 나름의 규칙과 조건을 정한다.
ex) 매출이 전분기보다 15% 이상 성장한 종목
2.
정해진 주기(n개월, 보통 분기 단위)마다 그 조건을 만족하는 상위 n개의 종목을 선정한다.
ex) 3개월마다 1번 조건을 만족하는 상위 20개 종목을 선정한다.
3.
2번 종목들로 포트폴리오를 재구성한다.
4.
이 과정을 반복한다.
결국 퀀트는 명확한 규칙 기반의 반복적인 리밸런싱 시스템이라고 할 수 있습니다.
한계는 명확합니다. 정해진 주기가 왜 필요하죠? 1개월 마다, 3개월 마다 종목을 리밸런싱하는 게 현실 세계 매매와 같나요? 오늘 당장 시장이 폭락하고 하락장으로 변해도 퀀트는 대응할 수 없습니다. 아직 3개월이 경과하지 않았거든요.
저는 퀀트를 공부할 때 이 부분이 항상 의문이었습니다. 왜 3개월을 기다려야하지? 중간에라도 특정 조건이 발생하면 일부 종목은 빠르게 편출하는 게 맞지 않나?
하지만 퀀트는 이렇게 답합니다.
"그렇게 안 해도 백테스트 결과가 시장을 아웃퍼폼합니다."
결국 그렇게 만들어진 전략은 현실의 시장을 반영하지 못한 '과적합된 모델'이 됩니다. 표면적으로는 정교해 보이지만, 실제 운용에서는 살아 있는 시장의 변화에 둔감한, 말 그대로 '고정된 시스템'이죠.
시스템 트레이딩도 비슷합니다.
다만 퀀트보다 조금 더 '시장 반응'에 가까워진 형태라고 볼 수 있죠. 퀀트가 일정 주기마다 포트폴리오를 재구성하는 '정적 시스템'이라면, 시스템 트레이딩은 실시간 가격 데이터를 기반으로 조건이 충족될 때 자동으로 매매가 실행되는 구조입니다.
예를 들어 이런 식이죠.
"5일 이동평균선이 20일선을 상향 돌파하면 매수하고, 반대로 하향 돌파하면 매도한다."
즉, 시장 데이터가 변하면 시스템이 자동으로 반응합니다. 이 점에서 퀀트보다 훨씬 '기계적 트레이더'에 가깝습니다.
하지만 이 역시 근본적인 한계가 있습니다.
시스템 트레이딩은 '조건을 만족하면 실행한다'는 단순 논리로 움직입니다. 문제는 시장이 그보다 훨씬 복잡하다는 거죠. 하루에도 수십 번씩 '조건이 충족됐다가 무너지는' 일이 발생하고, 시장은 그런 단순한 신호를 이용해 시스템 트레이더를 역이용하기도 합니다.
그래서 시스템 트레이딩을 구축해보면 결국 이런 벽에 부딪힙니다.
"조건은 맞는데 왜 자꾸 손실이 날까?"
"백테스트에서는 완벽했는데, 실전에서는 왜 다르게 움직이지?"
저 역시 시스템 트레이딩을 시도하면서 뼈저리게 느꼈던 점이 바로 이 부분입니다.
시장에는 '규칙'을 깨뜨리는 변수들이 너무 많다는 것. 뉴스 한 줄, 유동성 흐름의 변화, 테마의 교체, 혹은 단순한 군중 심리 하나가 모든 신호를 무의미하게 만들어버리곤 합니다.
결국 시스템 트레이딩도 퀀트와 마찬가지로, '조건'이라는 프레임 안에 갇혀 있습니다. 시장은 살아 움직이는데, 시스템은 여전히 정적이죠.
마지막으로 로보어드바이저입니다.
이러한 한계를 조금 더 '인간적인 관점'에서 보완하려 한 시도가 바로 로보어드바이저입니다. 로보어드바이저는 단어 그대로 '로봇 투자 자문가'죠. 즉, 시스템이 직접 매매를 실행하기보다는, 투자자의 성향과 위험 선호도를 진단하고 그에 맞는 포트폴리오를 '추천'해주는 형태입니다.
처음 등장했을 때만 해도 꽤 혁신적으로 보였습니다.
은행이나 증권사 PB가 하던 일
즉, 고객의 성향을 파악하고 적절한 자산 비중을 제안하는 일을 자동화했으니까요.
하지만 실체를 들여다보면, 로보어드바이저는 '개인화된 포트폴리오 추천 엔진'에 그치는 경우가 대부분입니다.
그들의 알고리즘은 이런 식으로 작동합니다.
"당신은 위험 회피형이므로 주식 30%, 채권 70% 비중을 추천합니다."
"현재 시장은 변동성이 커졌으니, 주식 비중을 5% 줄이겠습니다."
심지어 종목 선정도 로보어드바이저 기업들이 광고하듯이 혁신적인 알고리즘이 활용되었다기보다는 좀 복잡한 시스템 트레이딩 조건들이 조합된 결과물인 경우가 대다수입니다. 물론 여기에 퀀트도 활용되겠죠.
즉, 여전히 정해진 규칙과 고정된 의사결정 구조 안에서 움직입니다. 시장의 변화를 스스로 감지하거나, 새로운 투자 기회를 '스스로 찾아내는 능력'은 없습니다. 로보어드바이저는 어디까지나 사람이 만들어둔 프레임 속에서만 움직이는 시스템이죠.
AI Agentic Trading의 본질은 LLM으로 작동한다는 것이다.
이제 AI Agentic Trading로 왔습니다.
퀀트, 시스템 트레이딩, 로보어드바이저의 공통점은 '정해진 규칙 안에서만 움직인다'는 점입니다.
이들은 모두 사람에 의해 사전에 정의된 알고리즘을 따릅니다. 규칙이 만들어진 순간부터, 그 시스템은 이미 '고정된 세계'를 전제로 작동하죠.
즉, 모두 "스스로 생각하지 못하는 시스템"입니다. 시장이 변하든, 유동성이 흘러가든, 새로운 테마가 등장하든 이들은 그 변화의 '의미'를 이해하지 못합니다.
그저 정해진 틀 안에서 "조건이 맞느냐, 아니냐"만 판단할 뿐이죠. 그래서 이런 시스템은 일정 구간에서는 잘 작동하지만, 예상치 못한, 과거와는 다른 구간을 만나면 수익률이 박살나기 마련입니다.
AI Agentic Trading은 이 모든 것과 정반대에 있습니다.
이 시스템은 유연하게 사고하고, 스스로 판단하며, 끊임없이 고민할 수 있습니다.
조건에 얽매이지 않고, 상황의 맥락을 이해한 뒤 '왜 지금 이 결정을 내려야 하는지'를 스스로 설명할 수 있습니다.
즉, 단순히 주어진 신호를 따르는 기계가 아니라,
시장을 해석하고 대응 전략을 설계하는 '사고하는 운용자'에 더 가깝습니다.
시장 환경이 급변하더라도 그 변화의 의미를 해석하고, 새로운 데이터가 들어오면 학습을 통해 전략을 재구성합니다.
AI Agentic Trading은 인간의 사고 구조를 모사하는 시스템, 즉 '규칙 기반의 자동화'가 아니라 '의사결정 기반의 자율 운용'을 실현합니다.
그래서 저는 이것이야말로 'AI 펀드매니저 시대'의 출발점이라고 확신합니다.
그리고 이 모든 것을 가능하게 하는 근본적인 이유는, AI 에이전트 시스템이 결국 'LLM'을 기반으로 작동하기 때문입니다.
LLM을 어떻게 바라보느냐에 따라 해석은 달라질 수 있습니다. 누군가는 단순히 확률적으로 다음 단어를 예측하는 모델이라고 말하지만, 저는 그렇게 보지 않습니다.
적어도 제 관점에서 LLM은 지능의 초기 형태, 즉 '언어를 통해 세상을 해석하고, 맥락 속에서 사고할 줄 아는 존재'에 가깝습니다.
단순히 데이터를 계산하는 게 아니라, 상황을 이해하고, 목표를 설정하며, 그 목표를 달성하기 위한 사고 과정을 전개하는 시스템이죠.
그래서 AI Agentic Trading이 가능한 겁니다.
LLM은 단순히 '규칙을 수행하는 프로그램'이 아니라, 주어진 목표를 달성하기 위해 스스로 판단하고 협력할 수 있는 '사고의 엔진'입니다.
AI 에이전트를 투자 씬에서 다루는 방법
AI 에이전트 시스템을 만드는 방식은 다양합니다. LangChain이나 LangGraph 같은 프레임워크를 활용해 직접 설계할 수도 있고, OpenAI·Anthropic·Google 등 LLM 기업들이 제공하는 Agent Kit(ADK)를 이용해 비교적 손쉽게 구현할 수도 있습니다.
하지만 오늘 이야기의 초점은 그런 기술적 구현이 아닙니다.
"AI 에이전트를 투자에 어떻게 접목할 것인가",
즉, 운용의 철학과 방법론에 대한 이야기입니다.
혹시 서두에서 AI Agentic Trading을 제 나름의 언어로 어떻게 정의했었는지 기억하시나요? 다시 언급해보겠습니다.
"다양한 역할을 지닌 AI 에이전트들을 유기적으로 연결하여 AI가 매매를 ‘보조’하는 게 아니라, 스스로 판단하고 운용하는 구조"
좀 더 쉽게 말해보겠습니다.
여기 가치투자자 A가 있습니다.
A는 주식 투자를 할 때 대략 이런 과정을 거칩니다.
1.
기업의 비즈니스 모델을 분석한다.
2.
재무제표와 손익계산서를 꼼꼼히 살펴본다.
3.
차트도 어느 정도 참고한다. 예를 들어, 종가가 20일선 위에 있는 종목만 매수한다.
4.
마지막으로, 자신이 설정한 밸류에이션을 초과하면 매도한다.
그렇다면, 이런 A가 AI 에이전트 시스템을 설계한다면 어떻게 하면 될까요?
아주 단순하게 말하면 이렇게 쪼갤 수 있습니다.
1.
기업 비즈니스 모델을 분석하는 에이전트
2.
재무제표와 손익계산서를 분석하는 에이전트
3.
차트를 분석하는 에이전트
4.
기업 밸류에이션을 수행하는 에이전트
로 나누어 각각을 에이전트로 만드는 겁니다.
쉽죠? 진짜로 그렇습니다.
agent = Agent(
name="Business Model Analyst",
instructions=(
"너는 기업의 비즈니스 모델을 분석하는 에이전트야. "
"수익 구조, 고객 세그먼트, 제공 가치(밸류 프로포지션), 주요 활동과 비용 구조를 "
"한국어로 쉽게 정리해서 설명해줘. "
"가능하다면 간단한 bullet point와 한두 줄의 요약까지 함께 제시해줘."
),
)
이 한 줄 한 줄이 사실 다 내 머릿속에서 이미 하고 있던 생각들입니다.
다만 그걸 자연어로 꺼내서, 에이전트에게 "너는 이렇게 생각해라"라고 알려주는 것뿐이죠.
물론, 실제로 실전에 써먹을 만한 에이전트를 만들려면 여기에 tool을 붙이고, 프롬프트를 훨씬 더 정교화해야 합니다. 코드도 지금보다 더 복잡해질 수밖에 없습니다.
하지만 제가 지금 말하고 싶은 포인트는 코드 난이도가 아니라, 접근법과 사고 방식입니다.
결국 질문은 이것입니다.
"투자 씬에서 AI 에이전트를 어떻게 다루어야 하는가?"
제 답은 아주 단순합니다.
"나의 투자 방법론을 정교화하고, 투자 철학을 세우고, 그것을 시스템화하라."
나의 생각
나의 사고 흐름
나의 감정
나의 '이럴 때는 이렇게 한다'는 직관
이 모든 사고 과정을 구조화하는 것이 출발점입니다.
이건 마치, 내가 매수·매도 버튼을 누르기 직전에 뇌 속에서 어떤 프로세스가 돌아가는지 세세하게 관찰하고 해부하는 작업과 같습니다.
그리고 그 과정을 하나씩 꺼내 에이전트의 역할과 프롬프트로 옮겨 적으면 됩니다.
생각보다 어렵지 않습니다. 프롬프트는 결국 코드가 아니라 인간의 언어로 쓰는 것이니까요.
이미 내 안에 존재하던 투자 철학과 의사결정 과정을 이제는 AI가 이해할 수 있는 형태로 문장화하는 작업일 뿐입니다.
Subscribe to '알고픽'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to '알고픽'!
Join Slashpage and subscribe to '알고픽'!
