모든 주문 집행 알고리즘은 비용(cost), 알파(alpha), 그리고 리스크(risk) 사이에서 최적화를 수행합니다. 이번 장에서는 그 프레임워크를 구축합니다. 이 시리즈에서 가장 개념적인 장이며, 이후 모든 내용의 기준이 되는 부분입니다.

명시적 비용 (Explicit Costs)

명시적 비용은 청구서에 나타나는 비용으로 브로커 수수료, 거래소 수수료, 거래세 등이 있습니다. 수수료율은 일반적으로 고객을 응대하는 데 드는 비용과 고객이 이용하는 번들 서비스(리서치, 프라임 브로커리지)의 수에 따라 달라집니다.

암호화폐에서 명시적 비용은 단계별 메이커/테이커 수수료, 출금 수수료, 그리고 온체인 네트워크 가스비의 형태로 나타납니다. 수수료 등급은 거래량에 따라 낮아지기 때문에 동일한 전략이라도 계정마다 실질적인 명시적 비용이 크게 다를 수 있습니다.

암묵적 비용 (Implicit Costs)

암묵적 비용은 청구서에 절대 표시되지 않으며, 더 나쁜 체결 가격의 형태로 나타납니다. 기관 투자자 규모의 주문에서는 대개 명시적 비용보다 훨씬 크며, 다섯 가지 형태로 구분됩니다.

스프레드 비용 (Spread Cost)

시장가 주문으로 스프레드를 넘어서 거래한다는 것은 중간 가격(midpoint) 대비 프리미엄을 지불함을 의미합니다. 즉, 편도로는 스프레드의 절반, 왕복으로는 스프레드 전체를 지불하게 됩니다. 하지만 고시된 스프레드는 신중한 트레이더들이 실제로 지불하는 비용보다 과장되어 있습니다. 시장가 주문은 숨겨진 중간 가격 유동성과 체결되거나, 개인 투자자 흐름을 유치하기 위해 가격을 개선해 주는 도매업자(wholesaler)를 통해 종종 가격 개선(price improvement)을 받기 때문입니다.

이를 반영하는 표준 측정 기준은 실효 스프레드(effective spread)입니다. 이는 체결 가격과 기준 중간 가격 간 차이에 부호를 붙인 값의 2배입니다. 가격 개선이 전혀 없다면 고시 스프레드와 같아지며, 개선이 이루어질 때마다 베이시스 포인트(bp) 단위로 좁혀집니다.

시장 충격 (Market Impact)

시장 충격은 자신의 거래로 인해 가격이 자신에게 불리하게 움직이는 비용을 말합니다. 이는 기계적 구성 요소(가장 좋은 가격의 유동성을 소진하면 다음 체결은 더 나쁜 레벨에서 일어남)와 정보적 구성 요소(다른 참여자들이 한 방향의 흐름을 감지하면 가격을 재조정함)를 가집니다.

만약 당신의 거래가 펀더멘털 가치에 대한 새로운 정보를 담고 있지 않다면 왜 가격이 움직여야 할까요? 시장 가격은 자산의 펀더멘털 가치만을 나타내는 것이 아니라, 유동성 공급자들이 반대편 거래를 수락하는 대가로 요구하는 프리미엄이 포함되어 있기 때문입니다. 전문 마켓 메이커는 인벤토리 리스크에 대한 비용을 부과하는 반면, 자연스러운 거래 상대방(마침 반대 거래를 원했던 투자자)은 거의 또는 전혀 비용을 부과하지 않습니다. 당신이 실현하는 시장 충격은 이용 가능한 유동성 구성에 따라 달라집니다. 인내심이 도움이 되는 이유도 여기에 있습니다. 천천히 거래하면 더 자연스러운 유동성을 유치하고 마켓 메이커가 인벤토리를 순환할 시간을 확보하여, 당신이 지불하는 프리미엄을 모두 낮출 수 있습니다. 우리는 이러한 효과를 제13부에서 정량화합니다.

정보 누출 (Information Leakage)

아직 집행되지 않은 대형 주문은 가치 있는 사적 정보입니다. 그 주문이 앞으로 미칠 충격은 다른 이들이 선행매매(front-running)할 수 있는 예측 가능한 가격 드리프트를 만들어내기 때문입니다. 누출은 이러한 정보를 노출하는 모든 행동을 뜻합니다. 반대편이 가격을 재조정하도록 겁을 주는 주문 규모를 노출하거나, 알아차릴 수 있을 정도의 공격적인 거래를 하거나, 다크 풀에 고래가 대기 중인지 감지하기 위해 보내는 작은 탐침 주문인 핑잉(pinging)에 감지되는 것 등이 포함됩니다. 제대로 된 주문 집행은 단순히 주문을 숨기는 것을 넘어 대형 트레이더처럼 보이지 않도록 만듭니다. 위장 전술은 제7부와 제11부 전반에 걸쳐 다룹니다.

기회비용 (Opportunity Cost)

거래를 하지 않음으로써 발생하는 비용입니다. 한 트레이더가 10,000주 매수 주문에 대해 재량을 부여받고 가격 조정을 예상하여 기다렸으나, 주가가 급등하여 주문이 취소되었다고 가정해 봅시다. 수수료도 지불하지 않았고, 스프레드도 넘지 않았으며, 시장 충격도 없었지만, 트레이더는 놓친 상승 폭만큼 손해를 보았습니다. 체결되지 않은 수량은 실질적인 비용이며, 올바른 성과 평가 프레임워크라면 이에 대해 비용을 부과합니다(제12부 참조).

역선택 (Adverse Selection)

역선택은 확정 가격(firm price)을 제시하는 쪽이 입는 불이익을 의미합니다. 먼저 호가를 제시하는 쪽은 선별적으로 당하게 됩니다. 즉, 상대방은 자신에게 유리할 때만 거래를 체결하며, 이는 호가 제시자에게는 불리한 시점입니다. 정보력이 더 우수한 매도자들에게 주로 매수 호가가 체결되는 딜러는 지속적으로 손실을 입게 되며, 정보가 없고 유동성이 목적인 흐름으로부터 이 손실을 만회해야 합니다. 마켓 메이커들이 개인 주문 흐름을 높이 평가하고, 시장에 치이기 전에 호가를 업데이트하는 데 필요한 초저지연 인프라에 막대한 투자를 하는 이유가 바로 이 때문입니다. 동일한 역학 관계가 지연시간 차익거래(latency arbitrage) 논쟁을 이끕니다. 더 빠른 트레이더는 호가가 일시적으로 오래되어 뒤처진 느린 호가 제시자를 역선택합니다. 만약 당신이 패시브 지정가 주문을 넣는다면, 역선택 역시 당신이 감당해야 할 비용입니다.

알파 (Alpha)

자산 운용사들은 벤치마크 대비 초과 수익을 의미하는 단어로 "알파"를 사용합니다. 트레이더들은 이를 더 넓은 의미로 사용합니다. 트레이딩 알파(trading alpha)는 주문 집행 시간 자체 동안 예상되는 가격 드리프트(drift)를 의미합니다. 이 차이는 매우 중요합니다. 포트폴리오 매니저의 투자 아이디어는 수개월에 걸쳐 실현될 수 있지만, 주문 집행 알고리즘은 단지 향후 몇 시간 동안 가격이 주문에 유리하게 움직일지 불리하게 움직일지만 신경 씁니다.

짧은 시간 범위의 통계적 차익거래(stat-arb)처럼 트레이딩 윈도우가 곧 투자 윈도우가 되어 두 가지가 일치하는 경우도 있습니다. 하지만 일반적으로 이들은 별개의 신호입니다. 집행 시점의 알파는 단기 모멘텀이나 회귀 요인, 또는 유동성 이벤트(다른 사람의 공격적인 흐름이 가격을 균형 가격에서 밀어낸 직후 진입하는 것)에서 올 수 있습니다. 사람이 거래하든 기계가 거래하든, 단기 가격 드리프트에 대한 예측값에 따라 주문 집행을 얼마나 서둘러야 할지가 결정됩니다.

리스크 (Risk)

가격 리스크 (Price Risk)

가장 지배적인 집행 리스크는 단순히 거래 기간 동안 자산의 변동성입니다. 변동성은 소형주나 롱테일 알트코인과 메이저 외환(FX) 통화쌍 사이에 엄청난 차이가 있습니다. 트레이딩 모델 또한 단순한 시장 요인과 개별 요인의 분할에서부터 세분화된 팩터 모델(규모, 스타일, 섹터 및 잔차)에 이르기까지 다양합니다. 모델이 무엇이든 기초 변동성은 적절한 전략을 결정하는 데 가장 큰 영향을 미치는 입력값입니다.

기간 (Duration)

리스크는 시장에 머무는 시간에 비례합니다. 천천히 거래할수록 시장 가격이 결정 가격에서 더 멀어질 가능성이 커집니다. 따라서 거래 속도는 리스크 조절 다이얼과 같습니다. 속도를 높이면 확실성을 얻는 대신 시장 충격 비용을 지불하고, 속도를 낮추면 시장 충격을 줄이는 대신 불확실성을 수용하게 됩니다.

포트폴리오 효과 및 헤징 (Portfolio Effects and Hedging)

바스켓 거래에서 중요한 것은 개별 항목의 합이 아닌 전체(aggregate) 리스크입니다. 상관관계가 있는 매수와 매도는 서로를 헤지하며, 다변화된 바스켓은 집중된 바스켓보다 더 안정적입니다. 트레이더는 적극적으로 헤지할 수도 있습니다. 소형주 전략에 대규모 자금 유입을 받은 매니저는 즉시 인덱스 선물을 매수하여 몇 분 만에 시장 베타를 중립화한 다음, 며칠에 걸쳐 기초 자산 포지션을 구축하면서 헤지를 점진적으로 풀 수 있습니다. 바스켓을 고려한 집행은 제8부의 주제입니다.

위험 회피 성향 (Risk Aversion)

마지막으로, 위험 회피 성향은 객관적인 변동성을 주관적인 페널티로 변환합니다. 이는 자산의 변동성을 바꾸지는 않지만, 해당 데스크가 이를 피하기 위해 기꺼이 지불할 비용의 크기를 바꿉니다. 동일한 주문을 받은 두 데스크가 합리적이면서도 서로 매우 다르게 거래할 수 있습니다. 위험 회피 성향이 강한 곳은 빠르고 비싸게 거래하며, 위험 감수 성향이 강한 곳은 느리고 저렴하게 거래합니다.

핵심적인 절충 관계 (The Central Trade-Off)

이 모든 조각들을 종합하면 주문 집행 전략은 결국 하나의 지속적인 대립 구도로 귀결됩니다. 즉, 빠르게 거래하면 시장 충격 비용이 발생하고, 느리게 거래하면 리스크 비용이 발생합니다 (그리고 가격이 불리하게 움직인다면 기회 알파 손실도 발생합니다). 이 시리즈의 모든 알고리즘은 경직된 스케줄 방식(TWAP, VWAP)부터 구현 최적화 차액(implementation shortfall)의 명시적인 비용-리스크 최적화에 이르기까지 이 대립 구도에 대한 해답입니다.