켈리 공식이란 무엇인가
자본 배분의 문제는 스포츠 분석, 금융 투자, 정보 이론 등 다양한 분야에서 핵심 과제로 다루어진다. 주어진 기회에 자본의 얼마를 투입해야 장기적으로 최적의 성장을 달성할 수 있는가의 질문에 수학적 답을 제시한 것이 켈리 공식(Kelly Criterion)이다. 1956년 벨 연구소의 수학자 존 L. 켈리 주니어(John L. Kelly Jr.)가 정보 이론 연구의 일환으로 발표한 이 공식은 이후 자본 성장 이론의 핵심 모델로 자리 잡았다.
켈리 공식의 핵심 명제는 단순하다. 장기적으로 자본을 극대화하기 위해서는 각 기회에 투입해야 할 자본의 비율이 수학적으로 정의될 수 있으며, 그 비율을 초과하거나 미달하는 배분은 모두 장기 성장률을 낮춘다는 것이다. 과도한 배분은 파산 위험을 높이고, 과소한 배분은 성장 잠재력을 낭비한다.
켈리 공식의 수학적 구조
켈리 공식의 기본 형태는 다음과 같다.
f = (bp – q) / b
여기서 각 변수의 의미는 다음과 같다. f는 총 자본 대비 투입해야 할 비율이다. b는 순 배당률, 즉 1단위 투입 시 수익으로 받는 배수다. p는 성공 확률이고, q는 실패 확률로 1에서 p를 뺀 값이다.
예를 들어, 성공 확률이 60%이고 배당률이 1대 1인 경우를 계산하면 f = (1×0.6 – 0.4) / 1 = 0.2가 된다. 이는 총 자본의 20%를 투입하는 것이 장기 성장 관점에서 수학적으로 최적임을 의미한다. 성공 확률이 50% 이하이거나 기댓값이 음수인 경우 f는 0 이하가 되어 투입하지 않는 것이 올바른 선택임을 나타낸다.
기댓값과 켈리 공식의 관계
켈리 공식을 올바르게 적용하기 위해서는 기댓값(expected value)의 개념을 먼저 이해해야 한다. 기댓값은 각 결과의 확률과 그 결과에 따른 수익을 곱한 값의 합으로 정의된다. 기댓값이 양수인 경우에만 켈리 공식은 양의 투입 비율을 산출한다.
스포츠 분석의 맥락에서 기댓값이 양수인 상황은 분석가가 시장에서 제시된 확률보다 더 정확한 확률 추정을 보유하고 있을 때 발생한다. 시장의 암묵적 확률과 분석가의 추정 확률 사이의 차이가 클수록 켈리 공식이 제시하는 최적 투입 비율도 높아진다. 반대로 분석가의 추정이 시장과 크게 다르지 않다면 투입 비율은 낮게 산출된다.
켈리 공식이 전제하는 핵심 조건은 확률 추정의 정확성이다. 잘못된 확률을 입력하면 공식은 잘못된 배분 비율을 출력한다. 이는 켈리 공식이 만능 해결책이 아니라, 정확한 분석 역량을 전제로 작동하는 구조적 도구임을 의미한다. 켈리 공식의 실전 적용과 장기적 자본 성장 모델에 대한 심층 분석은 이 주제를 보다 넓은 맥락에서 이해하는 데 도움이 된다.
풀 켈리와 프랙셔널 켈리
켈리 공식의 실제 적용에서 자주 논의되는 주제는 풀 켈리(Full Kelly)와 프랙셔널 켈리(Fractional Kelly)의 선택이다. 풀 켈리는 공식이 제시하는 비율을 그대로 적용하는 방식이다. 이론적으로는 장기 자본 성장률을 극대화하지만, 단기적으로 큰 자본 손실이 발생할 수 있는 변동성을 수반한다.
프랙셔널 켈리는 공식이 제시하는 비율의 일부, 예를 들어 50% 또는 25%만 적용하는 방식이다. 하프 켈리(Half Kelly)로도 불리는 이 접근법은 성장률을 일부 희생하는 대신 변동성과 파산 위험을 현저히 줄인다. 실증 연구에 따르면 하프 켈리는 풀 켈리 대비 성장률을 약 25% 낮추지만 자본 손실 위험은 절반 수준으로 감소시킨다.
실전 환경에서 많은 전문 분석가들이 프랙셔널 켈리를 선호하는 이유는 확률 추정의 불확실성 때문이다. 현실에서 분석가의 확률 추정은 완벽하지 않으며, 과추정의 가능성이 항상 존재한다. 풀 켈리는 확률 추정이 정확할 때 최적이지만, 추정에 오류가 포함될 경우 그 오류가 배분 비율에 그대로 반영되어 실제 손실로 이어진다. 프랙셔널 켈리는 이 오류의 영향을 완충하는 구조적 안전장치 역할을 한다.
다중 기회 환경에서의 켈리 공식
단일 기회가 아닌 다수의 기회가 동시에 존재하는 환경에서 켈리 공식의 적용은 더 복잡해진다. 여러 분석 대상에 동시에 자본을 배분해야 하는 경우, 각 기회에 개별적으로 켈리 공식을 적용하면 총 투입 비율이 100%를 초과하는 상황이 발생할 수 있다.
이 문제를 해결하기 위한 접근법 중 하나는 시뮬테이니어스 켈리(Simultaneous Kelly)로, 모든 기회의 상관관계를 고려하여 포트폴리오 전체의 최적 배분을 계산하는 방식이다. 실용적인 대안으로는 개별 켈리 비율의 합이 사전에 설정한 총 투입 한도를 초과하지 않도록 각 비율을 비례적으로 조정하는 방법이 활용된다.
다중 기회 환경에서 켈리 공식을 적용할 때 중요한 원칙은 기회 간 독립성이다. 상호 연관된 결과를 가진 기회들에 각각 독립적인 켈리 비율을 적용하면 실제 위험이 과소평가된다. 분석가는 각 기회의 결과가 다른 기회에 미치는 영향을 사전에 평가해야 한다.
켈리 공식의 한계와 올바른 활용 관점
켈리 공식은 강력한 구조적 도구이지만 몇 가지 본질적인 한계를 가진다. 첫째, 공식은 확률이 정확하게 알려져 있다는 가정 위에 구축된다. 현실에서 확률은 추정값이며, 추정의 정확도가 공식 전체의 유효성을 결정한다.
둘째, 켈리 공식은 무한한 반복 게임을 전제로 한다. 단기적으로는 켈리 최적 배분을 따르더라도 불리한 결과가 연속으로 발생할 수 있으며, 이로 인한 심리적 압박이 분석가의 판단을 흐릴 수 있다. 수학적 최적성과 실제 의사결정 환경 사이의 간극을 인식하는 것이 중요하다.
셋째, 켈리 공식은 자본 성장의 극대화만을 목표로 한다. 개인의 위험 허용 범위, 유동성 필요, 심리적 내구성 등 수치화되지 않는 요소들은 공식에 반영되지 않는다. 따라서 켈리 공식은 자본 배분 결정의 유일한 기준이 아니라, 하나의 구조적 참조 지점으로 활용하는 것이 적절하다. 자본 성장 이론과 확률적 의사결정에 관한 학문적 기반은 MIT 수학과(MIT Mathematics)의 관련 연구 자료에서 심층적으로 다루어진다.
정리
켈리 공식은 장기적 자본 성장을 위한 배분 비율을 수학적으로 정의하는 구조적 모델이다. 기댓값이 양수인 상황에서 과도하거나 과소한 배분을 피하고 최적 비율을 유지함으로써 자본의 기하급수적 성장을 추구한다. 그러나 공식의 유효성은 확률 추정의 정확성에 전적으로 의존하며, 현실의 불확실성을 고려할 때 프랙셔널 켈리의 적용이 실용적 선택으로 권장된다. 켈리 공식은 도구이며, 그 도구를 올바르게 작동시키는 것은 분석가의 인지적 엄밀성이다.
