• [교수님 인터뷰] 연세대학교 산업공학과_ 안광원 교수
  • 금융 위기 예측 모델의 고질적 딜레마를 풀다, AI 기반 위험지표 개발로 기존 대비 ‘가짜 경보’ 50% 이상 차단

  • 2000년 닷컴 버블 붕괴, 2008년 글로벌 금융 위기는 전 세계를 혼돈의 도가니로 몰아넣었고 다들 예측할 수 없었다고 입을 모았다. 그런데 이 지점에서 흥미로운 인물이 등장한다. 바로 물리학자인 디디에 소르네트(Didier Sornette) 교수다. 지진을 연구해 온 그는 지진, 화상 등 자연재해가 발생하기 전 작은 균열이 누적되다가 일순간 폭발하는 현상을 금융시장에 적용했고, 실제 굵직한 금융 위기들이 터지기 전 경고 신호를 잡아내는 데 성공했다. 이때 디디에 소르네트 교수가 활용한 도구가 바로 ‘로그 주기 멱법칙(LPPL)’ 모델이다. 
    이후 LPPL 모델은 시장 거품 붕괴를 예측하는 대표 이론으로 학계의 주목을 받았다. 하지만 평온한 시장 환경에서도 붕괴 시점을 산출해 내는 ‘가짜 경보’ 문제 탓에 실제 투자 현장에 도입하기에는 한계가 뚜렷했다. 연세대학교 안광원 교수 연구팀은 이러한 고질적 난제를 해결하고자 인공지능을 전격 도입했다. 24년간 축적된 미국 대형주 데이터 1,300만 건을 학습시키고, AI 신뢰도 점수를 결합한 신규 위험 지표 ‘DTCAI’를 구축한 것이다.
    실증 검증 결과 DTCAI는 불필요한 노이즈를 정밀하게 걸러내 가짜 경보를 50% 이상 차단하는 성과를 보였다. 연구자의 주관적 판별에 머물던 수식 모델을 데이터 기반의 객관적이고 신뢰할 수 있는 실전 투자 도구로 탈바꿈시켰다는 점에서 그 가치가 돋보인다.

    AI로 신뢰도 문제 돌파, 대형주 데이터 1,300만 개 학습

    풍선에 공기를 계속 주입하면 터지기 직전 표면이 얇아지며 미세하게 요동친다. 금융시장에서도 거품이 붕괴하기 전 이와 유사한 균열 패턴이 관측되는데, 이러한 위험 신호를 수학적으로 포착하는 분석 도구가 바로 ‘로그 주기 멱법칙(Log-Periodic Power Law, LPPL)’ 모델이다.
    이 모델은 지수함수보다 가파른 가격 상승세와 함께 진동 주기가 급격히 촘촘해지는 버블의 전조 현상을 바탕으로 붕괴 임계점을 추정한다. 즉, 자산 가격의 팽창 속도가 가속화되고 등락 진폭이 짧은 주기로 진동할 때 나타나는 시장의 위험 신호를 정밀하게 짚어내는 원리다.
    실제로 LPPL 모델은 2000년 닷컴 버블 붕괴, 2008년 글로벌 금융위기, 2015년 중국 증시 대폭락 등 과거 주요 시장 충격을 사전에 감지하며 금융공학계의 주목을 받아왔다. 하지만 탄탄한 이론적 근거에도 불구하고 실제 투자 판단에 적극적으로 도입하기에는 치명적인 약점이 존재했다.
    수식 구조상 붕괴 시점 자체가 추정 파라미터로 내장되어 있는 탓이다. 이로 인해 임박한 위험 징후가 없는 평이한 시장 데이터를 입력하더라도 수개월 내에 무조건 붕괴가 발생한다는 결과값을 산출하고 만다. 시장에 잘못된 신호를 보내는 ‘가짜 경보’ 현상이 발생하면서, 도출된 예측 시점의 신뢰성을 연구자의 주관적 판단으로 가려내야 하는 한계가 뒤따랐다. 여기에 노이즈가 섞인 데이터 환경에서 7개의 매개변수를 동시에 추정해야 하므로, 분석 기간을 조금만 변경해도 결과가 크게 달라지는 강건성 부족 문제도 지속적으로 지적되었다.
    기존 학계 연구들은 특정 위기 국면의 사후 적합도를 확인하거나 파라미터 추정 기법을 일부 보정하는 수준에 머물렀을 뿐, 정상 상황에서 발생하는 가짜 경보 문제를 근본적으로 해소하지 못했다. 10여 년 전 LPPL 파라미터 추정 방법론을 체계화하고 세종시 부동산 시장 및 비트코인 폭락 예측 등 다각도의 실증 연구를 축적해 온 안 교수는 이 해묵은 과제를 해결할 대안으로 인공지능(AI)을 도입했다.
    “LPPL 모델이 산출한 결과값의 신뢰도를 AI 분류모델을 통해 객관적으로 계량화하고자 했습니다. 이를 위해 1995년부터 2018년까지 24년간 축적된 S&P 500 지수 상위 100개 대형주의 일별 종가 데이터를 기반으로 1,300만 개가 넘는 방대한 LPPL 매개변수 집합을 계산해 AI를 학습시켰죠. 특히 해당 데이터셋에는 2000년 닷컴 버블과 2008년 글로벌 금융위기 같은 실제 대형 위기 국면들이 포함되어 있어 연구의 신뢰성을 높일 수 있었습니다.”
    연구팀은 최적의 성능을 도출하고자 인공신경망(ANN)을 비롯해 랜덤 포레스트, 로지스틱 회귀 등 다양한 머신러닝 분류 모델을 비교 검증했다. 금융위기 예측 영역에서는 오경보를 줄이는 것 못지않게 실제 위기를 놓치지 않고 감지해내는 능력이 결정적인 평가 기준이다. 이에 따라 위기 상황 식별 지표인 재현율(Recall)에서 59.15%를 기록하며 가장 우수한 성과를 나타낸 ANN을 최종 분석 모델로 선정했다.


    신뢰성 높인 새 위험 지표 ‘DTCAI’ 개발

    연구팀은 AI의 신뢰도 점수를 ‘DTC(Distance-to-Crash)’에 결합해 ‘DTCAI’라는 새로운 위험 지표를 개발했다. 기존의 DTC는 LPPL로 예측된 붕괴 시점의 도래 정도를 0과 1 사이의 값으로 변환한 지표다. DTCAI는 이 DTC 값에 AI가 산출한 신뢰도 점수를 곱해 산출한다. 머신러닝 알고리즘이 지능형 필터 역할을 맡아 신뢰성이 떨어지는 예측의 점수는 0에 가깝게 낮추고, 타당성이 높은 신호만 기존 점수를 유지하도록 설계한 체계다.
    “2019년부터 2024년까지의 S&P 500 지수 데이터를 대상으로 외표본 검증을 거쳐 모델의 실효성을 확인한 결과 AI 보정 전 85.8%에 달했던 가짜 경보 비율이 DTCAI 적용 후에는 34.7%로 대폭 낮아졌습니다. 경보 신호 분포를 비교해 보면, 기존 모델이 붕괴 시점과 거리가 먼 구간에서도 경보를 빈번하게 발생시킨 반면, AI 보정 모델은 불필요한 신호를 효과적으로 걸러내 가짜 경보가 크게 줄어든 모습을 확인할 수 있습니다.”
    이러한 성과 이면에는 연구팀이 직접 감당해야 했던 방대한 데이터 구축 작업이 자리 잡고 있다. 소수의 특정 위기 사례에 수식을 끼워 맞추는 기존 연구 방식과 달리, 머신러닝 학습에 필요한 대규모 데이터를 바닥부터 만들어내야 했기 때문이다. 연구팀은 미국 대형주의 장기 가격 시계열에 롤링 윈도우(Rolling Window) 구간 분석을 적용하고, 각 구간마다 유전 알고리즘(Genetic Algorithm)을 반복 가동해 매개변수 집합을 생성했다. 이 과정에서 구축된 레이블 데이터만 1,300만 개를 상회하며, 기초 데이터셋을 생성하고 정제하는 데에만 수개월의 시간이 소요되었다.
    데이터를 확보한 뒤에도 데이터 불균형(Class Imbalance)에 따른 ‘정확도 역설(Accuracy Paradox)’이라는 난관에 직면했다. 금융시장 시계열에서 실제 붕괴로 이어져 신뢰도 높음(Reliable)으로 분류되는 표본은 극히 드물고, 대다수 데이터는 신뢰성 낮음(Unreliable)으로 귀결된다. 이 불균형을 방치하면 AI가 다수 범주에만 편향되어 정작 중요한 붕괴 신호를 감지하지 못하게 된다. 연구팀은 소수 범주 데이터를 인공적으로 증강하는 SMOTE(Synthetic Minority Over-sampling Technique) 기법을 도입해 학습 균형을 맞췄다.
    분류 모델의 평가 기준을 설정할 때도 정확도(Accuracy) 대신 재현율(Recall)에 방점을 찍었다. 일상적인 분류 과제에서는 정확도가 유용한 척도일 수 있으나, 금융위기 예측 영역에서는 상황이 완전히 달라진다. 잘못된 경보를 몇 차례 울리는 오경보(False Alarm)보다 실제 위기를 포착하지 못하고 놓쳐버리는 미감지(False Negative)가 시장에 훨씬 치명적인 피해를 초래하기 때문이다. 연구팀이 전체적인 적중률 수치에 안주하지 않고 실제 위기 징후를 빠짐없이 감지해내는 재현율을 최우선 평가지표로 삼은 이유다.

    실제 투자 전략에서 경제적 가치 입증

    DTCAI 적용 결과, 신호 분포 측면에서도 유의미한 변화가 나타났다. 전체 신호 가운데 불필요한 붕괴 경보 비중은 기존 24.5%에서 DTCAI 적용 후 13.2%로 46%가량 급감했다. 반면 시장 안정을 가리키는 신호 비중은 38.0%에서 48.0%로 10%포인트 늘어나 투자자가 근거 없는 공포를 피하고 실질적인 위험 신호에 집중하도록 돕는다.
    연구팀은 주식·채권 ETF 데이터를 활용해 동적 자산 재조정(Dynamic Rebalancing) 시뮬레이션을 거쳐 실전 적용 가능성을 검증했다. DTCAI 지표의 위험도에 따라 고위험 국면에서는 채권 비중을 높이고 안정기에는 주식 비중을 확대하는 자산배분 방식이다. 분석 결과, 모든 투자 성향에서 DTCAI 전략이 전통적인 ‘매수 후 보유(Buy-and-Hold)’ 방식 대비 월등한 성과를 보였다. 위험 대비 수익성을 나타내는 샤프 지수(Sharpe Ratio) 역시 전 구간에서 높은 수치를 기록했다. 동일한 평균 수익률을 기준으로 구성한 정적 ‘마코위츠 효율적 포트폴리오(Markowitz Efficient Portfolio)’와의 비교에서도 DTCAI 전략은 더 높은 위험조정 성과를 거두며 우수한 리스크 방어력을 나타냈다.
    이는 2020년 팬데믹이나 2022년 약세장 같은 대규모 급락 국면에서 손실을 방어할 선제적 정보를 제공함을 시사한다. 분석가의 자의적 해석에 의존하던 수식 모델이 데이터 기반의 객관적인 실전 투자 도구로 진화한 셈이다.
    “기존 LPPL 연구가 주로 모수 추정 등 모델 적합성을 개선하는 방법에 집중해 왔다면, 이번 연구는 LPPL 결과의 신뢰도라는 질문으로 연구의 초점을 전환하고 AI를 활용해 그 문제를 해결하려 했다는 점에서 의의가 있습니다. 앞으로 다양한 시장과 자산군에 본 연구의 결과를 활용해 실시간 위험 관리 도구로의 확장 가능성을 탐색할 계획입니다.”
    이번 연구는 연세대학교 응용통계학과 박태영 교수 연구팀과의 공동 연구로 진행되었으며, 연구 성과는 Nature 자매지인 ‘휴머니티스 앤 소셜 사이언시스 커뮤니케이션즈(Humanities & Social Sciences Communications)’ 2025년 12권에 수록되었다.

    원자력 에너지가 사회 후생에 미치는 영향 발표

    안 교수는 조세 정책이나 통화 정책이 자산 가격 결정과 금융 안정성에 미치는 파급 효과를 꾸준히 연구해 왔다. 특히 2016년부터 원자력 발전의 경제적 이점인 비용 효율성과 잠재적 위험인 재난 리스크라는 상충 요소를 수리적으로 모델링해 사회 후생에 미치는 영향을 분석했다. 당시 정치·사회적 논쟁의 대상이었던 탈원전 및 에너지 전환 정책을 정밀한 거시경제 균형 프레임워크로 실증 검증하고자 한 시도였다. 그 결과 원전을 줄이고 재생에너지를 늘렸던 ‘제8차 전력수급기본계획’이 장기적으로 우리 경제에 5조 3,000억 원 규모의 손실을 초래한다는 분석을 내놓았다.
    “원자력과 재생에너지, 액화천연가스(LNG), 석탄 등 네 가지 발전 에너지원의 발전 비용과 실제 전력 비중을 반영한 경제 모형을 구축했습니다. ‘동적 확률 일반 균형(DSGE)’ 모델을 활용해 원전의 경제적 이득과 사고 위험 비용을 동시에 수치화해 분석한 것인데요. 분석 결과 원전 비중을 늘릴수록 장기적으로 사회 전체의 경제적 이익인 사회 후생이 증가한다는 사실을 확인했습니다. 따라서 원전의 ‘가성비’가 주는 이익이 잠재적 사고 가능성에 따른 경제적 피해를 상쇄하고도 남는다고 본 것이죠.”
    연구팀은 실제 정책을 적용한 분석 결과도 제시했다. 원전 확대 기조를 유지했던 박근혜 정부의 ‘제7차 전력수급기본계획’을 적용할 경우 사회 후생은 0.67% 증가하는 것으로 나타났다. 반면 탈원전·재생에너지 확대 기조였던 문재인 정부의 ‘제8차 전력수급기본계획’을 대입하면 사회 후생이 0.63% 감소하는 것으로 분석되었다. 사회 후생 0.63% 감소를 2021년 한국 가계 최종소비지출 기준으로 환산하면 손실 규모는 약 5조 3,000억 원에 달한다.
    다만 안 교수는 재생에너지의 경제성이 최근 빠르게 개선되고 있는 만큼 이른 시일 내 재생에너지의 후생 감소 문제는 해소될 것으로 전망했다. 재생에너지 발전 단가(LCOE)가 2021년보다 19.2% 이상 감소한다면, 재생에너지 확대 정책을 추진하더라도 사회 후생이 증가할 수 있다는 분석이다.
    “원자력과 재생에너지 가운데 하나만을 선택해야 한다는 소모적인 논쟁에서 벗어나, 에너지 정책 전반의 불확실성을 최소화하는 방향으로 나아가야 합니다. 정책 입안자들은 과학적 근거에 기반을 두고 장기적이면서도 일관성 있는 에너지 전환 경로를 설계할 필요가 있습니다. 정권의 변화에 따라 정책이 흔들리게 되면 시장과 산업계 전반에 커다란 혼선이 발생하기 마련입니다. 결국 투명하고 흔들림 없는 정책 기조를 통해 미래 예측 가능성을 높여주는 것이 한국 경제에 가장 이로운 길이라고 생각합니다.”
    본 연구는 ‘원자력 에너지가 사회 후생에 미치는 영향과 재생에너지의 미래: 한국의 사례를 중심으로’라는 제목으로 2026년 2월 9일 네이처 자매 학술지 ‘휴머니티스 앤 소셜 사이언스 커뮤니케이션(Humanities & Social Sciences Communications)’에 게재되었다.
    학문의 경계를 허물고 편견을 깨는 ‘수리금융 연구실’

    안 교수가 이끌어 온 ‘수리금융 연구실’은 복잡한 금융시장 현상을 정밀한 수학과 계량적 기법으로 규명하는 데 주력한다. 일반적인 연구실이 확률미분방정식을 활용한 파생상품 가격 결정이나 포트폴리오 자산 배분 최적화에 집중하는 것과 달리, 이곳은 금융경제학의 기초 위에 통계물리학과 양자역학적 분석 틀을 융합해 독창적인 수리 모형을 정립해 간다. 연구 스펙트럼 또한 자산 가격 결정과 거시경제학, 금융 인공지능을 비롯해 부동산, 에너지, 핀테크, 음악 및 예술 물리학에 이르기까지 폭넓은 영역을 아우른다.
    “우리 연구실은 금융경제학의 기본 토대 위에 통계물리학과 양자역학의 해석 체계를 접목해 시장을 새로운 시각으로 조망하고자 합니다. 자산 가격 결정이나 거시경제와 같은 전통적인 주제는 물론이고 에너지, 핀테크, 예술 물리학에 이르기까지 다채로운 영역을 탐구합니다. 연구원들이 기존의 학문적 울타리에 갇히지 않고 자신만의 수리적 모델을 자유롭게 구축할 수 있도록 돕고 있습니다. 이처럼 서로 다른 학문의 경계를 잇고 새로운 해석의 길을 열어가는 과정 자체가 연구실의 핵심 정체성입니다.”
    연구실의 뚜렷한 연구 성과는 연구진이 학술 활동에 몰입할 수 있도록 돕는 체계적인 운영에서 비롯된다. 불필요한 행정 과제나 외부 용역과제를 덜어내고 순수 학술 연구에 온전히 역량을 집중할 수 있는 환경을 조성한 결과다. 이에 힘입어 학부 졸업 후 진학한 연구원이 박사 학위를 취득하기까지 걸리는 평균 기간을 3.5년 수준으로 크게 단축했다. 연세대학교 부임 이후 배출한 박사 졸업생 모두 희망하던 주요 기관과 학계로 진출하며 우수한 결실을 거두었다.


    안 교수가 연구원들에게 거듭 당부하는 지도 철학은 ‘원점 회귀’와 ‘통념에 대한 도전’으로 요약된다. 이론 연구가 난관에 부딪혔을 때는 중간 단계의 수식을 보정하는 데 매달리지 않고, 출발선에서 자연스럽게 받아들였던 기초 가설과 전제를 근본적으로 되짚어봐야 한다는 원칙이다. 실증 데이터 분석에서도 기존 상식을 벗어난 반직관적 결과를 억지로 끼워 맞추기보다, 분석 절차의 엄밀성을 철저히 검증한 뒤 기존 편견을 깨는 계기로 삼아야 한다고 강조한다.
    “수식 전개 과정에서 모순이 발생하면 처음 출발점에서 당연하게 여겼던 기본 전제들을 다시 들여다보는 용기가 필요합니다. 데이터 분석 역시 사전에 품었던 직관이나 상식과 다른 결과가 나왔다고 해서 결코 위축될 이유가 없습니다. 데이터 처리와 수식 검증 과정에 흠결이 없다면, 상식을 뒤흔드는 결과야말로 새로운 발견으로 이어지는 가장 확실한 통로가 됩니다. 남들이 보지 못하는 이면의 진실을 마주하고 기존 편견을 부수는 데서 진정한 학문적 가치가 피어난다고 믿습니다.”
    수학이라는 정밀한 나침반과 물리학의 깊은 시선으로 금융이라는 거친 파도를 관측하는 수리금융 연구실. 편견을 지운 자리에서 세상을 읽어내는 이들의 여정은 금융의 보이지 않는 법칙을 밝히는 단단한 이정표가 되어 가고 있다.

    취재기자 / 안유정(reporter1@s21.co.kr)

    <이 기사는 사이언스21 매거진 2026년 9월호에 게재 되었습니다.>

  • 글쓴날 : [26-09-04 12:28]
    • 최진민 기자[reporter2@s21.co.kr]
    • 다른기사보기 최진민 기자의 다른기사보기