[딥파이낸셜] 인공지능 주가 예측, ‘투명성’이 중요한 이유

인공지능 금융 시장 유용성 낮아
과정 이해 어려운 ‘불투명성’도 문제
모델 정확성만큼 ‘관리 역량’도 중요

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Business Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

최근 연구에 따르면 온갖 주식시장 자료로 훈련된 첨단 ‘딥러닝 시스템’(deep learning system)도 기본적인 예측 모델의 성과를 크게 넘어서지 못한다고 한다. 금융시장의 암호를 해독하기 위해 기계학습에 거금을 쏟아 넣은 인공지능(AI) 산업의 입장에서는 충격이 아닐 수 없다. 그렇다면 이유가 뭘까? 금융 시장은 잡음이 너무 많고 불안정하며 갑작스러운 충격도 잦아, 이미지나 언어와 같이 구조화된 패턴에만 익숙한 AI 모델에게는 맞지 않는다고 한다.

인공지능, 금융시장 예측은 ‘별로’

어떻게 보면 기술과 금융 간 부조화의 대표적인 사례일 수도 있겠다. 이미지 인식은 안정된 시각적 구조에서 능력을 발휘할 수 있는데, 시장 수익성이라는 것은 AI에게 이동 표적같이 느껴질 수 있다. 어떤 연구에서는 대형 언어모델(large language models)의 주요 부분을 분리했더니 예측 결과가 향상되기도 했다. 복잡성을 더하는 것이 불필요에 그치는 것이 아니라 생산성에 역효과를 주기도 한다는 얘기다.

대부분의 AI 금융 예측 모델이 블랙박스 모델(black-box models, 의사 결정 과정 및 논리를 사용자나 제작자가 이해하기 어려운 시스템)인 것도 문제다. 기업이나 규제당국이 자신들도 설명하지 못하는 시스템을 거액이 걸린 금융시장에서 사용하면 무책임한 행동이라는 지적을 받을 수 있다.

완벽하지 않아도 오류 명확히 알 수 있어야

높은 성과를 위해 불투명함을 받아들인다는 생각은 얻는 이익이 상당하지 않으면 더 이상 받아들이기 어렵다. 규제 당국자들도 완벽한 예측을 바라느니 실패가 투명하게 드러나는 시스템이 낫다고 말한다. 모델의 작은 부분이라도 설명되지 않는 부분이 있다면 기업은 밀어붙이고 싶은 욕망을 접어야 한다는 것이다. 대신 규제당국이 요구하는 접근방식은 ‘유리 상자’(glass-box)라고 할 수 있다. 기본 모델과의 비교, 워크포워드 검증(walk-forward validation, 과거 데이터를 사용하여 모델을 반복적으로 학습시킨 후 데이터에 대한 정확도를 테스트), 명확한 문서화 등을 포함한다.

이미 영국 은행과 싱가포르 중앙은행은 독립적인 검증과 위험에 상응하는 관리 책임, 기본 모델을 통한 엄격한 검증을 촉구하는 지침을 공개한 바 있다. 유럽연합(EU)의 인공지능법(AI Act)은 한 걸음 더 나아가 기업 스스로가 위험을 관리하고 준수 여부를 기록할 것을 요구한다. 그렇다면 공급업자가 아닌 기업이 AI 관련 의사결정의 책임을 져야 한다는 얘기다.

모델 정확성만큼 관리 능력도 중요

이는 경영대학원이나 금융 전공 프로그램에 의미하는 바가 크다. 졸업자들은 이제 모델 설계에서 나아가 규제당국과 기업에 해당 모델의 온전함을 설명할 수도 있어야 할 것이다. 그러려면 복잡한 구조 실습에 들어가기 전에 일정 가격(constant-price) 및 랜덤 워크 모델(random-walk model) 등 기본 예측 모델을 먼저 배울 필요가 있다. 엄격한 ‘샘플 외 검증’(out-of-sample validation, 학습 중에 보지 못한 데이터를 바탕으로 기계 학습 모델의 성능을 평가)은 물론 잘못된 데이터 피드(data feed) 및 급격한 시장 변동에 따른 오류 가능성도 검증할 수 있어야 한다. 모델의 정확성만큼 관리 능력을 가르치는 일이 중요해졌다.

잡음을 읽어내는 능력도 필수적이다. 금융시장을 어려운 버전의 데이터세트로 생각해서는 안 된다. 패턴이 읽히면 참여자들이 게임 자체를 바꿔 버리는 매우 가변적인 시스템이다. 실험실에서 성공했다고 실제 상황에서 통할 가능성이 매우 작다는 의미다. 따라서 확률 및 분포에 대한 개념을 기반으로, 변동성에 대한 시나리오 예측과 스트레스 테스트가 강조돼야 한다.

‘블랙박스’보다는 ‘유리 상자’

‘블랙박스 모델’이 가격 예측에 잘 안 맞는다고 쓸 데가 전혀 없는 것은 아니다. 답이 명확하고 신호 대 잡음비(signal-to-noise ratio)가 높은 영역에서는 유용성이 높을 수 있다. 사기 적발, 고객 서비스, 작업 순위 지정 등의 분야가 포함된다. 위험 관리 분야에서는 단순한 가격보다 확률 분포를 보여줄 수 있는 모델이 진정한 가치를 제공하므로 AI와 인간의 관리 감독을 결합하면 효율적이면서 안전한 시스템을 만들 수 있다. 분기 보고서 및 공급망 정보 등 핵심 사항들을 입력하는 것도 단순한 가격 지표보다 정확성을 높이는 방법이다. 그런데도 결과치가 ‘일정 가격’ 및 ‘랜덤 워크 모델’을 지속적으로 능가하지 못한다면 사용을 포기하는 것이 맞다.

이제 금융계는 ‘블랙박스 모델’에 대한 환상을 ‘유리 상자’형 투명성으로 대체할 필요가 있다. 오류와 한계를 정확히 설명할 수 있는 전문가들이 운용하는 시스템만이 기업과 시장을 ‘잘 설계된 오류’로부터 보호할 수 있다. 싱가포르 중앙은행 책임자가 언급했듯, 거시 경제 분야에서 AI는 인간의 판단력을 대체하기보다는 보완하는 도구로 봐야 한다. 그러므로 AI의 시대 금융업의 미래는 시장 신호를 정확히 읽는 능력보다 모델의 온전성을 판단할 수 있는 전문가들을 키우는데 달린 것으로 판단된다.

본 연구 기사의 원문은 Teach the Noise: Why Finance Schools Must End the Black-Box Habit을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.