마곡나루역 근처 사무실에서 일하는 40대 초반 직장인으로, 고양시 행신역 근처에 거주하고 있다. 예전에는 회사 셔틀버스를 이용해 출퇴근했지만, 최근 자전거를 취미로 시작하면서 자전거로 출퇴근하게 됐다. 자전거를 타게 된 가장 큰 이유는 서울시 공공 자전거 프로그램인 따릉이에 대한 긍정적인 이미지 때문이었다.

Ⅰ. 따릉이에 관심을 가지게 된 계기

어느 날, 셔틀버스에서 내려 졸린 눈을 비비며 주변을 둘러보니 수백 대의 초록색 자전거가 모여 있는 것을 보고 깜짝 놀랐다. 이전에는 그 자전거들을 눈치채지 못했던 것 같다. 아마 직장인으로서 늘 피곤한 상태로 출근하다 보니, 회사에 도착하고 나서는 주변을 잘 살피지 않아서 그랬을 것이다. 아니면 아침에 너무 졸려서 자전거들이 눈에 잘 들어오지 않았던 것일지도 모르겠다. 어쨌든 그날 본 광경은 큰 충격을 주었다.

가장 붐비는 지역

마곡 교차로에 있는 수많은 따릉이 자전거들이 어디에서 왔는지 자주 궁금했다. 이것이 따릉이에 대한 관심을 불러일으켰고, 공공 자전거 프로그램을 논문 주제로 연구해 볼까 하는 생각도 하게 됐다.

생각을 계속 발전시키면서 문득 "마곡보다 자전거를 더 많이 사용하는 곳이 있을까?"라는 궁금증이 생겼다. 간단한 인터넷 검색을 통해 답을 찾을 수 있었다. 서울시에서 발간한 2022년 교통 이용 통계 보고서에 따르면, 서울에서 공공 자전거(따릉이)를 가장 많이 사용하는 지역은 강서구로, 총 16,871건의 이용 사례가 있었다.

서울 열린데이터광장에서 공개된 자료에 따르면, 강서구 내 공공 자전거 대여소 중 상위 7곳은 다음과 같다: ▲ 마곡나루역 2번 출구 88,001건 ▲ 발산역 1번 및 9번 출구 인근 63,166건 ▲ 마곡나루역 5번 출구 뒤편 59,095건 ▲ 가양역 8번 출구 56,627건 ▲ 마곡역 교차로 56,117건 ▲ 마곡나루역 3번 출구 52,167건 ▲ 발산역 6번 출구 뒤편 48,145건 등이다. 이 사실을 알게 되었을 때 상당히 놀랐다. 서울에서 따릉이 사용이 가장 많은 곳이 바로 내가 출퇴근하는 마곡 비즈니스 지구였기 때문이다.

출퇴근할 때마다 생각보다 많은 사람들이 자전거를 이용하는 모습을 점점 더 자주 보게 됐다. 자전거는 환경 문제를 해결하는 동시에 직장인들의 건강을 증진하는 수단으로 더욱 주목받고 있다. 이러한 트렌드에 영감을 받아, 서울의 많은 사람들처럼 자전거로 출근하는 것을 고려하기 시작했다. 하지만 거주지가 다른 지역이어서 고양시의 '피프틴' 프로그램을 이용할지, 서울의 따릉이를 이용할지 고민하게 됐다. 연구를 진행하던 중 고양시의 피프틴 프로그램이 재정적 손실로 인해 중단됐다는 사실을 알게 됐다.

공공 자전거 프로그램 적자의 원인

그래서 다른 지역의 공공 자전거 프로그램 적자 규모를 조사해 보았다. 창원의 '누비자'는 45억 원, 대전의 '타슈'는 36억 원, 광주의 '타랑께'는 10억 원의 적자를 기록했다. 이를 통해 대부분의 지역 공공 자전거 프로그램이 적자에 시달리고 있음을 알 수 있었다. 심지어 잘 운영되고 있다고 생각했던 서울의 공공 자전거 프로그램인 따릉이도 103억 원 이상의 적자를 기록하고 있었다. 이 사실은 왜 공공 자전거 프로그램이 항상 적자를 내는지에 대한 궁금증을 불러일으켰다.

동시에 따릉이가 천만 서울 시민에게 사랑받는 교통수단임에도, 이 프로그램이 장기적으로 지속될 수 있을지 걱정되기 시작했다. 문제를 자세히 조사해 본 결과, 공공 자전거 프로그램 적자의 가장 큰 원인은 자전거를 도시 전역에 재배치하는 데 드는 높은 비용이라는 것을 발견했다.

고양시의 경우, 총 유지비 예산 17억 7,800만 원 중 약 3억 7,500만 원이 현장 배치에, 1억 5,000만 원이 재배치와 관련된 차량 운영비로 사용되는 것으로 추정된다. 이는 전체 예산의 약 30%가 재배치에 사용된다는 의미로, 가장 큰 단일 지출 항목이다. 창원시에서도 비슷한 경향이 나타나며, 재배치 비용이 예산의 상당 부분을 차지하고 있다. 이 정보는 따릉이에 대한 직접적인 자료는 아니지만, 공공 자전거 프로그램의 전체 운영비 중 약 30%가 자전거 재배치에 쓰일 가능성을 시사한다.

이로 인해 자전거 재배치 비용을 절감하는 것이 공공 자전거 대여 프로그램의 만성적인 적자를 해결하는 열쇠가 될 수 있다는 생각이 들었다. 또한 따릉이 이용자들의 사용 패턴을 분석해 재배치를 최적화하면 이러한 비용을 줄이는 데 도움이 될 수 있다고 생각했다. 이를 실현하기 위해서는 대여량에 영향을 미치는 요인을 분석하고, 예상 수요를 예측하는 모델을 만들어 자전거 부족을 방지하고 불필요한 재배치 노력을 최소화할 필요가 있었다.

Ⅱ. 수요 예측을 통한 재배치 최적화

따릉이 자전거 대여 데이터에는 자전거 ID, 반납 시간, 대여소 정보가 포함되어 있다. 각 대여소별 대여량을 시각화하기 위해 서울 열린데이터광장에서 제공하는 위치 정보(위도와 경도)가 추가로 사용되었다. 또한, 날씨가 자전거 이용에 미치는 영향을 분석하기 위해 서울 기상관측소의 종합 날씨 데이터도 대여 기록과 결합되었다. 마곡나루역 5번 출구 따릉이 대여소의 2019년부터 2023년까지 4년간의 데이터를 바탕으로 사용 패턴에 대한 상세 분석이 이뤄졌다.

따릉이 이용 패턴

분석 결과, 자전거 이용은 강한 바람과 비가 내릴 때 감소하지만, 기온이 15-17°C일 때 가장 많이 사용되는 것으로 나타났다. 자전거 이용량은 주중 아침과 저녁 출퇴근 시간에 최고치를 기록하며, 마곡, G밸리, 여의도 등 비즈니스 지구에서 집중적으로 발생했다. 이 지역들은 대부분 20~30대 사용자가 많으며, 특히 출퇴근 시간대에 대여와 반납의 불균형이 자주 발생했다.

일반적인 이용 패턴을 바탕으로 자전거 수요와 공급을 예측했다. 먼저 STL(Seasonal and Trend decomposition using Loess) 기법을 사용해 대여 및 반납량을 계절성, 추세, 주기로 분해했다. 그런 다음 이 분해에서 나온 잔차를 SARIMAX 모델에 적용해 날씨와 시간 변수를 포함하여 이용 패턴을 설명했다. 이 모델은 수요를 성공적으로 예측했으며, 반납량에서 R² 0.73, 대여량에서 0.65의 예측 정확도를 달성했다.

대여-반납 지수 기반 최적화

자전거 재배치를 최적화하기 위해 각 대여소에서 예상 대여량과 반납량의 차이를 측정하는 "대여-반납 지수"가 도입됐다.

\[ 대여-반납 \ 지수 = \frac{예상 \ 대여수}{예상 \ 반납수} \]

위의 공식에서 볼 수 있듯이, 대여소가 자전거의 과잉 또는 부족 없이 균형을 이룰 때 지수는 1이 된다. 지수가 1보다 크면 자전거가 부족함을 나타내며, 1보다 작으면 자전거가 과잉 상태임을 의미한다. 대여소를 과잉 또는 부족 카테고리로 분류함으로써, 재배치 노력을 지수가 1보다 큰 부족한 대여소에 집중할 수 있게 되어 고객 만족도를 향상시킬 수 있다.

또한 이 접근법은 서울시 자전거 시스템의 사용 가능한 예산을 기반으로 재배치 대상의 수를 정량화할 수 있어 매우 유용하다. 지수가 가장 높은 대여소가 우선순위로 선정되며, 배정된 예산에 따라 상위 대여소들이 재배치 대상으로 선택되어 비용 효율적이고 효과적인 재배치 노력을 보장한다.

자전거 재배치를 더욱 최적화하기 위해, 구역 내 대여 및 반납 분포를 기준으로 업무 지구와 주거 지역을 클러스터링하여 대여-반납 지수가 1에 근접하도록 그룹화할 수 있다. 이 방법은 재배치 과정에서 자전거가 이동해야 하는 거리를 최소화할 수 있는데, 작업자들이 특정 팀으로 배치되어 이러한 클러스터화된 지역을 관리하기 때문이다. 즉, 지수가 균형을 이루는 지역에 초점을 맞춤으로써 더 효율적인 재배치를 보장하고, 전체적인 운송 부담을 줄일 수 있다.

Ⅲ. 공간-시간 균형을 위한 클러스터링 아이디어

일반적인 클러스터링

초기에 K-평균 클러스터링 기법을 사용하여 자전거 대여와 반납의 차이가 0에 가까운 지역을 식별하려는 시도가 있었다. 서울의 25개 구에 맞춰 클러스터 수를 조정한 결과, 2023년 6월 데이터를 분석한 결과, 여러 구를 포함한 클러스터들이 대여와 반납의 평균 순량이 0에 가까워져 더 나은 균형을 보이는 것으로 나타났다. 반면, 구가 적은 작은 클러스터들은 더 큰 불균형을 보였다.

또한, 가우시안 혼합 모델(GMM)과 같은 다른 클러스터링 방법을 테스트한 결과, K-평균과 유사한 결과가 도출되었다. 그러나 두 방법 모두 자전거 이동 패턴을 완전히 반영하지 못했는데, 이는 이러한 클러스터링 모델이 자전거 공유 시스템의 동적인 이동 데이터를 충분히 설명하지 못했음을 시사했다. 이는 따릉이 데이터 구조에 적합한 모델이 아니며, 다른 모델링 접근법이 필요하다는 점을 강조했다.

따릉이 데이터는 대여소 간 자전거 이동을 반영하므로, 이러한 이동을 그래프 내의 연결(link)로 취급하고, 대여소와 반납소를 노드(node)로 간주하는 것이 논리적이다. 이를 통해 커뮤니티 탐지 방법을 적용하면 자전거 이동이 가장 빈번한 경로를 기반으로 클러스터를 식별할 수 있다. 이 그래프 기반 접근 방식은 실제 자전거 이동 패턴에 초점을 맞추어 더 효율적인 자전거 재배치를 가능하게 하고, 기존 클러스터링 방법보다 더 나은 결과를 도출할 수 있을 것이다.

네트워크 탐지 방법

이 접근법은 자전거 대여소와 반납소 사이의 자전거 이동을 노드 간의 연결로 간주하여 그래프를 구성하는 것을 포함한다. 가장 많은 연결을 가진 클러스터를 식별함으로써 자전거가 내부에서 순환하는 경향이 있는 커뮤니티 구분을 감지할 수 있다. 이는 자전거 재배치의 효율성을 네트워크 전반에서 크게 향상시킬 수 있다.

이 과정에서 네트워크 커뮤니티 탐지가 중요한 역할을 한다. 커뮤니티 탐지는 그래프를 내부 연결이 밀집된 그룹으로 나누는 방법이다. 따릉이 데이터에 적용하면, 대여와 반납이 균형을 이루는 지역을 클러스터링하여 대여-반납 패턴을 추적할 수 있다. 이러한 클러스터를 식별함으로써 공간적 균형을 유지하는 지역을 발견할 수 있으며, 더 밀집된 클러스터는 더 높은 모듈러리티를 반영하여 효율적인 자전거 재배치에 기여할 수 있다.

모듈러리티는 커뮤니티 내의 연결 밀도를 다른 커뮤니티 간의 연결과 비교하는 척도다. 모듈러리티 값은 -1에서 1 사이로, 0.3에서 0.7 사이의 값은 의미 있는 클러스터의 존재를 나타낸다. 모듈러리티 값이 높을수록 커뮤니티 내의 연결이 강하다는 것을 의미하며, 이는 더 효과적인 클러스터링으로 이어진다. 높은 모듈러리티를 가진 클러스터는 내부적으로 자전거가 더 많이 순환하므로, 재배치 효율성 또한 높아질 수 있다.

모듈러리티 최적화를 위해 루뱅(Louvain) 알고리즘을 테스트했다. 이 알고리즘은 두 단계로 작동한다. 1단계에서는 모듈러리티를 극대화하기 위해 노드를 커뮤니티에 할당한다. 2단계에서는 커뮤니티 간 연결을 합쳐 네트워크를 단순화하고 구조를 더 정교하게 개선하여 클러스터 감지를 향상시킨다.

따릉이 데이터에 적용했을 때, 루뱅 알고리즘은 유클리드 좌표에 의존하는 K-평균 클러스터링보다 훨씬 더 나은 성능을 보였다. 이상적인 값인 0을 기준으로 한 평균 순 편차가 K-평균에서 21.19였던 것이 루뱅을 사용하자 9.23으로 급격히 감소하여, 대여소 클러스터링의 정확도가 크게 향상되었음을 나타냈다. K-평균은 한강과 같은 주요 지리적 특징을 무시한 반면, 루뱅 알고리즘은 서울의 지리를 고려하여 더 정밀하고 의미 있는 클러스터를 형성했다.

다음 지도를 비교하면 이 차이를 명확히 확인할 수 있다. 루뱅 알고리즘은 한강을 기준으로 더 명확한 클러스터 구분을 제공한 반면, K-평균은 이러한 지리적 차이를 제대로 반영하지 못했다.

Ⅳ. 순환 구조

따릉이 자전거의 이동을 물의 흐름에 비유했다. 지구상의 물의 총량이 일정하게 유지되듯이, 따릉이 자전거의 총량도 고정되어 있다. 이 비유는 따릉이 시스템을 공간적, 시간적으로 폐쇄된 순환 체계로 개념화하는 데 도움이 된다. 클러스터링을 통해 자전거의 이동 흐름을 균형 있게 유지할 수 있는 방식으로 시스템을 이해할 수 있다.

시간적 불균형은 하루 동안 자전거의 흐름을 추적함으로써 관리할 수 있다. 예를 들어, 비즈니스 지구는 아침에 수요가 높지만 저녁에는 자전거가 과잉으로 쌓이게 되고, 주거 지역은 그 반대의 상황을 겪는다. 재배치 노력을 최소화하려면, 비즈니스 지구에서 과잉된 자전거를 저녁 시간대에 주거 지역으로 옮겨 아침 출근 시간 전에 준비할 수 있다. 아침 러시아워가 지나면 자전거는 비즈니스 지구에 집중되지만, 저녁 퇴근 시간에 사용자가 다시 주거 지역으로 자전거를 타고 돌아가면서 자연스럽게 재분배된다.

저녁에는 사용자가 자전거를 선택할지 확신할 수 없다는 불확실성이 있지만, 과잉된 자전거는 밤사이에 정기적인 재배치 과정에서 해결할 수 있다. 이를 통해 다음날 아침 출근 시간 전에 비즈니스 지구에 남아 있는 자전거를 주거 지역으로 옮겨 균형을 맞출 수 있다. 하루 전체 흐름을 보면 이러한 변동이 자연스럽게 균형을 이루므로, 과도한 개입의 필요성이 줄어든다.

이러한 불균형을 보다 효과적으로 관리하기 위해 대여-반납 지수를 사용하여 재배치 우선 대여소를 선정하고, 이를 통해 운영 비용을 절감했다. 또한, 네트워크 커뮤니티 탐지, 특히 루뱅 알고리즘을 적용한 결과, 이전 방법보다 더 정확한 클러스터링을 제공했다. 이 방식은 서울의 지리적 특성, 특히 한강을 기준으로 한 클러스터 구분을 잘 반영하여 재배치 전략을 크게 개선했다.

따릉이 시스템을 공간적, 시간적 균형을 추구하는 시스템으로 바라보면, 자전거 부족 문제를 보다 효율적으로 관리할 수 있다. 이러한 접근법은 따릉이 시스템 최적화뿐만 아니라, 다른 공유 자원 시스템 관리의 개선에도 중요한 통찰을 제공한다.

국민건강보험공단이 공개한 수면장애 환자 건강보험 진료 현황에 따르면, 2022년 수면장애로 병원을 찾은 환자는 109만 8819명으로 2018년 85만 5025명보다 28.5% 늘었다. 수면장애 환자가 늘고 있는 만큼 양질의 수면에 대한 관심도 증가하고 있다. 하지만 환자마다 발생 원인과 특성이 달라 그에 맞는 치료법과 다양한 검사 방법이 동원돼야 하는 부담이 있다.

수면장애가 의심되는 환자는 수면다원검사(polysomnography)를 통해 수면에 대한 정밀진단을 받는다. 클리닉에 방문해서 받는 수면다원검사는 영상녹화(video recording), 수면 뇌파검사(a sleep electroencephalogram (leads C4-A1 and C3-A2)), 양측 안구움직임 검사(bilateral eye movements), 심근근전도 (submental EMG), 그리고 양측 전방 경골근 EMG(bilateral anterior tibialis EMG–수면하는 동안 다리움직임 기록)와 같은 다양한 검사로 정밀한 분석이 진행된다. 하지만 수면다원검사는 특정 전문 장소를 찾아가야 하는 불편함과 일회성 검사가 단점으로 꼽힌다. 때문에 수면을 간편하게 추적(monitoring)하는 도구에 대한 수요가 증가하고 있는 추세다.

Ⅰ. 가속도계 데이터 기반 수면 추적

가장 큰 변화를 갖는 축을 중심으로 움직임 측정

최근에는 웨어러블 디바이스(wearable device)를 통한 건강관리가 보편화됐으며, 이를 통해 실시간 데이터 수집도 가능해졌다. 손목 착용 시계(wrist wore watch)를 통해 활동상태를 확인하고, 수면 측정의 경우 ‘가속도센서’와 ‘광혈류 측정센서’ 두 가지를 사용한다. 가속도센서는 몸의 움직임을 측정하는 센서이고, 광혈류 측정센서는 손목 조직 내에 혈류의 양을 빛으로 측정하는 센서로 심박수를 측정한다. 이 두 가지 센서 데이터를 모두 활용한다면 수면측정에 오차가 줄어들겠지만, 본 연구에서는 데이터 사용 제약으로 인해 가속도계(accelerometer) 센서 데이터만을 활용한다. 그 이유에 대해서는 잠시 후 데이터의 정보량과 정보 손실의 관점에서 풀어나갈 계획이다.

먼저 가속도계 데이터는 아래의 그림처럼 세 가지 축의 데이터로 이루어져 있다.[1]

$x$축은 땅과 수평으로 움직이는 방향의 변화를 나타내며, $y$축은 진행 방향의 옆 방향에서의 변화(e.g. 양팔을 양옆으로 얼마나 흔드는지), 그리고 $z$축은 수직으로 점프하는 방향으로의 변화(다리가 겹치는 구간에서 가장 높아짐)를 나타낸다. 여기서 짚고 넘어가야 할 점은 각 축의 기능은 센서의 기준축에 의존하며, 센서의 기준축이 바뀌는 경우 일반적으로 전체값 중 가장 큰 변화를 가지는 값을 기준으로 움직임을 측정한다.

아래의 그래프는 3축 데이터의 예시를 보여준다.[4] 이 그래프는 일반적인 걸음에서 팔을 흔드는 것과 양팔을 고정한 상태에서 걸었을 때, 측정값이 어떻게 달라지는지를 시각화했다. $x, y, z$축 방향의 변화는 평균값의 변화를 나타나며, 양팔을 고정한 상태에서 녹색으로 표시된 신호가 가장 변동이 큰 것을 볼 수 있다. 따라서 가속도계 데이터는 같은 행동이더라도 센서의 위치 변화나 기준축의 변화에 따라 데이터가 다르게 측정된다는 특징이 있다.

ENMO, 변수변환을 통한 유용한 변수 활용

센서 방향에 따라 축이 변하는 문제점을 보완하기 위해 정보 함축적이지만 간편한 변수로의 변형이 필요하다. 많은 연구에서 선형변환 변수(summary metric or summary measurement)를 사용하는데, summary metric은 $x, y, z$축 값을 하나의 값으로 변환하기 때문에 센서 방향 변화의 영향을 적게 받는다. Summary metric의 종류로는 ENMO(표준화 가속도 벡터 크기), VMC, AI, Z-angle(손목 각도) 등이 있다. 본 연구에서 활용된 ENMO와 Z-angle에 대해 자세히 알아보자.

Figure 1의 가속도계 그림에서처럼 센서 데이터의 운동가속도를 해석하려면, 중력가속도(gravity(g))의 영향을 고려해야 한다. 따라서 3축 값의 선형변환을 표준화하기 위해 중력가속도를 빼주는 변수를 ENMO변수라고 지칭했고, 이를 수식으로 표현하면 아래와 같다.

\begin{equation} \label{eq:ENMO}
ENMO = max(0, \sqrt{x^{2}+y^{2}+z^{2}} - 1)
\end{equation}

Z-angle은 손목 각도에 대한 summary metric인데, 몸의 수직축에 대한 팔의 각도라고 볼 수 있으며, 아래의 수식으로 표현할 수 있다.

\begin{equation} \label{eq:Z-angle}
Z-angle = tan^{-1}\left(\frac{a_{z}}{\sqrt{a_{x}^2 + a_{y}^2}}\right) \cdot \frac{180}{\pi}
\end{equation}

직관적인 이해를 위해 측정값을 통해 표준가속도 벡터크기(ENMO)가 어느 수준일지 가늠해 보자. 아래 Figure 3은 일상 활동 시 표준가속도 벡터크기 측정값을 정리한 표다.[2]

서있는 자세에서는 표준가속도 벡터크기가 평균 1.03g으로 측정되었고, 일상에서 걸어 다니는 자세에서는 10.3g으로 측정된 것이 눈에 띈다. 이처럼 움직임이 적을 때에는 값이 작고, 활동성이 커질수록 값이 커진다는 것을 쉽게 인지할 수 있다. 다시 말해 인간은 로봇처럼 항상 같은 속도로 움직이지 않기 때문에 속도의 변화인 가속도로 활동 크기 측정이 가능하다는 의미다.

전체적인 정보의 양으로 보면 1개의 축으로 변환된 summary metric을 사용하는 것보다 $x, y, z$축이 다 있는 가공하지 않은 데이터를 사용하는 것이 더 좋아 보일 수 있다. 하지만 summary metric을 사용해도 치명적인 정보 손실이 일어나지 않았으며, 본 연구에서는 데이터의 제약사항과 더불어 summary metric 하나를 가지고도 수면 상태 추정이 가능하다는 방법론을 제시하고자 한다.

또한 간단한 모델을 통해 Z-angle 데이터를 사용하지 않아도 치명적인 정보 손실이 없음을 확인해 보았다. Z-angle과 ENMO 두 변수의 통계량으로 변수의 설명력을 트리 모델로 확인한 결과, ENMO 통계량 변수의 중요도가 압도적으로 높았다. ENMO의 통계량 변수가 상위 10개 중요도(importance)를 모두 가져갔다. 게다가 Z-angle 통계량의 변수 중요도가 확연히 낮은 것도 확인했으므로 하나의 변수 ENMO를 시작으로 문제를 풀어나갈 것이다.

Ⅱ. 선행 연구 조사 및 기존 방법론의 한계 분석

최적화에 초점을 맞춘 기존 방법론

앞서 ENMO(표준화 가속도 벡터 크기), VMC, AI, Z-angle(손목 각도) 등 summary measurement의 몇 가지 변수들을 살펴봤었다. 최근에는 가속도 센서에서 수집되는 $x, y, z$축의 데이터를 통해서 MAD(Mean Absolute Deviation)와 같은 새로운 summary measurement를 찾기 위한 연구가 진행 중이다. 물론 이러한 변수변환 작업은 높은 수준의 도메인 지식을 요구하며, 축약된 변수들을 검증하는 단계 또한 간단하지 않다.

기존 연구에서는 적절한 summary measurement를 찾아 시간적 통계량, 예를 들어 1분 간격으로 겹쳐거나(rolling) 겹치지 않는 편차, 평균, 최솟값, 최댓값으로 머신러닝 모델, 직관에 기반한 모델(heuristic), 또는 회귀모델로 분류나 검출을 진행한 바 있다. 아래 Figure 4는 이전 연구들의 대표적인 방법론들을 요약하고 있다. [5]

추가로, 수면 연구에서 사용되는 평가지표(metric)는 아래와 같다. [2]

1. sensitivity(actigraphy = sleep when PSG= sleep)
2. specificity( actigraphy = wake when PSG = wake)
3. Accuracy : total proportion correct
4. The amount of wakefulness after sleep onset(WASO) : 수면 기간 동안 깨어난 횟수를 합산
5. SE(sleep efficiency) : 수면다원검사 라벨이 있는 기간내의 수면 비율을 계산
6. TST(Total sleep time) : 1박당 수면 시기(epoch) 분류의 합으로 계산

데이터의 패턴 변화 민감도↑

모델의 복잡도로 보았을 때, 랜덤포레스트와 같은 머신러닝 모델들과 CNN, LSTM과 같은 인공신경망 모델(neural network model)들이 "복잡도 상"으로 표시된 것을 볼 수 있다. 이 모델들은 정확도(Accuracy)에 좀 더 무게를 두기 때문에 매개변수가 많아 과적합(Overfitting)에 취약해지고 버려지는 데이터 포인트들도 생긴다. 또한 데이터가 충분하지 않으면 근본 패턴 대신 학습 데이터의 노이즈를 학습하여 새로운 데이터에 대한 성능이 저하될 수 있다. 그 결과 실제 연구에서도 잠이 드는 순간과 깨어나는 상태를 잘 잡아내지 못하는 경우가 발생했다고 한다. 최적화에 너무 신경 쓴 나머지, 일반화를 놓친 것이다.

상대적으로 모델이 단순하고 새로운 데이터의 패턴 변화에 덜 민감하다고 알져져 있는 회귀모델(regression model)은 최적화의 한계에서 자유로웠을까? 먼저 짚고 넘어가야 할 점은 회귀모델은 데이터의 정규성을 가정하는 모델이라는 사실이다. 데이터가 정규성을 만족하지 못하면 상관계수의 표준오차가 계수의 크기에 비해 상대적으로 높게 계산되는데, 이는 상관계수의 유의성을 낮춰(p-값이 높아져) 모델의 추론 결과를 신뢰할 수 없게 만든다. 안타깝게도 수면 데이터는 정규성을 만족하지 못해 Cole-Kripke[3]와 Oakely[6]의 두 회귀모델 모두 추가적인 최적화 작업을 진행했다고 한다. 머신러닝이나 인공신경망 모델보다는 타겟 데이터에 대해서 정확성이 떨어졌지만, 모델 복잡도가 상대적으로 낮고 최적화가 정교해, 연구에서는 수면다원검사와 함께 기준 모델(baseline model)로 활용되고 있다.

아울러 웨어러블 기기를 착용한 지 얼마 되지 않은 사용자의 경우, 적은 양의 데이터로 수면 상태를 분류해야 하는 상황이 발생한다. 초기에 수집된 데이터는 대표성이 떨어질 가능성이 높은데, 이러한 상황에서 데이터 포인트가 많이 필요한 머신러닝·딥러닝 계열의 모델뿐만 아니라, 고도의 최적화 작업이 필요했던 기존의 회귀모델 역시 지속 가능하지 않은 접근법이다. 심지어 한 명의 사용자가 아니라 여러 명의 사용자에 대해서도 분석을 진행하려면 기존 방법론의 한계는 더욱 두드러진다. 이에 본 연구에서는 일반화 성능을 끌어올리는 데이터 변형과 모델 변형 방법론을 소개하고자 한다.

ENMO 데이터의 특성과 수집 방법

기존 연구의 한계를 극복해 나가는 본격적인 데이터 전처리 과정 설명과 방법론 소개에 앞서, ENMO 데이터의 특성을 더 자세히 살펴보자. 데이터가 보여주는 상황에 주의를 기울이다 보면 앞으로 제시할 전처리 과정과 방법론을 더욱 명확하게 이해할 수 있을 것이다.

지난 글에서 언급한 대로 필자는 ENMO라는 summary measurement 변수를 사용했다. ENMO 신호는 5초 간격으로 수집된 데이터이며, 해당 신호는 수면 일기를 통해 부여된 수면 상태 값과 결합해서 분석할 수 있다. 수면 일기에서 라벨값을 부여하는 기준은 아래와 같다.

• 최소 30분 이상 수면 상태가 지속되어야 수면으로 가정한다.
• 밤 동안 가장 긴 수면 기간이 수면 상태로 기록된다. 다만, 주어진 기간 내에 발생할 수 있는 수면 횟수를 제한하는 규칙은 없다. 예를 들어 개인이 같은 날 1시부터 6시까지, 그리고 17시 30분부터 23시 30분까지 두 차례의 수면 시간을 갖는 것은 모두 유효하게 집계된다. 이는 하루 중, 수면 이벤트가 발생하는 새벽과 저녁 시간이 일과시간을 기준으로 나뉘는 것을 생각하면 자연스러운 기준 선정이다.

이해를 돕기 위해 아래의 그래프로 샘플 데이터를 확인해 보자. 한 사람의 Z-angle과 ENMO 신호에 대해서 약 30일 정도의 기간 동안 수집한 데이터다. 잠을 자는 기간은 0으로, 활동하는 기간은 1로 표시되어 있다. -1은 수면일기의 라벨값이 기기누락 또는 기록 누락으로 존재하지 않는 경우다.

당연하게도 자는 기간(0, 빨간색)과 깨어 있는 기간(1, 초록색)이 번갈아 나타나며 주기성을 보이는 것이 눈에 띈다. 모든 사람이 동일한 수면 패턴을 보이지는 않지만, 큰 틀에서 수면과 활동이라는 주기성이 존재하는 것에는 변함이 없다. 이러한 데이터 특성 때문에 본 연구에서는 일반화된(Generalized) 데이터 변형으로 수면과 활동의 주기 특성을 더욱 안정적으로 구분짓고, 일반화에 초점을 맞춘 모델링 방법을 다음 글에서 소개할 예정이다.

Z-angle 데이터도 주기성을 보였지만, 이전 글에서 언급한 대로 ENMO 데이터의 중요도가 Z-angle의 것보다 압도적으로 높고 정보 손실도 적어, 앞으로의 방법론에는 ENMO 단일 변수만을 학습 데이터로 활용했다.

Ⅲ. 데이터 전처리 심층 분석

ENMO 신호의 주기성에 대해 간략하게 살펴봤다. 크게 잠을 자는 기간과 깨어 있는 기간으로 나뉘었는데, 흥미로운 점은 수면 기간에도 미세한 변동성이 관찰됐다는 사실이다. 이는 많은 사람이 알고 있듯이 수면에도 단계가 존재하기 때문인데, 수면의 단계는 보통 아래의 모식도에서 보이는 기준을 따라 분류된다.

기존의 Van Hees 연구에서도 해당 모식도를 기준으로 수면 단계를 분류하고 있다. 수면에 단계가 있다는 말은 곧 수면 단계에 따라 몸의 움직임이 달라져 수면 신호에 미세한 변동이 발생할 수 있음을 의미한다. 아래 Figure 5의 ENMO 데이터에서도 잠들어 있는 기간(빨간 막대)의 $y$값이 균일하지 않다는 것을 확인할 수 있다.

수면 구간의 신호를 더 안정적(consistent)인 신호로 가공할 수만 있다면, 수면 상태 검출이 더 쉬어질 것이라는 생각이 자연스럽게 떠올랐다. 안정화의 목적은 수면 신호를 아예 죽이는 것이 아니라, 그 특성은 살리되 미가공 데이터(raw data)의 분산보다는 상대적으로 안정된 값을 유지하는 것이 핵심이다.

위의 생각을 조금 더 확장하면 개인뿐만 아니라 전체 사용자 간의 뒤척임 정도가 달라도 일반화가 가능하다는 결론에 도달할 수 있다. 물론 이러한 복잡한 과정을 생략했을 수도 있다. 예를 들어 기존 연구에서는 최적화에 과도하게 초점을 맞춰 과적합(overfitting)과 같은 문제점이 발생했는데, 이를 개선하기 위해 정규화(regularization) 작업으로 라그랑주 승수법(Lagrange multiplier)을 적용하는 것이 보편적인 전근법이라는 것을 알고 있다.

하지만 본 연구에서는 데이터의 특성을 더 면밀하게 분석해서 얻은 인사이트로 데이터를 가공하고, 모델도 그것에 맞게 변경하여 일반화 성능이 더 우수한 방법론을 고안하기 위해 노력했다. 데이터 전처리 단계부터 탄탄한 논리가 뒷받침되어야 신뢰할 수 있는 모델을 만들 수 있다는 생각을 이번 글에서 공감했으면 한다.

데이터 변형을 통한 수면 신호 안정화

수면 신호 안정화를 위해 처음 사용했던 방식은 일반적인 필터링을 적용한 이상치(outlier) 제거였다. 고속 푸리에 변환(Fast Fourier transform, FFT)과 비슷한 전력 스펙트럼 밀도(Power Spectral Density, PSD)를 적용했다. PSD는 다양한 주파수 대역에 걸친 FFT² 밀도의 비율을 이해하는데 유용하다고 알려져 있다.

하지만 ENMO 신호 데이터에 PSD를 적용해 본 결과, 전체 데이터의 99.8%를 남겨 원래 의도했던 수면 신호만의 안정화를 이루지 못한 것을 확인했다. Figure 6을 들여다보면 가공된 ENMO(빨간막대) 신호의 수면 기간(빨간 선과 초록 선의 사이, 순서 중요) 변동성이 그대로 살아 있는 것을 발견할 수 있다.

혹시 데이터를 평활화(smoothing)하면 문제가 해결되지 않을까 해서 칼만 필터도 적용해 보았다. 하지만 이전 데이터의 공분산(covariance)를 활용해도 수면 신호를 안정화 하지 못했다. Figure 7에서도 가공된 ENMO 신호의 수면 기간 변동성이 대부분 남아 있었다.

참고로 칼만 필터는 수면 상태(state) 검출 성능이 낮았으며, 이전 데이터의 공분산을 활용한 탓에 계산 비용도 PSD보다 더 높았다.

불규칙한 간격에서 주기성을 찾는 문제

초기 데이터 변환 작업에서 간과했던 부분이 있다. 주어진 데이터의 가장 중요했던 특징 중 하나를 놓쳤던 것인데, 사용자 한 명에 대해서도 잠이 드는 시간이나 깨어나는 시간이 규칙적이지 않다는 점이었다. 따라서 이번에는 간격이 고르지 않은 관측에서 주기적인 신호를 감지하도록 설계된 롬-스카글 주기(Lomb-Scargle Periodogram) 분석법을 사용했다.

아래 Figure 11은 롬-스카글 주기 분석법을 적용한 데이터를 시각화한 그래프다. 전체 데이터 기간이 길어서 수면 구간의 신호가 거의 균일해 보이지만 구간을 확대하면, 신호들의 특성은 최대한 살리면서 변동성은 낮췄다는 것을 확인할 수 있다.

ID 값 한 개에 적용하는 것을 넘어, 기기 누락이 없는 전체 ID에 관해서도 확인해 본 결과, 주빈도(dominant frequency)는 파워(power)와 선형적(linear)인 패턴을 보였다. 따라서 회귀선 안에서 관측되는 빈도에 대해서는 선형선 안에 있는 일반적인 값을 사용해서 필터링을 진행해도 예측값의 정확도가 크게 떨어지지 않을 것이라고 판단됐다.

FFT와 결을 같이하는 롬-스카글 주기 분석법과 같은 신호 처리 방법론들은 주기성을 파악할 최소한의 데이터가 준비되어 있어야 한다. 즉, ENMO 데이터에서는 최소 하루는 지나야 잠을 자고 깨어나는 하나의 주기가 관측될 수 있다.

때문에 각 ID에서 표본 기간이 3~5일을 넘지 않거나, 기기 누락이 많을 때는 학습 데이터의 주빈도 데이터를 적용해서 필터링을 진행했으며, 최소 5일 정도의 데이터가 있을 때는 개별적으로 ID에 따라 필터링을 적용했다.

Ⅳ. 수면·활동 분포 기반 우도비 비교

일반화 방법론의 하나로 데이터를 어떻게 변형할 수 있는지 살펴보았다. 이번 글에서는 모델 변형을 통해 어떻게 일반화 성능을 개선할 수 있는지 알아보려 한다.

수면과 활동 기간 분포의 비교 분석

앞서 롬-스카글 주기 분석법을 적용한 ENMO 신호 데이터를 확인했을 때, 활동·수면 구간의 데이터 모두 균일 분포(uniform distribution)를 가지고 있지 않았다.

Figure 10에서 볼 수 있듯이 두 구간의 분포 모양도 다르다. 특히 분포의 봉우리 모양에서 확연히 차이가 나는데, 수면 구간의 결합 분포 봉우리가 부드러운 곡선인 반면, 활동 구간의 결합 분포 봉우리는 각진 모습을 보이고 있다.

주목할 만한 점은 분포 모양은 다르지만 각 ID의 정점 값(peak value)이 수면·활동 구간과 무관하게 $x$축의 0을 중심으로 관찰된다는 것이다.

마찬가지로 Figure 11a(전체 데이터)와 11b(전체 데이터의 9%)에서도 수면·활동 분포의 정점 값이 크게 변하지 않았다. 또한 Figure 11b에서 800개의 관측 값을 무작위 추출한 Figure 12의 정점 값도 변동이 적었다.

우도비 비교 방법론 적용

앞서 분포 함수의 정점 값이 다른지 같은지를 계속 살펴보았다. 이는 수면 상태 검출 방법을 일반화 하기 위해 수면·활동 구간의 분포 정보량을 활용해 우도비(likelihood ratio, LR) 비교 방법론을 적용하려는 노력의 일환이었다. 분포를 알고 있다면, 최대우도법(Maximum Likelihood Estimation, MLE)으로 접근하는 것이 가장 적절한 계산법인 것처럼, 수면·활동 분포의 정보를 활용해 우도비(Likelihood Ratio, LR)를 기준으로 모델링을 하고자 했다.

하지만 수면·활동 분포는 일반적으로 알려진 확률밀도함수(예: 가우시안, 포아송... 등)를 따르지 않을 수 있고, 종종 불규칙적이다. 그 대안으로 커널 밀도추정(kernel density estimation)을 적용한 분포를 사용했다. 커널 밀도추정은 관측된 데이터 각각마다 해당 데이터값을 중심으로 하는 커널 함수를 생성한 후 모두 더해, 전체 데이터 개수로 나눠주는 과정을 거친다. 보통 최적의 커널 함수는 에파네치코프(Epanechinikov) 커널이지만, 계산의 편의상 가우시안 커널을 많이 사용한다. 본 연구에서도 가우시안 커널을 사용했다.

먼저 LR 방법을 어떻게 적용했는지 수식으로 설명해 보자. $LR = \frac{L_{1} (D)}{L_{0} (D)}$.

각 데이터 입력 포인트에 대해서 우도비를 구할 수 있는데, $L_{0} (D)$은 귀무가설 하에 있는 데이터의 우도가 수면 신호일 가능성이 높은 것을 뜻한다. 그리고 $L_{1} (D)$는 대립가설하에서 데이터의 우도가 활동 신호일 가능성이 더 높은 것을 뜻한다. 만약 LR이 임계값(threshold)보다 크면, 데이터가 대립가설(활동 신호)하에 있을 가능성이 더 높다는 것을 의미한다.

Figure 13은 위 일반화 방법론을 통해 수면상태를 검출한 결과를 ID 한 개에 대해서 시각화한 그래프다. 아래 그래프 안에서 최하단에 있는 그래프는 데이터 변형을 마친 후, 활동 신호 첫 점(깨어나는 순간)과 마지막 점(잠드는 순간)까지 포인트를 최대한 많이 찾아주는 것을 볼 수 있다.

계산 효율성 측면에서도 LR은 매력적인 접근법이다. 컴퓨터 연산시간을 확인해 본 결과, 데이터가 입력과 동시에 데이터 변형이 이루어지고 LR 결과가 임곗값을 넘게 되는데 걸리는 시간은 짧았다. 대략 39,059ea의 데이터를 한 번에 처리할 경우, 7초 정도 소요되는 것을 확인했다. 예를 들어 10명의 하루치 데이터(17,280ea)는 총 약 1분 40초가 소모된다.

마지막으로 당연한 결과이지만 분포를 활용하기 때문에, 기기 누락에 대해서는 찾아주지 않고 기기 누락이 아니지만 라벨값이 없는 신호일 경우에는 찾아준다는 것을 시각적으로 확인할 수도 있었다.

강건성 평가를 위한 새로운 평가지표

모델의 강건성을 확인하기 위해 본 연구에서는 예측값과 라벨값의 시간 차이(time difference)를 성과지표로 사용하고자 한다. 위에서 소개한 우도비 방법론은 일반화에 초점을 맞췄기 때문에, 최적화 방법론을 위한 기존 수면 연구의 평가지표는 사용할 수 없다고 판단했다.

모델의 예측값과 라벨값의 시간 차이를 비교해 본 결과, 잠이 드는 시점은 전체적으로 실제 라벨값보다 빠르게 예측하는 경향성이 있었고, 깨어나는 시점은 전체적으로 실제 라벨값보다 느리게 예측하는 경향성이 있었다. 원인을 파악하기 위해 가공하지 않은 ENMO 신호에 대해서도 LR 방법을 적용해서 수면 상태를 검출해 봤다.

그 결과가 Figure 14a에서 확인 가능하듯이, 가공하지 않은 ENMO 신호를 사용하여도 예측의 빠르고 느린 경향성은 동일하게 나타났다. 따라서 이는 수집된 ENMO 신호 자체가 그런 특성이 있기 때문이라고 추정할 수 있다. 향후 맥박이나 다른 데이터를 보완적으로 사용한다면 time diff가 낮아질 것으로 기대된다.

V. 한계 및 추후 연구 계획

간단하게 예측값과 라벨값의 시간차이(time difference)로 우도비 비교 방법론의 성능을 확인했다. 조금 더 객관적인 평가를 위해 이번에는 훈련 데이터에 미포함된 ID(테스트 세트)의 적용 결과도 함께 살펴보려고 한다.

위의 표기된 숫자들은 각 ID의 시간차이 표준오차(within individual standar error, SE)를 구해 전체의 평균을 구한 값이다. 그리고 Figure 15a는 훈련 데이터에 포함된 ID 10개를 무작위로 선택해 우도비 비교 모델을 적용한 결괏값을, Figure 15b는 훈련 데이터에 포함되지 않은 ID 3개를 무작위로 사용한 결괏값을 보여주고 있다.

훈련 데이터 vs. 테스트 데이터 성능 차이

결과적으로 가공된 ENMO 신호는 훈련·테스트 데이터 세트 간의 성능 차이가 크지 않아, 일반화에 초점을 맞춘 방법론의 강건성을 다시 한번 확인할 수 있었다. 가공된 ENMO 신호는 이해할 수 있을 만한 수준의 변동성이 관찰됐지만, 가공되지 않은 오리지널 ENMO 신호의 경우에는 평균 표준오차가 많이 증가했다.

아울러 Figure 15a & b에서는 데이터 변형의 성능 개선 기여도 눈에 띄었다. 데이터 전처리 과정을 생략한 오리지널 ENMO 신호는 가공된 ENMO 신호 보다 평균 표준오차가 크다. 테스트 세트에서는 그 차이가 더 명확해지는데(Figure 15b), 가공된 ENMO 신호 데이터의 평균 표준오차가 기상(wakeup)·취침(sleep onset) 모두 20분 이상 낮아지는 것을 확인할 수 있다. 앞서 일반화 성능을 끌어올리기 위해 데이터 전처리 과정에 힘을 쏟은 이유가 바로 여기에 있다.

따라서 본 연구에서 제시한 방법론은 훈련 데이터 세트와 테스트 데이터 세트의 성능 차이를 최소화하여 모델의 일반화 성능을 입증해 냈다고 할 수 있다. 훈련 데이터 세트는 ID 10개에 대해서 무작위로 표본을 추출해 성능을 확인했으며, 훈련 분포에 활용되지 않은 ID 3개를 무작위로 추출한 테스트 데이터 세트까지 추가로 검증하여 모델의 일반화 성능을 엄격하게 실험했다. 참고로 훈련·테스트 세트에서 사용된 13개 ID에 대해서 뽑은 결과의 총일수(night)는 110일 정도 되는 긴 기간이다. 평균 표준오차 비교를 위해 충분한 기간을 사용했다고 사료된다.

주요 연구 내용 요약

요약하자면 이번 연구는 최적화보다는 일반화 방법론에 초점을 맞췄다. 특히 데이터 변형 단계에서부터 일반화 성능을 향상시키기 위해 노력했다. 가속도계 데이터 기반의 로우 데이터(raw data) 통계량을 사용하면 차원이 늘어나고 이상치(outlier)나 잡음에 영향을 많이 받을 수 있어 데이터 전처리의 필요성이 높았다. 또한 수면 패턴이 일정하지 않다는 데이터 특성을 함께 고려해야 하므로 간격이 고르지 않은 데이터에서 주기성을 찾아낼 수 있는 롬-스카글 주기 분석법(Lomb-Scargle periodogram)을 적용해 데이터 안정화를 꾀했다.

모델링 측면에서는 기존의 머신러닝이나 딥러닝 모델과 같이 데이터 하나하나에 대한 적합도를 높인 것이 아니라, 정보량이 많은 분포 데이터를 활용했다. 분포는 분산(variance)보다도 정보량이 더 많으므로 모델링의 관점에서 효율성이 더 높아질 수밖에 없는 구조다. 그 결과 웨어러블 기기 착용을 시작한 지 오래되지 않은 사용자도 초기 대응(단, 1시간 이상의 데이터는 필요함)할 수 있어 기기의 실용성도 높아졌다.

더 나아가 LR 방법론은 연산 효율이 높다는 장점이 있다. 머신러닝이나 딥러닝과 같이 복잡도가 높은 모델뿐만 아니라, 기존의 이동 통계량(rolling statistic)을 활용한 모델과 비교해 봐도 연산 효율의 차이가 크다. 같은 맥락에서 LR 방법론은 유지 관리가 편하다. 모델의 복잡도가 낮고, 데이터 전처리와 LR 모델 추론 단계가 차례대로 실행되기 때문에 이후 모델의 구조 수정도 간편하다.

미래 연구 방향 제시

현재는 ENMO 신호 데이터만 사용하고 있지만, 더 많은 보완 변수(e.g. 심박수)를 사용한다면, 수면 상태 검출이 한 단계 더 정교해질 것으로 예상된다. 그리고 ID 별로 데이터 전처리를 할 때에 업데이트 사항도 세부적으로 만든다면 성능이 향상될 것으로 보인다. 실제로 이번 연구에서는 간단한 실험으로만 과거 분포 데이터 사용 허용 기간이나, 주빈도(dominant frequency)를 결정짓는 기간을 선정했는데, 이후 정밀하게 조절하는 것을 고려해 볼 수 있을 것 같다.

ID 간(between individual) 존재하는 이질성도 고려해야 할 대상이다. 향후 연구에서 그룹(활동성이 보통 이상인 그룹 vs. 활동이 거의 없는 그룹)을 나눠서 분석한다면, 지금의 임곗값을 조정하는 방식보다 더 높은 정확도를 얻을 수 있을 것이다. 또한 연구 대상 집단을 확장하면, 비즈니스 측면이나 수면 연구 측면에서 사람 간의 인구학적 특징(demographic characteristic)을 반영할 수 있다는 점에서 공중보건 연구(public healthcare research)에 더 많은 기여가 가능할 것으로 전망된다.

현실적인 맥락에서의 모델 선택

아직은 보조적인 역할이 강하더라도 지속적으로 데이터의 특성을 업데이트하면 수면 연구 관련 분야에 잠재력이 크다고 생각된다. 실제로 이번 연구에서 사용한 데이터를 제공한 Healthy Brain Network에서는 수면 상태와 아이들의 심리 상태를 연관 지어서 연구하려는 의도도 가지고 있었다. 수면 상태 측정을 인간의 심리나 사회 현상에 연결 지어 분석하고자 하는 측면에서 보조도구로서의 중요성이나 흥미가 높다는 것을 엿볼 수 있다.

결국 현상에 대한 이해는 주어진 정보를 어떻게 활용하는가에 달려있다고 생각한다. 이번 연구에서 사용한 데이터는 신호 데이터다. 그리고 대부분의 신호 측정값은 잡음(noise)이 끼어 있어 기본적으로 불확실성을 가지고 있다. 게다가 수면 상태에 대한 이해는 도메인 전문성이 필수적으로 요구되며 직접 측정 또한 어려운 분야다. 어떻게 보면 직접 측정을 할 수 없거나 일부만 측정할 수 있는 연구지만, 최근 웨어러블 기기의 발전과 발맞춰 간접적으로 인간의 수면 상태에 대해 예측을 하고자 한 것이다.

끝으로 최적화와 일반화는 항상 큰 틀에서 보면 상충(trade-off)관계가 있을 수밖에 없다. 본 논문에서는 일반화에 초점을 맞춰 이야기를 풀어나갔지만, 비즈니스적으로 정밀함이 얼마나 요구되는지에 따라 최적화의 가중치도 유동적으로 결정해야 할 것으로 사료된다. "One size fits all"이란 말의 모순과 같이 언제나 완벽하게 100% 해결해 주는 것은 불가능에 가까운 것처럼, 데이터에 따라 때로는 처한 상황에 따라 선택이 필요하다는 생각으로 글을 마친다.

References

[1] URL https://insights.globalspec.com/images/assets/263/1263/Accelerometers-04-fullsize.jpg. 2

[2] Kishan Bakrania, Thomas Yates, Alex V Rowlands, Dale W Esliger, Sarah Bunnewell, James Sanders, Melanie Davies, Kamlesh Khunti, and Charlotte L Edwardson. Intensity thresholds on raw acceleration data: Euclidean norm minus one (enmo) and mean amplitude deviation (mad) approaches. PloS one, 11 (10):e0164045, 2016. 4

[3] Roger J. Cole, Daniel F. Kripke, William Gruen, Daniel J. Mullaney, and J. Christian Gillin. Automatic sleep/wake identification from wrist activity. Sleep, 15(5):461–469, 09 1992. ISSN 0161-8105. doi: 10.1093/sleep/15.5.461. URL https://doi.org/10.1093/sleep/15.5.461. (document)

[4] Marta Karas, Jiawei Bai, Marcin Str´aczkiewicz, Jaroslaw Harezlak, Nancy W. Glynn, Tamara Harris, Vadim Zipunnikov, Ciprian Crainiceanu, and Jacek K. Urbanek. Accelerometry data in health research: challenges and opportunities. bioRxiv, 2018. doi: 10.1101/276154. URL https://www.biorxiv.org/content/early/2018/03/05/276154. (document), 3

[5] Miguel Marino, Yi Li, Michael N. Rueschman, J. W. Winkelman, J. M. Ellenbogen, J. M. Solet, Hilary Dulin, Lisa F. Berkman, and Orfeu M. Buxton. Measuring sleep: Accuracy, sensitivity, and specificity of wrist actigraphy compared to polysomnography. Sleep, 36(11):1747–1755, 11 2013. ISSN 0161-8105. doi:10.5665/sleep.3142. URL https://doi.org/10.5665/sleep.3142. (document)

[6] Nigel R Oakley. Validation with polysomnography of the sleepwatch sleep/wake scoring algorithm used by the actiwatch activity monitoring system. mini mitter co. Sleep, 2:0–140, 1997. (document)

[7] Matthew R Patterson, Adonay AS Nunes, Dawid Gerstel, Rakesh Pilkar, Tyler Guthrie, Ali Neishabouri, and Christine C Guo. 40 years of actigraphy in sleep medicine and current state of the art algorithms. NPJ Digital Medicine, 6(1):51, 2023. 5

Ⅰ. 부동산 버블을 탐지할 수 있다면?

최근 부동산 시장은 버블(Bubble)이 꺼지면서 침체기에 접어들었다. 정부는 시장을 살리고자 부리나케 대책을 마련하고 있으나, 마음대로 되지 않아 보인다. 그런데 만약 부동산 버블을 미리 탐지할 수 있다면, 시장이 침체기로 접어드는 일을 막을 수 있지 않을까?

부동산 버블의 여파

부동산 버블의 충격은 어마어마했다. 전국 및 수도권 아파트 가격은 한국부동산원이 시세 조사를 시작한 이래 가장 큰 낙폭을 기록했고, 서울 주택 종합 매매가격은 서브프라임 모기지 사태 이후로 가장 크게 떨어졌다.

부동산 가격 하락과 더불어, 금융 당국이 유동성 회수를 위해 기준 금리를 급격하게 올리면서 ‘부동산 거래 절벽’ 현상은 심해졌다. 서울 주요 대단지 아파트는 집주인이 관리비, 이사비용, 명품 가방까지 내걸며 전세와 매매를 홍보하고 있지만, 이전과 달리 거래가 활발히 이뤄지지 않고 있다. 그림 1을 보면, 2022년 1월부터 9월까지 서울 아파트 거래량은 1만 건에도 못 미쳐 전년 대비 73.7%나 줄어든 모습이다.

전문가들은 부동산 침체가 실물시장 충격으로 직결되는 상황을 우려하고 있다. 이러한 상황이 발생하지 않기 위해 현재 부동산 정책을 고금리 시대에 맞는 새로운 과세 정책으로 하루빨리 재정비해야 한다고 주장한다. 현재 부과되는 종합부동산세, 양도소득세가 너무 무겁고, 대출 이자까지 높아 부동산 거래가 활발히 이루어지지 않는다고 보기 때문이다. 따라서 부동산 과세 완화 및 규제 철폐를 통해 부동산 거래량을 다시 끌어올려야 한다는 의견이다.

한편 부동산 정책을 성급히 바꾸는 것은 위험할 수 있다. 글로벌 팬데믹으로 엄청난 유동성과 저금리 기조가 20・30세대의 ‘빚투’, ‘영끌’을 이끌어 청년이 빚의 늪으로 빠져들었다. 이러한 현실을 고려하면 무작정 부동산 규제를 완화하는 것은 위험하다. 따라서 정부는 적정한 수준의 부동산 규제를 유지함으로써 투기를 억제하고 실수요자들에게 주택 소유의 기회가 돌아갈 수 있게끔 해야 한다.

그간 역대 정부는 위 두 가지 노선을 번갈아 걸어가며 버블의 충격을 최소화하는 정책을 찾기 위해 노력했다. 하지만 모두를 만족시킬 수 있는 이상적인 정책안을 마련하기에는 역부족이었다. 과도한 규제로 ‘가격은 수요와 공급으로 결정된다’라는 시장 기본원리를 위배해서는 안 되며, 지나친 방관으로 투기, 영끌, 빚투 등의 시장 혼란을 주어서는 안 되는 정책을 수립하기란 결코 쉬운 일이 아니다.

부동산 버블을 미리 찾을 수 있다면?

많은 사람은 과열된 시장에서 부동산 가격이 폭락하기 전까지 버블을 알아차리지 못한다. 이는 부동산의 내재 가치(Intrinsic value)를 제대로 측정하기 어렵기 때문이다. 이에 따라 대다수의 시장 참여자는 부동산 가격 상승을 내재 가치 상승으로 착각하고, 다른 참여자들의 결정에 휩쓸려 버블이 생긴다. 버블이 터지면 부풀려졌던 자산 가격이 폭락하게 되고, 가계 부채 증가와 금융기관의 대규모 채권 부실로 이어져 심하게는 경기 침체까지 확대될 수 있다.

만약 부동산 버블을 미리 찾아낼 수 있다면 어떨까? 위에서 우려한 상황을 상당 부분 해결할 수 있을 것이다. 정부는 부동산 과열을 사전에 찾아내 버블이 실물 경제에 악영향을 미치기 전에 조치를 취할 것이다. 게다가 국제적으로 상호 연관성이 커진 오늘날에 어느 한 나라의 버블은 세계 경제 전반에 큰 영향을 미친다는 점을 고려하면, 버블을 예측하는 것은 개인 투자 이상의 의미가 있다.

본 글에서는 부동산 버블에 해당하는 요소를 찾아내고 통계적으로 검증했던 일련의 과정을 쉽게 풀어낼 것이다. 이때 부동산 과열의 원인으로 꼽히는 승자의 저주(Winner’s curse)가 실제로 버블에 해당하는지 회귀 분석과 통계 검정을 통해 확인할 것이다.

Ⅱ. 버블의 역사와 버블이 반복되는 이유

버블이란 사람들이 특정 자산에 과도하게 몰리면서, 해당 자산의 가격이 내재 가치보다 크게 형성되는 현상을 말한다. 이는 경제가 과열됐을 때 주로 나타난다. 경제 활황 등의 이유로 한동안 부풀어 올랐던 버블이 터지면 투자자들이 막대한 손실을 보는 것은 물론, 주택담보대출을 주 사업으로 영위하는 금융기관에도 큰 충격을 준다. 이는 금융 시장 전체에 대한 신뢰도를 떨어뜨리는 시스템적 리스크(Systemic risk)를 초래할 수도 있다.

버블의 역사

세계 금융 시장에서 버블은 역사적으로 여러 차례 반복됐다. 네덜란드 튤립 버블(1630년대), 영국 동인도 회사 버블(1720년대), 일본 부동산 및 주식 버블(1980년대), 닷컴 버블(1990년대), 미국 주택 버블(2000년대) 등을 꼽을 수 있다.

우선 일본 부동산 버블에 대해 자세히 살펴보자. 1980년대 초 엔화가 급등하면서 일본 무역 상황이 악화되자 일본 정부는 통화 정책을 통해 경기부양책을 펼쳤다. 이후 시장의 유동성이 커지자, 투기가 조장되면서 1985년에서 1989년 사이에 일본 주식과 도시 토지 가치가 세 배로 뛰는 버블이 생겼다. 1989년 부동산 버블이 절정에 이르면서 도쿄 황궁 부지의 가치는 캘리포니아주 전체의 부동산 가치보다 커졌다. 결국 1991년 버블이 터졌고 일본의 장기침체기인 잃어버린 10년으로 이어졌다.

다음으로 미국 서브프라임 모기지 사태를 알아보자. 과거 미국에서 닷컴 버블이 터지면서, 이를 반면교사 삼아 다수의 투자자는 상대적으로 안전한 자산으로 여겨지는 부동산에 대거 뭉칫돈을 넣었다. 이에 따라 미국 주택 가격이 1996년에서 2006년 사이에 거의 두 배로 뛰었다. 또한 금리가 하락하면서 너도나도 할 것 없이 사람들은 주택담보대출로 주택을 샀다. 하지만 천정부지로 치솟는 주택 가격을 잡고자 미국 행정부가 금리를 대폭 인상하면서, 상환 능력이 없는 서브프라임 대출자들의 채무불이행이 연달아 터지게 됐다. 이에 주택 관련 채권이 휴지 조각이 되면서 은행을 포함한 금융기관들이 도산 위기에 놓이게 됐다.

미국 서브프라임 모기지 사태는 우리나라에도 적잖은 영향을 미쳤다. 당시 미국 대표 금융기관이었던 베어스턴스, 리먼 브라더스를 필두로 주요 헤지펀드 및 투자은행이 파산 위기를 겪었다. 이를 교훈 삼아 외국인 투자자는 한층 더 안전자산을 선호하게 되며 한국 외환시장은 크게 흔들렸다. 미국과 한국 간 금리 스프레드가 커지면서 금리가 낮은 국가에서 돈을 빌린 후 금리가 높은 국가에 투자하는 캐리 트레이드가 판을 치게 됐고, 그 결과 국내 금융시장과 실물경제 전반에 부정적인 영향을 미쳤다.

버블이 반복되는 이유

업계에서 부동산 버블을 판단하는 주된 방법은 통화량과 아파트 시가총액의 비율을 보는 것이다. 일반적으로 통화량이 늘어나면 화폐가치가 하락하고, 아파트 가격 상승으로 이어진다. 하지만 통화량과 아파트 시가총액 증가율의 차이가 평소보다 크면 버블로 의심할 수 있다. 시중에 풀려있는 돈은 적은데, 아파트 가격은 이와 무관하게 증가했다는 의미기 때문이다. 버블이 가장 심했던 2021년 11월에 통화량 대비 아파트 시가총액 비율은 147%까지 치솟았고, 이는 아파트의 내재 가치 대비 역대 최대로 고평가됐음을 보여준다.

그렇다면 왜 버블은 주기를 갖고 반복될까? 전문가들이 위 지표와 같이 객관적인 수치를 제시하며 부동산 버블의 징후를 지속적으로 경고하고 있음에도 불구하고, 왜 대중들은 멈추지 않고 ‘영끌’, ‘빚투’를 위시한 도박을 일삼고 있는 걸까?

2013년 노벨 경제학상 수상자 로버트 쉴러는 그의 대표 저서 ‘이상 과열’을 통해 절대다수의 시장 참여자가 시장의 본질을 제대로 이해하지 못하고 있다고 주장했다. 나아가 시장이 무엇 때문에 저평가・고평가됐는지는 신경조차 쓰지 않는다고 했다. 이런 상황에서 사람들의 투자 의사 결정은 쉽게 사용 가능한 정보에 크게 영향을 받는다. 즉 대다수 투자자가 깊이 있는 정량적・정성적 분석하기보다는, ‘카더라’ 식의 얕은 정보에 매혹되어 도박에 가까운 의사 결정을 내린다.

버블의 핵심 원리를 한 단어로 요약하면, 바로 ‘군중 심리’라고 할 수 있다. 인간은 비이성적인 본성을 갖고 있으며, 이에 따라 특정 상황에서 사람들 간 독립성이 깨지면서 비합리적인 선택을 집단으로 하게 된다.

Ⅲ. 한국 부동산 경매시장의 특징

이번 장에서는 부동산 매매 시장의 버블을 예측하기 위한 수단으로써 경매시장을 들여다봐야 하는 이유를 살펴보자.

최근 부동산 시장의 거래절벽 현상이 가시화되고 있다. 일반적으로 부동산 시장이 침체 국면에 들어설 때 빛을 발하는 것은 경매시장이다. 부동산 전망이 암울하다 보니 낙찰 경쟁률도 현저히 낮아지게 되고, 감정가 대비 낙찰가 비율인 낙찰가율도 눈에 띄게 낮아지게 되면서 투자 인센티브가 상승하기 때문이다.

실제로 경매시장은 되살아나고 있는 분위기다. 법원경매 전문기업 지지옥션이 발표한 보고서에 따르면 2022년 10월 전국 아파트 경매 진행 건수는 1,472건으로, 동년도 6월 1,330건을 기록한 이후 다시 상승 곡선을 그리는 추세다. 게다가 2022년 10월 전국아파트 낙찰가율은 83.6%로, 2019년 이후 최저치를 기록한 동년도 9월(83.1%) 대비 0.5%p밖에 상승하지 않았다. 감정가가 시세와 비슷하다는 점을 고려하면, 최근 경매시장에 시세보다 저렴한 매물이 쏟아지고 있다는 의미다.

발 빠른 투자자들은 틈새 공략을 위해 부동산 경매시장으로 눈을 돌리고 있다. 부동산 시장을 제대로 분석할 수 있고, 저평가된 지역을 선별해 낼 수 있는 역량이 있다면 경매시장에서 초과 수익을 마음껏 누릴 수 있을 것이다.

경매시장에서도 버블은 발생한다

자연스럽게 한 가지 궁금증이 떠오른다. 경매시장도 매매시장과 마찬가지로 버블이 형성될 수 있을까? 이에 대한 답을 찾기 위해서는 한국 부동산 경매시장에 대해 이해해야 한다.

한국에서 경매는 부동산을 싸게 살 수 있는 수단이라는 인식이 강하다. 그런데 한 가지 특이한 점은 한국 경매시장에서 추정 가격을 높게 산정하거나 경쟁이 붙어 경매에서 이긴 사람이 손해를 보는 이른바 ‘승자의 저주(Winner’s Curse)’ 현상이 종종 발생한다는 것이다. 이는 여타 선진국과 차별되는 한국의 고유한 부동산 경매 시스템 때문이다.

한국의 부동산 경매 제도는 밀봉식 경매(Sealed-Bid Auction)와 최고가격입찰제(First-Price Auction)를 방식을 취한다. 밀봉식 경매는 다른 참가자들의 가격을 알 수 없어 입찰자 간의 독립성을 보장한다는 특징이 있고, 최고가격입찰제는 최고가를 써낸 자가 낙찰되며 자신이 제시한 가격을 지불하는 제도다. 입찰자들은 매매 시세보다는 낮고 경쟁자들보다는 높은 가격을 입찰가로 써내므로, 입찰 가격은 통상적으로 큰 차이를 보이지 않는다. 세입자 또는 채권자 등의 이해 관계자가 입찰하는 경우가 아닌 이상, 다른 경쟁자들보다 압도적으로 큰 금액을 입찰 가격으로 적는 경우는 드물다.

그런데 만약 현재 부동산 시장의 가격이 내재 가치를 정확하게 반영하지 않는다거나, 미래 가치가 오를 것이라는 기대가 시장에 자리 잡게 되면 상황은 달라진다. 초과 수익을 기대하는 시장 참여자들이 너도나도 할 것 없이 경매시장으로 대거 유입되면서 경쟁이 치열해질 것이며, 경매의 1등 가격과 2등 가격 간의 차이가 크게 벌어질 것이다. 게다가 입찰자들이 군중 심리에 의해 모여들면서 입찰 가격이 부풀려진다는 점에서, 이것은 부동산 매매시장의 버블과 일맥상통한다.

또한 부동산 경매시장은 매매시장을 선행한다고 알려져 있다. 이는 앞서 살펴봤듯 부동산 시세가 상승하기 시작하면 매매시장에 나와 있던 매물이 싼 가격에 경매시장으로 옮겨가면서, 경매시장이 활기를 찾게 되기 때문이다. 따라서 경매시장의 버블을 데이터 분석을 통해 찾아낼 수 있다면, 이를 통해 부동산 매매시장의 버블 또한 찾아낼 수 있을 것이다.

Ⅳ. 버블 지표: 1등과 2등 간 입찰 가격 차이

선행연구 조사

그간 진행돼 온 부동산 시세나 경매 낙찰가를 예측하는 기존 연구는 헤도닉 가격 모형(Hedonic price model)과 시계열 모형(Time series model)을 주로 사용했다. 헤도닉 모형이란 재화의 가격이 재화에 내재한 특성들의 양의 합이라는 전제를 바탕으로 한 회귀 모형이다. 기존 연구는 헤도닉 모형에 부동산의 특징이 될 수 있는 변수를 최대한 많이 추가해 정확도를 끌어올리는 방향으로 진행됐다. 그러나 무작정 많은 변수를 추가하는 것은 위험하다. 변수의 타당성이 부족한 채 불필요한 변수를 모델에 포함하면, 다중공선성(Multicollinearity)으로 추정량의 분산이 커져 신뢰할 수 없는 결과를 얻게 된다. 이는 헤도닉 가격 모형을 이용한 연구가 2010년대 중반 이후로 더 이상 나오지 않는 이유이기도 하다.

데이터 및 변수 선정

이에 본 연구에서는 기존 연구의 문제점을 극복하고자 경매시장의 ‘1등과 2등 간 입찰 가격 차이’를 버블의 지표로 보고 이를 통계적으로 검증하는 과정을 소개할 것이다.

본 논문에서 데이터는 2014년부터 2022년까지의 강남구 및 노원구의 분기별 거래량을 활용했다. 한국에서 거래량과 입찰 건수가 가장 활발한 강남구와 노원구 지역이 연구에 가장 적합하다고 판단했기 때문이다.

또한 본 논문은 헤도닉 가격 모형을 기본 골자로 하되, 일부 변형을 줬다. 종속 변수로는 보정된 낙찰가율(y)을, 독립 변수로는 유찰 횟수(FB_NUM), 입찰자 수(BD_Num), 1등과 2등 간 입찰 가격 차이(Index_5), M2 통화량(M2)으로 설정해 변수 선택에서 기존 연구와 차별점을 뒀다.

종속 변수인 보정된 낙찰가율에 관해 설명을 덧붙이자면, 법원 감정가(통상 KB시세)를 분모로, 낙찰가격을 분자로 하는 기존 낙찰가율은 분모와 분자 간 약 7~11개월의 시간 차이가 존재한다. 이에 본 논문은 아래 식을 통해 기존 낙찰가율의 분모인 법원 감정가를 ‘낙찰 시점’의 시세로 보정하는 과정을 거쳤다.

추가로 해당 회귀 모형의 독립 변수에 대해 부연 설명하면, 첫 번째로 ‘유찰 횟수’는 경매 위험 요인을 설명하는 통제 변수 역할을 한다. 즉 유찰 횟수가 많다는 것은 매매가보다 낙찰가가 높게 형성되어 경매 참여자들이 거래를 포기한 횟수가 많고, 이에 따라 다음 경매에서도 거래가 성사되지 않을 가능성이 높다는 뜻이다. 두 번째로 ‘입찰자 수’는 단어 그대로 해당 경매에 입찰한 사람들의 수를 의미한다. 즉 경매시장에 시장 과열(버블)이 발생하면 입찰자 수도 덩달아 증가할 것이라는 점에서 입찰자 수는 버블의 후보 지표로써 이해할 수 있다. 세 번째로 ‘1등과 2등 간 입찰 가격 차이’는 앞서 여러 번 설명했으므로 생략한다. 마지막으로 ‘M2 통화량’을 모델에 추가한 것은 일반적으로 통화량이 증가하면서 부동산 시세도 급증하는 경향이 있다는 점을 고려했다.

부동산의 내재 가치 배제 및 차우 검정 필요성

부동산 가격을 결정하는 요소는 다양하다. 학군, 일자리, 아파트 층수, 도로 근접성, 연식, 아파트 구조, 교통편의성 등 내재 가치에 영향을 주는 요소는 광범위하고 복잡하다. 따라서 필자는 위 낙찰가율 회귀 모형에 로그를 취해 내재 가치를 소거함으로써 본 논문의 본래 취지인 경매 특성에만 집중할 수 있도록 했다. 세부 과정은 아래와 같다.

또한 본 논문은 버블이 생기면 구조적 붕괴(Structural break)가 발생했을 것으로 가정하고, 이를 확인하기 위해 차우 검정(Chow test)를 진행했다. 이는 버블이라는 시장 과열 시기가 비이성적 투자 심리로 인해 여타 시기 대비 다른 양상을 띨 것이라고 가정한 것이다. 여기서 차우 검정이란 시계열 자료에서 특정 기간 전후 데이터를 두고, 두 개의 선형 회귀 모형의 회귀 계수를 비교해 ‘구조적인 충격 또는 변화가 있었는지’를 밝혀내는 통계 검정이다.

회귀분석 및 차우 검정

우선 전체 기간을 두고 회귀 분석을 진행했다. 종속 변수는 ‘보정된 낙찰가율'(y)을, 독립 변수로는 유찰 횟수(FB_NUM), 입찰자 수(BD_Num), 1등과 2등 간 입찰 가격 차이(Index_5), M2 통화량(M2)이다.

그림 5에 나와 있듯이 수정결정계수(Adj.R sqaure)는 0.774이고, 모든 독립 변수는 통계적으로 유의하다. 한 가지 주목할 점은 전체 기간 회귀 모형에서 Index_5(1등과 2등 간 입찰 가격 차이)의 계수가 0.039로 다른 독립 변수 대비 낙찰가율에 큰 영향을 주지 않는다는 점이다.

다음으로 차우 검정을 통해 구조적 붕괴 시점을 확인해 보자. 그림 6을 보면, 226(2016년 2분기)에서 구조적 붕괴가 일어났음을 통계적으로 확인할 수 있다.

구조적 붕괴가 일어났던 226을 기점으로 구조적 붕괴 이전과 이후 데이터를 구분하여 두 개의 회귀 모델을 만들고, Index_5(1등과 2등 간 입찰 가격 차이, 즉 버블지수)에 유의미한 변화가 있는지 살펴보자.

그림 8을 보면 구조적 붕괴 이전에는 Index_5가 유의수준 0.05를 기준으로 유의하지 않았으나, 구조적 붕괴 이후에는 Index_5(t-stat=2.613, p-value=0.01)가 통계적으로 유의하게 나타났다. 즉 실제 버블이 발생한 지점(구조적 붕괴 시점)에 버블 지수(Index_5)가 유의미하게 증가했다.

그림 9을 통해서도 Index_5가 구조적 붕괴 시점인 226 근처에서 크게 출렁이기 시작한 것을 볼 수 있다. 특히 226 시점 이후 Index_5가 크게 증가한 것을 확인할 수 있는데, 이는 해당 시점인 2016년 2분기 당시 저금리 기조 속에서 시중 유동자금이 강남 재건축 시장과 신규 분양시장에 몰리면서, 부동산이 과열된 상황을 보여준다.

이러한 이유로 1등과 2등 간 입찰 가격 차이를 버블 지표로 활용할 수 있음을 주장한다. 해당 지표를 활용해 버블이 계속 부풀려지는 것을 방지하고 예상치 못한 시기에 버블이 터져 부동산 시장이 침체기에 접어들기 전에 조치할 것을 제안한다.

최근 부동산 시장이 심상치 않다. 전 세계적으로 긴축 기조가 시작됨에 따라, 전문가들 사이에서는 코로나19 이후 통화 완화 정책으로 엄청난 유동성 수혜를 봤던 국내 부동산 시장의 '거품'이 꺼지면서 실물시장 충격에 대비해야 하는 것 아니냐는 우려가 나온다. 작년 말부터 미국을 포함한 주요국 중앙은행을 중심으로 인플레이션을 대비하기 위해 기준금리 인상이 지속되고 있는 가운데, 이에 따라 주택가격이 하락하면서 가계의 순자산 감소 및 부동산 개발업자들의 손실 확대로 이어져 종국적으로는 경기 침체로 확산할 우려가 있다는 것이다.

Ⅰ. 글로벌 유동성과 주택 가격 급등

한편 일각에서는 부동산 시장에서는 '거품'을 오히려 역이용해 '수익 기회'를 포착하려는 투자자들의 움직임도 존재한다. 예컨대 일부 투자자들은 조만간 부동산 가격이 꺼질 것이라는 예측에 저가 매수로 시세 차익(capital gain)을 기대하기도 하며, 공정 가격에 수렴하지 않았다는 전제하에 차익 거래(arbitrage) 기회를 도모하기도 한다. 즉 '위기'를 '기회'로 전환하는 셈이다. 따라서 이들에게 현재 시점의 부동산 가격이 본질 가치보다 할인(discount), 또는 할증(premium)돼 있는지 확인하는 작업은 무엇보다도 중요할 것이다.

아울러 주택담보대출을 주 사업으로 영위하는 금융기관 입장에서도 여신 사업의 흥망성쇠를 결정하는데 부동산 시장을 분석적으로 바라보는 작업은 매우 중요할 것이다. 본 연구에서는 부동산 시장, 그중에서도 부동산 경매 시장에서 '거품'을 왜 탐색해 내야 하는지, 그리고 어떻게 수학・통계적으로 '거품'을 탐색할 수 있는지 살펴본다.

부동산 경매 시장이 중요한 이유

우리나라 부동산 경매 시장에는 다양한 이해 관계자들이 참여하고 있다. 실수요 목적으로 경매 시장을 찾는 개인들, 차익 거래를 노리는 투자자들, 담보 대출을 다루는 금융 기관들과 부실 채권 사업자 등 많은 플레이어가 각기 다른 목적으로 참여하고 있으며, 특히 아파트 경매 시장은 그 관심도에 걸맞게 매매 시장과의 뚜렷한 가격 차이를 보기 어려울 정도로 활성화돼 있다.

이중 금융 기관과 경매 시장은 어떻게 연결돼 있는 것일까. 우리나라는 대출이 실행된 부동산에서 채무 불이행이 발생할 경우 국가에서 관리하는 법원 경매 또는 공매에서 처리하게끔 돼 있고, 금융 기관은 채무 불이행이 발생한 담보물을 경매로 처분하여 대출금을 회수하게 된다.

따라서 금융 기관들이 대출 한도를 결정하는 데 있어 중요한 요소 중 하나는, 채무 불이행이 발생했을 때 경매 시장에서 얼마큼의 원금을 회수할 수 있느냐에 따라 달려있다. 특히 주택담보대출비율(LTV) 제한을 받지 않는 핀테크(P2P lending)와 저축은행, 캐피탈 등의 2금융권은 그 중요성이 더 크다고 볼 수 있다.

또한 대부분의 금융기관의 주택 담보 대출의 비중이 굉장히 큰 편이므로 결국 안전한 한도 내에서 최대한 많은 금액을 대출하는 것이 매출 측면에선 가장 이상적인 형태가 된다. 아울러 주택담보대출 한도를 새롭게 갱신하는 금융 기관의 경우 경매 시장의 동향은 의사 결정 시 매우 중요한 지표가 된다.

가격이 아닌 시장을 보기 위해선

그러나 이를 위해 경매 시장을 살피는 것은 그리 간단치가 않다. 예를 들어 특정 시점에 서울 어느 지역에서 발생한 아파트 경매의 낙찰 가격이 일반 매매 시세보다 할인(또는 할증)되어 낙찰됐을 것이라는 짐작은 누구나 할 수 있다. 약간의 권리 분석을 동반한다면 보수적인 한도 측정은 그리 어려운 일이 아닐 것이다.

그러나 이를 하나의 경매 물건을 보는 미시적 관점이 아니라, 시장 자체의 움직임을 거시적으로 살피고자 한다면 분석의 관점을 바꿔야 한다. 예를 들어 주식 시장에서 삼성전자의 주가 흐름을 보는 것은 어려운 일이 아니다. 지난 1년의 주가 흐름을 분봉 단위까지 확인할 수 있다. 하지만 부동산의 경우 어느 지역 어느 단지의 301동 301호의 경매 건은 매월 발생하지 않는다. 범위를 단지로 확장해도 동일하다. 더 이상 가격 단위로 시장을 바라보는 것은 불가능하다는 것이다. 이 때문에 부동산 시장의 분석은 주식처럼 [시간 - 가격] 단위가 아닌 [시간 - 지역(공간)] 단위로 관점을 바꿔야 한다.

경매 낙찰가율 지표의 오류

일반 매매 시장에 아파트 매매 지수와 같은 시계열 지표가 있듯, 경매 시장에는 낙찰가율이라는 지표가 있다. 이는 매월 해당 지역 법원에서 공표되는 지표로 해당 지역에서 발생한 경매 건들의 낙찰가와 법원 감정가의 비율을 나타낸다. 예컨대 법원 감정가가 10억원이고, 낙찰가가 9억원인 경우의 낙찰가율은 90%가 된다.

일반적으로 법원 감정가는 시세로 간주하므로, 낙찰가율이란 시세 대비 낙찰 가격의 비율을 표현한 것이라고 볼 수 있다. 이때 낙찰가율을 지역에서 발생한 합계 건으로 계산하면 우리는 결국 해당 월에 발생한 경매 건들의 시세 대비 평균적인 낙찰가 비율을 확인할 수 있게 된다.

그러나 이 지표는 대단히 큰 오류를 가지고 있다. 법원 감정가는 경매가 발생한 시점에 책정된 가격이고 낙찰 가격은 낙찰 시점에 발생한 가격이다. 평균적으로 경매에 드는 시간이 7개월~11개월 정도라는 것을 감안했을 때, 그 시간 간격 동안 시세가 급락하거나 급등하게 된다면 지표는 오류를 가질 수밖에 없다. 예를 들어 최근 시세 급등기의 뉴스 등에서 서울의 낙찰가율이 120%를 넘었다는 등의 소식을 종종 들을 수 있었는데, 경매 낙찰 가격이 일반 시세 대비 1.2배나 더 높았다는 건 얼핏 이해하기가 어려울 것이다. 이는 앞서 언급했듯 실제로도 잘못된 정보다.

경매 진행 기간 (평균 7~11개월) 동안 매매 시세가 급등했다고 가정해보자. 입찰자는 낙찰 시점의 매매 시세를 기준으로 입찰을 하고, 법원 감정가는 경매 시작 시점에 고정돼있다. 결국 분모에 해당하는 법원 감정가가 현재 시세 대비 상대적으로 낮아지게 되고 결국 120%라는 일종의 착시 효과가 발생한 셈이다. 즉 낙찰가율을 액면 그대로 해석하는 것은 부동산 관련 의사 결정에 도움이 되지 못하거나 되레 큰 오류를 가져다 줄 수 있다는 것이다.

Ⅱ. 기존 연구의 한계점

그간 진행돼 온 기존 경매 시장 관련 연구 사례들에서도 낙찰가율 지표가 갖는 한계점을 개선하려는 시도가 존재했다. 예컨대 분모에 해당하는 법원 감정가를 매매 지수를 이용해 낙찰 시점으로 교정한 뒤 '진정한 낙찰가율'을 추정하는 사례들이 있었다.

그러나 이는 완벽한 해결책으로 보기에는 어렵다는 것이 업계의 공통된 의견이다. 만약 서울 지역의 진정한 낙찰가율을 추정하고 싶다면 해당 기간 서울 지역에서 발생한 모든 경매 건에 대해서 법원 감정가를 교정해야 한다. 법원 감정가와 낙찰 시점은 각 경매 건마다 모두 다르고 그것도 수백 수천 건에 달하는 모든 경매 건에 대해서 연구자가 직접 교정해야 한다. 또한 지역의 범위가 확대될 경우 물리적으로 엄청난 도전이 될 수밖에 없는 데다, 이를 해낸다고 하더라도 교정치는 근사치일 뿐 정확성을 보증하지 못한다.

그렇다고 연구자의 입맛과 편의대로 경매 건을 임의로 추출(sampling)하여 낙찰가율을 재생성한다면 그것은 일종의 표본 편향(sampling bias)을 일으킬 수 있다. 우리나라 남성 평균의 키를 알고 싶은데, 키가 큰 집단에서만 표본을 추출하면 생기는 문제와 동일하다.

지금까지의 내용을 종합하면, 비즈니스 의사 결정에 필요한 것은 가격 데이터가 아니라 시장 관점의 시계열 지표이며, 경매 시장의 시계열 지표인 낙찰가율에는 오류가 존재한다. 또한 법원 감정가 교정과 같은 방법은 실제 비즈니스에서 활용하기 어려운 방식이다.

이러한 문제들은 정확히 필자 또한 실무자로서 겪었던 문제들이기도 하다. 의사 결정을 위해 시계열 분석이 필요한 와중에, 낙찰가율의 고질적 문제로 인해 이를 제대로 활용하기 어려웠던 것이다.

낙찰가격 vs 낙찰가율

여기서 확실히 해둘 점이 있다. 경매 ‘낙찰가격’을 분석하는 것과 ‘낙찰가율’을 분석하는 것은 그 의미와 목적이 분명히 다르다. 이전 글에서 언급했듯 어느 한 경매건의 낙찰 가격에 대한 분석은 전혀 문제가 되지 않는다.

예컨대 아파트로 한정 지어 설명할 경우, 경매 사건의 입찰자는 입찰 시점의 매매 시세를 기준으로 입찰한다. 입찰 시점과 최종 낙찰 시점의 간격을 1~2달 정도라고 한다면, 부동산 자산의 특성을 감안하여 매매 시세가 주식처럼 한 달 사이 큰 폭의 널뛰기를 하지 않는다고 했을 때 낙찰 가격 자체는 낙찰 시점의 1~2달 전 시세에서 큰 변동 범위를 보이지 않는다는 것이다. 또한 초등학교까지의 거리, 층수, 브랜드 같은 매매 시세에 영향을 준다고 흔히 알려진 요인 등은 이미 아파트 매매 시세 자체에 반영돼 있을 확률이 높기 때문에 경매 낙찰가격에서 유의한 변수로 작용할 가능성은 작다고 볼 수 있다.

대부분의 부동산 경매 관련, 특히 아파트 경매 시장에 대한 기존 연구들은 ‘낙찰 가격’ 자체를 얼마나 정교하고 미세하게 예측하느냐와 유의한 요인이 무엇인지에 초점을 두고 있지만, 실제 비지니스에서 가격 예측에 대한 문제는 언급한 대로 큰 논의의 대상이 아니다.

실제로 간단한 회귀 분석(regression)을 수행해 봐도 낙찰 가격과 낙찰 시점의 1~2달 전 KB시세의 R-squared 는 95%가 넘고 비선형 관계를 갖지도 않는다. 또한 미래 시점의 추세 예측이 필요하다면 시계열 분석으로 형태가 바뀌어야 한다.

시간에 따라 변하는 할인/할증

긴 서론 끝에 본론으로 들어가 보자. 경매 시장을 분석하고 싶다. 그러나 시작도 하기 전에 데이터 자체에 큰 오류가 있고, 이를 일일이 교정하는 등의 방법은 적어도 업계에선 한계가 있다. 다른 방법이 필요한 것이다. 그럼 어떤 다른 방법을 쓸 수 있을까? 그 다른 방법을 사용한 분석을 통해 무엇을 알아낼 수 있을까?

이것이 본 연구 핵심 주제이자 배경이다. 실무에서 겪었던 난공불락(?) 이라 여겨지던 비지니스 문제 중 하나를 해결하기 위해 통계학이라는 도구를 사용한 것이다.

아울러 그 도구를 활용해서 시장에서 찾고자 한 것은 바로 매매 시장과 경매 시장의 차이이다. 이때 '차이'란 결국 경매 시장이 매매 시장 대비 갖는 할인/할증으로 표현할 수 있고, 나아가 시계열 분석이 꼭 필요한 이유는 할인/할증 요인이 시간(경기나 시장 국면)에 따라 유동적으로 변할 것이기 때문이다.

경매 시장의 할인/할증 요인

주택 경매의 할인/할증 요인에 대한 기존 연구는 꽤 다양한 편이다. 그러나 해외 및 국내 연구는 앞서 서술했듯 시장 관점이 아닌 가격 관점의 분석이 주를 이루고 있어 부동산 자체의 거시적 흐름을 파악하는 데 어려움이 있다. 이를테면 주로 몇 년 동안 발생한 경매 사건들을 취합해 법적 권리 이슈 등의 요소들을 제거하고 난 뒤, 매매 시장 가격과 비교하여 할인/할증이 있었고, 그 원인은 ‘무엇무엇’으로 추정된다는 스토리이다.

또한 해외에서 진행된 연구의 경우 사설 경매가 허용되고 호가제를 주로 채택하고 있어 우리나라에 직접적인 적용이 어렵다는 단점이 있다. 한편 국내 기존 연구의 경우 존재하는 소수 연구 역시 시장 관점의 분석은 전무한 실정이다. 앞서 언급했듯, 할인/할증 요인이 실존한다면 그 요인은 시간(경기 또는 시장 국면)에 따라 변한다고 가정하는 것이 합리적이다.

문제는 '데이터 확보'

경매 시장에 매매 시장 대비 할인/할증 요인이 존재한다고 가정해 본다면, 낙찰가율을 아래와 같이 재구성할 수 있을 것이다.

\[ Auction Sale Rate_{t} = \frac{\sum Market Price_{t} \pm Premium_{t}}{\sum Appraisal Price_{t-n}} \]

이번에는 위 낙찰가율의 3가지 요소를 영향 단위로 해석해 선형 회귀식(linear regression model)으로 바꿔보면 아래와 같다.

\[ Auction Sale Rate_{t} = \beta_{0} + \beta_{1} EoM_{t} + \beta_{2} EoA_{t} + \beta_{3} EoP_{t} \]

• EoM : Effect of Market Price 일반 매매 시장 영향
• EoA : Effect of Appraisal Price 법원 감정가 영향
• EoP : Effect of Price Premium 가격 할인/할증 영향

회귀식을 완성하기 위해선 총 3가지 변수에 해당하는 데이터가 필요하고, 이중 매매시세 영향은 한국부동산원에서 제공하는 매매지수로 대체가 가능하다. 이때 매매지수를 낙찰가율과 동일한 형태로 맞추기 위해 로그(log) 차분으로 변형돼야 함을 밝힌다.

그러나 남은 두 변수의 경우 데이터 확보가 현실적으로 어렵다는 문제가 있다. 첫 번째로 법원감정가 연구 데이터로 확보하는 것은 현실적으로 불가능하다. 법원감정가의 영향이란 과거 시점의 '법원감정 가격'을 의미하는 것이 아니라, 각 분석의 시점(통상적으로 월 단위)에서 법원 감정가격이 얼마나 영향을 주었는지를 의미한다. 즉 낙찰 시점으로 교정된 법원 감정 가격 데이터가 필요한 것이다. 그러나 이는 최근 10년간 전국의 모든 경매 건에 대해서 비싼 비용을 들여가며 전산화하는 과정을 거치지 않고서는 사실상 불가능하다고 봐야 한다. 두 번째로 할인/할증 영향의 경우 당장 눈에 보이지도 않는 요인을 외부 데이터에서 찾는 것은 불가능하다.

Ⅲ. 푸리에 변환 – 요인 분리·추출

시끌벅적하게 섞인 음성 속에서 어떻게 특정 남자 목소리만을 분리할 수 있을까? 이때 활용되는 것이 '푸리에 변환'이다. 푸리에 변환은 입력 신호를 시간 영역에서 주파수 영역으로 전환하여 모든 개별 주파수를 독립적으로 분리해 낸다. 그리고 그 주파수를 다시 신호 시간 영역으로 전환하면 (역 푸리에 변환) 고유의 음성을 찾을 수 있고, 그 음성만 남겨놓고 다른 요소를 0으로 만드는 형태로 노이즈 필터링(제거) 을 할 수 있다.

위와 동일한 맥락으로 낙찰가율을 시끌벅적하게 섞인 입력 신호로 본다면, 그 속에서 낙찰가율을 구성하는 요인들을 독립적으로 분리해 낼 수 있다. 이를 위해 먼저 위 그림과 같이 낙찰가율에서 매매시세 영향을 회귀식으로 제거해 주고 남아있는 잔차항(residual term)에 법원감정가와 할인/할증요인이 숨겨져 있다고 가정해보자. 이후 잔차에 남아있는 수많은 요소 중 가장 큰 영향력(strongest amplitude)을 가진 두 가지 요인이 바로 법원 감정가 및 할인/할증이라고 가정해 볼 수 있고, 이때 푸리에 변환으로 두 가지 독립 신호를 추출할 수 있다.

이러한 가정이 실제로 유의함을 통계적으로도 검증할 수 있다. 위 표에서도 확인할 수 있듯, 푸리에로 뽑아낸 두 가지 컴포넌트와 시세 데이터까지 초기에 가정한 회귀식의 3가지 변수만으로 낙찰가율을 회귀한 결과, 수정결정계수(adjusted R-squared) 기준 약 94%가 설명됨을 확인할 수 있다. 다시 말해 경매 시장이 실제로 3가지 변수(매매시세, 법원감정가, 할인/할증)로 설명된다는 것이다. 한편 푸리에 변환 추출 후 남은 잔차의 ACF/PACF plot(아래 그림)에서도 더 이상의 유의한 패턴은 존재하지 않는 것으로 확인됐다.

위 푸리에 변환을 통해 필자는 낙찰가율이 시계열 데이터로서 갖는 한계점과 외부 데이터 동원이 힘든 문제점 모두를 해결할 수 있었다. 또한 실제로 남은 두 가지 요인(법원감정가,할인/할증) 을 매매 시세 영향을 제거한 뒤의 잔차에서 추출할 수 있었다.

한편 주식, 채권 시장 등의 일반적 자산 시장 데이터에 푸리에 변환을 사용하는 것은 위험한 일임을 밝힌다. 푸리에 변환은 일정한 주기를 갖는 형태에만 사용할 수 있기 때문이다. 반면 낙찰가율 데이터는 집 값 시세나 매매 지수와 같이 지수 형태로 상승하는 데이터가 아니라, 경기 및 시장 국면에 따라 80~120% 사이의 움직임을 반복하는 주기성(cyclic) 데이터에 해당하므로 위 과정을 오류 없이 수행할 수 있었던 것이다.

법원감정가 추출

푸리에 변환을 통해 추출한 두 가지 요인이 실제로 법원감정가와 할인/할증 요인인지는 아직까진 연구자 가정에 의한 추정일 뿐이다. 따라서 해당 두가지 요인이 실제 법원감정가와 할인/할증 요인으로 연결되는지 정확하게 검증할 필요가 있다. 먼저 법원감정가의 경우 기존의 개별 경매 사례 (약 2,600건)을 통해 아래 두 가지를 분석했다.

• 법원 감정 시점과 낙찰 시점의 평균적인 시간 간격
• 법원 감정 시점에서 KB시세 (매매시세)와의 관계

법원감정 시점과 낙찰 시점의 시간 간격은 25% ~ 75% 범위 내에서 약 7개월 ~11개월의 간격을 갖는 것으로 확인됐고, 법원감정 시점에서 법원감정가-KB시세 상호 간의 관계는 Beta 계수 1.03 으로 거의 차이가 없는 것으로 나타났다. 필자는 두 가지 분석 결과를 종합해서 다음과 같은 결론을 얻을 수 있었다.

• 법원감정가와 매매 시세는 Lag 관계가 있다. (lag = 시간 간격)
• 매매 시세의 lag 변수가 법원감정가를 대체할 수 있다.

회귀 분석 결과 매매 지수의 lag 변수와 법원 감정가는 약 54%의 설명력을 갖는 바, 푸리에 변환으로 추출한 법원감정가 컴포넌트는 실제 법원감정가로서 기능을 할 수 있다는 것을 검증할 수 있었고, 두 번째로 lag 변수와 법원감정가 컴포넌트 중 각각 낙찰가율을 얼마나 잘 설명하는지를 대조했을 때 법원감정가 컴포넌트(50%)가 lag 변수(20%)보다 더 우월한 설명력을 보인다는 것을 확인할 수 있었다.

할인/할증 추출

이번에는 본 연구의 핵심인 할인/할증 컴포넌트에 대한 검증을 두 가지 측면에서 진행해 본다. 첫 번째로 푸리에 변환으로 추출한 할인/할증 컴포넌트가 그 기능을 할 수 있는지, 두 번째는 그 할인/할증 컴포넌트의 정체가 무엇인지다.

검증을 위해 할인/할증 컴포넌트가 일종의 on/off 효과를 낼 수 있도록 시그모이드(sigmoid) 함수 처리를 했고 (0/1) on/off에 따라 낙찰가율 데이터를 평균과 분산이 다른 두 개의 분포로 나뉠 수 있다는 것을 확인하여 그 기능을 할 수 있다는 것을 아래 그림과 같이 검증했다.

또한 이 컴포넌트의 정체가 무엇인지 통계청 등지에서 동원할 수 있는 많은 데이터와 대조를 시도하였으나 비슷한 움직임을 갖는 데이터는 찾을 수 없었다. 이에 대한 이유는 생각보다 간단했다.

경매 시장은 매매 시장 대비 종속적인 위치를 갖는다. 우리가 알고 있는 거시 경제 변수들은 매매 시세(집값)을 구성하는 요인일 가능성이 크고, 매매 시세 영향은 이미 회귀식에서 제거된 상태이기 때문에 결국 남은 변수들은 매매 시세와 독립적인 경매 시장만의 변수일 가능성이 높은 것이다. 결국 그렇게 찾아낸 비슷한 움직임을 갖는 변수는 위 그림에 해당하는 낙찰가율의 전월, 전전월 차분 값이다.

Ⅳ. 할인/할증의 정체는

지금까지의 분석 결과를 정리해 보면 다음과 같다. 낙찰가율에서 매매 시세와 법원 감정가 영향을 제외하고 난 뒤의 요인이 할인/할증 요인인데, 이러한 할인/할증 요인은 전월과 전전월의 차분값(변동성)과 비슷한 움직임을 보인다.

또한 위 논의를 바꿔 말하면 다음과 같다. 과거 차분값(변동성)이 두 가지 요인인 '매매시세' 및 '법원 감정가'로 미처 설명되지 않는 부분을 추가로 설명하고 있음을 고려하면, 경매 시장에는 할인/할증 요인이 존재하되 그 원인은 변동성(과거 낙찰가율의 차분값)이라는 것이다. 후술하겠지만, 필자는 이러한 할인/할증 컴포넌트가 일종의 추세를 설명할 수 있는 요인이라는 판단하에 '모멘텀 팩터'로 명명했다.

모멘텀 팩터의 '군집 특성'

칼만 필터에서의 상태공간(state-space)에서는 회귀 계수(beta)가 시간에 따라 변한다는 것을 바탕으로 한다. 이때 시간에 따라 변하는 회귀 계수의 움직임을 추적하면 시간대별로 해당 변수가 종속 변수에 '얼마만큼'의 영향을 미치는지에 대한 '민감성'(Sensitivity)을 확인할 수 있다.

우리가 흔히 수행하는 회귀분석의 최소자승법(Ordinary Least Square, OLS)는 회귀 계수(beta)가 고정돼 있다고 가정한다. 그러나 필자는 '모멘텀 팩터'의 특성을 더 자세히 분석하기 위해 회귀 계수가 시간에 따라 변화하는지 확인하기 위해 칼만 필터(Kalman-Filter)를 활용했다.

분석 결과, 아래 그림과 같이 특정 구간에서 모멘텀 팩터의 회귀 계수가 매매 시세 회귀 계수를 초과하는 것을 확인할 수 있다. 그리고 이 초과하는 구간을 확인해보면 모멘텀 팩터는 일종의 군집 현상을 갖는 것을 볼 수 있다.

모멘텀 팩터의 진정한 의미

앞서 살펴본 '모멘텀 팩터의 민감성이 매매 시세를 초과하는 구간'에 대해 조금 더 깊게 생각해볼 필요가 있다. 모멘텀 팩터는 할인/할증을 설명하는 요인이다. 따라서 낙찰가율을 구성하는 할인/할증 요인이 평소보다 더 민감하게 작용했다는 것은, 매매 시장과 경매 시장이 평소 가지고 있던 '평균적인 관계'에 금이 갔다는 뜻으로도 해석할 수 있다.

‘평균적인 관계에 금이 갔다’라는 것은 구체적으로 무엇을 의미하는 걸까? 매매 시장과 경매 시장이 평소 만약 10이라는 이격을 유지하는 관계라고 가정해 보자. 평균적 관계에 금이 간 상황은 이 이격이 5로 줄어들었거나 15로 증가한 것을 의미한다. 위의 대표적인 상황은 부동산 시장이 과열됐거나 과냉된 상황, 혹은 그런 상황이 만들어지기 직전 정도가 될 것이다. 다시 말해 너도나도 집을 구매하려는 시기엔 자연스럽게 '평균 관계를 깨뜨리는' 과열이 생길 수 있고, 이를 경매 시장의 '인기도'라고 해석할 수 있다.

그러나 위의 해석에 있어 한 가지 유의해야 할 사항이 있다. 위 분석 결과에서 나타나듯 일반적으로 매매 시장이 하락하면 경매 시장 또한 덩달아 하락한다. 이는 경매 낙찰가율의 변화를 견인하는데 가장 큰 영향력을 행사하는 요인이 '매매시세'임을 감안하면 당연한 현상이다. 즉 시장에 하락이나 상승이 발생했을 때, 모멘텀 요인이 작동하지 않더라도 매매 시장 영향에 따라 경매 시장도 오르고 내릴 수 있다는 것이다. 다시 말해 ‘모멘텀 팩터의 발동’이 반드시 시세 상승/하락을 의미하지는 않는다는 것이다.

한편 할인/할증 요인은 결국 매매 시세의 영향 + '@'로 정의된다. 이때 할인/할증 요인의 민감성 분석 결과는 '@'이 '평균 이상의 과도한 움직임'을 보일 때를 움직인다. 필자는 이러한 할인/할증 요인이 시장 심리 또는 추세 변화를 감지하는 역할을 수행할 수 있을 것이라 판단해 '모멘텀 팩터'라고 명명한 것이고, 실제 위 그림에서 보다시피 모멘텀 팩터의 군집 기간을 전후로 시장 추세가 변한 것을 확인할 수 있다.

또한 모멘텀 팩터가 평균 이상의 과도한 움직임을 보일 때, 이를 '버블 징후' 또는 '냉각 징후'로도 생각할 수 있다는 점을 조심스럽게 제시한다. 이에 대한 탐구는 본 [논문이야기]의 범주를 초과하므로 더 이상의 논의는 하지 않으나, 이에 대한 추가 연구로서의 가치는 충분할 것으로 보인다.

V. 기술보다는 논리에 초점

위 주제로 논문을 쓰게 된 이유는 실제로 전공이 부동산이거나 전문 분야라서는 아니다. 최근 몇 년간의 업무 대부분은 데이터 기반 의사 결정을 할 수 있도록 기존 시스템을 하나씩 바꿔나가는 것이었고, 그 중 하나가 대출 심사였으며, 또다시 그중 하나가 부동산 관련된 것이었다.

데이터 사이언스에 대한 정의가 개개인 마다 다르다는 것은 잘 알고 있다. 하지만 필자의 경우 데이터 사이언스 분야는 비지니스 문제 해결을 위한 도구로써 최상의 조건을 가질 수 있었다. 이에 따라 논문의 주제도 실무에서 난공불락이라 여겨졌던 주제를 택했고, 그 해결을 위해 학교에서 습득한 지식을 적극 활용하고자 했다.

필자가 본 논문을 통해 어필하고 싶은 부분은 기술적 측면이 아닌 논리적 측면이다. 실제 논문에서 사용된 기술은 회귀분석(Regression), 푸리에 변환(Fourier transformation), 칼만 필터(Kalman Filter) 정도로, 이공계 대학원 이상 레벨의 특별히 어려운 테크닉은 사용되지 않았다. 물론 해석이 중요한 금융 데이터에서 ML/DL 등의 비선형 패턴 매칭(Non-linear pattern matching)을 무분별하게 사용할 수 없다는 인센티브도 존재했으나, 필자에게 있어서 기술은 문제에 걸맞은 방법이 필요했을 뿐, 그 이상은 필요 없었다. 그보다 더 중요한 건, 어떻게 이 문제를 논리적으로 해결해 나가고 풀어나갈 것이냐에 달려있었다.

도구로서 작용할 때 이상적이라고 했던 것은 바로 이 지점을 언급한 것이다. 적어도 비지니스 문제 해결을 위해서는 논리가 우선이고 기술은 도구라고 생각한다. 이 것이 나만의 이상적인 형태이고, 그래서 논문의 컨셉을 불필요함이 없이 간결하면서도 논리적으로는 탄탄함을 추구하는 그런 형태를 유지하고 싶었다.

비지니스와 연구 사이의 이격

논문의 주제를 탐색할 무렵, 필자는 '어떤 문제를 해결해 볼까'는 마음가짐으로 리서치를 진행했던 것으로 기억한다. 문제 해결에 집착 아닌 집착을 하게 된 이유는, 짧은 경험에서 비롯된 편견이겠으나 비지니스와 연구 세계에 좁혀지지 않는 이격이 있다고 봤기 때문이다.

필자는 실무자로서, 아직 대부분의 분야에서 의사 결정의 대부분은 데이터보단 사람의 주관에 기대는 경향이 크다고 생각한다. 더불어 대부분의 업계에서 데이터 분석 시스템 도입의 실패를 겪고 있는 것으로 알고 있고, 필자 또한 이를 피부로 느끼던 점들이 많았다. 분야마다 사정은 각기 다르겠지만, 적어도 필자가 속한 분야는 오랜 관행의 이유도 있고, 무엇보다 이유 중 하나는 연구와 비지니스 간 괴리가 컸기 때문으로 생각했었다.

필자가 업계에서 바라볼 때, 수많은 연구 결과는 '실제 사용 가능성'을 배제한 채 연구 자체에만 치중하고 있다는 느낌을 지울 수 없었다. 반면 필자가 학계에서 바라본 비지니스는 통제 불가능한 변수들이 뒤섞인 현실 세계의 복잡성은 둘째치고, 사람의 주관에 의해 행해지는 것은 너무 많다는 것을 느꼈다.

비지니스와 연구 사이의 브릿지

따라서 본 논문의 진짜 의도는 미약하게나마 비지니스와 연구라는 두 개의 세계를 연결하는 것이었다. 데이터 분석이라는 것을 비지니스 문제 해결에 적극 사용하는 '컨셉러'가 되고 싶었던 것이다. 이에 따라 필자는 본 논문이 연구와 비지니스 그 중간 어디쯤 자리 잡고 있다고 생각한다. 또한 필자는 본 논문을 쓰는 과정에서 연구로서 호기심에 경도되지 않기 위한 내적 갈등이 굉장히 치열했으며, 이를 이겨내고 연구를 최대한 '현실 사용 가능성'에 맞추기 위해 큰 노력을 기울였음을 밝힌다.

논문의 결과와 퀄리티는 논문을 평가하시는 분 또는 실제 산업에서 증명될 것이지 필자가 정하는 것은 아닐 것이다. 그러나 앞으로도 또 다른 필자의 결과물들은 언제나 연구와 비지니스 그 중간 어디쯤에 위치하게 될 것 같다. 두 세계의 다리를 잇는 일은 정말 매력적인 일이 아닐 수 없다.

대학원 수업들을 절반 이상 이수하며 졸업을 얼마 안 남긴 시점에서, 데이터 사이언스와 인공지능을 배우기 위해 이 대학원에 온 만큼, 기존 통계학 분석 방법이 아닌 머신러닝과 딥러닝이 잘 사용되는 분야로 논문을 작성하고 싶었다. 그렇게 해야 대학원 교육과정을 마치는 의미가 더욱 클 것 같았기 때문이다.

데이터를 찾기 쉽고, 딥 러닝을 활용할 수 있는 분야

필자를 포함한 많은 사람들이 데이터를 확보하기 힘들다는 이유로 논문 작성에 많은 애로사항을 겪었다. 그래서 데이터를 쉽게 확보할 수 있으면서도 기존의 방법론으로 유의미한 정보를 뽑아낼 수 없었던 분야를 선정해야만 했다. 대학원에서 우리는 특정 주제에 국한된 연구를 한 것이 아니라, 수학적・통계학적 이해를 바탕으로 데이터 분석의 방법론을 폭넓게 배웠기 때문에 모든 선택지를 열어두고 주제를 탐색할 수 있었다.

그렇게 해서 논문의 주제로 선택한 분야가 딥러닝(Deep Learning)의 토픽 모델링(Topic modeling)이다. 토픽 모델링을 선택한 이유는 통계학 기반의 로직을 넘어 해당 분야를 위한 딥 러닝 방법론이 잘 발전돼 왔고, 판별 모델(discriminative model)이 아닌 데이터의 확률을 바탕으로 숨겨진 구조(underlying structure)를 추적하는 요인 분석(factor analysis)의 적층형 구조인 생성 모델(generative model)로 활용되기 때문이다. 또한 우리나라에서 이와 관련된 연구를 하시는 훌륭한 분들이 많이 계셔서 좋은 교육 자료들을 참고하고 감을 잡기 용이했기 때문이다.

한국 무역의 높은 선진국 수출 의존도를 해결할 수 있는 방법?

이후 많이 아껴주시던 교수님과 얘기를 나누던 중 "하고 싶은 분석을 하는 것이 아니라 사회에서 필요로 하는 인공지능 문제를 찾아보는 건 어떤가요?"라는 말씀을 듣게 됐고, 이에 따라 IMRaD 접근 방법을 기준으로 내가 기여할 수 있을 만한 NLP 문제들을 찾아보기 시작했다. 그러던 중 우연히 한 논문을 접하게 됐다.

논문에 따르면, 한국은 전 세계에서 위상이 높은 경제 구조를 가졌음에도 불구하고, 내수 시장보다 외수 시장이 차지하는 비율이 크기 때문에 구조적으로 해외 경제에 대한 의존도가 높다고 했다. 다시 말해, 선진국의 수입 수요가 줄어드는 상황이 발생하면 한국의 경제 구조가 언제든 불황을 겪을 수 있다는 것이다. 또한 최근 중국과의 무역 악화로 인해 한국 무역 시장이 전반적으로 타격을 입으면서 이제는 수출의 다원화가 필수적인 시점이 됐다고 설명했다. 논문에서는 이러한 '수출의 다원화'를 추진하기 위해 공공기관들(KOTRA, 한국무역협회, 소기업벤처진흥공단, 한국무역통계진흥원 등)이 다양한 서비스를 내놓고 있으나, 그들이 제대로 된 역할을 수행하고 있다고 보기에는 어렵다고 지적했다.

한국의 수출 다원화를 위해 필요한 진정한 '빅데이터 서비스'

논문에서 가장 많이 지적되는 부분이 위와 같은 바다. 즉, 공공기관들이 '빅데이터 서비스'라는 명목으로 제공하는 수치들이 한국 기업 및 바이어 매칭에 실질적으로 도움이 되지 못하고 있다는 것이다. 기존의 해외 수출을 하던 대기업들은 이미 연결된 거래처가 있으며, 시장을 뚫을 수 있는 노하우와 자본력이 있어 큰 어려움 없이 수출을 이어갈 수 있다. 그러나 여건이 부족한 중소기업이나 셀러들은 혈혈단신으로 새로운 시장을 개척해야 한다. 이러한 상황에서 현 시점의 공공기관들이 국가의 경제와 경쟁력을 키우기 위해 필요한 정보를 제공하고, 바이어를 매칭해주는 기능을 제대로 수행하지 못하고 있다는 것이다.

물론 앞서 언급한 기관들은 지금까지 한국의 많은 기업들이 수출할 수 있도록 도와준 경험과 노하우, 그리고 공급망을 가지고 있다. 논문에서 지적하는 바는 공공기관이 제공하는 서비스가 단순히 빅데이터와 AI 서비스가 아니라는 점이다. 그렇다면 이 기관들의 장점을 살리면서도 수출하는 기업과 셀러들에게 도움이 될 수 있는 빅데이터와 AI 서비스는 무엇일까? 내가 생각한 것은 데이터를 바탕으로 계산 과정, 모델, 그리고 분석 결과까지 '해석이 가능한' 서비스로, 의사결정에 실질적인 도움을 줄 수 있는 서비스였다. 그리고 이를 구현하는 것이 나의 논문 주제가 다.

AI(Artificial Intelligence) 분야에서 가장 먼저 떠오르는 교수님은 누구일까? 나는 앤드류 응(Andrew Ng) 교수님이 떠오른다. 왜 그런지는 모르겠지만, 언젠가부터 주변에서 앤드류 응 교수의 강의, 인터뷰, 논문을 접했다고 말하는 사람들이 늘어나기 시작했다. 지금 생각해보면, 앤드류 응 교수의 논문이 2000년대 초반에 발표되었다는 점을 고려할 때, 최근에 이 교수의 명성을 접하게 된 나는 조금 늦은 감이 있다는 생각이 든다. 신기하게도 내 논문의 토픽 모델링(topic modeling)은 앤드류 응 교수님의 LDA(잠재 디리클레 할당, Latent Dirichlet Allocation) 논문에서 시작됐다

LDA는 '맥락'을 반영하지 못한다

LDA의 경우 토픽(topic)의 비율(분포)을 베타 분포(beta distribution)로 가정하고, 이 가정 하에서 모든 문서의 단어들을 토픽에 임시로 배정한다. 그 후 각 토픽에서 차지하는 단어들을 바탕으로 사전 파라미터(prior parameter)를 계산하고, 이를 쿨백-라이블러 발산(KL-divergence)으로 측정하여 변화량이 계속 좁혀질 때까지 토픽 배치를 반복적으로 바꾸고 수렴하는지 확인한다. 한편, LDA는 깁스 샘플링(gibbs sampling)을 사용하기 때문에 이후 설명할 NVI(Neural Network Variational Inference)와는 상당한 차이가 있다.

이렇게 어려운 용어를 쓰면서 결국 하고 싶은 것은 뭐냐고 묻는다면, LDA를 통해 문서라는 말뭉치(corpus)에서 토픽을 찾겠다는 것이다. 즉, 연구자가 $k$개의 토픽이 문서를 구성한다고 설정해주면 LDA 모델은 그 토픽을 추출하기 위한 학습을 수행한다.

LDA 계산의 가장 큰 맹점은 '단어의 순서와 앞뒤 관계를 조건적으로 독립'으로 가정한다는 것이다. 쉽게 말하면, LDA를 활용하면 상대방이 어떤 이야기를 하고 있는지에 상관없이 내가 다음에 할 말은 전혀 다른 새로운 토픽에 속하게 된다는 것이다. 예를 들어, 주제 B와 C에 대해 이야기하고 있었는데, 그런 맥락은 고려하지 않고 갑자기 A에 대해 이야기하게 된다는 것이다. 즉, LDA는 '맥락'을 반영하지 못하는 치명적인 단점이 있다.

문서 전반의 정보를 모두 활용하는 LSA

한편, LSA(Latent Semantic Analysis, 잠재 의미 분석)는 LDA의 단점을 상당 부분 보완한다. 즉, 단어와 단어, 단어와 문서, 문서와 문서 간의 '관계'를 특이값 분해(Singular Value Decomposition, SVD)로 풀어낸 것이다.

여기서 원리는 간단하다. 여러 문서(document)가 있는 상황에서, 문서 내의 단어가 동시에 등장했는지를 그래프 상으로 표현하고, $n \times m$ 행렬을 SVD로 분해하면 단어(word)를 나타내는 고유 벡터(eigen vector)와 문서를 나타내는 고유 벡터들이 벡터 공간(vector space)에서 문서의 맥락 안에서 어느 정도 비중을 차지하는지를 나타내는 고윳값(eigen value)을 추출할 수 있게 된다.

LSA는 SVD라는 간단한 계산으로 이뤄지는 베이직한 모델임에도 불구하고, 말뭉치(corpus) 전체의 통계적 정보를 모두 활용한다는 점에서 주목할 만한 방법론이라고 할 수 있다. 그러나 여기에도 단점이 있다. 앞서 언급했듯 LSA는 빈도수(count) 기반의 TF-IDF 행렬을 활용하며, 이 행렬의 요소가 단어가 나온 '횟수'에 불과하기 때문에 단어의 의미를 유추하는 데 있어서는 성능이 떨어진다는 것이다.

문서 전반에서, 단어적 맥락을 반영하는 워드 임베딩 기법, GloVe

위의 단어 간 순서, 즉 '맥락적 종속성'을 반영하기 위한 모델로는 글로브(Global Vectors for Word Representation, Glove)가 있다. 글로브는 단어 간 맥락적 관계를 반영하는 단어 벡터 표현, 즉 워드 임베딩(word embedding) 방법론이다. 이는 Word2Vec이 '맥락은 반영하지만, 문서 전체의 정보를 반영하지 못한다'는 한계를 극복하고, 장점만을 살린다는 취지에서 개발된 모델이기도 하다. 즉, 말뭉치 전체의 통계 정보를 반영하면서도, 밀집 표현(dense representation)을 통해 단어 간 유사도를 내적으로 쉽게 계산하겠다는 것이다. 이를 위해 Glove는 아래 목적함수 J를 최소화하는 임베딩 벡터를 찾아내는 것을 목표로 한다.

GloVe의 목적함수 J에 대한 복잡한 수식 도출 과정을 생략하고 직관만 전달하자면, GloVe의 핵심은 '임베딩된 두 단어 벡터의 내적'이 '전체 말뭉치의 동시 등장 확률'이 되도록 하는 것이라고 요약할 수 있다. 이는 목적함수에 최소제곱법(Least Square Estimation)을 적용함과 동시에, 언어 데이터를 인풋으로 사용하는 모델 특성상 빈번하게 발생하는 과적합(overfitting)을 방지하기 위해 적절한 가중치 $f(X_{ij})$를 곱해주는 방식으로 표현된다.

한편, GloVe 모델은 다양한 텍스트를 대량으로 학습시켜 광범위한 언어 규칙과 패턴을 포착할 수 있도록 해야 한다. 이렇게 학습된 모델은 다양한 작업 및 도메인에 걸쳐 일반화 가능한 단어 표현을 이해하고 활용할 수 있게 된다.

이렇게 LDA부터 GloVe까지 토픽 모델링 기술의 변천사를 언급한 이유는, GloVe를 통해 '문서의 정보를 충분히 반영한' 임베딩 벡터가 본 논문의 핵심 알고리즘인 GNTM(Graph Neural Topic Model)의 입력값으로 사용되기 때문이다.

단어 간 '그래프 관계'를 살펴보는 방법, Word Graph

지금까지 살펴본 기술들(LDA, LSA, GloVe)은 단어들의 독립성(independency) 가정에 대한 한계점을 보완하기 위해 설계된 모델들이다. 다시 말해 각 단어 간의 '맥락'을 반영하기 위한 워드 임베딩 기법의 단계적 발전으로 볼 수 있다. 이번에는 Word Graph를 활용해 단어 간 관계를 확인해보고자 한다.

앞서 논의한 GloVe와 후술될 Word Graph는 단어 간 관계를 이해해보겠다는 측면에서는 공통점이 있다. 그러나 GloVe를 통해 계산된 임베딩 단어 벡터는 유클리드 공간에 매핑되는 반면, Word Graph를 통해 파악되는 문서 내 그래프 구조는 비유클리드 공간에서 정의된다. 이를 통해 Word Graph는 유클리드 공간에서 정의된 기존 수치형 데이터가 미처 발견하지 못하는 '숨겨진' 관계를 찾아낼 수 있다.

그렇다면 '주변에 있는 단어와의 관계를 나타내는 구조'는 도대체 어떻게 계산할 수 있을까? 우선 GRF(Global Random Field)는 단어 내 토픽의 가중치와 그래프를 연결하는 엣지(edge) 내 토픽들의 정보를 바탕으로 문서 내 그래프 구조를 표현한다. 이는 아래와 같다.

여기서 중요한 부분은 엣지의 마지막 항에서 이들의 합이 1이 아니라는 점이다. $w’$가 topic 1에 해당할 경우, $w’’$가 해당하는 모든 경우의 수의 합은 1이 되겠지만, $w’$는 topic 1 외에도 다른 topic에 할당될 수 있기 때문이다. 그래서 정규화(normalization) 역할을 하는 엣지의 총 개수 $|E|$가 분모로 곱해진 것이다.

Li et al. (2014)가 제시한 GTRF 또한 GRF와 크게 다르지 않다. 이제 topic z의 분포(distribution)가 $\theta$에 따른 조건부 분포(conditional distribution)가 되었으며, 이들을 학습하고 추론하는 과정에서도 EM 알고리즘이 동일하게 적용된다. 이를 통해 계산된 $p_{GTRF}(z|\theta)$는 두 토픽이 연관될 확률을 의미한다. 즉, 주변 단어인 $w'$와 $w''$가 동일한 토픽으로 배정되는지, 또는 다른 토픽으로 배정되는지를 모두 고려하여 그래프 구조의 확률을 구하는 것으로 이해할 수 있다.

본 연구의 핵심 워드 임베딩 기술로 사용하게 된 배경을 살펴보고, 나아가 그래프 표현을 통해 '토픽 내 단어 간 관계'를 심도 깊게 반영하는 GTRF를 소개했다.

위 논의를 기반으로, 본 연구의 핵심인 'GNTM(Graph Neural Topic Model)'을 살펴본다. GNTM은 higher order GNN(Graph Neural Network, 그래프 신경망)을 활용한다. 즉, 위 그림처럼 GNTM은 order를 확장하면서 다양한 단어들의 연결 관계를 심층적으로 이해하고 임베딩할 수 있게 된다.

한편, GNTM은 NVI 계산을 통해 신경망의 계산 비용을 상당히 개선할 수 있다.

Graph Neural Topic Model은 뭐가 다른 건데?

GNTM은 LDA에서 '그래프 구조'를 계산에 반영하는 과정을 하나 더 추가하는 한편, 학습을 효율적으로 하기 위해 변분 추론(Variational Inference, VI) 대신 신경망(Neural Network)을 이용한 신경망 변분 추론(Neural Variational Inference)를 활용하는 것이 특징이다.

GNTM(GTRF)의 메커니즘을 살펴보자. 위 그림은 GTRF 계산을 LDA 계산과 함께 펼쳐놓은 것이다. 앞서 살펴봤듯, GTRF는 $\theta$가 정해졌을 때의 조건부 분포(conditional distribution)에 따라서 z의 구조가 달라지는 것을 학습하는 계산이다.

어려울 수 있으니, 큰 틀에서 파악해보자. 먼저 문서 전체에 걸쳐 토픽들이 고루 퍼져 있다고 가정했을 때, 각 토픽이 차지하는 비율은 다를 것이다. 이 비율을 나타내는 파라미터를 $\alpha$라고 하자.

이때 $\alpha$는 (LDA 접근 방법과 동일하게) 베타 분포(Beta distribution)의 확장 버전인 디리클레 분포(Dirichlet Distribution)의 형태를 결정하는 파라미터다. $\alpha$에 따라 분포의 모양은 아래와 같이 변하게 된다.

이렇게 해서 $\alpha$라는 파라미터로 토픽들의 비율이 정해지면, 그 비율을 나타내는 파라미터인 $\theta_d$라는 변수가 나오게 된다. 이는 분포의 비율을 결정하는 것이지, 경우의 수가 고정된 것은 아니기 때문이다. 나아가, 토픽 $z$가 결정되면, 그에 따른 구조 $G$와 단어 셋 $V$가 결정된다.

GNTM의 차별점(1) : LDA에 그래프 구조 반영

지금까지의 논의를 통해, 우리가 가지고 있는 뉴스 정보를 수치화하는 과정을 거쳤다. 이제는 어떻게 정확하고 빠르게 계산할 수 있을지 고민할 시간이다.

처음 단계는 매우 간단하다. 디리클레 분포의 모든 파라미터($\alpha$)를 1로 설정하여 $n$차원에서 균등분포를 만든다. 이는 현재 가지고 있는 정보가 없기 때문에 토픽의 비율이 모두 동등하다고 가정하는 것이다.

다음으로, 토픽의 비율이 균등분포라는 가정 하에 랜덤하게 추출된다. 이 추출된 토픽 비율에 따라 토픽 $z$에 맞춰 기사 문서 속 단어들의 토픽 배분이 랜덤으로 결정될 것이다. 한편, 중간 그래프 구조(graph structure)인 $G$는 어떤 구조가 숨어 있는지 '학습'할 영역이므로 모델링 초기부터 정의할 필요는 없다. 따라서 처음의 식은 아래와 같이 정리된다.

GTRF에서도 이미 확인했듯, 주어진 조건(여기서는 topic)에 따라 그래프 구조가 나올 확률이 다르며, 이를 나타내는 방법은 이항 분포의 분산 모양에서 확인할 수 있는 $p(1-p)$를 모두 곱하는 것입니다. 다시 말해 단어들한테 임의로 토픽을 할당하고, 그 할당 비율을 통해 $m$를 구할 수 있으며, 그 값을 통해 토픽들 간에 구조가 나올 확률을 이항 분포의 분산으로 수치화한다는 것이다.

GNTM의 차별점(2) : NVI

마지막으로 살펴볼 부분은 NVI다. NVI는 텍스트 데이터 안에 있는 잠재 토픽의 사후 분포를 추정하는 방법이다. NVI 알고리즘은 다양한 분포에서 실제 사후 분포를 정확하게 추정하기 위해 Neural Network 구조를 이용해 파라미터화한다. 물론 그 과정에서 변분 추론(VI)에서 자주 사용하는 reparameterization(재파라미터화) 트릭을 통해 더 간단한 구조의 분포를 사용하여 추정하기도 한다. 신경망을 활용한다는 것은 적은 차원으로 데이터를 학습하는 VAE(Variational AutoEncoder)보다 다양한 분포에 적용할 수 있다는 것을 의미한다. 이는 보편적 근사 정리(Universal Approximation Theorem)를 바탕으로, 이론적으로 모든 함수를 신경망을 통해 추정할 수 있다는 점에서 뒷받침된다.

Reparameterization에 대해 부연하자면, 이는 기존의 확률 분포를 추론하는 과정에서 다른 분포로 대체하여 학습 가능한 파라미터로 표현하는 것이다. 이를 통해 역전파 계산이 가능해지고, 기울기를 효과적으로 계산할 수 있게 된다. 이 기법은 VAE에서 잠재 변수의 샘플링 과정에서 주로 사용된다.

앞서 언급했듯, NVI뿐만 아니라 VI에서도 reparameterization trick이 사용된다. 그러나 NVI만의 장점은 신경망을 통해 다양한 분포를 추정할 수 있다는 점이다. 기존의 디리클레 분포(Dirichlet Distribution) 기반 VI는 하나의 정보만을 활용할 수 있는 반면, NVI는 로지스틱 정규 분포(Logistic Normal Distribution)를 활용해 평균과 공분산이라는 두 개의 정보를 활용할 수 있다. 나아가 NVI는 토픽 간의 구조를 추정하던 GTRF처럼, 토픽 간 관계에 대한 정보를 추론하는 과정을 모델에 반영한다.

지금까지 '화려한' 모델들을 사용해 계산 효율성(Computational Efficiency)을 최대화하면서도, 어휘 간 맥락을 반영할 수 있는 토픽 모델링을 설계했다. 그 다음으로 연구를 진행하면서 내가 가장 많이 고민했던 부분은 '이를 통해 어떻게 의사 결정을 내릴 수 있을까'라는 점이었다.

보편 근사 정리(Universal Approximation Theorem, 신경망 모델에서 하나의 레이어만으로도 여러 개의 노드를 추가하면 어떤 함수든 정확히 근사할 수 있다는 수학적 정리)에 따르면, 딥러닝은 계산 비용(Computational Efficiency)을 충분히 지불한다면 어떤 함수든 정확히 추정할 수 있다. 물론 이 과정에서 과적합(overfitting)에 대한 위험을 충분히 고려해야 한다. 하지만 내가 수요자들에게 제공하고자 했던 것은, 실질적으로 본 모델을 활용하는 사람들이 그 결과를 보고 정량적인 의사 결정을 내릴 수 있게 하는 것이었다.

이와 관련해 가장 먼저 의사 결정을 내려야 할 부분은 바로 'GNTM'이라는 모델을 통해 '토픽을 몇 개까지 뽑아내야 하는가'라는 점이다. 이는 PCA(Principal Component Analysis, 주성분 분석)에서 '변수를 몇 개까지 추출해야 하는가'와 같은 선상의 질문이라고 할 수 있다.

계산 효율 관점에서의 토픽 수 결정

먼저 계산 효율(Computational Efficiency) 관점에서, 그리고 계산 비용을 최소화하는 차원에서 토픽의 개수를 결정해보자. 나 역시 학교에서 이론으로 공부할 때는 왜 계산 효율을 따져야 하는지 공감하지 못했다. 그때 다뤘던 모델들은 몇 분이면 계산이 끝나는 '가벼운' 모델들이었기 때문이다.

하지만 본 논문은 약 450만 개에서 500만 개의 어휘로 구성된 방대한 양의 텍스트를 다루며, 모델이 본격적으로 '무거워'지기 시작한다. 물론 앞서 계산 비용을 줄이고 정확도를 높이기 위해 LDA와 그래프 구조, NVI 등 다양한 방법론을 결합해 모델을 설계했지만, 그럼에도 불구하고 토픽의 개수를 적정한 선에서 제한하지 않으면 계산 비용은 천문학적으로 증가하게 된다.

이 문제를 해결하기 위해 먼저 토픽 수가 10개일 때와 20개일 때의 계산 효율성(Computational Efficiency)을 비교해 보았다. 이때, 같은 토픽에 의미론적으로 유사한 단어들이 분류되어 토픽 내용의 일관성을 평가하는 TC(주제 일관성, Topic Coherence)와, 토픽 간 내용이 얼마나 다양하게 분포되는지를 평가하는 TD(주제 다양도, Topic Diversity) 지표를 사용했다.

측정 결과, 토픽이 20개일 때보다 10개일 때 계산 속도가 약 1시간 정도 향상되었고(Epoch=100 기준), TD와 TC 역시 크게 하락하지 않는 것을 확인할 수 있었다. 개인적으로는 Epoch를 500까지 올려 더 정확한 검증을 해야 한다고 생각하지만, 본 논문의 실험이 GPU가 아닌 CPU로 진행된 만큼, Epoch 횟수를 늘리면 시간이 지나치게 소요되어 현실적인 검증이 어려웠다.

이와 관련해 Epoch 수치를 더 높여야 하지 않느냐는 지적이 있을 수 있지만, 본 모델이 적응적 모멘트 추정(Adaptive Moment Estimation, Adam)을 활성화 함수(activation function)로 사용하고 있어 Epoch 수치가 낮더라도 최적 범위(optimal range)에 빠르게 수렴한 후 크게 변동이 없을 것으로 예상된다.

클러스터링 관점에서의 토픽 수 결정

위 논의를 통해, 계산 효율성 관점에서 최적의 토픽 수는 10개임을 확인했다. 이를 기반으로 이번에는 몇 개의 토픽일 때 '셀러-바이어 매칭'이 최적으로 이루어지는지, 즉 몇 개의 산업으로 구분했을 때 해외 바이어가 적절한 관심사의 국내 셀러를 찾을 수 있는지 클러스터링 관점에서 살펴보겠다. 이때 텍스트를 분류하는 토픽이 무의미하게 많아지면, 오히려 TC(주제 일관성)가 감소하여 유의미한 정보를 추출하는 데 도움이 되지 않는다. 이는 선형 회귀(linear regression)에서 무의미한 변수를 추가하는 대신, 조정된 결정계수($R^2_{adj}$)를 사용하는 것과 같은 맥락이다. 또한 PCA에서 분산 설명력이 급격히 증가하지 않는 구간 이후에는 변수 선택에 주의하는 것과도 궤를 같이한다.

차원의 수가 커지면 유클리드 공간(Euclidean Space)에서는 차원의 저주(High Dimensional Curse)가 발생한다. 따라서 중복되는 변수의 수를 최소화하기 위해, 클러스터링 지표로는 코사인 유사도(cosine similarity)와 상관관계(correlation)를 기반으로 실루엣 인덱스(Silhouette Index), 칼린스키-하라바즈 인덱스(Calinski-Harabasz Index), 데이비스-볼딘 인덱스(Davies-Bouldin Index)를 사용했다.

해당 클러스터링 결과, 위 그림에서 볼 수 있듯 9개의 토픽에서 최적의 군집을 이루는 것을 확인할 수 있었다. 이 과정에서는 작은 단위로부터 클러스터링을 시작해 최종적으로 모든 데이터를 묶는 응집 계층 분석(Agglomerative Hierarchical Clustering)이 사용되었음을 밝힌다.

이 방법론의 핵심은 '해석 가능성(Interpretability)'에 있다. 즉, 각 클러스터에 속하는 국가가 어떤 계산 과정을 통해 매칭되었는지 덴드로그램(dendrogram)을 통해 쉽게 확인할 수 있다는 점이다. 이를 바꿔 말하면, 각 매칭 정도를 코사인 유사도를 통해 계산할 수 있고, 어떤 토픽에서 매칭이 되었는지, 그리고 그 토픽이 무엇인지 워드 네트워크로 제시할 수 있어 해석이 용이하다는 것이다.

본 연구의 강점

본 모델의 큰 장점은 코트라(KOTRA)의 토픽 서비스와 직접적으로 연계될 수 있다는 점이다. 즉, 본 모델은 기존 코트라의 수출·수입 데이터에서 뽑아낸 토픽을 그대로 활용할 수 있다. 이를 통해 코트라가 보유한 전 세계 문서 데이터를 기반으로 'AI 기반 바이어 매칭 서비스'의 강점을 극대화할 수 있을 것으로 기대된다. 나아가, 모델의 구조, 계산 과정, 그리고 결과까지 쉽게 해석할 수 있어 의사 결정뿐만 아니라 사후 해석 및 계산 추적 과정에도 큰 도움이 될 것으로 분석된다.

아울러 영어가 아닌 문서에도 본 모델이 적용될 수 있다는 장점이 있다. 이 경우 영어에 비해 일정 수준의 정보 손실이 있을 수 있지만, 앞서 언급했듯이 GloVe를 통해 언어와 상관없이 비슷한 단어는 유사한 벡터로 표현되며, 맥락적 관계 또한 반영되기 때문에 타 언어에 이 방법론을 적용하는 데 큰 문제가 없을 것으로 보인다.

마지막으로, 본 모델은 UMAP(Uniform Manifold Approximation and Projection) 클러스터링을 통해 기존의 선형 관계(linear relationship) 파악을 넘어 데이터 안에 숨겨진 비선형 관계(non-linear relationship)도 파악할 수 있다. 따라서 추후에는 계층적 클러스터링을 넘어 일반적인 클러스터링(general clustering)과 추천 알고리즘(recommendation algorithm) 적용에도 기대를 걸어볼 수 있겠다.

요약

본 논문을 한 문장으로 요약하자면, NLP(Natural Language Processing, 자연어 처리) 분야에서 토픽의 비율을 나타내는 $\theta$를 찾아내기 위해 비선형 요인 분석(Non-linear Factor Analysis)을 수행한 연구라고 볼 수 있다(실제로도 토픽들 간의 공분산이 존재한다).

이를 다시 말하면, 일반적으로 요인 분석(Factor Analysis, FA)은 수치형 데이터에서 사용되는데, 본 연구는 이를 NLP 분야에 적용하기 위해 비선형 요인 분석을 활용하여 단어와 각 토픽의 구조, 토픽들의 비율, 그리고 토픽 비율이 따르는 사전 분포(prior distribution)를 추출하고, 이를 기반으로 각 집단의 정보를 수치화한 것이다.

주성분 분석(Principal Component Analysis, PCA) 및 FA 관련 연구에서 가장 큰 난관은, 뽑아낸 요인(Factor)을 해석하고 정의하기 어렵다는 점이다. 그러나 본 논문의 모델인 'GNTM'은 각 요인에 해당하는 '토픽'에 워드 네트워크(word-network)를 제시함으로써, 기존 PCA・FA의 '요인을 정의하기 어렵다'는 한계를 극복할 수 있었다. 이제 각 토픽(factor)마다 중요한 단어들을 확인하고, 그 토픽이 무엇인지 해석할 수 있게 된 것이다. 예를 들어, 토픽 1에서 'bank', 'financial', 'business', 'market', 'economic'과 같은 단어들이 워드 네트워크 상에서 가장 높은 비중을 차지한다면, 이를 통해 토픽 1을 '투자(Investment)'로 정의할 수 있게 된다.

또한 본 논문은 TC(Topic Coherence), TD(Topic Diversity) 관점에서 토픽의 개수를 조절하며, 이를 바이어-셀러 매칭의 목적에 부합하도록 최적화했다. 최적화된 토픽 수에 따른 결과는 UMAP과 워드 네트워크를 통해 시각화하여 재확인되었다.

마지막으로, 차원의 저주(high dimension curse) 문제를 해결하기 위해 코사인 유사도(cosine similarity)와 상관관계(correlation)를 기반으로 한 지표들을 활용하여 토픽들을 군집화(clustering)했다.

데이터의 노이즈 이슈는 어떻게?

한편, 텍스트 데이터는 특수 문자, 구두점, 공백, 불필요한 태그 등 실질 데이터와 무관한 '노이즈'가 포함될 가능성이 매우 크다. 본 모델은 중요한 토큰(token)만을 추출하는 NVI를 사용하고, 에포치(epoch) 수를 크게 늘려 이러한 노이즈 문제를 최소화할 수 있다.

그러나 에포치 수를 늘릴수록 계산 비용(Computational Cost)은 기하급수적으로 증가하므로, 한정된 시간 안에서 분석을 진행해야 하는 실제 현장에서는 노이즈를 빠르고 효율적으로 줄일 수 있는 추가적인 방법을 고민할 필요가 있을 것으로 판단된다.

적용 가능성

GNTM이 다른 NLP 방법론과 구별되는 가장 큰 매력은 '해석 가능성(Interpretability)'이다. 기존의 딥러닝은 '블랙박스'로 불리며 계산 과정을 인간이 이해하기 어렵다는 단점이 있었으나, 본 모델은 그래프 기반의 계산을 통해 토픽을 결정짓는 요인을 직관적으로 이해할 수 있게 했다.

또한, GNTM은 적용하기 쉬운 장점도 있다. GNTM의 근간이 되는 그래프 신경망 모델(Graph Neural Network Model)은 패키지 형식으로 일반에 공개되어 있어, 이를 서비스 형식으로 정리해 잠재 수요자들이 쉽게 활용할 수 있는 서비스를 제공할 수 있다.

더불어, 본 연구는 영어 텍스트 데이터를 보유한 회사들이 이를 수치화하고 응용하고자 할 때 적용할 수 있는 '경량화'된 모델로 구성되었으므로, 회사의 목적과 상황에 맞게 유연하게 활용될 수 있을 것으로 기대된다.

또한, UMAP(Uniform Manifold Approximation and Projection)을 통해 데이터 내에 비선형 관계가 존재함을 시각적으로 확인했으며, 이에 따라 LightGCN과 같은 추가적인 비선형적 계산 방법을 적용할 여지도 있다.

아울러, 본 논문은 각 문서에 대해 토픽들의 세부 비율을 배정했으므로, 이러한 토픽 비율을 어떻게 활용할지에 대한 추가적인 연구 가치가 존재한다.

추후 리서치 방향

적은 비용으로 AI로부터 높은 수준의 결과물을 얻어내는 프롬프트 엔지니어링과 마찬가지로, 본 논문의 추후 연구 방향은 '최대한 노이즈를 배제하면서 정확하고 빠르게 모델을 학습할 수 있는 방법'이 될 것이다. 즉, 노이즈로 인해 모델이 과적합(overfitting)되지 않도록 정규화(regularization)를 적절히 적용하는 동시에, 계산 효율을 지금보다 더 높이는 것이 본 논문이 나아가야 할 방향이다.

Ⅰ. 측정오차 문제를 겪고 있는 광고 시장

디지털 광고는 매년 폭발적으로 성장하고 있습니다. 특히 글로벌 팬데믹으로 오프라인 시장이 크게 위축되던 시기에 소비의 중심축이 온라인으로 옮겨가면서 디지털 광고는 전 세계 광고 시장의 주류로 자리 잡게 되었습니다.

디지털 광고의 핵심은 단연 스마트폰입니다. 스마트폰으로 언제 어디서나 웹에 접속할 수 있게 되면서 웹 기반 매체들이 광고 시장에 등장하게 됐습니다. 사용자 편의성을 기반으로 양질의 서비스를 제공받고, 이에 따라 디지털 광고 시장 또한 새로운 성장 국면을 맞게 된 거죠.

그러나 현재 디지털 광고 업계에서는 ‘측정오차(Measurement Error)’라는 문제로 시름이 끊이지 않습니다. 즉 측정오차로 광고 성과 측정 및 예측에 큰 차질을 겪고 있습니다.

가파르게 성장하는 디지털 광고 시장

디지털 광고와 전통적인 광고의 차별점은 추적할 수 있다는 것입니다. 전통적인 광고 업체의 경우 “하루 00만 명이 보는 매체에 광고해서 내 브랜드를 알렸다” 정도의 광고 성과만 가늠할 수 있었습니다. 따라서 광고 업체 입장에서 광고 성과를 분석하더라도 각종 노이즈(Noise)로 인해 광고에 따른 성과를 정확하게 평가하기 어렵다는 불만이 많았습니다.

그런데 웹의 등장으로 광고는 새로운 국면을 맞게 된 거죠. 사이트에 접속할 때 사용자가 가지고 있는 정보를 쿠키(Cookie)에 저장해 사용자가 어떤 광고를 보고 들어왔는지, 어떤 상품을 보고 구매했는지 즉각적으로 추적 가능해진 거죠. 이에 따라 기업도 광고가 사용자에게 얼마나 효과적이었는지 쉽게 확인할 수 있게 됐습니다. 또 여러 개의 광고를 비교하고, 다음 광고는 어떻게 기획해야 할지 방향성을 쉽게 잡을 수 있게 됐습니다.

이런 패러다임을 가속화한게 바로 스마트폰의 등장입니다. 여러 명이 하나의 PC 또는 태블릿을 사용했던 과거와는 다르게, 이제는 ‘1인 1스마트폰’ 시대가 도래하면서 특정 기기의 행동 패턴을 특정 유저의 패턴으로 간주할 수 있게 됐습니다. 실제 2022년 한국갤럽 조사에 따르면 한국 성인 스마트폰 보급률은 97%로, 최근 몇 년 사이에 많은 업체가 초개인화 맞춤 타깃팅 서비스를 대중들에게 선보이며 디지털 광고 시장의 ‘전환점’을 알렸습니다.

디지털 광고 성과 분석 걸림돌: 측정오차

그러나 모든 것에는 명암이 있죠. 디지털 광고 또한 완벽한 것은 아닙니다. 업계 관계자들은 디지털 광고 효과가 사용자 피로도, 개인정보 등 여러 요인에 의해 저해되고 있다고 말합니다. 실제 광고 업계에 몸 담고 있는 제 입장에서는 그중에서도 ‘측정오차’라는 이슈가 가장 눈에 크게 들어옵니다.

측정오차란 특정 원인으로 인해 데이터가 왜곡되어 참값과 다른 결과가 나타나는 문제를 말합니다. 업계에서 흔히 접할 수 있는 문제는 한 사용자가 짧은 시간 안에 여러 번 광고에 노출되는 등 유의하지 않은 반응을 보이거나, 악의적으로 금전적 이익을 얻고자 허위로 광고 반응을 만들어 내는 광고 사기(Fraud) 등이 있습니다. 또한 기술적 원인으로는 서버 불안정으로 특정 사용자 데이터가 중복 집계 또는 누락되거나, 뒤늦게 데이터가 들어오는 경우를 꼽을 수 있습니다. 즉 여러 이유로 데이터가 ‘오염’돼서 광고 업체 입장에서는 제대로 된 광고 성과를 보지 못하게 된 거죠.

물론 광고를 송출하는 매체사에서도 가만히 있지는 않습니다. 매체사들은 광고 보고서를 지속적으로 갱신하면서 잘못된 광고비, 노출, 클릭 등의 광고 성과를 수정하는 작업을 거칩니다. 또한 이 과정에서 광고주는 통상 최대 1주일까지 보고서 내 광고 성과가 달라지는 일을 겪게 됩니다.

문제는 저처럼 광고 성과를 제대로 측정하는 것이 중요한 ‘수요자’ 입장에서는 앞서 살펴본 측정오차로 인해 광고 성과 분석에 내생성(Endogeneity) 문제가 발생하고, 이에 따라 분석의 신뢰도가 현저히 낮아지게 된다는 것입니다. 쉽게 말해 측정오차로 보고서를 계속 고치니까 광고 성과를 정확하게 분석하기 어렵게 된다는 거죠.

성과 측정이 중요하지 않고, 미랫값을 예측하는 것이 중요한 광고 업계에서도 측정오차 문제는 여전히 중요한 이슈입니다. 측정오차로 잔차의 분산이 커지면서 모형의 적합도(Goodness of Fit)가 떨어지기 때문입니다. 또한 디지털 광고 데이터와 같이 측정오차의 크기가 업데이트 횟수에 따라 매일 달라지는 경우 선형성(Linearity)을 담보하지 않는 비선형모형에서는 외삽법(Extrapolation)이 낮은 모델 예측 성능을 보여줄 가능성이 높습니다.

안타깝게도 디지털 광고 특징인 즉시성(Immediacy)으로 인해 광고 수요자는 데이터가 제대로 업데이트되는 1주일까지 마냥 기다릴 수 없습니다. 심지어 광고주는 의뢰한 광고의 성과가 낮다고 판단되면 즉시 노출 비중을 줄이거나, 광고를 아예 중단하기도 합니다. 또한 프로모션과 같이 짧은 기간만 송출되는 광고는 일주일까지 기다릴 수 없어 초기에 잘못된 판단을 하게 될 가능성도 커집니다.

자칭 ‘인공지능(AI)’을 이용해 자동으로 광고를 운영할 수 있다는 업체도 사정은 별반 다르지 않습니다. 광고 자동화는 한정된 광고비로 특정 기간에 전체 광고 성과를 최대화하는 일종의 강화학습(Reinforcement Learning) 문제를 푸는 것과 같습니다. 데이터에 측정오차가 생기면 초기 예산 배분에 차질을 겪게 돼 결국 최적화에 실패할 가능성이 있습니다.

연구 목적: 측정오차의 영향 분석 및 합리적인 예측 모델 제안

지금까지 이야기한 내용을 바탕으로 “디지털 광고에서 측정오차 문제가 중요할 수 있겠다”라고 생각했다면 성공입니다. 그런데 안타깝게도 광고 업계에서는 측정오차에 대한 고려가 제대로 이루어지지 않고 있습니다. 측정오차가 눈에 보이지 않는다는 이유에서 말입니다.

해당 부분에 주목해, 본 글에서는 다음 두 가지를 고려했습니다. 첫 번째로 측정오차가 광고 데이터에 미치는 영향을 측정오차의 크기와 데이터 크기에 따라 분석했습니다. 다음으로는 데이터 특성을 반영한 합리적인 예측 모델을 제안했습니다.

Ⅱ. 예측적 관점에서 본 측정오차

이번 챕터부터는 측정오차가 실제 광고 성과에 어떤 영향을 미치는지 살펴보겠습니다.

측정오차: 계통오차와 랜덤오차

측정오차에 관한 얘기를 조금 더 해볼까요? 측정오차는 계통오차(Systematic Error)와 랜덤오차(Random Error)로 구분됩니다. 계통오차는 일종의 방향성을 가집니다. 이를테면 실제 값(참값)보다 대개 큰 값으로 측정된다는 것이죠. 이를 오차가 드리프트(drift)를 가진다고도 표현합니다. 다음으로 랜덤오차는 말 그대로 참값을 기준으로 무작위로 측정값이 결정되는 것을 말합니다.

그렇다면 측정값은 어떤 분포(distributed)를 띨까요? 가령 드리프트의 크기를 $\alpha$, 참값을 $\mu$라고 하면 측정값이자 확률변수 X는 통계적으로 $N(\mu + \alpha, \sigma^{2})$를 따를 것이라고 볼 수 있습니다. 즉 측정값은 참값을 기준으로 $\alpha$만큼 커지면서도(계통오차) $\sigma^2$만큼의 변동성(랜덤오차)을 가진다는 거죠.

계통오차는 데이터 전처리와 스케일링으로 해결할 수 있어 분석가 입장에서 큰 문제는 아닙니다. 즉 측정값에서 $\alpha$만큼의 방향성만 제거해 주면 됩니다. 한편 위에서 변동성으로 정의된 랜덤오차는 측정오차의 크기를 크게 좌우하면서 문제를 발생시킵니다. 이를 해결하기 위해서는 분석가 입장에서 좀 더 통계학적으로 세련된 대처가 필요합니다.

랜덤오차가 있을 때 어떤 문제가 발생하는지 자세히 알아봅시다. 회귀 모형에서 독립변수에 측정오차가 포함될 경우, 추정된 회귀계수의 절댓값이 0 근처로 줄어드는 이른바 ‘Regression Dilution’이 발생합니다. 이해를 돕기 위해 측정오차가 가득한 독립변수를 회귀식에 포함했다고 생각해 봅시다. 이때 해당 독립변수는 랜덤 요소에 의해 무작위로 변동하므로 회귀계수의 효과는 당연히 없다고(0) 나올 것입니다. 이는 기본적인 선형 회귀 모형뿐만 아니라, 모든 선형/비선형모형에 공통적으로 발생하는 문제입니다.

디지털 광고 데이터 환경

지금까지 측정오차에 대해 알아봤습니다. 이제는 모델링 작업을 위해 디지털 광고 데이터가 들어오는 환경을 살펴보겠습니다. 챕터 1에서 매체사도 측정오차에 대응하고자 노출, 클릭, 광고비 등의 성과 데이터를 지속적으로 갱신한다고 말했죠. 1주일까지 데이터가 업데이트된다고 했을 때, 데이터를 처음 받아봤을 때는 업데이트가 아직 안 되었으니, 측정오차가 상당히 많이 포함됐을 것으로 짐작할 수 있습니다. 그러다 하루가 지나면 데이터가 업데이트됐으니 꽤 정확해졌을 것이고, 다음 날에는 더더욱 정확해졌을 것입니다. 이러한 과정을 거치면서 특정 일자의 데이터가 가지는 측정오차는 지수적(Exponentially)으로 감소하는 경향이 있습니다.

이처럼 업데이트 시점마다 측정오차의 크기가 달라지므로 모형 적합도 외에도 잔차의 이분산성(Heteroskedasticity) 문제가 발생할 수 있습니다. 이분산성 문제가 발생하면 해석적(Analytic) 관점에서는 추정량이 비효율성을 띠게 됩니다. 또한 예측(Predictive)적 관점에서는 기존 데이터를 통해 새로운 값을 예측하는 외삽법(Extrapolation)이 저조한 성능을 낸다는 문제점이 있습니다.

추가로 광고비가 커질수록 측정오차의 크기도 커집니다. 이를테면 광고비를 100원 사용했을 때는 측정오차가 몇 원 정도만 발생하는 반면, 광고비로 100만 원을 사용하면 측정오차가 몇만 원 이상 차이가 날 수 있는 것과 같은 맥락입니다. 따라서 광고비를 기준으로 일정 퍼센트(%) 증감이 랜덤하게 부여되는 승법(Multiplicative) 모형으로 구성하는 것이 합리적입니다. 물론 승법 모형에서도 가법(Additive) 모형과 마찬가지로 Regression Dilution이 발생하는 것으로 알려져 있습니다.

모형 및 변수 선택

종속변수는 사용자가 광고 반응 이후 웹이나 앱에서 행동한 ‘이벤트 횟수’로 정했습니다. 이때 이벤트 참여, 회원 가입, 구매와 같은 이벤트들은 0건, 1건, 2건과 같이 가산적(Countable)이므로 가산 데이터의 특성을 최대한 반영할 수 있는 모델링이 필요합니다.

독립변수는 광고사가 통제할 수 있는 ’광고비’와 ‘광고비의 시차(Lag)’만을 사용하겠습니다. 노출수, 클릭수와 같은 지표는 광고가 송출된 이후에 확인할 수 있는 변수이기 때문입니다. 즉 사전에 광고사가 통제할 수 없으니 비즈니스 관점에서 제외한다는 것입니다. 노출수는 광고비와 상관관계가 높아 두 변수가 가지고 있는 정보량이 비슷하다는 특징이 있습니다. 이는 나중에 모델링에서 중요하게 작용할 것입니다.

한편 측정오차의 영향을 파악하기 위해서는 광고비에 측정오차를 부여해 데이터를 고의로 ‘오염’시키는 과정을 거쳐야 합니다. 이때 측정오차의 크기는 통상 업계에서 발견되는 크기 이내로 잡았고, 여러 경우에 대해 시뮬레이션을 진행했습니다.

제안하는 모형은 포아송 회귀(Poisson regression) 기반의 시계열 모형(Time series model)과 포아송 칼만 필터(Poisson kalman filter) 두 가지가 되겠습니다. 가산 데이터의 특성을 반영하기 위해 포아송 분포(Poisson Distribution) 기반의 모형을 선정했습니다.

포아송 회귀를 사용한 이유는 잔차의 이분산성 문제를 회피할 수 있기 때문입니다. 포아송 회귀를 비롯한 일반화 선형 모형(Generalized Linear Model, GLM)의 특성상 연결함수(Link Function)를 통해 가정한 평균과 분산 관계에만 주목하기 때문에 앞서 언급한 이분산성 문제를 어느 정도 피할 수 있게 됩니다.

게다가 포아송 칼만 필터를 사용하면 측정오차 문제를 일부분 회피할 수 있게 됩니다. 이 모델은 관측 방정식(Observation Equation)에서 포아송 분포를 반영하면서도 상태 방정식(State Equation)을 통해 관측 방정식의 부정확함(측정오차 포함)을 내재적으로 보완하는 특징이 있기 때문입니다.

측정오차 영향

먼저 포아송 회귀 기반 시계열 모형으로 측정오차의 영향을 확인해 보겠습니다.

\[ \log(\lambda_{t}) = \beta_{0} + \sum_{k=1}^{7}\beta_{k}\log(Y_{t-k} + 1) + \alpha_{7}\log(\lambda_{t-7}) + \sum_{i=1}^{8}\eta_{i} Spend_{(t-i+1)} \]

여기서 Spend는 현재 시점부터 7 시점 전까지의 광고비이며, $\beta$는 광고비 외에 잔차에 내재한 시차 효과를 반영한 것입니다. 또한 $\alpha$를 통해 요일별 효과를 반영했습니다.

장황할 수 있어 생략했지만, 모형 적합도나 복잡도를 따졌을 때 해당 모형이 데이터를 합리적으로 반영한 것을 확인했습니다.

사실 우리가 보고 싶은 것은 측정오차인데요, 과연 측정오차는 모형의 예측에 어떤 영향을 줬을까요? 이를 확인하기 위해서는 먼저 시계열 데이터 교차검증(Cross-Validation)에 대해 알아볼 필요가 있습니다.

보통 데이터를 교차검증할 때는 K-fold나, LOO(Leave-One-Out)과 같은 방식을 사용합니다. 그러나 순서가 존재하는 시계열 데이터의 경우 일정 데이터를 제외하는 것이 합리적이지 않기 때문에 다음과 같은 방식을 활용합니다.

• 처음 d개의 데이터로 모형 적합 및 미래 구간 예측

• 데이터 1개를 추가해 (d+1)개 데이터로 모형 적합 및 미래 예측

• 위 과정 반복

그림으로 나타내면 다음과 같습니다.

해당 교차검증 방법으로 미래 1구간(1-step)의 예측정확도를 계산했으며, 측정 기준은 포아송 분포를 고려해 MAE(Mean Absolute Error)로 삼았습니다.

재밌는 결과가 도출됐는데요, 위 표에서 낮은 수준(0.5 ~ 0.7)의 측정오차 크기에서는 측정오차가 없는 모델보다 낮은 MAE를 기록했습니다. 상식대로라면 측정오차가 없는 모형이 더 좋아야 하지 않았을까요?

이는 측정오차가 가져다준 정규화(Regularization)로 발생한 현상입니다. 즉 측정오차로 인해 회귀계수에 감쇠 편향(Attenuation Bias)이 발생하면서 고(高) 분산 문제를 일정 부분 해결한 것입니다. 다시 말해 측정오차가 정규화에서 우리가 관심을 가지는 $\lambda$(정규화 파라미터)의 역할을 한 것이죠.

그림 5를 봅시다. 만약 측정오차의 분산이 무한대까지 커지게 된다면, 해당 변수는 우측 그림처럼 쓸모없게 됩니다. 이 경우 모형은 종속변수의 표본평균으로만 적합 되며, 결정계수는 0으로 나타나겠죠. 그렇지만 우리는 왼쪽 그림처럼 아예 정규화하지 않은 모형이 좋지 않은 것도 알고 있습니다. 결국 적절한 타협점을 찾기 위해 “Listen to Data”를 하는 것이 매우 중요합니다.

다시 모형 결과로 돌아가 봅시다. 낮은 수준의 측정오차는 분명 MAE 관점에서 이득을 안겨주지만, 높은 수준의 측정오차에서는 원래 데이터 대비 MAE가 더 높습니다. 또한 측정오차는 최근 데이터에만 생기기 때문에 데이터 수가 증가할수록 측정오차를 포함한 데이터 대비 측정오차가 없는 데이터 비중이 커지게 돼 측정오차의 영향이 줄어듦을 확인할 수 있습니다.

데이터 크기가 증가하면서 MAE가 점차 개선되는 것은 무슨 의미일까요? 처음에는 복잡한 모형으로 인해 모형의 분산이 큰 상태였으나, 데이터가 점점 많아지면서 모형이 점차 데이터를 잘 설명하고 있다는 것입니다.

지금까지 논의한 결과를 정리하면 적은 수준의 측정오차는 MAE 측면에서 도움이 될 수 있습니다. 측정오차가 무조건 나쁘다는 것은 아니라는 의미죠. 그렇지만 우리가 사전에 독립변수의 측정오차 크기를 정할 수는 없는 노릇이기 때문에 측정오차 문제를 해결하는 모형이 좋을지 혹은 측정오차를 내버려 두는 모형이 좋을지 판단하기 어려울 수 있습니다.

현재보다 더 강하게 정규화하는 것이 나은지를 판단하기 위해서는 모형에 $\lambda$가 추가된 제약식을 넣어 테스트하는 방법이 있습니다. 이 경우 측정오차가 릿지 회귀(Ridge Regression)와 같은 형태로 작동했으므로, 마찬가지로 L2 정규화로 테스트하는 것이 적절합니다.

만약 현재보다 약하게 정규화해야 한다면 어떻게 하는 것이 좋을까요? 이 경우 매체사에서 업데이트해 준 최신 데이터를 받아 측정오차를 줄이거나, 반복측정 분산분석 아이디어를 활용해 측정오차의 크기를 줄이는 데이터 전처리 방법을 사용해 볼 수 있겠습니다.

Ⅲ. 해석적 관점에서 본 측정오차

챕터 2에서 예측적 관점에서 적절한 측정오차가 정규화 역할을 해 도움을 줄 수 있다고 설명했죠. 이렇게만 보면 측정오차는 중요하지 않은 사소한 문제로 보입니다. 정말일까요?

이번 챕터에서는 해석적 관점에서 측정오차가 광고 성과 예측에 어떤 영향을 주는지 살펴보겠습니다.

성과 측정을 방해하는 내생성

챕터 1에서 광고 자동화 얘기를 잠깐 했었죠. 고객이 가지고 있는 광고비는 무한하지 않기에 제한된 예산으로 최대의 성과를 내기 위해서는 매체, 광고에 각각 얼마만큼 예산을 배분해야 하는지, 즉 최적화 문제를 푸는 것이 광고 자동화 운영 사업의 당락을 결정합니다.

매체 및 매체와 유사한 역할을 하는 파트너는 셀 수 없이 많습니다. 일반적으로 하나의 매체, 하나의 광고만 접하고 상품을 구매하는 경우는 드물죠. 가령 바지를 구매한다고 해봅시다. 인스타그램에서 바지의 특정 브랜드의 정보를 얻은 뒤 네이버, 구글에서 해당 브랜드를 검색해 쇼핑몰에 들어가겠죠. 이때 바지를 구매하는 데 있어 인스타그램, 네이버, 구글이 모두 기여했다는 것은 당연합니다. 그러면 각각 얼마나 기여했을까요? 이를 정량적으로 계산하기 위해 광고 업계에서는 다양한 방법론을 활용하고 있습니다. 이중 대표적인 기법으로는 마케팅 미디어믹스 모델링(Marketing Media Mix Modeling)이 있습니다.

위에서 언급했듯 많은 모델이 광고 업계에서 활용되고 있지만, 결국 회귀 분석에서 계수들의 영향력을 보고 성과를 배분한다는 아이디어는 동일합니다. 그런데 이때 종종 ‘내생성’ 문제로 계수를 제대로 계산하지 못하는 문제가 발생합니다. 내생성이란 선형 모형에서 설명변수와 오차항의 상관관계가 0이 아닌 경우를 의미하는데, 이에 따라 추정된 회귀계수를 신뢰하지 못하게 됩니다. 계수의 크기를 정확하게 측정해야 각 매체의 기여도도 정확하게 알 수 있고, 이를 기반으로 성과 최적화 알고리즘을 제대로 구성할 수 있다는 점에서 내생성 문제를 해결하는 것은 매우 중요합니다.

내생성 문제 해결책: 2SLS

계량경제학에서는 내생성 문제를 해결하는 방법으로 ‘2SLS(2-Stage Least Squares)’를 제안합니다. 2SLS란 내생변수와 상관관계가 높으면서도, 모형의 잔차와는 상관관계가 없는 도구변수(Instrumental Variable)를 이용해 내생성을 해결하는 방법론입니다.

그림 6의 예시를 봅시다. 종속변수 Y를 설명하기 위해 독립변수 X를 사용했으나, X의 빨강 부분에 내생성이 존재해 추정에 부정적인 영향을 미치고 있는 상황입니다. 이때 Y에서 X의 영향을 제거한 잔차(초록)와는 상관관계가 없으면서(유효성; Validity), 원 변수 X와는 상관관계가 있는(연관성; Relevance) 적절한 도구변수 Z를 이용해, Z와 X가 동시에 가지고 있는 (노랑+보라) 교집합 영역으로만 회귀분석을 해서 Y를 설명하면 X의 내생성 문제를 해결할 수 있습니다. 즉 모형 적합도를 일부 포기하는 대신, 문제가 있는 영역(빨강)을 도려내자는 것이 도구변수의 핵심 아이디어입니다.

다시 본론으로 돌아와서, 우리 모형에서는 변수에 측정오차 문제가 있음과 동시에, ‘광고비’와 시차(Lag) 변수만 설명 변수로 사용했기 때문에 중요 변수가 누락(Omitted Variable Bias, OVB)되면서 내생성 문제가 발생할 수 있습니다. 본 논문의 취지는 측정오차가 광고 성과에 미치는 영향을 파악하는 것이므로 적절한 도구변수를 활용한 2SLS(2 Stage Least Square) 검정을 통해 해석적 측면에서 실제로 우리 모형의 측정오차가 내생성 문제를 일으키는지 확인해 보겠습니다.

광고비 도구변수: 노출 수

앞서 살펴봤듯 도구변수는 내생성을 해결하는 역할을 할 수 있습니다. 하지만 도구변수가 적절한지를 검증하는 것은 생각보다 쉽지 않습니다. 무결하다고는 할 수 없지만, 본 모델에서는 광고 업계 도메인에 따라 최대한 적절해 보이는 도구변수를 ‘노출수’로 선정했습니다.

우선 노출 수가 연관성을 만족하는지 살펴봅시다. 배너, 동영상 등을 사용자에게 보여주는 디스플레이 광고에서는 노출 당 과금(CPM) 방식을 채택하고 있습니다. 사용자에게 광고만 노출시켜도 광고비를 청구하는 방식인데, 당연히 원 변수인 광고비와 노출수 간 상관관계가 매우 높겠죠. 실제로 간단하게 상관분석을 해도 0.9 이상의 상관계수가 도출됩니다. 즉 노출수와 광고비가 서로 상당히 비슷한 설명력을 가지므로, 연관성을 만족하고 있습니다.

한편 도구변수에서 가장 입증하기 어려운 것이 바로 유효성인데요, 유효성이란 도구변수가 종속변수(광고 성과)에서 광고비의 영향을 제거한 잔차와 상관관계가 없어야 한다는 것입니다. 우리 모델에서 잔차에는 어떤 요인이 들어가 있을까요? 도메인적으로 생각해 볼 수 있는 것은 프로모션 여부, 브랜드 인지도 정도가 있습니다. 내가 제품이나 업체에 관심이 있어서 능동적으로 탐색하는 검색광고와 다르게, 디스플레이 광고에서는 광고비만 내면 매체사들이 사용자에게 광고를 강제로 노출합니다. 따라서 사용자가 강제로 광고에 노출되는 것(노출수)과, 브랜드 인지도 및 프로모션 여부 등 잔차가 가지고 있는 요인과는 상관관계가 없다고 할 수 있습니다.

그래도 유효성이 충족되는지 불안하다면 도구변수와 잔차 간 상관계수 검정을 하면 됩니다. 그림 7의 결과를 보면, 상관관계가 없다는 귀무가설을 유의수준 = 0.05 하에서 기각하지 못하는 것을 확인할 수 있습니다.

물론 도구변수인 노출수도 측정오차를 가지고 있습니다. 그러나 도구변수의 측정오차는 원 변수와의 상관계수를 일부 낮추지만, 유효성에는 영향을 주지 않음이 알려져 있습니다.

내생성 파악하는 방법: Durbin-Wu-Hausman Test

위 과정을 통해 찾아낸 도구변수인 노출수를 기반으로 이제 측정오차가 계수의 내생성에 영향을 주는지 확인해 봅시다. Durbin-Wu-Hausman 검정을 수행했을 때, 일부 구간에서 내생성이 없다는 귀무가설을 기각하고 있음을 확인할 수 있습니다. 즉 측정오차의 계수가 내생성에 영향을 준다는 것이죠.

해당 검정을 통해 새로 획득한 데이터의 패턴이 어떻게 되냐 따라, 자칫 견고해 보였던 모형도 달라질 수 있으니, 측정오차 문제를 고려한 모델링이 안전하다고 결론 낼 수 있습니다.

Ⅳ. 포아송 칼만 필터 및 앙상블

이전까지는 예측 및 해석 관점에서 측정오차를 살펴봤습니다. 이번에는 측정오차 문제를 보정하는 포아송 칼만 필터(Poisson Kalman Filter)를 살펴보고, 나아가 이를 포아송 시계열 모형과 결합하는 ‘앙상블(Ensemble)’ 모형을 소개하는 시간을 가져보죠.

포아송 칼만 필터, 측정오차, 베이지안, 그리고 정규화

칼만 필터는 연구자가 이미 알고 있는 변수의 정보(State Equation, 상태 방정식)와 실제 관측값(Observation Equation, 측정 방정식)을 토대로 둘 사이의 합의점을 찾아내는 모형입니다. 이는 베이지안(Bayesian) 관점에서 연구자가 가진 사전 정보(Prior)와 데이터로부터 획득한 가능도(Likelihood)를 결합하는 것과 같은 맥락이라고 볼 수 있습니다.

챕터 3에서 소개한 측정오차의 정규화 역시 베이지안 관점으로 해석할 수 있습니다. 베이지안 모델링에서 $\beta=0$이라는 사전 믿음을 얼마나 강하게 가지고 갈 것이냐가 결국 정규화의 아이디어와 같기 때문입니다. 또한 챕터 3에서 (랜덤)측정오차 계수를 0으로 끌고 갔습니다. 즉 칼만 필터, 베이지안, 정규화, 측정오차의 직관이 서로 이어지고 있는 것이죠. 따라서 칼만 필터를 사용한다는 것은 결국 상태 방정식을 통해 측정오차를 반영하겠다는 것과 같은 의미이며, 나아가 정규화까지 반영하는 것으로 이해할 수 있습니다.

한편 측정 방정식은 어떻게 세워야 할까요? 우리가 다뤄야 할 종속변수는 가산 데이터므로 GLM의 로그-링크(log-link)를 활용하면 합리적으로 모델링할 수 있습니다.

포아송 시계열 모형 vs 포아송 칼만 필터

포아송 시계열 모형과 포아송 칼만 필터의 성능을 비교해 봅시다. 먼저 로그가능도(Log likelihood)를 보면, 포아송 시계열 모형이 전 구간에서 높음을 확인할 수 있습니다. 반면 MAE를 살펴보면 이번에는 포아송 칼만 필터가 우월한 성능을 보입니다. 이는 포아송 시계열 모형이 포아송 칼만 필터 대비 과적합됐음을 나타내는 것입니다. 연산 시간 측면에서도 포아송 칼만 필터가 우월한 모습을 보이기는 하는데요, 사실 두 모형 모두 계산에 2초가 채 걸리지 않으므로 실제 서비스에 적용하는데 크게 고려해야 할 요소는 아닙니다.

그림 10을 자세히 보면 재밌는 부분을 찾을 수 있습니다. 데이터 수가 증가함에 따라 줄어드는 MAE의 폭이 포아송 칼만 필터보다 포아송 시계열 모형이 압도적으로 크다는 점입니다. 그 이유는 다음과 같습니다.

포아송 칼만 필터는 초반 상태 방정식을 잘 반영해 예측 정확도(MAE) 측면에서 큰 이득을 가져왔으나, 데이터 수가 증가하더라도 관측 방정식에서 데이터를 합리적으로 반영하지 못한 것으로 보입니다. 그 결과 데이터 수가 늘어나더라도 MAE 개선 속도가 더딘 것을 볼 수 있습니다. 반면 포아송 시계열 모형은 모형 과적합으로 인해 초반 예측 정확도에서 손해를 많이 봤으나, 지속적으로 들어오는 데이터를 합리적으로 반영해 MAE가 큰 폭으로 개선됐습니다.

모델 강건성(Robustness) 검정에서도 유사한 결과가 나왔습니다. 즉 잔차의 자기상관성, 평균-분산 관계, 정규성 등의 검정에서 데이터 수가 적은 초반에는 포아송 칼만 필터가 우수한 성능을 보였던 반면, 중반부 이후에는 포아송 시계열 모형이 우수하게 나타났습니다.

앙상블: 포아송 시계열 모형과 포아송 칼만 필터 모형 결합

지금까지 한 논의를 토대로 두 모형이 가지는 이질적인 장점을 결합해 하나의 앙상블 모형을 구축했습니다.

편차(Bias)와 분산(Variance)을 동시에 고려하기 위해 MAE를 최소화하는 스태킹 모델(Stacked model)의 제약식은 다음과 같이 설정했습니다.

\[ p_{t+1} = argmin_{p}\sum_{i=1}^{t}w_{i}|y_{i} – (p * \hat{y}_{i}^{(GLM)} + (1 – p) * \hat{y}_{i}^{(KF)})| \]

\[ s.t. 0 \leq p \leq 1, \forall w > 0 \]

이때 앞서 살펴봤듯 모든 구간에서 포아송 칼만 필터의 MAE가 더 낮았기 때문에, MAE가 개선되는 모멘텀(Momentum)을 반영해주지 않는다면 스태킹 모델은 모든 구간에서 p=0을 출력하게 됩니다. 즉 포아송 칼만 필터만 100% 사용한다는 것이죠. 그러나 데이터 수가 꽤 많아지는 중후반부터 포아송 시계열 모형의 MAE가 크게 개선되는 만큼, 절대값의 제약식 앞에 가중치 W를 곱해 주었습니다.

가중치는 어떻게 부여하는 것이 합리적일까요? 우선 데이터 수가 많을수록 두 모형이 점차 합리적으로 변할 것이므로, 분산 또한 작아질 것입니다. 또한 두 모형 중, 더 좋은 쪽이 상대적으로 분산이 낮겠죠. 따라서 분산의 역수만큼 가중치를 높게 부여한다면, 시간이 지날수록 모형이 정확해지는 것을 반영하게 될 것입니다.

가중치를 반영한 최종 모형의 예측치는 아래와 같습니다.

\[ \hat{y}_{t+1} = p_{t+1}\hat{y}_{t+1}^{(GLM)} + (1 – p_{t+1})\hat{y}_{t+1}^{(KF)} \]

실제 위의 앙상블 모형으로 데이터를 분석한 결과, 초반부에는 p(앙상블 모델에서의 포아송 시계열 모형의 비중)가 0 근처에 머무르다가, 중반부터는 1 근처로 껑충 뛰는 것을 확인할 수 있습니다. 또한 데이터의 패턴이 변화하는 중후반 일부 구간에서는 상태 방정식의 장점을 살릴 수 있는 포아송 칼만 필터도 함께 사용하는 것을 엿볼 수 있습니다.

그림 12에서 앙상블 모형의 MAE를 살펴봅시다. 이질성(Heterogeneity)을 보이는 두 모형을 합리적으로 결합함으로써 모든 구간에서 개별 모형 대비 MAE가 낮은 것을 확인할 수 있습니다. 또한 강건성 검정에서도 앙상블의 장점이 극대화되면서 개별 모형 대비 더 견고했음을 확인할 수 있었습니다.

결론

응용통계, 계량경제, 머신러닝, 데이터 사이언스 리그는 주 관심 분야나 특장점이 다를 수 있으나, 결국 공통적으로 고민하는 것은 “현실 세계에서의 문제를 어떻게 합리적으로 정량화할 수 있을까”로 귀결됩니다. 또한 이 과정에서 해당 문제가 속하는 도메인에 대한 이해는 필수입니다.

본 글에서는 디지털 광고 도메인에서 흔히 발생하는 측정오차 문제를 바탕으로, 이것이 예측적・해석적 모델링에서 각각 어떤 영향을 줄 수 있는지 설명하는 데 중점을 뒀습니다. 이를 위해 도메인 환경(광고 업계) 및 DGP(Data Generating Process)에 맞는 포아송 시계열 모형과 포아송 칼만 필터 두 모형을 제시했으며, 두 모형이 강한 이질성을 보이는 점을 고려해 앙상블 모형을 최종적으로 제안했습니다.

스마트폰이 상용화되면서 디지털 광고 시장은 앞으로 더욱 가파르게 성장할 것입니다. 모쪼록 본 글을 읽고 있는 여러분들도 바쁘게 텍스트를 머릿속에 넣는 것보다는, 여유롭게 지식을 음미하며 통계학이 어떻게 데이터 사이언스 및 인공지능 분야에 적용되는지에 대한 외연을 넓힐 수 있다면 좋겠습니다.

대내외 경제 불확실성으로 올겨울 에너지 관련 원자재 가격 급등은 '예견'된 가운데, 전문가들은 지금부터라도 겨울철 에너지 사용량을 정확하게 예측하는 한편, 에너지 절약을 위한 대응 방안을 마련해야 한다고 당부했다. 그러나 정작 업계에서는 기존 에너지 사용량 추정에 사용됐던 방법론에 대해 의문을 제기하는 분위기다. 해당 연구들의 방법론이 현실을 제대로 대변하지 못한다는 이유에서다.

그렇다면 어떻게 정확하게 에너지 사용량을 예측할 수 있을까? 또한 정확하게 예측된 에너지 사용량은 이외에도 어떤 파급효과를 불러올 수 있을까? 이번 글을 통해 '결합확률분포' 모델을 기반으로 보다 현실적으로 에너지 사용량을 예측할 수 있는 통계적 방법론을 대중들에게 쉽게 풀어보고자 한다.

Ⅰ. 전 세계 원자재 수급 비상사태

지난 8월 11일 미국 시카고상품거래소(CME)에 따르면 2일 유럽 LNG 현물가격이 MMBtu당 62.5달러까지 치솟은 것으로 집계됐다. 이는 지난 해 동월 8~10달러 대비 6~7배 높은 수준이며, 올해 3월 역대 최고가를 갱신한 63달러에 거의 근접한 수치다.

전문가들은 유럽 LNG 가격이 급등한 이유를 러시아의 천연가스 공급량 '옥죄기'에서 비롯됐다고 보는 분위기다. 러・우 전쟁이 한창인 가운데 미국을 비롯한 서방이 원자재 수입에 루블화 대금 지불을 거부하는 등 러시아를 압박하면서, 이에 대응하기 위해 러시아 또한 천연가스 공급을 현저하게 줄였다는 것이다.

실제 러시아는 루블화로 대금지급을 거부한 불가리아, 폴란드, 네덜란드, 필란드, 라트비아, 덴마크에 천연가스 공급을 일절 중단했고, 지난달 말에는 최대 수요처인 독일의 노드스트림1 가스관의 공급량도 20% 수준으로 대폭 낮췄다. 이에 따라 천연가스 수급이 부족해진 유럽은 대체재인 글로벌 LNG 현물을 모두 끌어당기면서 동북아 LNG 현물가도 지난 7월 27일 50달러를 기록하는 등 크게 오르게 됐다.

LNG 공급난에 '기름'을 붓는 격으로 6월 기준 1500만 톤의 LNG를 수출하는 미국 최대 규모 수출기지인 프리포트LNG에서 폭발사고가 발생해 연말까지 가동이 제한된 데다, 세계 1위 LNG 수출국인 호주는 원자재 가격 안정을 명목으로 천연가스 수출 제한을 검토하면서 업계에서는 올 하반기 원자재 수급의 '암흑기'가 도래할 것이라고 보고 있다.

문제는 위 언급한 지정학적 배경으로 인해 우리나라도 원자재 수급에 엄청난 타격을 받고 있다는 것이다. 천연가스 수요가 적은 여름・가을철에 벌써 LNG 현물가격이 사상 최고 수준에 근접하고 있는 실정이며, 난방 수요가 발생하는 겨울철의 LNG 가격은 상상하기도 어려울 정도로 오를 것이라는게 업계에서의 공통된 의견이다.

'예견된' 에너지 대란, 지금부터 대비해야

이처럼 예견된 에너지 대란에, 전문가들은 겨울철 LNG 현물가격이 올 3월 역대 최고치를 기록한 MMBtu당 63달러를 넘어 100달러 이상을 훌쩍 넘길 가능성을 점치며, 우리나라 또한 지금부터 겨울철 에너지 사용량을 정확하게 예측하고, 에너지절약을 통한 자원 비축에 나서야 한다고 지적했다. 그렇다면, 우리나라에서 에너지 사용량은 어떻게 추정되고 있으며, 얼마나 정확하게 추정되고 있을까. 이를 이해하기 위해 먼저 우리나라의 전기・가스 소비가 어떻게 이뤄지고 있는지 살펴보자.

전기와 가스 소비는 일반 가정 뿐만 아니라 업무시설, 상업시설 등의 비주거용 건물들에서도 마찬가지로 다양한 형태로 이뤄진다. 특히 비주거용 건물들 내 에너지 사용량은 건물의 용도에 따라 상당한 차이를 보인다. 실제 한국에너지공단 신재생에너지센터가 발표한 '용도별 단위에너지사용량[kWh/y]'(아래 표)에 따르면, 각 건물의 용도별로 에너지 사용량의 편차가 상당 부분 존재하는 것을 확인할 수 있다.

아울러 아래 표의 '단위 면적 당 에너지 사용량의 평균값'을 활용해 1년 간 특정 건물이 사용할 에너지 총량의 추정값을 구해볼 수 있다. 이는 아래 표에서 용도에 맞는 연간 평균적 사용량 수치를 대상 건물의 연면적에 곱하는 방식으로 계산된다. 이를테면 연면적이 1,000 제곱미터인 업무시설의 연간 에너지 사용량의 추정치는 371,660 kWh이 되는 것이다.

널리 활용되는 에너지 사용 추정치

이러한 개별 건물의 에너지 사용량 추정치는 광범위하게 사용될 수 있다. 앞서 살펴봤듯 에너지 원자재 가격이 최고치를 달성할 것이라는 전망이 지배적인 현 시점에서, '비싼' 에너지가 낭비되지 않고 효율적으로 분배될 수 있도록 하는데 에너지 사용량 추정치가 활용될 수 있다.

또한 위 통계자료를 공개한 한국에너지공단은 해당 자료를 공공건축물의 신재생에너지 의무량 산정에 적극 활용하고 있다. 예컨대 어떤 신축/증축 예정 공공건물에 신재생에너지를 도입해 일정량의 에너지를 자체 생산할 계획이라고 하자. 만약 신재생에너지의 생산량이 많은지 부족한지를 판단하기 위해서는 해당 건물의 예상 에너지 사용량과 비교해야하는데, 이 때 위 통계자료를 이용해 해당 건물의 예상 에너지 사용량을 추정하고 그 추정치 대비 상대비율로 신재생에너지 생산량을 판단한다.

아울러 건물 에너지 사용량 추정치의 용도는 개별 건물에 국한되지 않고 구역/지역 단위로 확장될 수도 있다. 도시 내 특정 구역 내 대규모의 건물 신/증축 혹은 특정 지역 내 신도시 건설 계획이 추진된다고 하자. 해당 계획대로 건물들이 건설되면 지역적 에너지 수요도 증가할 것이다.

그러나 위 자료를 이용한 추정은 종속변수를 에너지 사용량, 독립변수를 연면적으로 하는 단변량 회귀분석(one-variable regression)에 불과하다는 단점이 있다. 다시 말해 건물의 에너지 사용량은 각 건물 내의 냉난방 및 공조시설, 건축 재질 및 구조, 단열 상태 등의 다양한 요소가 복합적으로 영향을 미치기 때문에, 이를 '연면적'이라는 하나의 변수로만 설명하는 것은 그 정확도를 담보하기 어렵다는 것이다.

그러므로 에너지 관련 업무를 담당하는 정부 부처 및 공기업에서는 해당 신/증축 건물들로 인한 에너지 수요 증가가 어느 정도일지를 가능한 한 정확히 추정해야 한다. 그래야 에너지원 수급, 에너지 생산 및 수송 설비 투자 등에 관한 효율적 의사결정이 가능하기 때문이다. 이러한 추정을 위해서 개별 건물의 에너지 사용량 추정 모델이 필요함은 자명하다.

Ⅱ. 회귀분석 기반 기존 에너지 추정 연구들

이상적으로는, 개별 건물의 에너지 사용량의 정확한 추정을 위해서 각 건물 내 냉난방 및 공조시설, 건출 재질 및 구조, 단열 상태, 재실 인원 및 스케줄 등의 상세한 모든 특성들을 분석에 반영하는 것이 맞을 것이다. 이런 방식으로 추정하는 모델을 물리적 모델(Physical Model)로도 부른다.

그러나 물리적 모델을 통한 에너지 사용량 예측은 현실적으로 어렵다. 대부분의 신축 건물의 경우 건설사에서 모든 정보를 공개하고 있지 않기 때문이다. 그나마 하나의 건물만을 대상으로 하는 프로젝트라면 건설사・시공사에 직접 '발로 뛰어가며' 정보를 수집해볼 수 있겠으나, 구・지역 단위의 에너지 사용량을 추정하고자 할 경우 천문학적인 '돈' 낭비를 하게 될 것이다.

따라서 연구자 입장에서는 에너지 사용량을 몇 가지 단순한 건물 속성들에 회귀해 에너지 사용량을 추정하는 통계적 모델(Statistical Model)을 활용하는 것이 최선이다. 다시 말해 종속변수가 개별 건물의 에너지 사용량, 설명변수가 건물의 몇 가지 속성들 (연면적, 용도, 층수, 사용연수, 재질 등) 인 회귀모델(Regression Model)을 만드는 것이다. 앞에서도 언급했듯, '한국에너지공단의 용도별 단위면적당 에너지 사용량'도 가장 단순한 형태의 회귀 모델(one-variable regression)에 해당한다는 것을 다시 한번 강조한다.

회귀 분석(Regression Analysis)은 관찰된 독립 변수들과 종속 변수 사이의 상관관계를 밝혀내는 대표적인 통계적 방법론이다. 연구자는 회귀분석을 사용해 특정 독립 변수의 변화가 '얼마 만큼'의 종속 변수의 변화를 견인하는지 통계적으로 검정할 수 있으며, 나아가 독립 변수를 통해 종속 변수의 값을 합리적으로 예측할 수 있다. 물론 합리적인 분석을 담보하기 위해서는 본인 모델이 가우스-마르코프(Gauss-Markov Assumption) 가정을 위배하지 않는지 등의 수학・통계학에 기반한 다양한 고민들이 필요하며, 이에 대한 세부사항은 본 연구 후반부에서 다시 언급될 예정이다.

개별 건축물의 월별 에너지 사용량을 종속변수로 두는 회귀모델 연구를 위해서는 그 데이터가 필요한데, 국내에서는 비주거용 건물들의 건축물 별 월별 에너지 사용 기록 데이터를 건축데이터 민간개방 시스템(https://open.eais.go.kr/main/main.do) 에서 공개하고 있다. 개별 건축물의 설명변수 자료는 표제부에 기록되어 있으며, 이 역시 건축데이터 민간개방 시스템에서 제공한다. 즉 건축물의 월별 에너지 사용량 데이터와 표제부 데이터를 결합하여 누구나 해당 연구를 수행할 수 있다.

본론으로 다시 돌아와보자. 앞서 언급한 현실적인 '비용' 문제로 인해, 그리고 회귀모델 연구를 위한 데이터 수집이 쉽다는 이유로, 그간 개별 건물의 에너지 사용량 추정을 위한 연구들은 회귀분석 기반 통계적 모델이 주를 이뤘다. 특히 국내에서 수행된 대표적인 연구는 ‘서울시 가정/상업부문 건물에너지 표준모델 개발(김민경 등, 2014)'가 있다. 해당 연구에서는 전기의 월별 사용량을 다양한 설명변수들과 각 월별 더미 변수(dummy, 기존 변수를 특정 기준에 따라 0과 1로 변환한 변수)에 선형회귀(Linear Regression)해 모델을 도출한다. 한편 해외의 대표적인 난방 에너지 추정량 연구에서도 난방기간 내 각 월의 '단위 면적 당' 난방 에너지 사용량을 건축 및 기후 설명변수에 회귀해 모델을 도출한다.

월별 에너지 사용 추이

앞서 살펴본 기존 연구들의 한 가지 공통점을 뽑자면, 회귀모델의 종속변수가 '연간' 에너지 사용량이 아닌, '월별' 에너지 사용량이라는 것이다. 이는 에너지 사용량의 계절적 추이를 반영하기 위해서다. 여름에 에어컨을 켜기 때문에 전기 사용량이 타 월 대비 높고, 겨울에 난방을 하기 때문에 가스 사용량이 타월 대비 높다는 것과 같은 맥락이다. 전기 사용량이 7,8월에 크고, 가스 사용량은 12~2월에 크다는 것은 우리에게 놀랍지 않은 사실이다. 실제 대부분의 건물에서 아래 Figure 4와 같은 에너지 사용량의 '계절적 추이'를 확인할 수 있다.

따라서 에너지원 수급 계획과 에너지 생산 설비의 유지보수 계획을 수립할 때는 계절적 변동을 고려해 월별 에너지 수요를 정확히 예측해야 한다. 이를 통해 에너지 소비가 많은 시기에는 충분한 에너지를 확보하여 정전 사태를 예방하고, 소비가 적은 시기에는 에너지 재고를 최소화하여 정부 예산을 효율적으로 사용할 수 있어야 한다. 그러나 기존 연구들의 에너지 사용량 추정은 현실을 제대로 반영하지 못해 정확성이 낮다는 이유로 업계에서 충분히 활용되지 못하고 있다. 이는 기존 회귀 모델이 월별 에너지 사용량에 대한 2차 모멘트를 기반으로 한 '결합' 확률분포 모델을 반영하지 않았기 때문이다.

변수 사이에 숨겨져 있는 팩터

건축물 속성이 거의 같으나 실제 에너지 사용량은 다른 두 개의 가상의 업무용 건물들을 생각해 보자. 두 건물은 모두 업무용 건물이며, 연면적과 층수 등의 규모도 비슷하고 사용 연수도 비슷하고 건물 재질도 비슷하다. 그러나 한 건물은 직원들이 매일 야근하고 주말 특근도 종종 하는데다 에어컨을 많이 틀어 전기 사용량이 많은 반면, 또 다른 건물은 직원들이 매일 정시에 퇴근하며 에너지 절약을 중시하는 경향이 있다고 하자.

이 경우 두 건물의 설명변수 값들은 매우 비슷하더라도 실제 전기 사용량에는 상당한 차이가 있을 것이다. 같은 규모・재질의 평균적 업무용 건물들 대비 전자는 전기를 많이 쓸 것이고 후자는 전기를 적게 쓸 것이다. 즉 연면적/층수/재질 등의 건축물 속성 '값'이 동일한 두 건물의 에너지 사용량은 '정시 퇴근 여부'라는 숨겨져 있는 변수에 의해 달라지게 되는 것이다. 연구 건물의 직원들 모두의 출퇴근 시간을 데이터로 수집하는 것은 현실적으로 어렵기 때문에, 이 상황에서 기존 모델에 해당 변수를 포함하는 것은 불가능하다.

물론 회귀분석에서는 오차항(error term)을 통해 이러한 변동성을 반영한다. 평균적인 건물들의 에너지 사용량은 오차항을 0으로 두고 계산하고, 평균보다 많이 사용하는 건물에 대해서는 오차항이 양수, 적게 사용하는 건물에 대해서는 오차항이 음수다.

종속 변수 간 '상관관계'

제대로 된 연구들에서는 회귀모델의 각 설명변수에 대한 계수 추정량 뿐 아니라 오차분산 추정량도 제공한다. 이 오차분산 추정량을 이용하면 각 월 별 예상 에너지 사용량을 하나의 점추정값 뿐 아니라 신뢰구간으로 얻을 수 있다. 정상적인 회귀모델이라면 해당 신뢰구간은 위에서 언급한 에너지 사용량의 변동 범위를 거의 다 포함할 것이다. 그러나 수학적으로는 한 가지를 더 고려해야 하는데, ‘서로 다른 월의 에너지 사용량 간 상관관계’이다.

이를테면 앞서 언급한 야근이 잦고 에어컨을 많이 트는 건물의 8월 전기 사용량이, 규모가 비슷한 다른 건물들의 8월 사용량 대비 매우 크다고 하자. 이 건물은 아마 8월뿐 아니라 1, 2, … ,12월에도 마찬가지로 규모가 비슷한 다른 건물들 대비 전기를 많이 쓸 것이다. 같은 맥락으로 정시퇴근만 하고 에너지를 아끼는 건물의 8월 전기 사용량이 작다고 하면, 이 건물은 아마 다른 월에도 전기를 적게 쓸 것이다.

이를 수학적으로 ‘양의 상관관계가 있다’고 일컫는다. 기존의 회귀분석 기반 연구들에서는 이런 양의 상관관계가 반영되지 않았다. 이를테면 각 월 별 전기 사용량이 기존 회귀모델로 추정되는 평균적 예상 사용량을 평균으로 하는 확률분포를 따른다고 보고, 특정 건물에 대한 각 월별 전기 사용량의 표본을 뽑는다고 하자. 이 때 7월 전기 사용량의 표본값은 7월의 평균적 사용량보다 매우 높은데 8월 전기 사용량의 표본값은 8월의 평균적 사용량보다 매우 낮을 수도 있다.

상식적으로 7월에 비슷한 규모의 다른 건물들 대비 매우 많은 전기를 쓰던 건물이 8월에는 다른 건물들 대비 매우 적은 전기를 쓸 가능성은 별로 없다. 즉 회귀모델이 모든 정보를 제대로 반영했다면 하나의 건물에 대해 7월과 8월의 전기 사용량 표본들을 뽑을 경우 표본값이 두 개 월 모두에 대해 크거나 작거나 하는 상관관계를 가져야 한다. 그러나 두 월의 오차항들 간 2차 모먼트 값, 다시 말해 ‘공분산(covariance)’ 정보가 따로 없다면, 위 예시처럼 상식에 반하는 표본이 추출될 수 있다.

오차항들 간 '공분산'

위 내용을 좀 더 수학적으로 살펴보자. 개별 건물의 1년간의 1월, 2월, …, 12월의 전기 사용량을 12차원 벡터 확률변수로 볼 때, 그 다변량확률변수의 1차 모멘트 벡터와 2차 모멘트 행렬의 대각성분(각 월별 추정값 오차항의 분산)들은 기존 연구에서도 추정된 바 있다. 1차 모멘트 벡터는 회귀식에 설명변수 값들을 대입하고 오차항을 0으로 둔 결과이고, 2차 모멘트 행렬의 대각성분은 각 오차항의 분산 추정량에 해당한다. 그러나 기존 연구의 경우 2차 모멘트 행렬의 비대각 성분, 즉 서로 다른 두 회귀식들의 오차항들 간 '공분산'은 추정되지 않아 통계 모델이 제대로 된 현실 설명에 어려움을 겪었다는 것이다.

기존 연구의 1차 모먼트 벡터 계산과 함께, 공분산까지 고려한 2차 모멘트 행렬까지 완전히 추정한다면 수학적으로는 다변량 확률변수가 근사적으로 따르는 다변량 정규분포(Multivariate Normal Distribution)를 정의할 수 있게 된다. 실제 활용의 측면에서는 해당 다변량정규분포를 통해 특정 건물의 1~12월 각 월 별 사용량의 표본들을 ‘서로 다른 월의 에너지 사용량 간 상관관계를 반영하여’ 뽑을 수 있게 된다. 이를 통해 7월에 비슷한 규모의 다른 건물들 대비 매우 많은 전기를 쓰던 건물이, 비로소 8월에도 많은 전기를 사용한다고 추정할 수 있게 되는 것이다.

이렇게 정확하게 추출된 표본들(각 월별 에너지 추정량)은 도심지 에너지 관련 연구에 불확실성을 통계적으로 분석하는데 크게 도움을 줄 수 있다. 아울러 월별 에너지 사용량 데이터를 보면 종종 일부 값들이 누락돼 있는 경우, 2차 모먼트 계산을 통해 해당 누락치가 실제 어떤 값을 가지는지 추정(imputation)할 수 있다. 즉 누락치를 합리적인 값으로 메꿔넣음으로써 데이터 품질을 크게 제고할 수 있다는 것이다.

한편 위 맥락에서의 다변량 정규분포를 정의하려면 연구 데이터가 평균을 중심으로 대칭에 가까워야 하며, 나아가 분포의 꼬리 두께도 지나치게 두껍거나 얇지 않아야 함을 밝힌다. 아울러 본 이야기에서 예시로 다루는 2021년 1월 - 2021년 12월까지의 건물 데이터(에너지 사용량, 연면적, 건물용도 등)가 앞서 언급한 전제에서 크게 벗어나지 않는다는 점을 덧붙인다.

Ⅲ. 다변량 정규분포를 활용한 표본 추출

2차 모멘트 행렬을 기반으로 다변량 정규분포를 정의하며, 이때 해당 다변량 정규분포로부터 1년간의 1월, 2월, ..., 12월의 에너지 사용량의 표본을 추출할 수 있다. 이는 회귀 모델의 잔차(residual) 간 상관관계를 반영해 '계절적 추이를 반영해서' 표본을 뽑는다는 점에서 앞에서 살펴본 기존 연구들과는 차별된다. 쉽게 말해 이제는 7월에 비슷한 규모의 다른 건물들 대비 매우 많은 전기를 쓰던 건물이, 비로소 8월에도 많은 전기를 사용한다고 추정할 수 있게 되는 것이다.

공분산을 반영한 예시

실제 필자의 위 주장이 타당한지 아래 그림의 다변량 정규분포로부터 추출된 에너지 사용량 데이터 표본들을 살펴보자.

위 그림을 통해, 실제 표본들에서의 에너지 사용량의 계절적 추이가 실제 데이터의 추이와 매우 비슷하다는 것을 확인할 수 있다. 예컨대 에어컨을 많이 트는 여름철 7-8월의 경우 전기 사용량이 크게 증가하는 한편, 난방을 많이 가동하는 겨울철인 12-2월의 경우 가스 사용량이 크게 증가하는 것을 통해 우리의 통계 모델이 현실을 제대로 반영하고 있다는 것을 확인할 수 있다.

공분산을 반영하지 않은 예시

한편 기존 연구들처럼 서로 다른 월의 에너지 사용량 간 공분산(covariance)을 고려하지 않는 경우의 표본 추출이 어떻게 이뤄지는지 살펴보자. 이는 위 표본 추출에 사용한 다변량 정규분포에서 공분산행렬의 비대각 성분을 0으로 보는 것과 같다. 만약 비대각 성분을 0으로 만들고 표본을 뽑는다면, 아래와 같이 들쭉날쭉한 추이를 보이는 표본을 얻게 된다.

상식대로라면, 만약 7월에 대해 평균보다 상당히 적은 에너지 사용량을 표본으로써 뽑았다면 이는 에너지를 적게 쓰는 건물이 돼야할 것이다. 이에 따라 같은 건물의 8월 사용량도 평균보다 상당히 적어야 할 것이다.

그러나, 이번에는 모델이 공분산이라는 정보를 활용하지 못해 비상식적인 표본이 추출된 것을 확인할 수 있다. 즉 위 자료의 첫 번째 그림이 보여주듯, 7월에 비슷한 규모의 다른 건물들 대비 매우 적은 전기를 쓰던 건물이 8월에는 다른 건물들 대비 매우 많은 전기를 쓰게 된 것이다.

다변량 정규분포를 활용한 누락치 추정

표본 추출에 이어서 또 하나의 활용 사례로, 누락치 추정(Imputation)을 들 수 있다. 예컨대 국토교통부 데이터에는 건물별 월별 에너지 사용량이 종종 누락되어 있다. 또는 기록된 사용량 중 일부가 이상한 경우도 있다. 나머지 월에 대해서는 올바르게 기록된 사용량이 존재할 때, (올바르게) 기록된 사용량들을 기반으로 누락된 사용량을 추정할 수 있을까?

만약 세 개의 연속된 월 중 처음과 마지막 월은 사용량이 기록되어 있고 두 번째 월만 누락되어 있다면, 중간값을 쓰는 것으로 타협할 수 있다. 하지만 만약 두 개의 월이 연속적으로 누락되어 있다면? 혹은 시간적으로 마지막 월의 사용량이 누락되어 있어 후행하는 월의 사용량과의 중간값 자체가 정의되지 않는다면? 이 때는 어떻게 할 것인가?

이 연구에서 도출한 다변량 정규분포를 활용하면 어떤 경우에도 합리적으로 누락치를 추정할 수 있다. 위 수식에서 확인할 수 있듯, 다변량 정규분포를 따르는 확률변수 벡터의 원소들 중 일부의 값이 고정될 경우, 고정되지 않은 나머지 원소들의 확률분포는 고정값들을 조건부로 하는 축소된 차원의 다변량 정규분포를 따른다. 즉 이 조건부 다변량 정규분포의 조건부평균을 활용해 누락치를 합리적으로 추정할 수 있게 된 것이다.

위 그림은 조건부 다변량 정규분포의 조건부 평균을 활용해 누적치를 실제로 메워넣은 그래프다. 파란색 실선은 어떤 건물의 실제 월별 에너지 사용량이고, 주황색 동그라미들은 2, 7, 10월 사용량이 누락됐다고 가정 시 나머지 월들의 사용량을 조건부로 하는 다변량 정규분포의 조건부 평균이다. 초록색 네모들은 1~9월의 사용량이 주어졌다고 가정 시 10~12월의 사용량이 따르는 다변량 정규분포의 조건부 평균으로, 미래 사용량 예측으로 볼 수 있다. 조건부 평균이 실제 참값에서 크게 벗어나지 않는다. 이를 볼 때 조건부 평균을 누락치의 추정치로 사용하는 것은 합리적이다.

이상 살펴본 바와 같이, 정확한 에너지 사용량 예측을 위해서는 단순한 회귀 분석 모델을 넘어, 다양한 변수들 간의 상관관계와 복합적인 요인들을 반영하는 통계적 방법론이 필요하다. 특히 다변량 정규분포 모델을 활용하면 월별 에너지 사용량의 상관관계를 고려해 보다 현실적인 예측을 할 수 있으며, 이를 통해 에너지 수급 계획의 효율성을 높일 수 있다. 이러한 방법론은 기존 연구에서 간과되었던 통계적 오차를 보완하고, 누락된 데이터를 추정하는 데도 유용하게 쓰일 수 있다. 결과적으로, 보다 정확한 에너지 사용량 예측은 겨울철 에너지 위기에 대비하는 데 중요한 기초 자료가 될 뿐 아니라, 에너지 효율 개선과 자원 낭비 방지에도 기여할 수 있을 것이다.

작년 발간된 SIAI YearBook 2023은 "기업 경영에서의 AI 알고리즘 활용"을 주제로 다뤘다. 올해는 기계 산업 내 AI 산업에 대한 관심이 커짐에 따라 시스템 효율성을 중점으로 2024 YearBook을 준비했다.

먼저 곽연숙 연구원은 헬스케어 산업에서 생체 행동 데이터를 적용한 연구를 주제로 삼았다. 웨어러블 기기의 사용이 증가하면서, 특히 수면 추적에 대한 관심이 높아지고 있다. 그러나 아직까지도 사람이 잠에 드는 시점과 깨어나는 시점을 정확하게 감지하는 데에는 여전히 한계가 존재한다. 이를 해결하기 위해, 곽 연구원은 최근 연구에서 수면 상태와 깨어 있는 상태의 데이터 분포 함수 차이를 활용해 정확도를 개선하는 방법을 제안했다. 기존의 1차원적인 평균만을 사용하는 AI 알고리즘과는 달리, 이 분포 함수는 평균과 분산 같은 다차원 데이터를 활용하여 잠드는 순간과 깨어나는 변화를 더욱 정교하게 식별할 수 있다. 이러한 접근 방식은 수면 추적뿐만 아니라 웨어러블 기기에서 수집되는 다양한 데이터를 분석하는 데에도 효과적으로 적용될 수 있을 것으로 기대된다.

한성수 연구원은 서울시의 공공 자전거 대여 서비스 '따릉이'의 관리 효율성을 개선하기 위한 방안을 분석했다. 이 연구는 현재 서울의 25개 구가 각각 독립적으로 운영하는 시스템이 비효율적이라는 문제를 지적한다. 한성수 연구원은 모든 자전거 주차 구역을 개별적으로 관리하는 대신, 특정 지역에 집중하고, 관리 구역을 약 5개에서 10개로 나누는 방식을 제안했다. 그는 실제로 공공 자전거 관리 구역을 5개의 큰 구역 또는 10개의 작은 구역으로 나누는 것이 효율성을 크게 향상시킬 수 있다고 설명한다. 구체적으로 한성수 연구원 코로나19 팬데믹의 영향을 제외하고, 계절적 요인과 추세, 날씨 등의 변수를 고려하기 위해 시계열 모델링을 사용했으며 서울 자전거 이용자들의 이용 패턴을 보다 잘 파악하기 위해 네트워크 효과를 반영한 루베인 알고리즘을 적용했다. 이를 통해 운영 인력 배치를 최적화함으로써 비용 절감 효과를 기대할 수 있다는 결론을 도출했다.

김동규 연구원은 대한적십자사가 관리하는 혈액 공급망의 수급 균형을 조사했다. COVID-19 팬데믹 기간, 날씨, 성별 차이, 지역 변동을 포함한 다양한 변수를 고려한 계절적 자기회귀누적이동평균(SARIMA) 모델과 같은 고급 시계열 분석 기법을 사용했음에도 불구하고, 김동규 연구원은 대한적십자사의 혈액 관리가 부족 사태를 방지할 만큼 안정적이라고 밝혔다.

권형근 연구원은 게임 이론을 사용해 뉴욕주에서 학교 구역과 지역 구역이 중복되는 지역의 세금 정책을 분석하고, 각 지역 주민들이 누리는 효용을 평가했다. 권형근 연구원은 연구 논문에서 논의된 주민들의 효용이 실제로 부동산 가격과 생활 환경과 같은 현실적인 요소로 해석될 수 있다고 설명했다. 따라서 이 연구는 학군의 초등학교, 중학교, 고등학교에 대한 예산 배정이 지역 사회와 부동산 가격에 미치는 영향을 이해하는 데에 중요한 통찰을 제공할 수 있다고 덧붙였다.

처음으로 SIAI 학생들의 논문을 외부에 발표하는 자리를 가졌다. 2023년 논문을 요약하면 AI알고리즘의 기업 경영 활용이다. 챗GPT가 등장하면서 기업에서 AI알고리즘을 어떻게 사용할지 관심이 많아졌는데, 이에 학생들이 각자 연구 주제로 답을 내놓았다. Yearbook에서는 논문 해설 겸 학생들이 논문 쓰면서 겪었던 이야기를 소개할 것이다.

송정훈 연구원은 "개별 건축물 내 연간 월별 에너지 사용량의 결합확률분포 모델"을 주제로 잡았다. 개별 건물의 월별 에너지 사용량은 도심지의 에너지 소비량 추정에 중요한 정보다. 기존의 회귀분석 기반 연구에서는 월별 에너지사용량의 평균과 분산을 추정하는 모델들이 제시됐다. 하지만 서로 다른 월의 에너지 사용량 간 상관관계는 반영되지 않아 해당 종속변수의 추정에 어려움을 겪었다. 따라서 본 연구에서는 월별 에너지 사용량 간의 상관관계를 반영하여 건물별, 전기/가스별, 월별 사용량을 좀 더 현실적으로 예측했다.

박혜영 연구원은 “Is bubble in housing auction market really bubble?”을 주제로 부동산 거품에 대해 논했다. 강남 아파트 경매 시장 데이터에서 1위로 낙찰받은 경매참여자와 2위 차점자 간의 참여 가격 차이를 통해 경매 가격에서 ‘집값 거품’에 해당하는 요소를 찾아내고 검증했다. ‘승자의 저주(Winner’s curse)’로 불리는 값이 실제로 ‘거품’에 해당하는지 알아보았다.

유보현 연구원은 “부동산 경매 시장의 할인/할증과 모멘텀”을 주제로 부동산 경매 시장의 특성을 분석했다. 시계열 지표인 경매 낙찰가율이 법원 감정 시점과 낙찰 시점이 달라 생기는 기존의 한계점, 법원 감정가와 할인/할증 요인에 대해 외부 데이터를 동원하기 어려운 한계점 등을 극복하기 위해 푸리에 변환을 이용해 역으로 법원 감정 영향과 할인/할증 요인 추출을 시도했다.

김민철 연구원은 “Interpretable Topic Analysis”를 주제로 앤드류 응의 LDA 모델에서 한발 더 나아가, 로짓 정규분포(Logit-Normal distribution)를 활용했다. 로짓 정규분포는 Multi-modality를 유지하면서 미분가능하다는 특징이 있다. 미분가능한 함수를 이용한 덕분에 계산 속도를 증가시켰으며 이 계산법을 활용해 신문 기사들의 키워드를 모은 빅데이터 분석을 진행했다.

박정우 연구원은 “측정오차 하 광고 시계열 데이터 모델링”을 주제로 디지털 광고 효과를 정확히 측정하고자 했다. 광고 데이터는 측정오차와 같이 내생성이 존재해 정확한 효과를 측정하기 어렵다. 본 분석에서는 광고 시장 데이터의 특성에 맞는 포아송 분포를 기반으로 시계열 분석을 통해 단기적으로는 칼만 필터 모형이, 장기적으로는 데이터 의존적인 포아송 시계열 모형의 적합성이 더 높음을 확인했다. 최종적으로는 두 모델을 결합하는 앙상블(Ensemble)을 제안했다.

들어가며

연세대학교 경제학과 출신으로 1998년 경원대 교수를 지낸, 문재인 정권에서 중소벤처기업부 장관을 지낸 홍종학 교수님이 IMF 구제금융기를 막 벗어나려던 2001년에 '한국은 망한다'라는 저서를 내셨습니다.

• 한국은 망한다

저는 이 책을 대입 논술을 잘 쓰기 위한 목적에서 2001년 말에 읽었는데, 한국 사회가 갖고 있는 각종 문제에 대해 고교생 수준의 매우 조잡한 지식만 갖고 있던 제게 쉽게 와 닿지 않는 충격적인 저서였습니다. 이 책의 내용이 좀 더 제게 강하게 와 닿은 것은 실제 한국 사회의 온갖 조잡함을 온 몸으로 겪고 있던 2020년 무렵이었습니다.

한국에서 2008년에 학부 졸업하자마자 모 외국계 증권사에서 첫 직장 생활을 시작했다가, 이건 도저히 아니다 싶어서 영국, 미국을 거치며 석, 박 공부를 하고 창업하겠다는 생각으로 한국에 귀국을 했었습니다. 미국에서 한국인이 투자 받기도 쉽지 않았고 (온갖 사건이 다 있었습니다...), 어차피 한국에서 저렴하게 개발자 뽑아서 사업하는게 더 비용이 적게 들겠다 싶었기 때문입니다.

그렇게 2018년에 한국에서 창업했는데, 2~3년간 한국 사회의 작동 구조, 벤처투자사(VC)들의 이해도, 세상을 바라보는 눈, 그리고 한국 인력들의 역량에 충격을 먹으면서 저 책의 비판을 좀 더 강도높게 이해할 수 있었습니다.

귀국 후 10년이 채 지나지 않았습니다만, 전 이제 자신있게 이야기 할 수 있습니다. 한국은 망할 겁니다.

아래에 기술하겠지만, 우리와 똑같은 스타일의 문화를 갖춘 중국이 우리보다 더 큰 내수 시장, 더 강력한 글로벌 영향력, 그리고 더 저렴한 노동력을 갖고 있기 때문입니다. 한국이 따라잡히는 건 시간 문제라고 그랬었습니다만, 이제는 많은 부분에서 따라잡힌 상황이고, 아마 여러분들이 이 글을 읽는 시점에는 우리가 추격자가 된 산업이 한 두 군데가 아닐 겁니다.

삼수를 해서라도 서울대를 가라? 집안 돈을 끌어넣어서라도 해외 명문대를 가라

• 홍종학 장관 후보 ‘삼수를 해서라도 서울대 가라’ 저서 논란

홍 교수님이 연세대 출신으로 느낀 한국 사회의 학벌 중심 문화에 대한 비판만 제 글에 나타나지 않습니다. 제가 홍 교수님이 욕하시는 그 대학교를 나왔기 때문이라고 생각하실 수도 있겠습니다만, 오히려 전 S대라고 해서 홍 교수님의 비판을 피해갈 구석이 없다는 것을 뼈저리게 느꼈고, 제 글의 곳곳에서 그런 내용들을 보실 수 있을 겁니다.

영국 LSE로 석사를 갈 때만해도 2군 대학으로 유학 간다는 생각에 자존심이 많이 꺾였던 기억이 있습니다. 누구나 그렇겠지만, 저도 아이비리그 대학교 가고 싶었고, 사실 MBA 가면 충분히 갈 수 있을 것 같은데, 그래도 박사 가려면 MBA는 Career suicide라는 생각에, 대학 이름 값보다 알찬 지식이 더 중요하다는 생각에 어려운 발 걸음을 옮겼습니다.

그래도 미국으로 Finance로 박사 갈려면 제일 좋은 옵션 그룹 (중 가장 안 좋다는 평가가 있기는 해도) 중 하나라고 하니까, 미국의 몇몇 옵션들을 포기하고 갔었는데, 속으로는 여기서 1등 하겠지라고 생각했었습니다. 그런데, 입학 전에 열어준 수학&통계학 Boot camp 시험을 칠 때부터 벌써 충격을 먹었습니다. 저는 100점을 받았다고 생각하고 시험장을 나왔는데 최소 커트라인인 50점을 겨우 넘는 점수를 받았기 때문입니다.

그 1년 간의 석사 과정을 거치면서 그들이 말하는 'Economic intuition'이 학부 시절에 류근관 교수님이 말씀하신 '통계학적 직관'과 많이 닮아있다는 생각을 했었고, 학부 1년 후배가 미국 로스쿨로 유학 가기 전에 저희 학교 대학원에서 일부러 류 교수님 대학원 통계학 수업을 듣고 가면서, 형도 꼭 듣고 가라고 충고해줬던 이유도 공감이 됐습니다.

그 전까진 저도 여느 한국의 대학생들처럼 '테크 트리'를 쌓는다는 개념으로 수학, 통계학을 배웠는데, 석사 과정 중에 제가 매우 한국식으로 수학이라는 지식을 봤다는 것을 뒤늦게 알게 됐습니다. 이름만 수학이 안 달린 수업이지, 사실상 모든 내용이 수학인 수업들을 들으면서 사실은 수학이 언어고, 그 언어로 대화하는데, 풀어내는 문제가 어느 전공에서는 경제학이고, 또 어느 전공에서는 기상학, 해양학, 천체 물리학이고, 또 누군가에게는 데이터 과학이라는 걸 석사 과정 후반에서야 겨우겨우 깨닫게 됐습니다.

아이러니컬한 부분은, 그 학교 학부 과정 기말고사 문제들을 구해서 풀다가 그 깨달음을 얻었다는 겁니다. 왜 석사 학위 가 놓고 학부 과정 문제를 구해서 풀었나? 석사 과정 시험 문제를 아무리 잘 풀었다 싶어도 60점을 받기가 힘들어서, 도대체 얘네들은 어떻게 학부 때 공부하길래 70점, 80점짜리 답안지를 뽑아낼 수 있나 궁금하기 짝이 없었기 때문입니다.

근데 간신히 구해서 본 학부 시험 문제가 수학적인 난이도만 낮았지, 논리적인 난이도는 석사 과정 문제들과 별 다른 게 없었습니다.

너무 충격을 먹어서 영국 고교생들이 좋은 대학교를 갈려고 친다는 A레벨 시험을 봤는데, 역시 수학적인 난이도가 더 내려갔을 뿐, 논리적인 난이도는 크게 다르지 않더군요.

난 2류 인력에 불과하구나....

시험 문제는 학위 과정 수준에 관계없이, 배운 지식을 응용해서 주어진 현실의 특정한 사건을 하나하나 파헤치며 문제를 해결하는 거였는데, 그게 대학원 박사 과정에서는 논문이 되고, 학부 과정에서는 기말 레포트가 되는 차이만 있을 뿐, 논리적으로 '이야기'를 만들어내는 구조는 완전히 동일했었습니다. 그런 교육 없이 단순히 배운 수학 지식만으로 문제를 풀었으니 60점 넘기가 쉽지 않았던 거죠.

이미 고교 시절부터 그렇게 논리적으로 꽉 찬, 영어 표현으로 Air-tight argument를 만들어 낼 수 있는 능력을 길렀던 애들보다 수학 실력이 개미 눈물만큼 더 좋았을 뿐, 논리력은 형편 없었기 때문에 60점을 받기가 쉽지 않았던 걸 깨달았습니다.

난 아무 것도 모르는 바보구나는 생각도 해 봤고, 한국 교육에 대해서 원망도 많이 했습니다. 왜 나는 암기 잘하고 빨리빨리 문제 잘 풀면 띄워주는 나라에서 2류 교육을 받았나, 이렇게 1류 교육을 받았어야 고급 논문도 쓰고, 지식인들 사회에서 말 한 마디라도 덧붙일 수 있는 능력자가 될 수 있을텐데, 나는 2류에 불과하구나....

외국 나가면 동북아시아 애들을 제외하면 아무도 SNU를 모릅니다. 박사 입학하고 지도 교수님이

BTW, where did you do your undergrad? Seoul, what National? OK. Asian national universities should be good, I guess

이런 표현만 쓰고 넘어가셨던 기억이 있습니다. 한국에서야 SNU라는 학벌이 먹어주고, 연세대 출신이신 분이 평생에 한이 되셨는지 '삼수를 해서라도 서울대를 가라'고 표현하셨을지 모르겠습니다만, 저는 위의 사건들을 겪으면서 '집안의 돈을 다 쓸어넣어서라도 해외 명문대를 가라'고 표현을 쓰는 것이 맞다고 생각하게 됐습니다.

미국 명문대 어디를 나왔다고 하면 다들 천재라고 바라봐주는 게 부러워서일까요? 아닙니다. 위에 쓴대로 저는 석사 1년간 손가락이 부릅트도록 답안지를 수백번 고쳐써도 60점을 받기 힘든 시험 문제, 기출문제랑 구조가 같아서 문제가 예상이 되는대도 불구하고 점수를 올릴 수가 없는 문제, 난 논리력이 없다는 것을 팩트 폭격으로 때려주는 시험 문제를 풀었던 암울한 기억 때문입니다.

제 자식은, 당신들의 자식은, 자라나는 한국의 미래가 어린 시절부터 사고력을 기르는 훈련을 받지, 수능 시험 점수 잘 받는 기계가 되지 않기를 바라는 마음 때문에, 한국 교육을 경멸하는 마음이 생겼기 때문에, 이렇게 생각합니다.

사실 박사 과정에 운 좋게 들어갈 수 있었던 것도, 저 석사 과정을 통해서 '학벌 세탁'을 했기 때문이고, 운 좋게 몇몇 과목 시험을 잘 친 덕분에 글로벌 시장에서 인정받는 교수님께 추천서를 받았기 때문입니다.

저는 살면서 한번도 학벌 때문에 질투가 나거나, 부끄러운 일은 없었습니다. 적어도 학부까진 제가 가고 싶은 대학과 전공을 들어갔고, 석박 유학을 가면서는 스스로의 한계를 뼈저리게 느꼈기 때문에 욕심이 없었습니다. 굳이 따지자면 학벌이 아니라 친구들의 능력이 부러운 적은 많았습니다. (이런 천성으로 타고나서 복 받았다고 생각합니다.) 그런데, 제 학부 시절 친구들은 직장에서

이 XX 서울대 나온거 맞아?

라는 표현을 들은 이야기를 심심찮게 합니다. 외부의 편견은 저희가 자만심에 가득찬 인간이라고 생각하시겠지만, 현실에서는 거꾸로 서울대라는 이름이 부담으로 다가오는 거겠죠. 그 이름에 맞는 역량을 못 갖췄으니까요.

근데, 도대체 서울대 출신이 갖춰야 하는 역량이 뭘까요?

고작 수능 시험이라는 '암기 역량 + IQ 테스트'에서 남들보다 좀 더 좋은 점수를 받은 것에 불과하지 않습니까?

내가 2류인 이유는 한국이 2류라서 그렇다는 변명

왜 동경대 출신들이 노벨상을 받는 동안 서울대 출신들은 노벨상을 못 받느냐?

• GIAI Square Membership Quiz (For Level 1) - GIAI / GIAI Docs - GIAI Square

위의 퀴즈 중 그래프 문제는 일본 동경대학교 1996년 입시 기출문제입니다.

수학적 직관이 있는 인재를 뽑고 싶은 동경대 교수들의 욕심이 잘 드러나는 시험 문제인데, 한국이 이런 식으로라도 인재를 뽑았으면 상황이 조금은 달랐지 않았을까는 생각을 해 본 적이 있었습니다.

그런데, 저 위에 쓴 대로 유럽으로 공부하러 가서 내 시야가 정말로 좁았구나는 깨달음을 뒤늦게 얻었습니다.

단순히 수학적 직관 정도로는 어림도 없고, 근본적으로 논리적인 사고력이 안 갖춰지면 답이 없구나는 깨달음, 한국이 학력고사, 수능, 고시 등으로 이어지는 조잡한 암기 시험으로 인재를 선발하고 있기 때문에 1류 국가를 이끌 인재를 키우는 건 불가능하겠구나는 깨달음을 얻게 됐었습니다.

• AI '게임체인저'의 비밀 - ARM 이야기 - SIAI / SIAI Korea - GIAI Square

기업 내에 이런 토론 문화가 자연스럽게 형성되는 문화의 나라는 그런 교육이 뒷받침 됐기 때문이더군요. 어릴 때부터 갖고 있는 지식을 이용해 최대한 논리를 만들어내고, 그게 시험 답안지가 되느냐, 토론 수업 시간 발표가 되느냐의 차이일 뿐인 교육을 받았으니, 자연스럽게 기업 문화도 저렇게 형성이 되는 겁니다.

한국처럼 '까라면 까는' 식으로, 회장님의 생각만 받아쓰기 하는 나라에서는 꿈도 못 꾸는 운영이죠.

우리와 똑같은 문화를 가진 중국은, 지난 수 천년의 역사가 말해주듯이 우리 민족과 학습 속도가 크게 다르지 않습니다. 그러니 우리처럼 남들을 베껴서 올라가는 건 금방 해낼 거에요. 근데, 인구가 많아서 내수 시장도 크고, 노동 단가도 저렴하니 한국을 따라잡는 건 전혀 어렵지 않을 겁니다. 한국이 경쟁력을 갖추려면 이제 교육도, 기업 운영도, 국가 관리 시스템도, 모두 1류가 되어야 하는데, 여전히 위의 예시에서 보듯이 우리는 2류를 벗어나지 못하고 있습니다. 고작 일본 동경대 입시 문제 방식을 따라가느냐 아니냐 이야기를 하고 있을게 아니라, 영미권 1류 집단의 사고력 기반 교육, 운영으로 넘어가야 하는데, 그간 학생들을 가르쳐보니 1류 흉내는 커녕, 걸음마를 뗄 수 있는 경우도 많지 않았습니다.

책을 쓰게 된 계기

한국의 AI산업, 데이터 과학 산업이 단순히 지식만 많으면 된다, 딥러닝만 잘 돌리면 된다, 프로덕션에 쓰는 코드만 많이 갖고 있으면 된다는 식으로, 암기식, 수능식, 한국 학원식으로 시장이 돌아가는 걸 보면서, 이런 말도 안 되는 황당한 시장을 '정화'해야겠다는 생각에 스위스까지 가서 대학을 만들었습니다.

그렇게 설립한 '스위스AI대학(Swiss Institute of Artificial Intelligence, SIAI)'로 한국 학생 70여명을 가르쳐봤고, 대략 15명 남짓을 졸업시켜 주는 상황이 됐습니다. 나머지 학생들은 우려했던대로 '사고력', '논리력'을 체화시키지 못해 논문을 못 쓰고 학교를 떠났습니다.

안타깝습니다만, 이게 한국의 현실이라고 생각합니다.

저도 1년 만에 그런 역량을 기르기 쉽지 않았고, 다른 한국인들도 사정이 크게 다르지 않을 겁니다.

이 책은 그런 한국의 2류 교육이 만들어 낸 비극적인 현실을 이런 저런 방식으로 담아냈습니다.

홍종학 교수님의 책 덕분에 제가 충격을 먹고 눈을 떴듯이, 그래서 스위스까지 가서 AI대학을 만들었던 것처럼, 누군가는 이 책을 읽고 조금이라도 깨어나서 한국의 망하는 수레바퀴를 멈춰 세우기를 바랍니다.