[AI MEMO] AI 집중이 키운 금융 리스크, 안정의 기준을 다시 세워야 할 때

금융권 AI가 소수 클라우드 기업에 집중되며 시스템 리스크 확대
감독 당국, 모델 검증 중심에서 시장 구조 관리로 전환 필요
산업 전반의 연동성 점검과 대체 인프라 구축이 금융 안정의 핵심

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

2025년 2분기 현재, 금융권의 머신러닝 시스템은 사실상 세 기업이 주도하고 있다. 아마존웹서비스(AWS), 마이크로소프트 애저(Microsoft Azure), 구글 클라우드(Google Cloud)가 전 세계 클라우드 인프라의 약 3분의 2를 차지한다. 은행과 증권사, 보험사, 금융 인프라 기관들은 이들 플랫폼을 기반으로 유사한 데이터와 도구를 사용해 인공지능을 운용하고 있다.

문제는 기술 효율성보다 의존 구조의 집중에 있다. 금융기관들이 같은 환경에서 비슷한 방식으로 학습하고 작동할 경우, 한 시스템의 오류가 여러 기관으로 빠르게 전이될 수 있다. 알고리즘이 동일한 방향으로 움직이면 시장 전체가 한쪽으로 쏠릴 가능성도 높아진다.

중앙은행들도 이런 구조적 위험에 주목하고 있다. 영란은행(BOE)은 인공지능을 포함한 금융시스템 전반의 스트레스테스트 필요성을 제기했고, 금융안정위원회(FSB)는 AI 활용의 불투명성과 공급자 집중을 새로운 취약 요인으로 지적했다. 국제결제은행(BIS) 역시 감독 당국이 기술 도입의 속도와 관리 체계를 조화롭게 운영해야 한다고 강조했다. 결국 과제는 개별 모델의 안정성을 넘어, 시스템 전체의 복원력을 확보하는 제도적 장치를 마련하는 것이다.

기술 위험에서 구조 위험으로

그동안 인공지능(AI) 위험은 편향된 신용평가, 오작동하는 챗봇, 잘못된 모델 운용 등 기술적 결함의 문제로 다뤄졌다. 그러나 금융시장이 가격 형성, 위험 이전, 고객 흐름 등 주요 기능을 중앙집중형 AI 시스템에 의존하게 되면서 위험의 성격이 달라지고 있다. 단일 공급자의 장애나 업데이트 실패가 여러 금융기관에 동시에 영향을 미칠 수 있고, 유사한 알고리즘이 같은 신호에 반응할 경우 시장이 한 방향으로 움직이는 집단행동이 나타날 수 있다.

국제통화기금(IMF)은 이러한 구조가 가격 변동성을 키우고, 기존의 리스크 관리 기준으로는 감당하기 어려운 충격을 초래할 수 있다고 경고한다. 결국 금융 안정의 핵심은 더 정교한 모델이 아니라, 공유된 인프라와 상호 연결된 행동이 만들어내는 구조적 위험을 관리하는 데 있다.

확산 속도에 미치지 못한 감독 체계

AI 도입이 금융 전반으로 확산되면서, 이제는 기술 혁신이 아니라 감독 체계의 미비가 문제로 떠오르고 있다. 각국 감독 당국은 신용 심사, 이상 거래 탐지, 사기 방지, 트레이딩 등 핵심 업무 전반에서 AI 활용이 빠르게 늘고 있다고 보고한다. 유럽증권시장국(ESMA)은 외부 솔루션을 사용하더라도 AI 의사결정의 책임은 이사회에 있다고 명확히 규정했다. FSB의 2024년 평가 역시 모니터링의 미비와 공급업체 집중을 구조적 위험으로 지적했다. BIS는 감독 당국 스스로도 정책 수립과 집행 과정에서 AI를 활용하고 있음을 보여준다.

문제는 효율성 향상과 함께 위험의 전이 속도도 빨라지고 있다는 점이다. 정책 결정과 집행이 모두 AI에 의존하는 구조에서는 데이터의 신뢰성이 흔들릴 경우 여러 기관이 동시에 오류를 일으킬 수 있다. 이는 단순한 규정 준수의 문제가 아니라, 금융시스템의 안정성을 위협하는 구조적 위험이다.

집중과 동조화, 그리고 증폭

최근 2년간 AI가 금융시스템에 깊이 자리 잡으면서 드러난 가장 큰 취약점은 집중과 동조화다. 금융기관들이 분석과 데이터 처리를 소수 인프라에 의존하면서, FSB와 영란은행은 제3자 리스크와 공급업체 집중을 주요 위험으로 경고했다. IMF 역시 시장의 동조화와 집중도를 핵심 불안 요인으로 지목했다. 인프라의 집중과 운용 방식의 유사성이 겹칠 경우, 충격은 개별 기관이 아니라 시스템 전체로 확산된다.

AI가 초래하는 위험은 속도에서도 나타난다. IMF는 인공지능이 가격 변동을 가속하고 증폭시킬 수 있다고 분석했고, 영란은행은 리스크 관리와 트레이딩에 AI가 활용될수록 변동성이 커질 수 있다며 AI를 포함한 스트레스테스트의 필요성을 제기했다. FSB는 AI 활용 현황에 대한 데이터 부족이 감독의 사각지대를 만든다고 지적한다.

이런 우려는 추상적이지 않다. 비슷한 모델을 사용하는 기관들이 동시에 같은 방향으로 거래하거나, 동일한 위험 한도에 도달해 일제히 포지션을 축소하는 일은 충분히 현실적이다. 모델 업데이트가 여러 기관에 동시에 반영될 경우, 한순간에 시장 전체가 멈출 수 있다.

감독의 초점을 시장 구조로

감독의 시선은 개별 모델의 오류가 아니라 시장 구조의 설계 문제로 옮겨가야 한다. 지금의 규제는 모델 검증과 문서화, 설명 가능성에 집중돼 있지만, 이런 방식만으로는 금융시스템의 안정성을 확보하기 어렵다. 금융의 핵심 기능을 담당하는 인프라가 한곳에 몰려 있지 않은지, 금융기관들이 사용하는 데이터와 목표가 지나치게 유사하지 않은지, 특정 공급자나 모델에 문제가 생겨도 주요 서비스가 지속될 수 있는지부터 점검해야 한다.

이러한 점검을 토대로 감독 체계를 다시 설계해야 한다. AI 충격을 반영한 시나리오 분석, 시스템 전체의 집중도 제한, 핵심 인프라의 이중화 의무화가 그 방향이다. 영란은행이 추진 중인 AI 스트레스테스트는 그 출발점이다. 이를 FSB의 모니터링 체계와 연계해 국제 기준으로 발전시켜야, 인공지능 시대의 금융안정이 거시건전성 정책의 핵심 축으로 자리 잡을 수 있다.

데이터 공백 해소와 구조 파악

AI가 금융 전반에 확산된 지금, 필요한 것은 더 많은 데이터가 아니라 구조의 명확한 파악이다. 감독 당국은 방대한 자료 제출을 요구하기보다, 핵심적인 의존 관계를 파악할 수 있는 관리 체계를 구축해야 한다. 이를 위해 각국은 금융시스템의 기술 의존도를 체계적으로 점검해야 한다. 주요 업무가 어떤 인프라에서 운영되는지, 어떤 모델이 쓰이고, 데이터와 공급망이 어디에 집중돼 있는지를 명확히 파악하는 것이 출발점이다. FSB가 제시한 모니터링 지표를 규제 보고 항목으로 표준화하는 방안도 검토할 만하다.

ESMA는 이미 AI 의사결정의 책임이 이사회에 있음을 명확히 했다. 이에 따라 기업들도 사이버나 클라우드 리스크 보고처럼 AI 의존 구조를 정기적으로 제출해야 한다. BIS의 ‘감독용 AI’ 데이터베이스 구축도 이런 방향과 일맥상통한다.

감독의 목적은 모든 데이터를 모으는 데 있지 않다. 금융시스템이 어떤 기술과 공급망에 의존하는지 명확히 보여주는 구조도를 확보하는 것이 AI 시대 금융안정의 출발점이다.

구조로 드러나는 새로운 위험

AI의 확산은 금융시스템의 취약성을 더욱 뚜렷하게 드러내고 있다. 인공지능이 소수 기술 기업에 집중되고, 금융기관이 비슷한 데이터와 알고리즘에 의존하며, 정책 결정과 집행까지 동일한 체계 위에서 이루어질 때 위험은 개별 기관이 아닌 시스템 전체의 문제로 확대된다.

금융안정은 이제 기술 관리가 아닌 시장 설계의 문제다. 감독 당국은 연동성 중심의 점검과 대체 인프라 구축에 나서야 하며, 이사회 책임은 기업을 넘어 산업 전체의 안정성과 연결돼야 한다.

AI 시대의 금융안정은 더 이상 선택의 문제가 아니다. 다음 위기는 데이터가 충분히 쌓일 때까지 기다리지 않는다. 시장은 우리가 설계한 구조의 내구성을 시험할 것이다. 지금 필요한 것은 불안의 과장이 아니라 구조적 대비다. 지금 행동해야 AI가 가져올 효율성과 혁신을 유지하면서도 금융시스템의 불안 요인을 줄일 수 있다.

본 연구 기사의 원문은 From Model Risk to Market Design: Why AI Financial Stability Needs Systemic Guardrails을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.