급속도로 확산하는 AI 트레이딩, 관련 사기 행위도 기승
알고리즘 따라 거래 패턴 획일화 가능성, 투자자 '양떼 행동' 경고등
SVB 사태 재현 우려 커져, 각국 규제 당국 잇달아 대응 착수

인공지능(AI)을 활용해 증권 거래 알고리즘을 짜고 매매를 자동화하는 ‘AI 트레이딩’이 빠르게 확산하고 있다. 소매 증권사들이 속속 관련 시스템을 갖추며 개인 투자자들의 AI 의존도가 높아져 가는 양상이다. 다만 전문가들은 AI 트레이딩으로 인해 투자자들의 거래 패턴이 획일화할 경우 시장에 막대한 충격이 돌아올 것이라고 경고한다. 특히 시장 변동성이 큰 상황에 특정 기업에 대규모 매도 및 자금 인출 수요가 집중되면 '제2의 실리콘밸리은행(SVB) 사태'가 벌어질 수 있다는 분석이다.

증권 시장 뒤바꾼 AI 기술

26일 닛케이아시아는 아시아 주요 소매 증권사들이 개인 고객을 붙잡기 위한 차세대 무기로 AI 기능을 낙점했다고 보도했다. 지난 3월 홍콩에 본사를 둔 핀테크 기업 푸투홀딩스는 딥시크의 대형언어모델(LLM)을 기반으로 개발한 AI 어시스턴트 ‘스킬즈(Skills)’를 출시했다. 사용자들은 오픈클로, 클로드, 커서 등 AI 모델에 스킬즈를 연동해 자연어로 매매 전략을 지시할 수 있다. 홍콩과 싱가포르에 거점을 둔 증권 중개 플랫폼 타이거 브로커스가 자체 개발한 ‘타이거AI(TigerAI)’의 글로벌 누적 상호작용 건수도 지난 3월 서비스 개시 1년 만에 500% 폭증했다. 타이거AI는 증권 플랫폼 내에서 투자자 대신 시장 데이터를 읽고 요약·분석해 주는 일종의 AI 투자 비서다.

문제는 AI 기반 투자가 보편화함에 따라 부작용 역시 두드러지고 있다는 점이다. AI 기술을 앞세워 투자자들을 현혹하는 사기 행위가 대표적이다. 일례로 한국의 한 업체는 AI를 활용해 가상자산 거래소 간 차익 거래로 수익을 내고, 매일 투자자들에게 수익금을 지급하겠다고 홍보했다. 가상자산 관련 라이선스를 취득한 합법 업체를 가장해 불특정 다수에게 특정 코인을 예치하도록 지시한 것이다. 하지만 이들은 영업소, 대표자 등 실체 없이 온라인 기반으로 활동 중인 것으로 확인됐으며, 모집 인원·규모에 따른 추가 수익을 지급한다며 다단계 형태로 투자를 유도하기도 했다. 이는 신규 투자금을 재원으로 삼는 전형적인 폰지 사기 형태다.

지난 1월에는 AI 트레이딩 프로그램으로 고수익을 보장한다고 속여 투자금을 모은 팝콘소프트 경영진 전원의 실형이 확정되기도 했다. 이들은 2022년 3월~2023년 7월 전국 각지에서 설명회를 열고, 자신들이 개발한 AI 트레이딩 프로그램을 통해 국내외 선물 거래에 투자하면 원금의 15% 수익을 보장한다며 투자자들을 꼬드겼다. 3만여 회에 걸쳐 확보한 투자금은 1,203억원에 육박한다. 수사 결과 이들은 실제로 안정적인 트레이딩 수익을 낸 적이 없으며, 폰지 사기 구조로 자금을 운용해 온 것으로 확인됐다. AI 트레이딩 프로그램 역시 사람이 조건을 설정하면 자동 매매를 실행하는 수준에 불과했다.

알고리즘 기반 '양떼 행동'의 위험성

투자자들의 매매 패턴이 획일화될 수 있다는 점도 AI 트레이딩의 핵심 리스크로 꼽힌다. 시장 참여자들이 유사한 구조의 AI 알고리즘이 제공하는 신호에 따라 동시에 움직일 경우, 특정 기업의 주가가 실적 및 펀더멘털과 무관하게 급등·급락하는 현상이 반복될 수 있기 때문이다. 이 같은 투자자들의 '양떼 행동(herding behavior)'은 금융 시장에서 막대한 혼란을 야기할 가능성이 크다. 이러한 위험성을 보여주는 대표적인 사례가 지난 2023년 벌어진 미국 SVB의 파산 사태다.

1983년 설립된 SVB는 스타트업 생태계와 긴밀히 연결된 사업 구조를 기반으로 빠르게 성장해 왔다. 스타트업들이 투자 유치 자금을 예치하면 이를 다른 스타트업의 대출 재원으로 활용하며 벤처업계의 핵심 금융 역할을 수행한 것이다. SVB는 스포티파이와 로블록스 등 유명 기업을 포함해 미국 테크 스타트업의 약 44%를 고객으로 두고 있었다. 2021년 6월 기준 실리콘밸리 지역 예적금 규모는 622억 달러(약 93조8,500억원)로 2위인 웰스파고(315억 달러)의 두 배에 달했다.

상황이 뒤집힌 것은 코로나19 팬데믹 시기였다. 팬데믹 당시 저금리와 벤처투자 붐으로 예금 규모가 급증하자, SVB는 자금 운용 범위를 미국 국채와 주택저당증권(MBS) 등 장기 채권까지 확대했다. 하지만 이후 연방준비제도(Fed·연준)가 급격한 기준금리 인상을 단행하며 기존 장기채 가격은 급락했고, SVB가 보유한 채권 평가손실도 순식간에 불어났다. 동시에 벤처투자 시장이 냉각되며 고객들의 현금 사정도 악화했다. 투자금을 확보하지 못한 스타트업들은 예치금을 속속 인출하기 시작했고, SVB는 현금을 마련하기 위해 손실 상태의 채권을 매각해야 했다.

결국 SVB는 2023년 3월 210억 달러(약 31조6,700억원) 규모 채권을 처분하면서 18억 달러(약 2조7,000억원) 손실을 봤다. 시장은 이를 일종의 유동성 위기로 받아들였고, 이후 유명 벤처캐피털(VC)들이 포트폴리오 기업들에 “예금을 빼라”고 권고하면서 공포가 급속도로 확산했다. 온라인·모바일 기반으로 연결된 스타트업 고객들이 동시에 자금을 인출하면서 하루 만에 420억 달러(약 63조3,700억원) 규모의 인출 요청이 몰린 것이다. 전통적 은행 위기보다 훨씬 빠른 속도의 ‘디지털 뱅크런’이었다. SVB는 이에 대응하기 위한 유동성을 확보하지 못했고, 미 규제당국은 SVB의 폐쇄를 결정했다. 미국 정부와 연준은 금융 시스템 전반으로 충격이 번지는 것을 방지하기 위해 SVB 예금 전액 보호 조치 및 긴급 유동성 지원 프로그램(BTFP)을 발표했다.

각국의 AI 트레이딩 대응 방침

전문가들은 향후 시장 변동성이 확대될 경우 이러한 AI 트레이딩의 위험성이 한층 부각될 것이라 우려하고 있다. 본래 시장에서는 다양한 투자 전략이 경쟁하며 가격이 형성되지만, AI 트레이딩 환경에서는 변동성이 커질수록 동일한 방향으로 매매가 집중되는 현상이 나타날 가능성이 크다는 것이다. 특정 위험 신호를 AI 알고리즘들이 동시에 감지할 시, 대규모 매도나 자금 인출 수요가 한 방향으로 집중되면서 시장 충격이 순식간에 증폭되는 구조다. 극단적 상황에서는 '제2의 SVB 사태'라고 칭할 만한 충격이 발생할 수 있는 셈이다.

스위스AI연구소 산하 고든 경영 대학원에서 AI 및 금융시장 담당 교수직을 맡고 있는 이경환 교수는 이런 양떼 행동이 개별 투자자 입장에서는 가격이 떨어지는 자산 매도라는 관점에서 합리적인 선택이 될 수 있으나, 모든 투자자가 동일하게 움직이는 상황이 시장 전체로 확산될 경우 특정 자산의 가격이 0으로 추락하는 현상이 연쇄적으로 번지면서 금융위기 상황이 나타날 수 있다고 지적하며 이를 '허쉬리퍼 효과(Hirshleifer effect)'라고 부른다고 설명했다. 이 교수는 금융시장에서 허쉬리퍼 효과는 개별 투자자의 행동이 옳더라도 시장 전체적으로는 사회적 비용을 발생시키는 현상으로, 2008년 글로벌 금융위기 때 프로그램 매매 및 파생상품 마진콜 등에서 해당 현상이 목격된 후부터 '시스템 리스크(system risk)' 등의 이름으로 지난 20여 년간 각국 금융감독 기관들의 주요 관심사 중 하나였다고 덧붙였다.

실제 각국 규제당국이 AI 트레이딩 관련 대응 수위를 높이고 있는 것도 이 때문이다. 홍콩 증권선물위원회(SFC)는 최근 AI를 활용해 투자 권고 및 리서치를 제공하는 행위를 공식적인 ‘고위험 사례(High-Risk Practice)’로 지정하고, 면허를 보유한 금융사들에 즉각적인 위험 완화 조치를 요구했다. 싱가포르 통화청(MAS) 역시 ‘AI 위험 관리 지침’ 협의 문서를 발표하며 금융사들이 AI 도입 전 위험도를 자체 평가하고 통제 가능한 범위 내에서만 배포하도록 규정했다. 중국은 이미 증권사 직원들의 업무용 AI 도구 사용을 데이터 프라이버시 및 실행 리스크를 근거로 전면 금지 중이다. 상하이의 한 증권사는 AI 기반 투자 권고 알고리즘의 한계를 명시하지 않았다는 이유로 200만 위안(약 4억4,400만원)의 벌금을 납부하기도 했다.

영국 의회 역시 최근 보고서를 통해 금융권의 AI 활용이 확대될 시 소비자 피해와 금융 불안이 동시에 발생할 수 있다며 △사이버 보안 △소수 빅테크·클라우드 기업 의존 △알고리즘 군집 현상 등을 주요 리스크로 지목했다. 아울러 영란은행과 금융감독청(FCA)에 AI 기반 투자 확산에 대비한 스트레스 테스트 도입을 권고했다.

미국 증권거래위원회(SEC)는 ‘2026년 감독 우선순위’를 통해 자동화 투자 도구와 AI 트레이딩이 일반 투자자, 특히 개인 및 고령 투자자에게 미치는 영향을 집중 점검하겠다고 밝혔다. AI 기술이 투자 의사 결정 전반에 깊숙이 관여하는 만큼, 예상치 못한 시장 왜곡 가능성을 사전에 차단하겠다는 취지다. 한국은 금융 IT 솔루션 기업 코스콤이 주도하는 ‘로보어드바이저 테스트베드’ 제도를 통해 자동화 투자 알고리즘의 안정성과 투자자 보호 체계를 검증하고 있다. 알고리즘 리스크 관리 및 내부 통제 체계를 일정 수준 이상 갖춰야 관련 서비스 출시가 가능한 구조다.