[딥테크] ‘인공지능이 왜 대출을 거부했는지 알려달라’

미국 흑인 ‘대출 거절’ 백인의 ‘세 배’
AI 활용 대출 심사 ‘급증’
복잡성 늘고 ‘설명 가능성’은 줄어

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Researh Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

누군가에게 신용 대출은 생계를 꾸리고, 집을 구매하며, 대학에 다니기 위한 유일한 수단일 수 있다. 그런데 미국에서 2023년에 일반적인 주택 담보 대출을 신청한 흑인의 거절 비율이 16.6%로 백인의 5.8%보다 세 배나 높았다. 은행과 대출 기관들의 대출 심사 방식 변화가 관련된 것으로 보인다.

대출 심사에 ‘AI 활용’ 증가

최근 대출 심사는 전통적인 신용 점수 평가보다 그래프 신경망(graph neural network, GNN, 입력값이 그래프인 작업을 위해 설계된 특수 인공 신경망) 같은 강력한 인공지능(AI)을 사용하는 경우가 더 많다. 의사결정 과정이 더 복잡해지고 그만큼 불투명해진 것이다. 새로운 심사 모델은 소득이나 대출 외에도 다양한 연결망들을 검색하는데, 여기에는 대출 신청에 사용한 모바일 기기부터 평소 물품 구매를 함께하는 사람들과, 자주 이용하는 쇼핑 사이트까지 포함된다.

AI 대출 거절 사유 ‘이해 어려워’

쉽게 설명하면 누군가 대출을 거절당했는데 이유가 낮은 소득 때문이 아니라 소비 패턴이 과거 연체가 많았던 이들과 비슷하기 때문일 수도 있다는 것이다. 그것이 통계적으로 정확하다고 치자. 하지만 인공지능이 왜 거절을 했는지는 알아야 하지 않을까?

이미 미국법은 대출 기관이 거절 이유를 명확히 설명하도록 요구하고 있다. 신용 기회 균등법(Equal Credit Opportunity Act)을 통해 모호하거나 포괄적이지 않은, 구체적(specific) 이유를 제공하도록 의무화하고 있기 때문이다. 작년에 발효된 유럽의 인공지능법(AI Act)도 신용 평가를 ‘중대한’(high-risk) 행위로 규정하고, 관련 정보 저장과 투명성, 인간에 의한 관리 감독을 요구할 예정이다. 법이 AI의 복잡성을 핑계로 대는 일을 용납하지 않겠다는 뜻이다. 미국의 소비자 금융 보호국(Consumer Financial Protection Bureau)부터 유럽의 규제 기관들까지 이 부분을 눈여겨 들여다보는 중이다.

신청자 ‘구매 패턴 및 거래처’까지 영향

전통적으로 대출 거절 통지에 포함된 사유는 ‘소득 불충분’이나, ‘신용 거래 이력 부족’, ‘담보 가치 부족’ 등으로 간단하면서 명확했다. 하지만 AI 네트워크 모델은 사뭇 다르다. 이제 신청자가 리스크가 큰 구매처와 간접적으로 관련이 있거나 물품 구매 패턴이 이전의 연체자들과 닮았다는 이유로도 대출이 거부될 수 있다. 물론 이것들도 이유가 될 수 있지만 문제는 알기 쉬운 용어로 설명하기 어렵다는 점이다.

‘설명 가능 AI’(explainable AI, XAI)는 위와 같은 점들을 보완하기 위해 개발된 도구다. 일반적인 모델부터 그래프 신경망의 예측을 설명하는 것까지 모두 어떤 접속망이나 특성이 의사결정에 영향을 미쳤는지 알려줄 수 있다. 컴퓨팅 측면에서 부담이 크지만 적어도 기술적으로 설명이 가능하다는 얘기가 된다. 중요한 것은 대출 기관들의 의지와 노력이다.

‘거부 이유’ 알아야 ‘신뢰와 공정성’도 확보

문제 해결을 위해 앞으로 모든 AI 기반 대출 결정 통보에는 소득 및 소비 항목 등의 특성과 함께 결과에 영향을 미친 연결망적 요소들이 함께 명시돼야 한다. 의사결정 과정 중간에 있는 모델에 의한 것이라고 해도 최종 결과에 포함할 필요가 있다. 또한 설명은 일반 소비자가 이해할 수 있는 수준과 언어로 제공돼야 한다. 추후 감사 과정을 통해 해당 설명이 실제 의사결정 과정과 동일한지도 검증해야 한다.

이것이 중요한 이유는 담보대출 때문만이 아니다. 교육에서도 대출 여부는 학생들이 등록금을 내고, 대학이 운영비를 마련하며, 교사들이 새로운 직장을 찾는 문제와 직결된다. 연체가 늘어나고 대출 심사가 까다로워진 만큼 투명한 설명은 더 필수적이다. 따라서 정책당국은 이해와 토론이 가능한 수준의 설명을 내놓지 못하는 모델은 대출 심사 과정에서 배제하도록 조치해야 한다.

물론 설명을 생성하는 과정에서 비용과 시간이 들고, 거래상의 비밀이 노출될 수 있다는 비판이 있지만 이해할 수 없는 대출 거부로 신뢰와 공정성을 훼손하는 것보다는 낫다. 설명을 요구하는 것이 대출 기관들의 장기적인 학습과 판단에 도움이 된다는 연구 결과도 있다.

그래서인지 규제 기관들도 같은 방향을 향하고 있다. 미국 소비자 금융 보호국은 구체적이고 정확한 거절 이유를 요구하고 있으며, 유럽 인공지능법도 신용 평가와 같은 중대 절차에 대한 의무 규정을 단계적으로 확대할 예정이다. 미국 국립표준기술연구소(NIST)의 ‘AI 위험 관리 지침’은 ‘설명 가능성’을 관리 체계에 포함하기 위한 지침을 제공하고 있기도 하다.

흑인 신청자에 대한 대출 거부가 백인보다 세 배 많았다는 사실은 단순한 숫자가 아니라 구조적 불평등의 증거다. 대출 기관들이 더 이상 AI의 복잡성을 핑계로 사용하게 둘 수는 없다.

본 연구 기사의 원문은 "No Reason, No Model": Making Networked Credit Decisions Explainable을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.