“악성코드 짜고 취약점 찾고” 싸고 개조 쉬운 中 AI, 해커 공격 문턱 낮췄다

저비용·자유로운 개조로 中 AI 접근성 확대
해커들 표적 탐색·악성코드 제작에 잇따라 투입
공격 준비 부담 줄며 금융·정부기관 보안 위협 가중

중국산 인공지능(AI)이 해커들의 공격 비용과 기술 장벽을 낮추면서 금융회사와 정부기관을 겨냥한 침투에 악용되고 있다. 국내 금융권 개인정보 유출 사고에서 중국산 공격 도구의 흔적이 포착됐으며, 해외에서는 딥시크를 동원해 전 세계 460여 개 서버에 침투하려 한 사례도 드러났다. 모델을 내려받아 직접 실행하고 공격 목적에 맞게 수정할 수 있어, 개발사가 배포 이후 악용을 통제하기도 쉽지 않은 실정이다. 해킹 조직들은 이러한 접근성을 바탕으로 표적 탐색과 악성코드 제작에 드는 인력·시간을 줄이고 있으며, AI에 후속 공격의 판단까지 맡기려는 시도도 구체화하고 있다.

中 딥시크로 460여 곳 침투 시도

6일 정보기술(IT) 업계에 따르면 지난 3일 신한은행을 비롯한 국내 금융권 개인정보 유출 사고 당시 공격자가 대출모집인 시스템 등에 크리덴셜 스터핑(유출된 계정정보 대입)을 시도하는 과정에서 'ARTEX-自主渗透測試控制台'(아텍스 자율 침투 테스트 콘솔)라는 중국어 문자열이 포착됐다. 아텍스는 중국 바이두 보안대응센터(BSRC)의 보안 챌린지에서 우승했을 정도로 정교한 성능을 입증받은 중국 기반 도구며, 크리덴셜 스터핑은 이미 유출된 아이디와 비밀번호 조합을 다른 서비스에 자동으로 대입해 계정 접근을 시도하는 공격이다. 동일한 로그인 정보를 여러 서비스에서 재사용하는 경우 한 곳의 정보 유출이 다른 서비스의 계정 탈취로 이어질 수 있다.

최근 미국, 유럽, 대만 등에서 발생한 해킹 공격에도 유사한 오픈 모델의 악용 사례가 잇달아 확인됐다. 글로벌 보안업체 팰로앨토네트웍스는 올해 7월 보고서에서 중국계 공격자가 중국산 오픈 웨이트 AI 모델인 ‘딥시크’를 자율 에이전트 도구와 결합해 전 세계 460여 개 서버에 침투하려 한 사례를 적발했다고 밝혔다. 이 공격자는 당초 오픈AI와 앤트로픽 모델을 공격에 활용하려고 했지만 보안 가드레일(안전장치)에 막히자, 안전 제약이 상대적으로 느슨한 딥시크로 우회했다. 딥시크 기반 AI 에이전트는 공격자 지시에 따라 공격 루트를 설계하고 보안 취약점을 파악해 대규모 침투를 자동 시도했다.

유럽 정부기관·중동 금융권도 AI 해킹 표적

유럽과 중동에서도 해커들이 중국 AI를 활용해 공격한 사고가 발생했다. 유럽에서는 알리바바의 ‘큐원’을 악성코드에 연결해 정부기관의 정보를 빼내려 한 사례가 확인됐다. 우크라이나 국가침해사고대응팀(CERT-UA)은 지난해 7월 정부 관계자를 겨냥한 피싱 이메일에서 AI 모델을 활용하는 악성코드 ‘레임허그(LAMEHUG)’를 발견했다고 밝혔다. 공격자는 부처 관계자를 사칭해 악성 파일이 담긴 압축파일을 보냈으며, 해당 파일을 실행하면 악성코드가 큐원의 코드 생성 모델에 연결되도록 설계했다. 악성코드에 미리 입력된 지시문을 큐원이 컴퓨터에서 실행할 명령어로 바꾸면, 이를 피해 기기에서 실행하는 구조였다.

중동에서는 금융회사를 겨냥한 공격에 AI를 동원한 정황이 잇따라 포착됐다. 기술 전문매체 레스트오브월드에 따르면 아랍에미리트(UAE) 사이버보안위원회는 지난 7월 금융권을 대상으로 피싱과 소프트웨어 취약점 악용, 악성코드 유포를 결합한 공격을 탐지해 차단했다. 위원회는 공격자들이 수법을 정교하게 만드는 데 AI를 활용했으며, 금융서비스 운영에는 차질이 없었다고 설명했다. 앞서 2월에도 정부 플랫폼에 침입해 랜섬웨어를 심으려는 공격이 발생했는데, 당시 공격 도구 제작에도 AI가 쓰인 것으로 당국은 파악했다. 이어 8월에는 항공·에너지·교육 부문을 겨냥한 조직적 공격까지 확인돼 국가 대응팀이 침입 경로 추적과 확산 차단에 나섰다.

개인 PC로도 구동되는 中 AI, 해킹 진입장벽 낮춰

AI발 해킹 확산에는 중국 업체들이 공개한 오픈 웨이트 모델의 높은 접근성이 맞물려 있다. 학습을 마친 모델의 가중치를 내려받아 직접 실행할 수 있는 데다, 대형 모델의 응답과 추론 과정을 작은 모델에 학습시키는 ‘증류’ 기술로 운용에 필요한 연산 자원도 줄어들었기 때문이다. 앞서 딥시크는 자사 추론 모델 R1이 생성한 데이터를 활용해 매개변수 15억~700억 개 규모의 증류 모델 6종을 공개했다. 이 가운데 소형 모델은 개인용 컴퓨터에서 구동하는 도구로도 배포돼, 이용자가 보유 장비에 맞춰 선택할 수 있도록 했다. 모델을 처음부터 개발하거나 학습시키는 비용을 부담하지 않고도 개인이 독자적인 대규모언어모델(LLM) 실행 환경을 갖출 여건이 마련된 셈이다.

이용자가 모델을 직접 보유하고 수정할 수 있는 배포 방식은 악용을 통제하는 데도 제약으로 작용한다. 영국 AI안보연구소(AISI)는 오픈 웨이트 모델에 적용된 안전장치가 적은 비용과 짧은 시간 안에 제거될 수 있다고 지적했다. 모델을 내려받은 뒤 자체 장비에서 실행하면 개발사가 이용자의 입력과 출력을 상시 점검하거나 접근을 차단하기 어려운 구조다. 악의적인 이용자가 모델을 개조해 재배포할 경우 유해 기능이 담긴 파생 모델까지 유통될 가능성도 있다. AISI는 이미 공개된 가중치를 회수하기 어렵다는 점을 들어, 모델 배포 이후의 위험 관리에 한계가 있음을 명시했다.

표1. 중국산 오픈 웨이트 AI의 해킹 악용 확산 요인 및 사례

저비용 AI로 공격 물량 늘리는 해커들

저렴한 운용 비용도 중국산 오픈 웨이트 모델의 해킹 악용을 부추기는 요인으로 작용하고 있다. 블룸버그가 인용한 대만 보안업체 팀T5의 조사에 따르면, 중국 정부 연계 해킹 조직들은 반복 업무와 악성 소프트웨어 개발에 AI를 투입한 뒤 공격 건수가 두 배 이상 늘어난 것으로 파악됐다. 연구진이 딥시크의 선호 요인으로 꼽은 것은 낮은 실행 비용과 높은 활용도, 공격 목적에 맞춰 수정할 수 있는 유연성이었다. 팀T5는 최근 수개월간 확보한 스크립트와 작업 기록에서 공격 대상 조사와 취약점 악용 코드 작성 등에 AI를 활용한 흔적을 확인했다. 공격 준비에 드는 인력과 시간을 줄이면서 같은 조직이 수행할 수 있는 작업량을 늘렸다는 분석이다.

북한 연계 해킹 조직도 중국산 AI를 악성코드 제작에 활용한 것으로 확인됐다. 구글 위협정보그룹(GTIG)은 지난달 보고서에서 가상자산 탈취를 노리는 ‘미드나이트 넵튠(MIDNIGHT NEPTUNE)’이 딥시크의 코딩 모델 등을 이용해 원격제어 악성코드를 개발했다고 밝혔다. 감염 기기에 대한 접근을 유지하고 보안 탐지를 피하는 기능까지 AI의 도움을 받아 구현한 것이다. 이 조직은 가상자산 업체 관계자를 속일 가상의 인물 설정과 기술 지원을 가장한 유인 문구 작성에도 AI를 동원했다. 침입한 기업의 내부망에서 다른 시스템으로 이동하기 위한 코드 작성에도 LLM이 활용됐다.

악성코드의 후속 행동까지 AI가 결정

중국산 AI의 악용은 공격용 코드 작성에 이어 악성코드의 행동을 결정하는 단계에서도 시도되고 있다. 시스코 보안조직 탈로스는 지난달 22일 딥시크와 큐원 등 최대 4개 AI 모델의 응답을 토대로 다음 작업을 선택하도록 설계된 악성코드 ‘클로즈드쿼럼(CLOSEDQUORUM)’을 공개했다. 기기 정보를 각 모델에 전달하고 응답을 취합해 계정정보 탈취나 지속적인 접근 권한 확보 등의 작업을 고르는 방식이다. 같은 수의 응답이 서로 다른 작업을 제안하면 딥시크의 판단을 우선 반영하도록 짜였으며, 딥시크가 응답하지 않을 경우 큐원이 우선권을 갖도록 설정됐다. 공격자가 매번 지시하지 않아도 AI의 판단에 따라 후속 작업을 수행하도록 한 것이다.

클로즈드쿼럼은 이용자별로 맞춤 제작해 공급하는 방식까지 염두에 둔 것으로 보인다. 탈로스가 개발용 파일에서 확인한 근거는 이용자의 AI 서비스 인증정보와 자료 수신 경로를 악성코드에 삽입하는 기능이었다. 이를 토대로 연구진은 제작자가 개별 실행파일을 제공하면 이용자가 표적 기기에 유포하는 방식으로 역할이 나뉠 것으로 추정했다. 유포 이후에는 AI가 선택한 작업과 판단 근거를 이용자의 디스코드 채널로 전달하도록 설계됐다. 같은 채널에는 탈취한 계정정보와 가상자산 지갑 자료도 전송하도록 설계돼, 이용자가 공격 진행 상황을 확인하면서 수집 자료까지 받아볼 수 있게 했다.

17만 웹주소 추려 AI로 침투 표적 탐색

AI를 연동한 공격 도구로 다수의 표적을 탐색한 정황도 드러났다. 탈로스가 지난 8월 공개한 중국어권 해킹 조직 ‘UAT-10147’ 사례에서는 지휘·통제 서버에 보관된 약 17만 개 웹주소가 담긴 공격 대상 목록이 발견됐다. 조직은 탐색 시간을 줄이고자 목록을 1만 개씩 나눠 관리했으며, 서버 탐색과 취약점 검증에는 AI 기반 침투시험 도구 ‘펜테스트GPT’를 동원했다. 이렇게 찾아낸 표적 가운데 각국의 정부·교육·언론·기술 분야 웹서버가 공개된 취약점을 악용한 공격에 노출된 것으로 파악됐다. 탈로스가 확보한 웹사이트 침입 기록과 피해 기기 정보 수집 내역은 AI 도구의 실제 공격 투입을 뒷받침하는 근거다.

침투 과정에서 발생한 오류를 진단하고 후속 작업을 점검하는 데도 AI가 쓰였다. 탈로스가 확보한 자료를 보면 공격 절차를 설명하는 문서와 함께 파일 저장 권한 확인, 악성코드 설치, 원격접속 수단 확보를 위한 자동화 프로그램이 등장한다. 프로그램에는 작업 결과를 확인하고 다운로드가 실패하면 다른 방식으로 재시도하는 기능이 담겼으며, 공격 코드가 표적 환경에서 정상 작동하는지 검증하는 과정에도 AI의 지원이 쓰였다. AI에 코드 작성을 맡긴 뒤 실행 결과를 점검하고 오류를 수정하는 데까지 활용한 것이다. 탈로스는 이 같은 자동화가 복잡한 침투 작업에 요구되는 숙련도와 운영 부담을 낮춘 것으로 평가했다.